Les chatbots peuvent-ils contribuer à la désinformation climatique ? C’est le risque mis en évidence par un rapport de l’Organisation des Nations unies pour l’éducation, la science et la culture (Unesco) et de l’University College de Londres (UCL), présenté le 16 novembre à la COP31 à Antalya, en Turquie. Les chercheurs ont testé jusqu’à 33 modèles d’intelligence artificielle (IA) et ont constaté que ceux-ci peuvent rapidement renoncer aux connaissances scientifiques établies lorsque leurs (…)
Oh OK, merci pour les explications, maintenant je comprends ce que tu voulais dire. Tant mieux si les chatbots ont plutôt cet effet alors.
Pour tempérer un peu des articles enthousiastes, mentionnons tout de même que la crise de la reproductibilité en science affecte particulièrement la psychologie, et que AI Psychosis donne également un peu de lecture, dans un sens qui semble plutôt opposé.
Le terme “AI psychosis” n’est pas neutre et est d’ailleurs remis en question dans le troisième article : je ne pense pas avec l’état de l’art sur l’IA et le conspirationnisme.
Mais c’est clair qu’il y a encore beaucoup de limites à nos connaissances. Je pense néanmoins qu’une science (même dysfonctionnelle, même nuancé, etc.) est toujours plus fiable qu’une conviction personnelle. Et j’attends d’un journal sérieux qu’il base ses articles sur la première (même en pointant du doigt ses limites comme tu le fait), pas sur la seconde.
J’ai l’impression que parce que je suis pas aussi enthousIAsthe que toi tu m’as un peu vite catalogué comme amateur de pseudo-science quand je lis ce genre de phrase. Je te rassure, ce n’est pas du tout le cas, j’ai même quelques publications revues par mes pairs dans lesquelles il y a “learning” dans le titre. :-P (pas dans le domaine du NLP, donc assez loin des chatbots)
J’aime pas que ça sonne comme de la frime ou une tentative d’argument d’autorité, mais je le signale car ce n’est pas la première fois que je vois cette fausse dichotomie selon laquelle tu es soit “pour la science et super enthousiaste de l’IA”, soit “critique de la frénésie IA actuelle donc anti-science et amateur d’ésotérisme”. Le monde est plus nuancé.
Tu peux partager un lien vers tes articles (si c’est ok pour toi de le faire ici) ?
Pas de problème, je suis pas du tout anonyme: https://nicoco.fr/publis/
Mais tu vas être déçu, c’est principalement utilisation de deep learning pour faire des trucs, pas tellement des contributions dans le domaine de l’apprentissage automatique (c’est comme ça qu’on dit machine learning en français quand on est pédant). Et en plus tu vas voir qu’il y a de moins en moins de publis par année car malheureusement il y a tellement peu de postes durables (et ils sont mal payés) dans la recherche académique que ça n’est plus vraiment un objectif pour moi de publier. Je salue les courageux qui lâchent pas l’affaire !
Je parlais de Reporterre ici, ils ont basé leur article sur leurs convictions personnelles au lieu de le baser sur l’étude. Il me semble que dans ce cas là leur choix est assez clair, mais je n’ai pas la vision dichotomique dont tu parles en général (et je me permettrait pas de te juger personnellement).