Les exemples sont édifiants, mais je déplore comme toi le ton sensationnaliste du propos.

L’enquête ne dit pas assez que la recherche publique est muselée par le financement par projets, l’exigence de cofinancements privés, à produire de la “PI” transférable. Les chercheurs désireux d’expérimenter sont contraints de se conformer aux appels orientés pour nourrir la “transition digitale” ou la “révolution de l’IA”.

Que certains adhèrent à cette idéologie n’a rien de surprenant. Les jeter en pâture dans des enquêtes-choc n’y changera rien et ne fait que saper la crédibilité de la recherche publique.

Nous avons besoin d’ingénieurs (dev, UX/UI, data) dans les labos de SHS, de science ouverte, de transfert vers l’ESS. Bref, d’une politique de recherche qui surmonte l’impensé numérique.

Au lieu de quoi, l’enquête diabolise “les écrans” et “les réseaux sociaux”, comme si leur forme actuelle et dominante allait de soi. Elle ne dénonce pas le dévoiement des potentiels du numérique par des firmes accrocs à leur modèle économique toxique. C’est pourtant à ce modèle qu’il nous faut nous attaquer. Nous ne sommes que les fumeurs passifs de la dépendance des BigTech à la publicité ciblée et à nos données personnelles.

Un autre numérique est possible. Le problème, c’est que nos politiques et nos journalistes sont incapables de l’imaginer. Ils s’ingénient à prétendre défendre les jeunes, alors qu’eux-même sont addicts à la pire des plateformes antisociale : X.

David Colon constate que la stratégie d’autorégulation européenne échoue à nous protéger des ingérences rendues possibles par les plateformes des Big Tech. Selon lui :

« il faut tenter de rétablir un marché de l’information numérique libre et non faussé, en créant, par exemple, un média social européen à but non lucratif qui ne repose pas sur les dispositifs permettant d’exposer nos esprits à la guerre cognitive. »

Face aux grandes plateformes qui instaurent les conditions sans précédent pour exploiter nos biais cognitifs, nous n’avons pas besoin d’un réseau social calqué sur les dispositifs développés par les big tech pour capter l’attention.

Les grandes plateformes n’ont jamais trouvé d’autre modèle de rentabilité que celui de l’attention. Pour leur échapper, nous devons changer de paradigme et cesser d’attendre la startup providentielle ou le “Elon Musk européen”.

Et si la réponse venait d’initiatives coopératives, fondées sur l’alliance entre la société civile et la recherche publique ? Et si on créait un média social taillé “by design” dans l’intérêt collectif ?

En tant que père qui prend en charge les formalités liées aux gardes d’enfants, et les contraintes de les déposer, les reprendre, préparer les repas… Je ressens très bien cette deuxième journée qui fait obstacle aux pressions professionnelles. Je suis également scandalisé que lorsqu’on a une différence de salaire au sein du couple (liées aux années d’expérience et d’étude, pas forcément au genre), le système d’aides sociales incite à ce que ce soit la personne la moins rémunérée qui prenne des congés parentaux. Il faut accepter un réel sacrifice financier pour le ménage pour permettre à l’autre conjoint (souvent l’homme) de prendre toute sa place dans l’éducation des enfants.

Il ne s’agit pas seulement de mieux partager les tâches au sein du couple : il s’agit surtout que la société française évolue pour accorder une vraie place à la parentalité, quel qu’en soit le genre. On favorise les hommes et les femmes qui font passer leur carrière avant le reste. Les règles actuelles d’égalité au travail sont au détriment de celles qui tiennent à conserver un rôle parental légitime, et de ceux qui tiennent à l’assumer aux aussi.

Quand je repense aux assauts en règle contre les vilains “pirates” qui partageaient des fichiers musicaux en P2P dans les années 2000, à la création d’une agence adhoc (Hadopi) pour identifier et réprimander ces dangereux individus coupables de mettre en danger les ârtistes… Tout cela pour ne surtout pas considérer sérieusement l’hypothèse d’une licence globale, avec comme dommage collatéral de discréditer des techniques informatiques tournées vers le partage et la coopération.

Aujourd’hui, on n’en a plus grand chose à faire des artistes. Tant que le public verse son obole mensuelle aux plateformes de streaming, tout va bien. Et puis si “les gens” se contentent du vomi régurgité par les grands modèles, c’est pas plus mal. L’espèce humaine n’a sans doute aucun besoin de communiquer autour d’expressions humaines et sincères. Du moment qu’on engraisse les patrons des Bigtech et leurs vassaux, tout va bien.

Après tout, c’est pas comme si l’habitabilité de notre environnement était sur le point de s’effondrer et qu’on devait trouver des idées neuves et faire émerger des actions concertées pour y remédier.

Apparemment, elle risquait de faire trop “baba cool / punk” compte tenu de la gravité du sujet.

Sans le modèle publicitaire, il n’y aurait pas eu un tel intérêt économique à déployer les interfaces toxiques des grandes plateformes du numérique.

Problème aujourd’hui : Musk a montré que la rentabilité publicitaire directe n’était pas la seule voie. Twitter n’a jamais été rentable, surtout depuis son rachat… Mais Musk en a fait un instrument pour démultiplier sa mise. Alors qu’il a donné comme personne avant lui dans une campagne américaine, alors qu’il a racheté Twitter à perte, il sort gagnant de l’opération.

Ceci étant, taxer la publicité serait déjà un moyen simple et rapide d’établir une situation concurrentielle plus loyale pour de nouveaux entrants désireux d’explorer d’autres possibles.

Jusque là, il fallait s’inquiéter de la puissance exponentielle de quelques grandes firmes du numérique, acquise grâce à leur réussit économique sur le marché de la publicité.

Désormais éclate au grand jour l’influence des géants du numérique sur notre espace public. Là où les milliardaires français s’offrent des journaux, les américains s’offrent des médias sociaux numériques.

Face à cela, la réponse ne peut pas venir du capitalisme, elle ne peut pas venir de startup européennes qui seraient gouvernées par l’argent. Les invités reconnaissent l’importance d’une régulation, mais insistent sur la nécessité de penser en termes de “communs” soutenus par les services publics.

Si vous ne possédez pas le réseau social, c’est lui qui vous possède.

Pendant que les multi-milliardaires américains du numérique assument sans complexe leur soutien aux projets politiques les plus réactionnaires. Pendant que d’aucun‧e‧s recommandent doctement de créer un “Airbus” du numérique. ( /sarcasme Car c’est bien connu les avions Airbus émettent moins de GES que les Boing, donc nos géants du numérique seront moins toxiques, c’est sûr.)

Le créateur de Mastodon, lui, entérine la session de son bébé à une organisation européenne à but non lucratif.

Le fact-checking n’est pas un sujet à mes yeux. J’écrivais ce matin sur Mastodon :

Face à la surcharge informationnelle, les fact-checker eux-mêmes doutent de la pertinence de la tâche. On ne peut pas exercer son esprit critique face à un tel flot d’informations.

On ne peut pas vérifier chaque info affichée sur un flux de réseau social qui les décontextualise toutes et y mêle blagues, militantisme, approximations et interprétations personnelles.

Dans cet écosystème informationnel, expliquer le modèle des plateformes devient central pour l’éducation aux médias et à l’information.

Une fois compris que tout est fait pour capter notre attention, il me semble que le seul choix raisonnable serait d’en sortir et de faire autrement.

Je te rejoins complètement pour estimer que le fruit est pourri à la racine par son design toxique. Ce qui m’inquiète c’est que, lorsqu’on parle de quitter Facebook ou X, on cherche tout de même des “alternatives à” qui leur ressemblent.

Je vois surtout passer des réactions outrées face à l’abandon du fact-checking. C’est bien dommage, car ce n’est pas le plus inquiétant dans les déclarations de Zuckerberg. Mais le fait que les grandes plateformes tombent le masque est peut être un bien. Peut-être va-t-on cesser de croire que les réguler et éduquer les “jeunes” suffira à s’en protéger ?

Une chose me gêne dans tous ces article sur l’exode de X : lorsqu’on parle de quitter X, c’est toujours avec l’idée implicite d’investir une autre plateforme de micro-blogging.

C’est l’éléphant au milieu de la pièce, le grand impensé : le Twitter d’avant Musk était déjà très critiquable depuis plusieurs années. C’est pourtant le modèle que reproduisent les alternatives sur lesquelles on s’enthousiasme de retrouver l’esprit du Twitter des débuts.

J’ai relu ce qu’écrivait Romain Badouard à propos de Twitter dès 2017 (Le désenchantement de l’internet. Rumeur, propagande et désinformation, FYP éditions) :

Les géants de la Silicon Valley ont acquis un pouvoir énorme a travers les technologies qu’ils développent, celui de produire de nouvelles normes sociales. Twitter par exemple a créé son propre format de discussion avec sa limite des 140 caractères, ses hashtags et ses arobases. Les contraintes d’utilisation ont engendré de nouvelles habitudes qui se sont peu à peu transformées en coutumes. Sur le réseau social, on cherche avant tout la petite phrase, on souhaite se faire valoir devant un public, on interpelle violemment des personnalités. La forme l’emporte définitivement sur le fond et les spécificités techniques de la plateforme ont fait naitre un environnement d’échange 2 la fois simpliste, conflictuel et moralisateur¹.

Le pouvoir des géants du web tient ainsi 2 la manière dont ils peuvent influencer et contraindre les comportements de mil- lions, voire de milliards d’individus. A cette domination technologique s’ajoute une position oligopolistique sur le marché

¹. Au-delà de la simplification et de la radicalisation des propos engendrées par la limite des 140 caractères, les twittos seraient plus à même de produire de messages s’apparentant à des maximes d’un haut niveau de généralité pour parler de l’actualité. Sur la manière dont Twitter a créé un nouveau style d’échange à travers ses contraintes techniques, voir Arnaud Mercier, op. cit., etJulien Longhi, « Essai de caractérisation du tweet politique», L’information grammaticale, n° 136, 2013, p. 25-32.

La nuance est bienvenue et j’abonde dans ton sens. Face à des États qui sont gangrénés par les intérêts privés, l’intérêt public et collectif dépend de plus en plus des organisations non gouvernementales ou des coopératives. Malheureusement, ces rustines-là (qui ont notamment amorti la crise sanitaire) on ne les soutient guère et on les pousse à rentrer dans le moule : financements par appels à projets, marchés publics taillés pour les plus grosses structures…

Cf. dans La Revue Dessinée n°42 (novembre 2023), l’enquête sur le groupe SOS :

Ne dites plus «associations» mais «entrepreneurs sociaux». Des foyers d’hébergement aux Ehpad, de plus en plus d’acteurs de la solidarité s’inspirent ouvertement du secteur marchand. «Efficience», «lucrativité», «gestion des collaborateurs» ne sont plus des gros mots pour les adeptes du «social business». En France, le Groupe SOS et son influent fondateur, Jean-Marc Borello, incarnent à eux seuls cette révolution. À la tête de 750 établissements, ce petit poisson devenu trop grand dévore tout sur son passage, dans une quête effrénée de rentabilité. Au risque de malmener ses salariés et ses usagers.

Musk a démontré qu’une plateforme de microblogging était un média à part entière. Il a au moins le mérite de l’assumer alors que les démocrates américains, les progressistes et notre gauche-écologiste-et-sociale à la française auraient pu l’anticiper de longue date s’ils n’étaient pas addict aux tweets. C’est effarant de constater que notre personnel politique prétendument de gauche commente encore tout “sur X” comme si les journalistes ne pouvaient pas suivre et sourcer leurs déclarations ailleurs que sur ce réseau.

On peut envisager un avenir dans lequel le parti Républicain américain et autres droites populistes privilégieront X, tandis que les démocrates US et autres partis “progressistes” plus centraux dans le monde passeront par Bluesky ou par Threads… Quant à la “vraie” gauche transformatrice, elle devrait en toute logique investir Mastodon (un peu de cohérence que diable !).

On gagnerait en pluralisme dans la recommandation de contenus et on en terminerait enfin avec ce mythe qui avait fait de Twitter l’alpha et l’omega du débat public. Comme s’il était sain que l’ensemble des sensibilités politiques s’affrontent dans une arène unique dont les règles valorisent les saillies acerbes face à l’argumentation, au débat de fond, à la construction d’une opinion éclairée. Un paysage du microblogging pluriel est préférable : dans l’ancien monde, le fait que des politiques s’expriment de préférence dans Le Monde, Libération ou Le Figaro (et pas sur un média hégémonique) garantissait le débat public. Les politiques peuvent tout aussi bien s’exprimer sur des plateformes numériques différentes sur lesquelles ils et elles débattent avec les personnes qui se sentent plus proches de leurs idées sous l’œil des journalistes à même de témoigner, d’analyser et de mettre les idées en débat.

Évidemment, dans un monde idéal, cette activité s’organiserait sur des instances interopérables du Fediverse plutôt qu’entre des plateformes plus ou moins centralisées et dépendantes de leurs actionnaires. Mais je doute que les droites populistes, les conservateurs ou mêmes les progressistes y soient prêts. C’est la raison pour laquelle je distingue les forces transformatrices qui ne rêvent pas de révolution (=extrême gauche), mais cherchent à impulser des transformations radicales mais nécessaires, compatibles avec les limites planétaires.

C’est exactement la stratégie de ces dirigeants de pacotille depuis des décennies : détricoter le secteur public pour mieux justifier des rustines issues du secteur privé qui acquiert au passage un pouvoir croissant sur des décisions qui devraient relever de nos institutions démocratiques. Je ne me résigne pas à accepter qu’on laisse faire.

Quant aux benchmark, effectivement on parle de taux d’erreur entre 1% et 3% dans le cas des RAG.

Source?

La dernières newsletter de Benoit Raphael citait ce chiffre sans le sourcer. Mais peut être l’avait il obtenu par une IA qui l’aura trouvé plausible :-p

Ce qu’on demande en l’occurrence, c’est d’avoir un taux d’erreur inférieur au taux humain. Ce qui me semble extrêmement atteignable vu le niveau des policiers.

Il ne s’agit pas d’avoir une police parfaite, mais d’agir pour relever le niveau plutôt que dilapider l’argent public en surveillance vidéo algorithmique et équipements et formation de répression ultra-violente. L’état de la police française, tout comme celui de l’hôpital ou de l’école, on le doit aux politiques qui décennie après décennies ont discrédité les services publics pour justifier de leur retirer les moyens de travailler et l’autonomie d’action nécessaire.

Même pour éclairer les décisions, on glorifie (et on arrose) les cabinets de conseils plutôt que de s’appuyer sur l’expertise de nos chercheurs. Il faut dire qu’à l’Université, on est aujourd’hui trop occupés à répondre à des appels à projet afin de trouver l’argent nécessaire pour faire notre métier… Donc comme ailleurs, au final, des IA feraient sans doute aussi bien.

Il n’est écrit nulle part que cette voie soit la seule possible. Comment peut-on penser qu’il s’agirait aujourd’hui de choisir entre IA et notre police actuelle, comme s’il n’y avait pas d’autres possibilités ? Comme je l’écrivais il y a quelques mois, Présenter l’IA comme une évidence, c’est empêcher de réfléchir le numérique. Il est urgent de réaliser que la technique doit être débattue sur un plan politique, qu’elle ne va pas de soi et que nous n’avons pas à accepter benoitement les prophéties auto-réalisatrices des milliardaires technophiles qui fournissent les éléments de langages à nos dirigeants.

A rapprocher de cette info la veille : https://lemmy.world/post/21935054

Ce proche de Gabriel Attal ambitionne notamment de développer un outil, un chat GPT à la française, à destination des services de l’État pour accélérer les procédures et décharger les agents des tâches les plus rébarbatives, les moins valorisantes, leur débloquer du temps “pour être encore plus au contact du public”, défend son entourage.

Parmi les pistes, ses équipes imaginent très concrètement de faciliter le partage des dossiers médicaux entre plusieurs hôpitaux. Aujourd’hui des établissements utilisent encore le fax ! Autre idée : faciliter le dépôt de plainte auprès des forces de l’ordre, qui ne dépendent pas directement du ministère de la Fonction publique. Cette intelligence artificielle pourrait enregistrer notre témoignage pour le retranscrire bien plus rapidement que quand un policier est obligé de tout taper à la main. Dans la justice aussi, l’outil pourrait résumer en quelques minutes un dossier long comme le bras.

Sachant que l’idée des transcriptions automatiques des plaintes était déjà brandie par Xavier Niel un mois plus tôt au micro de France Inter : https://youtu.be/H8x-pIGbhOQ?feature=shared&t=817

Nous aussi, nous avons nos milliardaires avec des lignes directes vers les dirigeants politiques.

Et pendant que le ministre de la Fonction Publique lèche les bottes de Elon Musk, l’opposition réagit… Sur X.

Le désastre total dont on parle est le résultat de décennies de détricotage des services publics. Dans la bouche du ministre de la Fonction Publique, la technique n’est qu’un cache-misère qui sert à justifier davantage encore de désengagement de l’État. Il entretient l’idée mensongère d’un solutionnisme technologique qui prétend résoudre tous nos maux à coups de techniques immatures et promues par des gens sans scrupules qui raisonnent en termes de ROI sur leurs investissements financiers.

On pouvait déjà permettre le dépôt de plainte sans passer par le commissariat avec les techniques existantes. Les LLM n’y changent rien et ce n’est pas ce dont parlent le ministre ou Xavier Niel. Leur propos est d’imaginer un gain de temps (et de productivité) si l’on transcrit automatiquement ce que disent les plaignants, au lieu de rédiger soi-même. Or les IA ne peuvent pas remplacer la nécessité d’accueillir les victimes, de les écouter, de les aider à exprimer et formuler ce qu’elles ont vécu et de les orienter dans la recherche d’une réparation. C’est d’ailleurs la promesse : être plus au contact du public. Ces gens qui se croient géniaux n’ont sans doute jamais conduits, transcrits ou analysés d’entretiens de leur vie : d’abord un entretien ne fonctionne pas sans un interlocuteur compétent ; ensuite les IA de transcription font beaucoup de coquilles, il faut repasser derrière ; enfin la parole orale est bien plus difficile à analyser et interpréter qu’une déclaration rédigée pour formaliser un témoignage.

Tant mieux si l’on équipe les fonctionnaires d’outils éprouvés pour comprendre une victime dans sa langue maternelle. On pourrait tout de même regretter que cela prenne la place des interprètes qui savent traduire bien au-delà des mots. Quoiqu’il en soit, cela ne dispensera pas de former à l’écoute et à la législation. Pour le reste, si le propos est d’accepter que les fonctionnaires de police puissent être analphabètes, ce n’est pas un progrès. Comme le développait récemment Morozov pour Le Monde Diplomatique, tant qu’on concevra l’IA comme un moyen d’augmenter des individus diminués, on passera complètement à côté. Ces techniques pourraient sans doute être conçues et mises en œuvre pour nous améliorer, mais ce n’est pas ce dont on nous parle ici.

Quant aux benchmark, effectivement on parle de taux d’erreur entre 1% et 3% dans le cas des RAG. Dans bien des applications, un tel taux reste trop important. Par ailleurs, tant que les utilisateurs ne comprendront pas le fonctionnement de ces outils et croiront dialoguer avec une entité intelligente, ils seront incapables d’évaluer la pertinence de la réponse à un prompt. Savoir que le LLM ne traite que le texte, ne sait pas forcément traiter des données tabulaires et encore moins des données présentées sous forme de graphique (format image) est indispensable. Quand bien même, sans expertise sur ce qu’on lui demande de produire, on se contente d’un rapport magique à la technique, on ne peut pas discerner les réponses correctes de celles qui ne sont que plausibles. Or avec l’expertise nécessaire, l’IA n’apporte pas forcément de gros gains de productivité… A supposer qu’être plus productif soit souhaitable si cela signifie s’épuiser en multipliant encore les tâches et la quantité d’information à traiter au quotidien.

Xaviel Niel avait justement avancé cette idée de la transcription automatique des plaintes lors d’une interview sur France Inter le 1er octobre : https://youtu.be/H8x-pIGbhOQ?feature=shared&t=817

Comme si déposer une plainte n’était qu’affaire d’enregistrer par écrit tout ce qu’on dit, tel qu’on le dit. Comme si la transcription automatique était tellement au point qu’elle ne faisait jamais de faute, surtout face à des accents divers et variés. Comme s’il ne fallait pas un minimum de compétence et d’écoute pour recueillir les informations nécessaires auprès du ou de la plaignante. Comme si on pouvait se passer de traduire son témoignage avec justesse et esprit de synthèse, tout en obtenant sa validation de cette traduction.

Mais c’est sûr que former les fonctionnaires de police à la conduite d’un tel entretien est couteux, et qu’on part de loin. Alors comme dans tous les services publics exsangues, on va nous dire qu’après-tout une IA fera sans doute mieux pour moins cher.

Et puis c’est pratique de résumer automatiquement des dossiers longs comme le bras. C’est sûr que si des êtres humains ont pris la peine de les constituer, c’est certainement pour qu’une IA les résume sans âme ni conscience et en inventant potentiellement des choses qui n’y sont pas. D’après un benchmark d’OpenAI, aucun modèle ne produit de résultats factuellement corrects plus d’une fois sur deux.

Donc c’est ça l’élite de la Nation : un ministre de la fonction publique sorti d’une prestigieuse école de commerce qui reprend les idées d’un homme d’affaire milliardaire, tous deux convaincus par le narratif qui veut que l’IA dominera le monde et qu’il vaut mieux en être quand bien même on sait qu’il n’y a pas les ressources sur Terre pour soutenir un tel déploiement de ces techniques.

On retrouve le profil des “Smart-Climato-complot” de l’enquête de Parlons Climat sur les climatosceptiques en France :

Tout comme dans les cortèges britanniques ou aux USA, ces mâles alpha bousculés dans leurs valeurs sont accompagnés par des hommes plus jeunes (moins de 35 ans) et plus politisés.

Je relève que les 45-64 ans sont les seuls à avoir voté en majorité pour Trump. Or, il s’agit de la même classe d’âge que les émeutiers racistes qui s’étaient illustrés au Royaume Uni il y à quelques mois sous l’influence de la désinformation : https://theconversation.com/pourquoi-tant-de-quadras-et-de-quinquas-parmi-les-emeutiers-au-royaume-uni-236352

Oups, toutes mes excuses. Merci pour ce rappel.

Comme le souligne mon commentaire, il y a certainement un “sujet” qui dépasse les frontières et devrait nous préoccuper tout autant à l’échelle franco-française. Mais effectivement, ce n’est pas l’objet de l’article cité.