On a regardé ce documentaire hier, qui montre que derrière le nuage étincelant de l’IA il y a (comme toujours) des petites mains qui travaillent dans l’ombre, au prix de leur santé et pour une misère. Le reportage n’est pas joyeux, mais donne un contre poids au discours positif sur l’IA.
Je partage l’article car ce matin j’entendais une publicité à la radio pour le filtre adolescent d’instagram. Ce documentaire montre que les IA ont besoin d’apprendre ce qui doit être filtré, et nécessite pour ça que des gens soient exposés au quotidien à des images toutes plus dérangeantes les unes que les autres. J’ai entendu la publicité différemment aujourd’hui…
Chaque fois que vous parlez d’“IA” demandez vous quand même si ce n’est pas de capitalisme dont vous parlez. Avant les filtres automatiques, les modérateurs de Facebook et Twitter (avant le rachat) faisaient des burnouts réguliers.
et nécessite pour ça que des gens soient exposés au quotidien
Au quotidien, pas vraiment non: les datasets d’apprentissage sont à constituer une fois, et les choses qui passent les filtres et nécessitent encore une modération manuelle représentent du coup un volume bien moins important.
C’est un peu comme les égouts: ça permet de ne pas marcher dans la merde chaque fois qu’on va en ville, mais ça veut dire que des gens doivent entretenir les canaux de fange. L’organisation sociale autour de cette tâche ingrate n’est pas imposée par l’urbanisme, la mécanique des fluides ou l’IA.
Sur Lemmy (et dans une moindre mesure reddit) la modération est faite par des volontaires. Sur Instagram par des gens exploités. C’est là la différence dans le modèle.