Hello tout le monde,
Réflexion que je me faisais à l’instant: actuellement, tout le monde se moque un peu du ton très pompeux et sérieux des IA, qui les rendent rapidement détectables.
Que se passera-t-il le jour où cela ne sera plus le cas? Imaginez un bot capable de s’exprimer comme un-e utilisataire normal-e, donc avec ses tics de langages, ses fautes de grammaire, ses typos, etc., et qui en plus posterait ou commenterait à une fréquence similaire à un humain?
Imaginez ensuite que ces bots, il y en ait des milliers.
Le premier scénario qui vient à l’esprit c’est clairement la promotion de produits, puisque ces recommendations paraîtront légitimes.
Le second c’est des forums comme Lemmy ou Reddit où une partie non négligeable des membres seraient en fait des bots, indétectables. On peut imaginer un bot qui génère une image de chat par IA et poste toutes les semaines une photo différent du “même chat”.
Qu’en pensez-vous?
C’est pas déjà le cas ? Les espaces commentaires c’était génial il y a 20 ans, mais ça s’est vite degradé. il y a vite eu des campagnes de “brigading politique”, puis les ferme de troll Sino-Russes et maintenant en effet on a des LLM qui postent.
Je pense que sur des commus plus détendues ou des petits forums ce sera pas un problème, sur des gros trucs, le problème n’est pas nouveau. Rappelle toi de reddit et de certains threads dès que ça parlait immigration/guerre par exemple (Puis certains commentaires youtube aussi). On ne me fera pas croire qu’il y a pas des campagnes de brigading organisé. Il parait m6eme qu’on peut revendre des comptes qui ont beaucoup de karma. Les chat bottés, ça va juste permettre de ne même pas donner une aumône à des gens qui vivent dans la misère mais de laisser un modèle tourner.
Merci pour cette image
Sinon en général d’accord avec ton point, mais la nuance c’est qu’actuellement on sait encore faire la différence entre un bot et un humain en quelques clics (souvent l’historique). Le jour où ça ne sera plus le cas, ça pourrait changer la donne