Hello!
bon slrpnk.net a l’air d’être dans les choux alors je lance ce post avec mon compte de secours jlai.lu
Alors je lance cet AMA car ça fait un moment que je bouffe du machine learning à temps plein et pour suivre les news technique, je passe le plus clair de mon temps à lire de l’anglais. Et je trouve qu’en français, ben y a pas grand chose. C’est presque uniquement du discours dystopique mal informé.
Rien sur la recherche sur l’alignement, rien sur les modèles open source (condition sine qua non pour que ça se passe bien), rien sur les évolutions sociales positives que ça peut amener.
On parle juste de OpenAI, Google et Musk qui ne sont que quelques arbres malades d’une forêt bien plus grande.
Perso ça va faire 5 ans que je fais du deep learning professionnellement. J’ai travaillé pour Skymind, qui développait deeplearning4j. Ça vous dira rien, c’est un projet plus ou moins mort, mais c’était une tentative de faire un framework alternatif avant que tout le monde passe à pytorch. Puis je suis devenu principalement utilisateur des gros modèles entraînés par d’autres.
J’ai travaillé sur les modèles de vision au départ et maintenant presque exclusivement sur des modèles de langage. J’ai réussi à passer au 4/5e l’année dernière pour me consacrer aussi avec le fablab local à de la robotique open hardware (où bien sur j’utilise des modèles de deep learning pour la vision).
Ça fait plus de 20 ans que j’ai réalisé que l’IA a le potentiel de changer le monde pour le mieux, c’est pas par hasard que j’ai essayé de m’orienter le plus possible là dedans et ça me fait mal au cœur de voir tant de gens croire que notre seul but est d’aider Sam Altman à se faire quelques milliards de plus, qui ne voient pas les capacités de transformation de cette tech.
J’ai déjà donné quelques avis en anglais pour éviter le “doomism” dans des romans de SF (https://slrpnk.net/post/6100538) mais le faire dans ma langue natale ferait du bien!
Et, si, le titre est correct, ça me fait 6/5 de boulot, mais quand on aime on ne compte pas!
Voila, je préférerais qu’on reste sur ces thèmes mais AMA anyway!
Merci trop bien pour tes réponses.
j’ai envie d’explorer un peu les animas. J’ai l’image d’une expérience biologique : https://yewtu.be/watch?v=aBYtBXaxsOw
Et comme tu dis il est possible de faire jouer un rôle. Et je me dis que ce role peut etre définit parallèlement en fonction de nos besoins :
C’est très basique.
Quelles sont les expériences réalisées pour la création des animas ? Est ce que ça ne serait pas un simple message d’erreur : plus de batterie ?
Des exemples ? Est ce que ce que la recherche de carburant ne se traduirait pas par des émotions négatives soit accèleration recherche carburant (nervosité) ou ralentissement (économie energie)?
Un peu comme doom avec l’écran couvert de sang qui gène le joueur, et le rend inquiet ?
Je pars dans tous les sens, disons juste les animas. Siktu as des ressources, je veux bien. :)
Alors je pense que ce qui peut t’intéresser c’est la recherche en reinforcement learning, qui est plus du domaine de la robotique où les robots tentent de planifier des actions, dans un univers virtuel ou réel.
L’est-y pas mignon Albert?
Mixer cette approche et les LLM c’est le graal actuel, et je pense qu’on va bientôt l’atteindre.
À ce moment là se poseront d’autres problèmes d’alignement car le modèle (et je pense que j’appellerai ça IA à ce stade) aura une intentionnalité et des plans. Il faudra faire attention aux métriques qu’on lui donne!
Chouette vidéo, j’adore : D
j’avais vu ça avec des courses de voiture, trackmania : https://yewtu.be/watch?v=Dw3BZ6O_8LY
Et aussi hide and seek avec open AI : https://yewtu.be/watch?v=Lu56xVlZ40M
Et un autre jeu avec l’évolution prédateur et proie qui me fascine. On pourrait le combiner avec le jeu de la vie (cf science etonnante) et voir quel comporement cela provoque : https://yewtu.be/watch?v=rPkMoFJNcLA
Mais tu connais surement tout ça 😁
J’ai pas envie d’expliquer à des gens que je fais évoluer une IA de prédateur, mais que tout va bien, y a pas de danger :-)
J’ai envie de dire que la prédation n’est rien d’autre que le résultat d’une optimisation et élimination.
Quand je vois comment ça tourne, ça me rapelle mes mes plantes et la selection naturelle. Les plants de tomates ya a des beaux vigoureux et des fretilles, j’élimine les frétilles. Après, 2ème selection, le plus beau fruits avec le meilleur gout, calibre et production.
Et je répète ça avec un meilleur set de données pour l’environnement et le sol actuel.