Comme d’habitude, Mr Phi a bien fouillé les articles sur le sujet et donne un état de l’art sur les preuves mathématiques par des LLMs
Comme d’habitude, Mr Phi a bien fouillé les articles sur le sujet et donne un état de l’art sur les preuves mathématiques par des LLMs
Ouais, déjà qu’en quantifiant le débat est loin d’être tranché, sans quantifier c’est juste donner son ressenti on est d’accord.
Je ne relève pas particulièrement la comparaison avec les vols internationaux, je ne comprends pas bien si c’est l’usage total, un usage personnel ou l’entraînement du modèle qui correspond à un vol transatlantique. Quoiqu’il en soit, d’accord sur deux points : c’est pire de prendre l’avion, et à peu près autant utile, et on peut trouver des domaines où l’IA est particulièrement utile.
Sur la réduction du temps de travail, oui on est en pente descendante depuis le XIXe siècle, mais à l’échelle de l’histoire de l’humanité globale, c’est pas drastiquement descendu. Certaines révolutions ont contribué à le diminuer (notamment l’usage du pétrole), mais d’autres l’ont fait augmenter (la révolution industrielle et le travail en usine). C’est touchy, ça nécessite de définir le travail (faire ton potager ou ton asso le soir après le boulot, c’est du travail ?), mais à très grande échelle je juge que ça stagne, avec une tendance à l’amélioration récemment.
MDR, je ne peux qu’espérer que c’est une généralisation dont l’excès est assumé, parce que clairement non. Déjà, on va mettre de côté les pays en voie de développement. Mais même dans notre société, je sors de ma journée dans les vignes, j’ai pioché, j’ai ébourgeonné, j’ai cisaillé des branches. Oui, le secteur s’est énormément motorisé, mais y’a toujours de quoi bosser avec tes mains (on est d’ailleurs plus nombreux.ses côté ouvriers viticoles que côté tractoristes). Pour l’anecdote, les machines conduisent à de nouvelles tâches, ou en rendent certaines essentielles : par exemple, les machines à vendanger ne font pas le tri entre grappes et merdes qui traînent dans la vignes, donc c’est essentiel de virer certaines plantes qui résistent aux produits et seraient récoltées en même temps que le raisin, et pour ça on pioche. En vendanges à la main, ce serait pas un problème.
Sur l’équilibre confort / travail, on est plutôt d’accord, même s’il faut quand même souligner que c’est pas uniquement “les gens préfèrent du confort que de travailler moins”, c’est “la société a imposé le confort”, imposé à la fois au sens de suggérer massivement (société de consommation, pubs, toussa toussa) et au sens d’empêcher ou de complexifier le manque de “confort” (aujourd’hui, vivre sans voiture peut être un handicap majeur selon ta situation, et vivre sans téléphone/ordi idem).
Et dans le même bloc, à nouveau, la comparaison avec le XIXe siècle est légitime, mais ça reste une des pires périodes de l’humanité. Si je veux vivre aujourd’hui comme au Moyen-Âge (matériellement, pas dans l’organisation sociale), bah c’est vachement compliqué en fait. Je vais pas te mentir, perso avoir une vieille bicoque, un potager, et un boulot dans les champs du village, même sans eau courante et sans électricité, ça me chauffe bien, mais je suis bloqué pour l’accès au logement, l’accès au bois, l’accès à l’eau (rivières turbo-polluées, sources contrôlées par la communauté, etc.). Ça me va que les choses soient comme ça, qu’il faille faire avec, mais qu’on ne vienne pas me dire que je choisis tout ça parce que j’aime mon petit confort, j’ai pas eu mon mot à dire, et les masses non plus.
Chaque fois, il y a ce malentendu, alors que pourtant, j’essaie de prendre des précautions oratoires. Je ne dis pas que les métiers musculairement fatigants ont disparu. Je dis que les métiers où tu es deux fois productif quand tu es deux fois plus fort, eux, ont disparu. Être capable de porter un sac de 80 kg au lieu d’un sac de 40 kg, ça rendait un docker deux fois plus productif.
Reste quelques déménageurs, reste quelques métiers au niveau de la récolte en effet. Contre ce qu’était la grande majorité des boulots autrefois.
Je doute que les esclaves étaient aux 35 heures et partaient à la retraite à 60 ans.
Il y a un mouvement dont je me méfie beaucoup qui est une espèce de romantisation des périodes antérieures sur lesquelles justement on n’a pas de stats. Ça ne coûte rien d’affirmer que les paysans du Moyen-Âge ne travaillaient que deux heures par jour en moyenne. Dans les faits, j’ai de gros doutes.
Pour éviter un malentendu, j’éviterais l’usage du mot “toutes” et “disparu”. Parce que même dans ta nouvelle explication, la phrase prise pour son sens immédiat est fausse : les gars deux fois plus costaud que moi sont deux fois plus loin dans les rangées. Ce genre d’effet n’a pas “disparu”.
Ceci étant dit, j’ai été très à cran sur l’usage d’une tournure absolue, et je te présente mes excuses pour ça, c’est un déclencheur chez moi. Je reconnais que ton argument tiens même quand on le réduit aux faits : les machines nous rendent plus productifs et rendent le travail moins pénible dans son ensemble. Je pense pas qu’on ait besoin de dire que “tous les métiers musculairement pénibles ont disparu”.
Les esclaves étaient certainement pas aux 35 heures, mais c’est pas garanti qu’iels bossaient plus que les ouvriers du XIXe. Ça dépend beaucoup des cas, mais dans l’idée, ton esclave, c’est ta propriété, s’iel crève, c’est ton patrimoine que tu perds, donc tu as intérêt à bien lea traiter et à pas trop lea fatiguer. Tes ouvriers et ouvrières, tu t’en fous, s’iels crèvent, d’autres viendront.
Le risque de romantisation des périodes antérieures est avéré, ceci dit il faut lui adosser le phénomène inverse, ces périodes ont souvent été dépeintes comme des périodes horribles, la vérité est sans doute quelque part entre les deux. Je maintiens qu’à mes yeux, les conditions matérielles de vie se sont détériorées pour l’humanité à deux moments de son histoire au moins : la sédentarisation et la révolution industrielle. A chaque fois, je pense qu’on peut en faire la même analyse à gros traits : ce ne sont pas les bonnes conditions de vie pour toutes et tous qui permettent l’émergence ou le renforcement de pouvoirs, ni l’avantage reproductif d’une partie de la population. En d’autres termes, ce n’est pas nécessairement parce que les gens sont plus heureux qu’iels se reproduisent plus, ni que des structures sociales fortes émergent. A mon sens, les deux fois, il y a eu un gain de productivité qui a impliqué une dégradation des conditions de vie immédiates, mais a permis une amélioration sur le très long terme.
Et comme j’ai précisé, je ne parle pas des structures sociales du Moyen-Âge (donc du nombre d’heures de travail), mais bien du niveau de vie matériel. Si tu y rajoutes les connaissances médicales d’aujourd’hui, je maintiens que c’est clairement un niveau de vie qui m’irait, et que je ne peux pas juste le choisir librement aujourd’hui.
Bien noté, désolé je réponds un petit peu en rafale de façon abrupte à plein de personnes en même temps.
C’est tout à fait possible que le XIXe siècle représente le pic de la proportion de temps vivant travaillé. Mais il faut quand même noter qu’on n’a pas de stats qui permettent de l’affirmer avec certitude. C’est le pic de ce qu’on mesure, mais c’est aussi l’origine de ce qu’on mesure.
Et force est de constater que depuis ce pic, ça diminue.
L’autre chose à constater, c’est que la production, elle, ne baisse pas en quoi que ce soit.
en valeur, en volume. On produit toujours plus en travaillant toujours moins.
Alors il me paraît très clair que les mouvements sociaux ont joué un grand rôle dans la diminution du temps de travail. Mais il me semble également clair que le progrès technologique est la raison pour laquelle cette diminution du temps de travail a été possible sans diminuer la production.
Il y a un jeu à somme nulle entre l’augmentation du salaire horaire et les dividendes qu’on peut extraire du travail des employés. On n’a jamais vraiment réussi à tirer la corde suffisamment pour que la part des dividendes baisse en absolu. Mais on arrive à faire augmenter le salaire horaire. C’est largement les augmentations de productivité liées aux améliorations technologiques qui permettent aux deux quantités d’augmenter simultanément.
Pas de soucis pour le mode de réponse.
Pour les difficultés à mesurer le temps travaillé, elles existent, mais on a quand même des indices. Je crois me souvenir d’une vidéo de NotaBene sur le temps de travail médiéval qui concluait par “c’était sans doute plus que nos 35h, mais pas autant plus que ce qu’on s’imagine”. Et je me souviens aussi de reportages sur les sociétés de chasseurs cueilleurs actuelles et disparues qui en déduisaient que le temps de travail était d’entre 30h et 40h, mais qui soulignaient que le travail a des sens différents dans les deux cas. Bref, ça reste des indices vagues, mais mon argument n’a pas besoin de chiffrages précis, il a besoin de tendances.
Sur l’augmentation en production liée au progrès technique, je suis d’accord que ce phénomène existe, je ne cherche pas à le nier, mais à le nuancer. J’estime qu’il s’accompagne d’une évolution, partiellement choisie et imposée, partiellement souhaitable et criticable de ce qu’on considère comme nécessaire et confortable. Je pense qu’une grande partie de la persistance des problèmes sociaux, voire leur intensification, malgré les progrès techniques est due à cette adaptation des demandes. Ça porte un nom comme paradoxe je crois, en gros quand qqch est plus efficace, on en vient pas à l’utiliser moins, mais à s’habituer à le consommer plus. Et ça me paraît tout à fait pertinent d’appliquer ça à l’IA, en plus du fait qu’elle est aux mains d’élites dont les intérêts ne sont pas ceux de l’humanité dans son ensemble, pour alerter sur les risques que les progrès sociaux soient reportés, voire empêchés.
Tout ceci est d’autant plus impactant je pense quand on ne regarde pas uniquement nos sociétés européennes mais le monde dans son ensemble. Oui, le progrès technique permet certains progrès sociaux, mais ça ne veut pas dire que tout progrès technique amène nécessairement, et encore moins immédiatement, du progrès social, encore moins du progrès social massif ou total. Genre les gamins qui meurent dans les mines de métaux, sont exploités dans les usines, pour qu’on puisse avoir cette discussion sur nos appareils numériques, et que l’IA puisse construire ses datacenters, bah c’est quand même un coût social monstre, dans tous les sens du termes.
Ça me paraît crédible que les ouvriers avaient des journées plus chargées que les paysans. Parce qu’après tout, le moteur de l’exode rural, c’était aller chercher du travail en ville, car la campagne n’arrivait pas à absorber toute la main d’oeuvre. Ça peut s’expliquer par justement un travail insuffisant à faire (et donc à se faire payer pour).
Je pense que le nom que tu cherches, c’est le paradoxe du rebond ou le paradoxe de Jevons, qui l’a énoncé en constatant que plus les machines à vapeur devenaient efficaces et produisaient davantage de travail pour la même quantité de charbon, plus on consommait de charbon.
Il faut une formulation assez précise pour considérer qu’il y a un paradoxe. C’est juste logique quand c’est énoncé sous la forme « dès qu’un process devient plus rentable, ce process est plus exploité ».
Ce que les gens qui invoquent ce paradoxe manquent souvent, c’est que ce n’est pas un effet absolu, mais c’est un effet économique. Il faut que l’efficacité économique de quelque chose augmente pour que l’effet de rebond se confirme.
L’effet Jevons peut s’appliquer aux IAs, mais il faut alors admettre que ça veut dire que c’est un process rentable, pas juste un truc inutile qui gâche du temps de calcul sans aucune utilité comme je le lis ailleurs. Si on admet que c’est un process créateur de richesse, on doit alors le comparer à ce qu’il remplace pour évaluer si c’est une bonne ou une mauvaise chose. Si en consommant 1 kWh tu évites 100 km de trajet à une voiture, c’est carrément rentable.
Le problème, c’est que ça, ce n’est pas vrai. L’IA n’est pas dans les mains d’élites. Et c’est ça qui me désespère et que je me tue à répéter dans toutes les conversations à ce sujet. Les technos utilisées, elles sont ouvertes, elles sont connues, les architectures sont connues, les architectures sont publiées. Et dans le top 5 des modèles les plus performants, on a généralement des modèles ouverts (ça change littéralement toutes les semaines) que vous pouvez faire tourner sur des machines sans payer un centime de royalties à qui que ce soit et sans demander l’autorisation à qui que ce soit. Vous avez le droit de les améliorer, d’en faire un produit commercial, vous avez le droit de les désosser, vous avez le droit d’enlever la censure chinoise ou les barrières éthiques comme le font plein de chercheurs.
Alors certes, si vous prenez un modèle du top 5, la machine pour faire tourner ça, elle est un petit peu chère. Mais elle n’est pas non plus excessive. C’est de l’ordre de 200 000 dollars. C’est quelque chose qui est à la portée d’énormément d’organisations. Les modèles plus modestes que je fais tourner, qui me permettent de faire contrôler par des non spécialistes des flux d’analyse d’image assez complexes, tourne sur un PC de gamer. Et je parle pas des modèles de vision, que j’entraîne en local rapidement, cette techno étant bien plus mature que les LLMs (la révolution IA, chez les spécialistes, elle a commencé dans le domaine de la vision en 2012 avec AlexNet, le langage naturel a été conquis bien plus tard)
OpenAI, Anthropic, ils ont leur petite sauce secrète qui leur permet de se maintenir en tête du classement pendant 3 à 6 mois, mais ils sont talonnés par les modèles ouverts, parce qu’absolument personne en ce moment n’a envie justement de laisser un tel pouvoir dans les mains d’élites. Et c’est une chose qui me désespère, c’est une des victoires les plus écrasantes, les plus flamboyantes du mouvement open source, de l’idée que la recherche doit être ouverte, de l’idée que les idées sont des patrimoines communs de l’humanité. C’est une victoire super importante, c’est une victoire qui nous épargne des tonnes de dystopies au sujet desquelles la science-fiction nous a tous mis en garde. Et les héros qui mènent cette lutte ne sont absolument pas soutenus par les gens qui vont en bénéficier le plus. Ça me rend fou.
Et vous savez qui finançait les efforts ouverts ? Au début, ça a été Meta. Oui Meta de Facebook.
Ils n’ont pas fait semblant de prétendre que c’était pour des raisons idéologiques ou parce que tout d’un coup ils sont devenus des paragons de vertu. Ils ont simplement expliqué que c’est parce que c’était financièrement logique, que c’était plus efficace, que c’était dans leur intérêt. Je ne sais pas si vous vous rendez compte, mais l’open source, c’est techniquement un projet anarcho-communiste(non coercitif et non propriétaire). Et là, vous avez une des plus grosses capitalisations boursières qui dit que, de toute façon, l’open source, c’est logique pour eux. C’est plus efficace. On pourrait célébrer ça à un moment!
Et qui a pris le relais de l’open source/weight (y a un débat sur le bon terme) depuis que Facebook a arrêté ? Le Parti communiste chinois.
Alors, je ne sais pas vous, mais Meta ou le PCC, déjà, c’est un petit peu le grand écart, mais je ne fais confiance à aucun des deux. Je trouverais ça cool quand même qu’il y ait un support un petit peu généralisé pour que cette recherche puisse continuer sur des bases un petit peu plus sereines, notament en France.
Mais quand on propose d’aider Mistral ou des modèles de recherche, c’est accueilli comme une proposition d’ouvrir un portail démonique au milieu d’une école maternelle.
respire respire
Pardon je vais prendre mes pillules roses
Sur la nécessaire rentabilité des IA pour générer un effet de rebond : effectivement, mais c’est pas moi qui le dit que les IA vont être rentables (ce qui est impliqué par le fait qu’elle soient un progrès social), c’est toi. Je dis justement que même en cas de rentabilité, l’effet de rebond peut empêcher ou retarder le progrès social.
Sur les projets ouverts : Je trouve qu’il y a pas mal d’oeillères ou de mauvaise foi dans ce passage, en tout cas de ce que j’en interprète.
Trois points à te concéder avant de posee mes critiques : oui, on ne parle pas assez de la qualité des modèles ouverts. Oui, idéalement il faudrait financer des modèles alternatifs. Et oui, l’open source utilisé par les big tech, c’est une victoire (mais on a pas attendu l’IA pour ça, on a d’autres exemples, donc je trouve ça juste mais hors-jeu).
Premier point : il y a une différence entre ouvert et accessible. Les technologies pour faire des navigateurs sont ouvertes, et pourtant on reste bloqués avec des chromium-like, des Firefox-like et des Webview-like. Les autres options sont incroyablement loin derrière, et du coup quand Firefox fait de la merde, nos seules options sont des demies mesures genre Librefox, ou de changer de famille et d’avoir d’autres défauts. Pourquoi ? Parce que c’est complexe ses grands-morts. Techniquement, on a les connaissances pour construire nos propres voitures, nos propres téléphones. Mais qui fait ça ? C’est sûr qu’héberger des IA locales, c’est plus facile, mais tu l’as dit toi-même, les plus puissantes, càd précisément celles qui pourraient amener un changement social drastique, c’ est compliqué, pour être gentil. Donc à mes yeux, quelque chose peut être à la fois ouvert et aux mains des élites, ce n’est pas mutuellement exclusif (tu as raison de rappeller qu’on peut concevoir un univers où ce n’est pas le cas, mais pour l’instant ce n’est pas le nôtre).
Deuxième point : je trouve quand même carrément abusé de venir dire “nan mais les IA ne sont pas au mains des élites”, pour ensuite dire “j’aimerais bien une alternative à Meta et au PCC”, et que l’alternative en question c’est Mistral. Genre, c’est pas aux mains des élites, mais c’est chiant que y’ait que des élites qui le financent, et si on finançait cette version privée détenue par un milliardaire ? Même des modèles de recherche, si ça passe par des universités et surtout si ça a besoin de gros financement, dans une société où les élites contrôlent les financement, bah c’est aux mains des élites (c’est sûr que je préfère les élites académiques, loin très loin devant les élites politiques, loin devant les élites économiques, mais c’est marrant à quel point le contrôle sur l’IA et surtout ses financement est inversement proportionnel à ma liste).
Honnêtement, je comprends qu’on puisse se passionner par les IA, et être frustré par tous les aspects positifs masqués par la vague anti-IA, qui est souvent bas du front. Désolé de te plonger dans une opposition si frustrante. Mais tous les arguments jusqu’ici, loin de me convaincre, me font dire que les anti-IA ont vraiment de bonnes raisons, derrière le discours “AI baaaad”.
Je pense que tu te trompes sur l’open source : les alternatives à la libreWolf n’ont pas pour objectif de remplacer Firefox mais de faire pression sur eux en les empêchant d’avoir un monopole. Les navigateurs web ne sont pas “aux mains des élites” justement parceque tout le monde peut voir ce qu’ils font et se barrer s’ils le désirent : c’est l’open-source qui permet un rapport de force entre les élites et les utilisateurs, rapport de force qui n’existe dans aucun autre domaine (ni dans l’automobile ni dans la téléphonie).
Le fait que les GAFAM ont plus de moyens techniques alloués au développement de modèles open sources que Jeanine, ta voisine, ne change rien à leur droit d’accès et de modification des modèles. Dans la pratique, Jeanine peut décider d’utiliser le modèle tel qu’il a été conçu par Meta ou tel qu’il a été modifié par des internautes pour passer outre la censure, retirer un watermark ou corriger des biais.
C’est peut-être plus nuancé que ce que j’ai exprimé, mais j’ai quand même l’impression d’avoir compris, et d’avoir plutôt raison.
Déjà parce qu’il y a la différence entre capacité de modification et capacité de développement : on peut essayer de rattraper les dérives tant qu’elles sont superficielles, mais on ne peut pas corriger les modèles une fois entraînés, à ma connaissance. On peut peut-être tout modifier dans un navigateur, je me rends pas compte des possibilités techniques, mais si Firefox décide de devenir closed source, on sera bloqué avec ce qui existe actuellement, et bon courage pour la suite. Pareil pour les fonctionnalités implémentées, c’est en bonne partie ce que Firefox choisit de faire qui est fait. J’imagine qu’on peut aider en soumettant sdes contributions externes, mais sur les features les plus complexes, là où il faut des gros moyens, c’est elleux qui gèrent.
Et surtout parce qu’il y a une différence entre les faits et les possibilités offertes à Jeannine : combien de gens utilisent Firefox, et quelle proportion encore plus ridicule est passée à des alternatives ? Dans les chiffres, les élites ont la main mise. Oui, tout le monde peut changer, mais le capital s’est bien accomodé de cette possibilité, et ça l’a pas empêché de construire des quasi monopoles.
C’est comme les bagnoles, si on veut, on peut éviter les grands groupes et en fabriquer soi-même. Mais bon courage.
Vu que c’est une question de chiffres, c’ est même comme notre système politique : oui, oui, c’est une démocratie, tu peux ne pas vivre aux mains des élites si tu réunis assez de personnes pour détricoter le système de concentration de richesses en place. Mais bon courage.
Bon, déjà, merci pour une critique plus posée que ce que je reçois dans les autres commentaires.
Je ne vois pas trop la logique là. Si ça a un effet positif, le fait qu’il y ait un rebond devrait causer au contraire un changement plus rapide et un basculement au lieu d’une évolution (ce qui est une des thèse en la matière ceci dit).
Premier point (ouvert et accessible)
Sur le premier point, tu as complètement raison, ce n’est pas parce que c’est ouvert que c’est accessible. Les technologies, elles sont difficiles et ce n’est pas à cause de barrières artificielles, politiques ou capitalistes, c’est juste en effet difficile. Tout est disponible sur Internet, si tu veux t’y mettre, tu peux, mais ça prend des mois, voire des années de suffisamment se plonger dedans pour comprendre comment modifier les choses.
C’est pour ça qu’il y a un vrai enjeu à l’appropriation des technologies, à une vraie discussion à avoir sur comment pouvoir les utiliser, les réutiliser. J’ai l’impression que le rejet des technologies, c’est un rejet de cette complexité, un peu de la façon que plein de pseudomédecines ont pour moteur le refus de comprendre les modèles beaucoup plus complexes de la médecine moderne. Mais si on refuse de s’approprier ces technologies, on les laisse aux autres. Et ça, pour moi, ce n’est pas une option. C’est un acte de résistance fort, important et politique de garder le contrôle de ces technologies.
les Fab Labs, les Hackerspace, nous autres, les “tech-bros-solutionnistes”. On se fait traiter de tous les noms parce qu’on explique que ces technologies, elles sont là à ramasser pour quiconque veut s’en emparer. Et qu’il y a différents niveaux de packaging qui s’adressent à différents niveaux d’implication. Alors, plus c’est facile à utiliser, plus c’est imparfait, plus ça va utiliser des briques propriétaires, plus ça va utiliser des parties problématiques. Mais tu as tout un spectre de possibilités qui sont là. Et quand tu te penches sur les détails, tu découvres à quel point les LLM démultiplient l’accessibilité de plein de technologies.
La semaine prochaine, d’ailleurs, le thème de notre réunion au Fab Lab, c’est que je vais donner les billes à un bricoleur qui est plutôt dans la fabrication numérique pour pouvoir se fabriquer l’engin mobile qu’il veut. Il appelle ça un cyberdeck. Ce sera un truc entre l’ultra portable et le téléphone. Et évidemment, on va faire ça avec des technos libres. Vous pouvez venir si vous voulez. C’est gratuit.
Ce qui nous prend de la place au milieu de l’atelier en ce moment, c’est un prototype de tricycle cargo à assistance électrique qu’un autre membre du Fab Lab modifie grâce au soudeur laser qu’il vient d’acheter, (qui au passage est une petite révolution dans les métiers du soudage et a plein d’implications pour quiconque aime bien le vélo) et il y a une conscience écologique forte au départ de son projet.
Avec lui, on discute souvent justement de la difficulté à créer de nouveaux véhicules. Ce sont des difficultés législatives et techniques. Mais si ça se fait. Et quand je te parle dans l’autre discussion du fait que je tombe souvent sur des gens qui ont une mentalité anarchiste mais qui font des choses tranquillement dans leur petite bulle, c’est entre autres à ce genre d’initiative que je pense.
Second point, le contrôle des modèles ouverts
Alors j’ai mal dû m’exprimer. Imagine une situation dans laquelle il y aurait une seule entreprise qui financerait le développement de Linux. IBM par exemple.Linux resterait un système libre, ouvert et une alternative crédible à Windows ou à OS X. Pourtant, cette source de financement constituerait à une vulnérabilité évidente et son arrêt serait un coup dur pour le projet.
C’est la situation qu’on a aujourd’hui dans le monde de l’IA open source: Tous les outils sont ouverts, les architectures sont connues et les gens publient. Ce que Meta a posé sur la table et ce que plusieurs entreprises chinoises ont posé sur la table, c’est des centaines de millions, voire des milliards de dollars en puissance de calcul pour entraîner ces modèles. Et le résultat, ils l’ont donné (discutable pour certaines licenses des modèles Meta). Ils ne peuvent pas tuer ce qu’ils ont créé. Par contre, ils peuvent décider d’en arrêter le développement, comme Meta l’a déjà fait. Et si ça, ça arrive, les modèles ouverts resteront pendant un peu trop longtemps au niveau de 2026, pendant que les modèles des boîtes privées continueront à s’améliorer.
C’est là-dessus que j’aimerais bien qu’on ait des meilleures alternatives. Et l’alternative, ce n’est pas forcément Mistral, (même si aujourd’hui Mistral est le meilleur LLM qui ne soit pas entraîné dans une dictature, ce qui est quand même quelque chose)
Dans mon idéal à moi, ce serait des financements publics, ce serait des campagnes de crowdfunding parce qu’il y aurait un plébiscite universel pour se rendre compte à quel point ces technos sont positives lorsqu’elles sont ouvertes. Et on financerait ça soit via des fonds publics comme l’a été le modèle Bloom, soit via des groupes comme EleutherAI qui a été un pionnier en matière d’alignement et qui a créé le premier dataset ouvert: The Pile que probablement toutes les boîtes privées ont repris dans leur dataset d’entraînement, sans jamais venir à la défense d’Eleuther quand ils ont commencé à avoir eu des problèmes légaux.
Sur l'hébergement local
Il y a plusieurs idées fausses là dedans.
Plus haut, je parlais de l’appropriation des technologies.
Dans mon projet actuel j’utilise une IA hébergée localement pour transformer du langage naturel en commande d’un système complexe qui intègre plusieurs modèles de vision et des contrôles d’outils robotiques et qui a des capacités de programmation limitées mais suffisantes.
Le but que j’ai avec ce projet, c’est de permettre à des gens qui n’ont pas d’entraînement en informatique, en robotique, qui ne sont pas très techniques, mais qui ont un savoir-faire spécialisé en production, de s’emparer des outils d’automatisation sans avoir à passer justement par une boîte, un ingé spécialisé, etc.
Et par idéologie, je veux cibler les petites structures où les gens qui sont les plus à même de s’emparer de ces technologies sont des gens qui ne vont pas être foutus au chômage par des robots.
Désolé d’y voir une tentative de changement social. 9B c’est un modèle qui tourne sur une carte graphique à 300 euros.
Ensuite, je viens d’aller voir sur le LLM Leaderboard, (qui vaut ce qu’il vaut), quel est le meilleur modèle ouvert du moment. Ça a l’air d’être Qwen 3.7 Max, qui tourne sur 4 cartes H200. C’est quelque chose qui à l’achat vaut à peu près 120 000 euros (le lot de 4), auxquels il faut que tu rajoutes probablement à peu près autant pour connecter l’ensemble.
C’est le prix d’un petit équipement industriel. C’est le prix d’un achat modeste pour une petite commune. C’est le prix d’un tracteur, d’un rond-point. Et pour ce prix-là, tu as un des meilleurs modèles du moment qui tourne chez toi.
Il y a peu de technos qui restent aussi accessibles que ça! Ça te coûtera plus cher d’équiper un atelier pour travailler de façon professionnelle du métal que pour faire tourner un modèle à la pointe de la recherche en IA.
Quelque chose peut être à la fois ouvert et aux mains des élites
C’est possible, mais pour que ce soit possible, il faut une reddition générale.
C’est possible de maintenir une oppression sans violence, mais ça demande une soumission totale des opprimés.
C’est pour ça que je réagis aussi fort aux arguments qui disent qu’il faut rejeter en bloc toutes ces technos au lieu de se les approprier. Y renoncer c’est une condition nécessaire au contrôle par les élites de ces technos qu’ils pourront alors nous imposer. C’est un but contre son camp total.
Imagine des révolutionnaires à qui on donne des armes et qui décident qu’en fait, comme les oppresseurs ont des armes, eux ne veulent pas les utiliser.
Encore une fois, désolé pour cette confrontationnalité, c’est pas une posture facile à tenir je trouve, de défendre l’IA. Merci pour tes retours.
Sur le rebond
L’effet de rebond n’implique pas de changement justement, juste une intensification. Ou alors, c’est que le changement se trouve dans les objectifs plutôt que dans l’utilisation. Le travail devient plus efficace, et bah juste on travaille pareil ou plus pour produire énormément. Le chauffage devient moins cher, et bah on chauffe plus pour se mettre à 25 en hiver. Les cartes graphiques deviennent plus puissantes, et bah on développe des jeux plus gourmands.
Sur les Fablab
J’en profite pour souligner que j’ai énormément de respect pour les travaux faits dans les FabLab et tous les ateliers et les processus d’educ pop. Chapeau à toi et aux autres, on est d’accord il faut carrément plus d’éducation sur tous ces sujets. Mon “Mais qui fait ça” visait plus à montrer que c’était peu de monde et pas que c’était personne. J’ai bien conscience du pouvoir de l’open source, qui m’a permis de ressusciter des vieux PC, de me faire un setup pour une télé, d’avoir un serveur pour moi et ma copine, etc. Mais je maintiens que ça reste quelque chose de l’ordre du potentiel seulement, un potentiel qui s’actualise pour une part de personnes non-négligeable mais presque, mais qui dans les faits reste mis en échec par les élites économiques, juste parce qu’elles proposent plus simple et plus abordable.
Sur le contrôle des modèles ouverts
Tu t’es bien exprimé, c’est moi qui ai fait un peu trop de raccourcis dans ma tentative de simplification pour que ce soit clair.
J’ai bien conscience qu’il y a une différence entre “main-mise totale” et “contrôle par les financements”, je voulais juste dire que de mon point de vue c’était la même famille de problème, l’un étant juste plus extrême que l’autre. Et que du coup, de mon point de vue c’est étrange de dire “il n’y a pas de problème de contrôle, mais il y a des problèmes de contrôles”. Autrement dit, pour moi, tant que quelque chose dépend financièrement de X pour survivre, il est “aux mains de X”.
Ceci étant dit, ton idéal est intéressant et peut couper court à l’argument du contrôle par le capital (même si ça reste pour l’instant un idéal, tout est contrôlé directement ou indirectement par le capital aujourd’hui). Je pense que ça ne coupe pas les problèmes sociaux engendrés par le développement de l’IA, ou en tout cas par lesquels le capital a pu accélérer le développement de l’IA (travailleureuses du clic, extraction des minerais rare, usines d’assemblage avec conditions de travail horribles, etc). Mais en tout cas ça rendrait l’IA tout de suite plus sympathique et sûre.
Sur le local
Je pense mieux comprendre le sens de ton argument : c’est plus accessible qu’on ne le pense de sortir des grandes entreprises pour l’hébergement de modèles locaux.
Je te concède le point sur l’hébergement, je pense que je n’en avais pas autant conscience, merci de l’info.
Du coup il reste juste les problèmes entraînement des modèles et de proposition de système plus simples et abordables par les grandes entreprises.
Sur l'usage des technologies des élites
C’est marrant, ce passage fait écho à plein de trucs intéressants dont on avait discuté.
Pour être franc, je pense que la reddition est déjà là. Les GAFAM ont un monopole, et pourtant des alternatives fonctionnelles existent. Les anti-AI ne participent pas à établir cettz reddition, uniquement à la maintenir éventuellement.
Je pense aussi que la théorie de “le meilleur moyen de sortir du contrôle des GAFAM, c’est de construire un monde où leurs produits ne sont pas nécessaires, même sous forme d’alternative” est très séduisante. Parce que l’autre théorie c’est “luttons pour un monde où leurs produits deviennent nécessaires, mais on leur arrache des mains”, et ça me paraît tellement moins probable.
En fait, je crois que tu conçois le problème comme si les big tech ne reposaient que sur la flemme des gens, passivement, et qu’il suffirait de convaincre assez de personnes pour sortir de leur domination. Mais en fait, les big tech sont actifs et luttent pour créer et entretenir la flemme chez les gens. Donc c’est nous contre les big tech, et si on joue au même jeu, perso je parie pas qu’on gagne. Par contre si on joue dans des domaines différents (construire des mondes low-tech plutôt que high-tech), j’ai plus d’espoir (je parierai pas non plus en fait, mais à choisir je prendrai le deuxième).
Perso, je suis assez séduit par les révolutions qui refusent les armes, si promises à l’échec soient elles, parce que les révolutions armées que j’ai connues ont toutes échouées aussi. Quitte à se planter, autant le faire d’une manière en accord avec mes valeurs.
Du coup, je rêve d’un monde où l’IA n’est pas nécessaire, où les grandes entreprises n’ont pas réussi à l’imposer rentablement, mais où de braves volontaires dans les Fablab parviennent à utiliser une version amoindrie de l’IA, moins puissante qie ce qu’elle aurait pu être, mais qui permet quand même d’améliorer le quotidien ici ou là.
Mais je crois qu’au final, on rêve tous et toutes juste de monde où les GAFAM ont perdu, et du coup on part forcément perdant.e.s
Y’a pas de règles, la vérité fait le grand écart entre les deux.
Un esclave grec mycénien était plutôt bien traité pas loin d’un homme libre a priori, selon les traces. En Grèce athénienne le statut était en gros citoyen ou esclave, avec des ratio atteignant 1:4 donc la encore ça devait pas être trop pourri en moyenne sinon la ville n’aurait pas été aussi reussie. Sauf bien sur dans les mines, a la rame… Les boulots atroces. Les esclaves athéniens avaient d’ailleurs le droit de propriété, et presque tous les droits sauf la politique.
Un travailleur African dans les champs de canne a sucre américains était tué a la tache (moyenne de vie 7 ans dans mes souvenirs) et c’était moins cher d’en racheter un neuf, jusqu’à la fin du commerce triangulaire, a partir de quand les esclaves féminins faisaient du coup parti de la logique de reproduction du “cheptel” et on a commence a les économiser.
Un serf européen du moyen âge bossait en moyenne une trentaine d’heures par semaines avec de fortes variations saisonnières, mais vivait dans la précarité.
Pour les esclaves ottomans c’était total variable en fonction du type d’esclave.
Un esclave viking ou chinois en chiait sa race.
Et la c’est uniquement centré sur l’esclave de travail (production, services a la domus) pas sur l’esclavage sexuel qui est une horreur différente.