Comme d’habitude, Mr Phi a bien fouillé les articles sur le sujet et donne un état de l’art sur les preuves mathématiques par des LLMs
Comme d’habitude, Mr Phi a bien fouillé les articles sur le sujet et donne un état de l’art sur les preuves mathématiques par des LLMs
Franchement, quantifiez l’impact écologique de l’IA avant de le dire “énorme”.
Il y a énormément d’activités humaines qui ont un impact nul, voire négatif, qui ont un impact écologique bien plus grand.
Quant à l’impact social, oui, il me paraît clair qu’il est énorme, il est gigantesque. Par contre, il ne m’apparaît pas évident qu’il soit négatif à long terme. Si on sort enfin de la tyrannie du travail et de l’obligation de travailler pour avoir droit à la survie, ce sera la plus grande avancée sociale de notre vivant.
Ouais, j’ai hésité à mettre impact énorme “dans les années qui viennent”.
C’est sûr que d’un côté, l’impact écologique réel de l’IA est discutable, c’est impossible de s’y retrouver. Il y a des exagérations dans les deux sens : oui, ça ne consomme pas tant que ça comparé à d’autres secteurs, mais ça be génère pas 0 émissions contrairement à ce qui a pu être sous-entendu. Entre les impacts de construction de datacenters et l’apports d’électricité produite par des sources fossiles (sachant que même les sources decarbonées ont un coût écologique à leur construction, qui est infime une fois étalé sur leur production mais qui existe), il y a forcément un impact à considérer, même s’il est relativisé.
Les apports de l’impact social, on verra bien, j’aimerais être aussi positif que toi. Jusqu’ici toutes les révolutions technologiques n’ont pas vraiment réduit la quantité de travail par rapport à une vie humaine, elles ont juste changé l’organisation du travail et la productivité. Peut-être que celle-ci est la bonne, mais je ne veux pas me faire de faux espoirs perso
Moi, je veux bien parler des gains et des coûts. Et je veux bien qu’on regarde le résultat net. Mais je refuse de le faire avec des gens qui ne veulent pas quantifier. La comparaison que je faisais à une époque et qui m’apparaissait assez pertinente, c’est que les gros modèles open source émettaient à peu près en CO2 autant qu’un avion faisant un vol transatlantique. J’utilisais cette base pour dire qu’une conférence internationale sur un sujet de recherche, c’était à peu près le même bilan carbone.
Il y a un certain consensus pour dire que les conférences internationales de recherche, c’est quand même un truc utile. Je pense qu’on peut probablement trouver plus d’avancées dans la recherche liées à des modèles d’IA que dans leur équivalent CO2 en conférences internationales. Je veux dire, rien que Alpha Fold nous fait faire une telle avancée qu’on a un offset pour un petit moment.
Et cette vidéo parle entre autres d’un aspect dont quiconque a fait un petit peu de recherche réalise la portée: Les LLMs aujourd’hui ont une immense culture scientifique dans tous les domaines et sont très bons pour faire de la recherche documentaire dans des domaines très différents. Le boost que ça donne en recherche d’avoir l’équivalent de 5 à 10 personnes qui font ta biblio, Je pense qu’il y a 10 ans, tous les chercheurs en rêvaient.
Bah quand même, si, et ce graphe ne tient pas compte des années de retraite et d’étude, bien plus nombreuses qu’il y a un siècle.
On notera quand même que toutes les professions qui avaient pour but principal d’utiliser la force musculaire ont disparu. Il y a toujours des gens qui font de la manutention, mais ils le font avec des machines. Et ça démultiplie leurs capacité de transport.
Le progrès technologique, lui, a tenu ses promesses, mais ce qui s’est passé, qui a fait louper le calcul qui nous promettait la fin du travail, c’est qu’on s’est rendu compte que les gens préfèrent avoir beaucoup plus de confort plutôt que de travailler moins. C’est enfin un calcul dont on est un petit peu en train de sortir avec la critique de la société de consommation. Mais aujourd’hui, si tu veux vivre comme quelqu’un de 1880 dans un logis insalubre (selon nos standards) sans eau et sans électricité, ça ne te coûtera pas très cher et tu peux travailler à temps très partiel pour ça.
Ouais, déjà qu’en quantifiant le débat est loin d’être tranché, sans quantifier c’est juste donner son ressenti on est d’accord.
Je ne relève pas particulièrement la comparaison avec les vols internationaux, je ne comprends pas bien si c’est l’usage total, un usage personnel ou l’entraînement du modèle qui correspond à un vol transatlantique. Quoiqu’il en soit, d’accord sur deux points : c’est pire de prendre l’avion, et à peu près autant utile, et on peut trouver des domaines où l’IA est particulièrement utile.
Sur la réduction du temps de travail, oui on est en pente descendante depuis le XIXe siècle, mais à l’échelle de l’histoire de l’humanité globale, c’est pas drastiquement descendu. Certaines révolutions ont contribué à le diminuer (notamment l’usage du pétrole), mais d’autres l’ont fait augmenter (la révolution industrielle et le travail en usine). C’est touchy, ça nécessite de définir le travail (faire ton potager ou ton asso le soir après le boulot, c’est du travail ?), mais à très grande échelle je juge que ça stagne, avec une tendance à l’amélioration récemment.
MDR, je ne peux qu’espérer que c’est une généralisation dont l’excès est assumé, parce que clairement non. Déjà, on va mettre de côté les pays en voie de développement. Mais même dans notre société, je sors de ma journée dans les vignes, j’ai pioché, j’ai ébourgeonné, j’ai cisaillé des branches. Oui, le secteur s’est énormément motorisé, mais y’a toujours de quoi bosser avec tes mains (on est d’ailleurs plus nombreux.ses côté ouvriers viticoles que côté tractoristes). Pour l’anecdote, les machines conduisent à de nouvelles tâches, ou en rendent certaines essentielles : par exemple, les machines à vendanger ne font pas le tri entre grappes et merdes qui traînent dans la vignes, donc c’est essentiel de virer certaines plantes qui résistent aux produits et seraient récoltées en même temps que le raisin, et pour ça on pioche. En vendanges à la main, ce serait pas un problème.
Sur l’équilibre confort / travail, on est plutôt d’accord, même s’il faut quand même souligner que c’est pas uniquement “les gens préfèrent du confort que de travailler moins”, c’est “la société a imposé le confort”, imposé à la fois au sens de suggérer massivement (société de consommation, pubs, toussa toussa) et au sens d’empêcher ou de complexifier le manque de “confort” (aujourd’hui, vivre sans voiture peut être un handicap majeur selon ta situation, et vivre sans téléphone/ordi idem).
Et dans le même bloc, à nouveau, la comparaison avec le XIXe siècle est légitime, mais ça reste une des pires périodes de l’humanité. Si je veux vivre aujourd’hui comme au Moyen-Âge (matériellement, pas dans l’organisation sociale), bah c’est vachement compliqué en fait. Je vais pas te mentir, perso avoir une vieille bicoque, un potager, et un boulot dans les champs du village, même sans eau courante et sans électricité, ça me chauffe bien, mais je suis bloqué pour l’accès au logement, l’accès au bois, l’accès à l’eau (rivières turbo-polluées, sources contrôlées par la communauté, etc.). Ça me va que les choses soient comme ça, qu’il faille faire avec, mais qu’on ne vienne pas me dire que je choisis tout ça parce que j’aime mon petit confort, j’ai pas eu mon mot à dire, et les masses non plus.
Chaque fois, il y a ce malentendu, alors que pourtant, j’essaie de prendre des précautions oratoires. Je ne dis pas que les métiers musculairement fatigants ont disparu. Je dis que les métiers où tu es deux fois productif quand tu es deux fois plus fort, eux, ont disparu. Être capable de porter un sac de 80 kg au lieu d’un sac de 40 kg, ça rendait un docker deux fois plus productif.
Reste quelques déménageurs, reste quelques métiers au niveau de la récolte en effet. Contre ce qu’était la grande majorité des boulots autrefois.
Je doute que les esclaves étaient aux 35 heures et partaient à la retraite à 60 ans.
Il y a un mouvement dont je me méfie beaucoup qui est une espèce de romantisation des périodes antérieures sur lesquelles justement on n’a pas de stats. Ça ne coûte rien d’affirmer que les paysans du Moyen-Âge ne travaillaient que deux heures par jour en moyenne. Dans les faits, j’ai de gros doutes.
Pour éviter un malentendu, j’éviterais l’usage du mot “toutes” et “disparu”. Parce que même dans ta nouvelle explication, la phrase prise pour son sens immédiat est fausse : les gars deux fois plus costaud que moi sont deux fois plus loin dans les rangées. Ce genre d’effet n’a pas “disparu”.
Ceci étant dit, j’ai été très à cran sur l’usage d’une tournure absolue, et je te présente mes excuses pour ça, c’est un déclencheur chez moi. Je reconnais que ton argument tiens même quand on le réduit aux faits : les machines nous rendent plus productifs et rendent le travail moins pénible dans son ensemble. Je pense pas qu’on ait besoin de dire que “tous les métiers musculairement pénibles ont disparu”.
Les esclaves étaient certainement pas aux 35 heures, mais c’est pas garanti qu’iels bossaient plus que les ouvriers du XIXe. Ça dépend beaucoup des cas, mais dans l’idée, ton esclave, c’est ta propriété, s’iel crève, c’est ton patrimoine que tu perds, donc tu as intérêt à bien lea traiter et à pas trop lea fatiguer. Tes ouvriers et ouvrières, tu t’en fous, s’iels crèvent, d’autres viendront.
Le risque de romantisation des périodes antérieures est avéré, ceci dit il faut lui adosser le phénomène inverse, ces périodes ont souvent été dépeintes comme des périodes horribles, la vérité est sans doute quelque part entre les deux. Je maintiens qu’à mes yeux, les conditions matérielles de vie se sont détériorées pour l’humanité à deux moments de son histoire au moins : la sédentarisation et la révolution industrielle. A chaque fois, je pense qu’on peut en faire la même analyse à gros traits : ce ne sont pas les bonnes conditions de vie pour toutes et tous qui permettent l’émergence ou le renforcement de pouvoirs, ni l’avantage reproductif d’une partie de la population. En d’autres termes, ce n’est pas nécessairement parce que les gens sont plus heureux qu’iels se reproduisent plus, ni que des structures sociales fortes émergent. A mon sens, les deux fois, il y a eu un gain de productivité qui a impliqué une dégradation des conditions de vie immédiates, mais a permis une amélioration sur le très long terme.
Et comme j’ai précisé, je ne parle pas des structures sociales du Moyen-Âge (donc du nombre d’heures de travail), mais bien du niveau de vie matériel. Si tu y rajoutes les connaissances médicales d’aujourd’hui, je maintiens que c’est clairement un niveau de vie qui m’irait, et que je ne peux pas juste le choisir librement aujourd’hui.
Y’a pas de règles, la vérité fait le grand écart entre les deux.
Un esclave grec mycénien était plutôt bien traité pas loin d’un homme libre a priori, selon les traces. En Grèce athénienne le statut était en gros citoyen ou esclave, avec des ratio atteignant 1:4 donc la encore ça devait pas être trop pourri en moyenne sinon la ville n’aurait pas été aussi reussie. Sauf bien sur dans les mines, a la rame… Les boulots atroces. Les esclaves athéniens avaient d’ailleurs le droit de propriété, et presque tous les droits sauf la politique.
Un travailleur African dans les champs de canne a sucre américains était tué a la tache (moyenne de vie 7 ans dans mes souvenirs) et c’était moins cher d’en racheter un neuf, jusqu’à la fin du commerce triangulaire, a partir de quand les esclaves féminins faisaient du coup parti de la logique de reproduction du “cheptel” et on a commence a les économiser.
Un serf européen du moyen âge bossait en moyenne une trentaine d’heures par semaines avec de fortes variations saisonnières, mais vivait dans la précarité.
Pour les esclaves ottomans c’était total variable en fonction du type d’esclave.
Un esclave viking ou chinois en chiait sa race.
Et la c’est uniquement centré sur l’esclave de travail (production, services a la domus) pas sur l’esclavage sexuel qui est une horreur différente.
Bien noté, désolé je réponds un petit peu en rafale de façon abrupte à plein de personnes en même temps.
C’est tout à fait possible que le XIXe siècle représente le pic de la proportion de temps vivant travaillé. Mais il faut quand même noter qu’on n’a pas de stats qui permettent de l’affirmer avec certitude. C’est le pic de ce qu’on mesure, mais c’est aussi l’origine de ce qu’on mesure.
Et force est de constater que depuis ce pic, ça diminue.
L’autre chose à constater, c’est que la production, elle, ne baisse pas en quoi que ce soit.
en valeur, en volume. On produit toujours plus en travaillant toujours moins.
Alors il me paraît très clair que les mouvements sociaux ont joué un grand rôle dans la diminution du temps de travail. Mais il me semble également clair que le progrès technologique est la raison pour laquelle cette diminution du temps de travail a été possible sans diminuer la production.
Il y a un jeu à somme nulle entre l’augmentation du salaire horaire et les dividendes qu’on peut extraire du travail des employés. On n’a jamais vraiment réussi à tirer la corde suffisamment pour que la part des dividendes baisse en absolu. Mais on arrive à faire augmenter le salaire horaire. C’est largement les augmentations de productivité liées aux améliorations technologiques qui permettent aux deux quantités d’augmenter simultanément.
Pas de soucis pour le mode de réponse.
Pour les difficultés à mesurer le temps travaillé, elles existent, mais on a quand même des indices. Je crois me souvenir d’une vidéo de NotaBene sur le temps de travail médiéval qui concluait par “c’était sans doute plus que nos 35h, mais pas autant plus que ce qu’on s’imagine”. Et je me souviens aussi de reportages sur les sociétés de chasseurs cueilleurs actuelles et disparues qui en déduisaient que le temps de travail était d’entre 30h et 40h, mais qui soulignaient que le travail a des sens différents dans les deux cas. Bref, ça reste des indices vagues, mais mon argument n’a pas besoin de chiffrages précis, il a besoin de tendances.
Sur l’augmentation en production liée au progrès technique, je suis d’accord que ce phénomène existe, je ne cherche pas à le nier, mais à le nuancer. J’estime qu’il s’accompagne d’une évolution, partiellement choisie et imposée, partiellement souhaitable et criticable de ce qu’on considère comme nécessaire et confortable. Je pense qu’une grande partie de la persistance des problèmes sociaux, voire leur intensification, malgré les progrès techniques est due à cette adaptation des demandes. Ça porte un nom comme paradoxe je crois, en gros quand qqch est plus efficace, on en vient pas à l’utiliser moins, mais à s’habituer à le consommer plus. Et ça me paraît tout à fait pertinent d’appliquer ça à l’IA, en plus du fait qu’elle est aux mains d’élites dont les intérêts ne sont pas ceux de l’humanité dans son ensemble, pour alerter sur les risques que les progrès sociaux soient reportés, voire empêchés.
Tout ceci est d’autant plus impactant je pense quand on ne regarde pas uniquement nos sociétés européennes mais le monde dans son ensemble. Oui, le progrès technique permet certains progrès sociaux, mais ça ne veut pas dire que tout progrès technique amène nécessairement, et encore moins immédiatement, du progrès social, encore moins du progrès social massif ou total. Genre les gamins qui meurent dans les mines de métaux, sont exploités dans les usines, pour qu’on puisse avoir cette discussion sur nos appareils numériques, et que l’IA puisse construire ses datacenters, bah c’est quand même un coût social monstre, dans tous les sens du termes.
Ça me paraît crédible que les ouvriers avaient des journées plus chargées que les paysans. Parce qu’après tout, le moteur de l’exode rural, c’était aller chercher du travail en ville, car la campagne n’arrivait pas à absorber toute la main d’oeuvre. Ça peut s’expliquer par justement un travail insuffisant à faire (et donc à se faire payer pour).
Je pense que le nom que tu cherches, c’est le paradoxe du rebond ou le paradoxe de Jevons, qui l’a énoncé en constatant que plus les machines à vapeur devenaient efficaces et produisaient davantage de travail pour la même quantité de charbon, plus on consommait de charbon.
Il faut une formulation assez précise pour considérer qu’il y a un paradoxe. C’est juste logique quand c’est énoncé sous la forme « dès qu’un process devient plus rentable, ce process est plus exploité ».
Ce que les gens qui invoquent ce paradoxe manquent souvent, c’est que ce n’est pas un effet absolu, mais c’est un effet économique. Il faut que l’efficacité économique de quelque chose augmente pour que l’effet de rebond se confirme.
L’effet Jevons peut s’appliquer aux IAs, mais il faut alors admettre que ça veut dire que c’est un process rentable, pas juste un truc inutile qui gâche du temps de calcul sans aucune utilité comme je le lis ailleurs. Si on admet que c’est un process créateur de richesse, on doit alors le comparer à ce qu’il remplace pour évaluer si c’est une bonne ou une mauvaise chose. Si en consommant 1 kWh tu évites 100 km de trajet à une voiture, c’est carrément rentable.
Le problème, c’est que ça, ce n’est pas vrai. L’IA n’est pas dans les mains d’élites. Et c’est ça qui me désespère et que je me tue à répéter dans toutes les conversations à ce sujet. Les technos utilisées, elles sont ouvertes, elles sont connues, les architectures sont connues, les architectures sont publiées. Et dans le top 5 des modèles les plus performants, on a généralement des modèles ouverts (ça change littéralement toutes les semaines) que vous pouvez faire tourner sur des machines sans payer un centime de royalties à qui que ce soit et sans demander l’autorisation à qui que ce soit. Vous avez le droit de les améliorer, d’en faire un produit commercial, vous avez le droit de les désosser, vous avez le droit d’enlever la censure chinoise ou les barrières éthiques comme le font plein de chercheurs.
Alors certes, si vous prenez un modèle du top 5, la machine pour faire tourner ça, elle est un petit peu chère. Mais elle n’est pas non plus excessive. C’est de l’ordre de 200 000 dollars. C’est quelque chose qui est à la portée d’énormément d’organisations. Les modèles plus modestes que je fais tourner, qui me permettent de faire contrôler par des non spécialistes des flux d’analyse d’image assez complexes, tourne sur un PC de gamer. Et je parle pas des modèles de vision, que j’entraîne en local rapidement, cette techno étant bien plus mature que les LLMs (la révolution IA, chez les spécialistes, elle a commencé dans le domaine de la vision en 2012 avec AlexNet, le langage naturel a été conquis bien plus tard)
OpenAI, Anthropic, ils ont leur petite sauce secrète qui leur permet de se maintenir en tête du classement pendant 3 à 6 mois, mais ils sont talonnés par les modèles ouverts, parce qu’absolument personne en ce moment n’a envie justement de laisser un tel pouvoir dans les mains d’élites. Et c’est une chose qui me désespère, c’est une des victoires les plus écrasantes, les plus flamboyantes du mouvement open source, de l’idée que la recherche doit être ouverte, de l’idée que les idées sont des patrimoines communs de l’humanité. C’est une victoire super importante, c’est une victoire qui nous épargne des tonnes de dystopies au sujet desquelles la science-fiction nous a tous mis en garde. Et les héros qui mènent cette lutte ne sont absolument pas soutenus par les gens qui vont en bénéficier le plus. Ça me rend fou.
Et vous savez qui finançait les efforts ouverts ? Au début, ça a été Meta. Oui Meta de Facebook.
Ils n’ont pas fait semblant de prétendre que c’était pour des raisons idéologiques ou parce que tout d’un coup ils sont devenus des paragons de vertu. Ils ont simplement expliqué que c’est parce que c’était financièrement logique, que c’était plus efficace, que c’était dans leur intérêt. Je ne sais pas si vous vous rendez compte, mais l’open source, c’est techniquement un projet anarcho-communiste(non coercitif et non propriétaire). Et là, vous avez une des plus grosses capitalisations boursières qui dit que, de toute façon, l’open source, c’est logique pour eux. C’est plus efficace. On pourrait célébrer ça à un moment!
Et qui a pris le relais de l’open source/weight (y a un débat sur le bon terme) depuis que Facebook a arrêté ? Le Parti communiste chinois.
Alors, je ne sais pas vous, mais Meta ou le PCC, déjà, c’est un petit peu le grand écart, mais je ne fais confiance à aucun des deux. Je trouverais ça cool quand même qu’il y ait un support un petit peu généralisé pour que cette recherche puisse continuer sur des bases un petit peu plus sereines, notament en France.
Mais quand on propose d’aider Mistral ou des modèles de recherche, c’est accueilli comme une proposition d’ouvrir un portail démonique au milieu d’une école maternelle.
respire respire
Pardon je vais prendre mes pillules roses
1-3% de l’électricité mondiale projetée en 2030. C’est énorme.
Consommer de l’électricité, ce n’est pas émettre du CO2.
L’électricité, c’est la façon la plus propre de consommer de l’énergie, au point que le GIEC recommande une électrification des process et une augmentation de la production d’électricité, évidemment de façon renouvelable et décarbonée.
C’est un réflexe purement américain d’essayer de faire une équivalence entre le kWh et le CO2 émis en faisant l’hypothèse qu’on va créer de l’électricité en brûlant du pétrole ou du charbon. On ne fait plus ça en France, et le monde en sort progressivement.
Attends tu peux pas séparer la consommation de la production nécessaire pour permettre cette consommation, même l’ademe et l’aee comparent les émisisons en conséquence de la consommation
Ça dépend à quel niveau tu te places, en fait.
Si ta question c’est de savoir si une technologie a sa place dans une société renouvelable (c’est à dire qui ne consomme pas plus que ce que l’écosystème produit et qui ne détruit pas son environnement), alors c’est tout à fait légitime de dire que d’une part, une activité n’utilise que de l’électricité, et d’autre part qu’on sait produire de l’électricité de façon renouvelable et que donc cette techno a sa place dans une telle société.
Si ta question est de savoir si aujourd’hui il vaut mieux allumer ou non ta clim, le mix énergétique actuel sur lequel cette clim est branchée est en effet à considérer. C’est pour ça que, naturellement, Anakin, tout le monde est en faveur de la construction de data centers en France, où l’énergie est plus décarbonée, plutôt que d’utiliser des modèles américains et chinois, n’est-ce pas? /s
On doit arriver à un mix 100% décarboné d’électricité. C’est comme ça qu’on va sortir de la crise climatique. Ce sera plus facile si on consomme moins, c’est sûr, mais les consommations ne nous empêchent pas de faire cette transition.
Consommer de l’énergie c’est augmenter l’empreinte humaine. Le réchauffement climatique n’est que le problème actuel. Avant c’était la destruction dew cours d’eau, encore avant la disparition des forets, ça commence a être aujourd’hui la gestion des déchets de fission…
Ce genre de projection ne veut rien dire : on vient de vivre un boom de l’IA, évidement que l’empreinte du secteur a augmenté rapidement, on ne peut pas extrapoler ces dernières années aux années à venir.
On est déjà entre 1&2% aujourd’hui.
Ah effectivement la différence n’est pas énorme, mais du coup pourquoi utiliser une projection dans ce cas là ?
Parce-que quand j’ai recherché pour vérifier ce que j’avais en tête avant de poster j’ai trouvé ça en premier 😅