De même pour la recherche de failles de sécurité informatiques, un sujet où les LLM sont souvent perçus comme ayant une contribution positive nette au champ d’activité, mais au final ils produisent de la quantité plutôt que de la qualité : les chercheurs en sécurité sont exaspérés par la quantité de slop, de faux positifs, de “failles” non exploitables, et au final évaluent la contribution des LLM comme mineure malgré les apparences et le marketing qui prétend avoir révolutionné le milieu.

Ça soulève la question du coût éthique et environnemental de la contribution de ces LLM au monde de la sécurité informatique, qui doit être tout aussi astronomique que celui des preuves mathématiques. Le sujet commence à faire le tour des chercheurs en sécurité dernièrement, qui se sentent impuissants face aux contributions des LLM vu qu’elles doivent toutes être analysées et prises au sérieux pour éviter une crise de sécurité majeure, mais sont devenues avant tout une source de burnout humain et de malaise ethique pour beaucoup de ceux qui doivent passer leur temps à les analyser et prendre au sérieux.

Une accélération technologique peut (et doit!) être une bonne chose pour les humains, mais clairement ça ne le sera pas sans en arracher la propriété exclusive aux grandes entreprises capitalistes. Si au lieu d’être une course à produire des résultats rapides en remplissant des datacenters énergivores, la recherche mathématique et de failles de sécurité se faisait sur des machines déjà existantes, qui sont certes beaucoup beaucoup plus lentes mais ont le mérite de déjà consommer de l’énergie même au repos, on arriverait à terme au même résultat. La puissance de calcul collective non exploitée sur la planète est colossale, c’est bien un symptôme du capitalisme qu’on préfère en créer toujours plus pour les causes individuelles d’entreprises en quête de profit plutôt que de communaliser et d’exploiter ce dont on dispose déjà pour le bénéfice collectif.

À rajouter à cet article, un grand nombre de médaillés Fields qui affirment que la résolution de problèmes mathématiques par des méthodes algorithmiques n’a aucun bénéfice pour le champ des mathématiques, vu qu’au final c’est juste du bruteforce qui ne nous aide pas à étendre notre compréhension ou à créer de la nouvelle théorie dans le milieu. C’est pour ça qu’il faut autant de temps pour que les propositions de solutions à ces problèmes mathématiques par les LLM soient vérifiées, ça n’intéresse pas les mathématiciens si ça ne nous apporte rien de nouveau, ce sont juste des preuves pour la preuve, pour collectionner les stickers “on l’a fait” à coller sur le marketing de leur produit. D’autant plus frustrant pour ces mathématiciens qu’ils le disent dans leur lettre ouverte sur le sujet : ils voient très bien l’utilité potentielle des LLM aux mathématiques, et les utilisent déjà comme outils, c’est leur usage capitaliste qui ne produit que du temps perdu et de la pollution, mais c’est sur celui-là que choisissent de se concentrer les grandes entreprises du milieu. C’est la même vibe que celle qui est en train d’émerger dans le milieu de la sécurité informatique.