Comme d’habitude, Mr Phi a bien fouillé les articles sur le sujet et donne un état de l’art sur les preuves mathématiques par des LLMs

  • Takapapatapaka@tarte.nuage-libre.fr
    link
    fedilink
    Français
    arrow-up
    2
    ·
    23 days ago
    Sur le capitalisme

    Merci pour toutes les précisions !

    Je tiens à préciser que le fait que la émcanique de compétition incite le capitalisme à s’auto-détruire dans une certaine mesure, pour moi c’est purement de facade, ou purement théorique. Mon analyse, c’est que le pouvoir économique est un pouvoir, et que comme les autres il pousse les gens qui en ont à en vouloir plus, et je pense que cette mécanique de fond compense, voire dépasse tous les effets positifs que la compétition pourrait avoir.

    Mais sinon, tout à fait d’accord, surtout sur le fait que la compétition, c’est quelque chose qui vient tempérer le capitalisme plutôt que l’aggraver. D’accord aussi sur le fait que la fin du capitalisme n’arrivera pas par le biais d’un grand soir ou d’une révolution au sens classique, mais j’ai peur que les coopératives ne soient pas la clef non plus : dans mon expérience, il faut beaucoup de garde-fous pour ne pas recréer des dynamiques capitalistes au sein des SCOP et des coopératives en général. Alors, c’est vachement mieux que des grandes multinationales, mais je n’y vois pas une vraie rupture avec le capitalisme. Ceci étant dit, si tu entendais ça comme l’outil qui amènera la fin du capital, alors ce n’est pas impossible, et je souhaite que tu ais raison.

    Sur les transitions open source vers closed source

    Certes, le passage en fermé n’est pas très fréquent, et peut toujours être contourné, même si ça reste des bâtons dans les roues du logiciel libre dans ces cas-là. POint pour toi.

    Merci pour les liens vers l’activation steering !

    Jetez pas la pierre à ceux qui avouent qu’ils le font, parce qu’ils le font vraiment tous. Et ne jetez pas non plus la pierre à ceux qui ne font que du open weight, parce que souvent, légalement, ils n’ont pas la possibilité de faire vraiment du vrai open source.

    Excellent résumé de ton travail de nuance, merci encore <3

    Contrairement à une croyance populaire qui vient d’une publi qui est a été assez mal comprise par le grand public, ça ne rend pas les modèles moins bons de faire ça, en tout cas pas sur une génération.

    Ok, je pensais que c’était le cas ! Alors après, même avant de lire ça, je me disais que si tu constitue ton dataset avec une IA vraiment poussée et dont on sélectionne un peu les résultats, ça avait des chances de marcher. J’ai toujours l’impression que si par contre tu fais ton dataset avec tout le slop pondu sur internet par une quantité de modèles et de prompts à la qualité beaucoup plus variable, forcément ça donnera des résultats mauvais. Mais c’est peut-être faux aussi du coup.

    • keepthepace@tarte.nuage-libre.frOP
      link
      fedilink
      Français
      arrow-up
      2
      ·
      23 days ago

      Haha, alors note que par rapport à d’autres personnes dans l’extrême gauche, moi j’ai plutôt tendance à considérer que le capitalisme, c’est à la fois plus facile d’en sortir qu’on le pense, mais également moins fondamental:

      C’est une étape importante et nécessaire, mais ça ne nous empêche pas de lutter contre plein d’autres mécanismes d’oppression qui existent et qui ne vont pas magiquement disparaître lorsque l’on va changer la structure de propriété des moyens de production. On aura encore à parler du post-colonialisme, du sexisme, de diverses dérives religieuses… Toutes ces choses-là ne vont pas disparaître par magie, et on peut même les combattre dès aujourd’hui.

      Franchement, la publication originale, je ne sais même pas si elle vaut encore le coup d’être citée. Elle démontre un effet sur un dataset particulier (wikitext2) de qualité sur un modèle de 125 millions de paramètres. Ils ont démontré un fait assez évident qui est que lorsque tu as un modèle imparfait qui essaye de prédire un dataset, il fait plein d’erreurs. Et que si tu réinjectes ce dataset plein d’erreurs dans l’entraînement d’un nouveau modèle, il va en faire encore plus. Ce n’est absolument pas garanti que ça se généralise à des plus gros modèles ou à d’autres datasets plus gros qui généralement sont de moins bonne qualité.

      Ce n’était pas un résultat particulièrement surprenant, et ce n’était pas un particulièrement bon argument pour dire que les données synthétiques ne fonctionnent pas. C’est un point dans le débat, mais la presse s’en est emparée en faisant croire que le débat était tranché, ce qui n’était absolument pas le cas. Les données synthétiques ont une importance de plus en plus grande et on les utilise tout le temps.

      Je compare ça à la publication scientifique qui avait prouvé que la force musculaire d’un bras humain n’était pas suffisante à actionner des ailes (correct) et en a conclu que les humains ne pourraient jamais voler.

      PS: wow, pas de balise spoiler! On arrive à la fin de la conversation?

      • Takapapatapaka@tarte.nuage-libre.fr
        link
        fedilink
        Français
        arrow-up
        2
        ·
        23 days ago

        C’est dingue à quel point on peut être d’accord et pas d’accord x)

        Perso je pense que sortir du capitalisme, c’est fondamental (après fondamental par rapport à quoi, vaste débat, mais au moins par rapport aux gens qui y vivent), et que c’est particulièrement difficile (je tiens le capitalisme pour un truc rampant qui va s’accrocher à son caillou comme un crabe au fond de son trou).

        Par contre, ton paragraphe sur les autres oppressions, 100% d’accord, pas une seule nuance à apporter. Comme quoi !

        Ok, merci pour les explications ! Et oui, dinguerie que cela, la discussion semble trouver son terme 😱 (après je prépare ma réponse sur l’autre fil, j’ai pas trop le temps en ce moment, mais ça arrive promis !)

        • keepthepace@tarte.nuage-libre.frOP
          link
          fedilink
          Français
          arrow-up
          2
          ·
          23 days ago

          Bon ok, c’est un peu de la provocation. Ça reste un gros morceau, mais c’est qu’un seul item sur la longue liste des choses à améliorer.

          Et surtout, je ne pense pas qu’on va le supprimer d’un coup, je pense qu’on va l’user à la longue. Et que oui, comme tu dis, ça va s’accrocher à son caillou, mais ça va devenir de moins en moins important dans le fonctionnement de l’économie.

          Ça paraît aussi inatteignable aujourd’hui que la reconnaissance du mariage homosexuel dans les années 80 mais personnellement, je vois les mentalités progresser et je ne vois pas grand-chose qui puisse endiguer les efforts. Je vois plein de trucs qui peuvent aider à aller plus vite. Mais au moins, je trouve que les choses vont dans le bon sens.

          • Takapapatapaka@tarte.nuage-libre.fr
            link
            fedilink
            Français
            arrow-up
            2
            ·
            22 days ago

            100% d’accord, sauf sur le “pas grand chose qui puisse endiguer les efforts”. Je pense que le consumérisme et toute l’influence par le biais des médias et par la suite des réseaux sociaux sera l’obstacle majeur (et d’ailleurs je me sens conforté dans cette analyse par le fait que la possession des médias est une bataille ouverte). Je pense du coup qu’on a même reculé en terme de conscience des effets néfastes du capitalisme, par rapport au début du XXe siècle. Je me rends pas compte des chiffres, mais j’ai quand même l’impression que les masses travailleuses sont moins conscientes d’elles-mêmes et de leur rapport au capital qu’avant. Alors, je pense quand même qu’aujourd’hui on progresse vers autre chose, et qu’on a progressé avec des acquis sociaux tout au long du siècle (qui ont joué dans cette perte de conscience du prolétariat), mais je ne lis pas l’avenir proche (les prochains siècles) comme acquis à cette cause.

            • keepthepace@tarte.nuage-libre.frOP
              link
              fedilink
              Français
              arrow-up
              2
              ·
              22 days ago

              Je reconnais que mon optimisme est totalement subjectif et probablement lié à ce que j’observe dans ma propre bulle.

              Par contre, de voir quelque chose comme la majorité des jeunes américains qui considèrent que “capitalisme” est une valeur plus négative que “socialisme”, ça me fait dire que la bataille culturelle, elle est plutôt bien engagée.