il y a cinq piliers de l’intelligence émotionnelle qui ne sont pas présents dans l’IA, du tout :

• la conscience de soi, si elle fait de la métacognition sur deux petits bouts, ce n’est pas grand-chose
• la maîtrise de soi
• la motivation, il n’y a pas de motivation dans tout ça
• l’empathie, c’est de l’artificiel. J’en faisais, je peux vous dire que ça n’a rien du tout de génial
• les aptitudes sociales, rien de cela.
  >>>

Il y a plusieurs autres questions par rapport à la liberté. Il y a celle d’avoir la capacité d’engager sa propre liberté dans la recherche, de croire qu’il suffit de poser une question pour savoir, non, ce n’est pas comme cela que ça marche et puis il y a la question de la délégation de la décision. Ce qui est spécifique à l’Homme, c’est qu’il est un être libre, fait pour la relation. Le pape revient à plusieurs reprises là-dessus.
>>>

Ces machines n’ont rien d’#altérité, elles ont pas de qualia, vous voyez ce que sont les qualia [5] ? C’est l’expérience de vie, c’est l’expérience du sentir, de l’émotion, du bleu, du rouge, de tout ce qui est autour de nous. Nous ressentons, nous imaginons des choses, ce que la machine ne peut pas du tout ni en raisonnement ni de façon interne dans une quelconque modélisation. Aujourd’hui les LLM, dont tout le monde dit que c’est extraordinaire, qu’on va arriver à l’intelligence artificielle générale, c’est du bluff !
>>>

En tant qu’enseignante-chercheuse en informatique, j’ai lu l’article fondateur On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?1 en 2021. Tous les effets négatifs observés des grands modèles de langage et des IAs génératives sont annoncés dans cet article, comme le dit d’ailleurs l’une des autrices dans un entretien récent.
>>>

Aucune technologie n’est neutre ni inéluctable. Chacune se déploie dans un certain contexte économique et politique qui oriente les choix. Cela a toujours été le cas pour le numérique, depuis le début. L’extrême concentration d’acteurs et de moyens qui préside au déploiement des IAs génératives devrait aider à prendre conscience de cet état de fait.

Bien sûr si l’on pose comme hypothèse initiale que le cerveau humain est un ordinateur, alors un très gros ordinateur va sembler très intelligent, et un plus gros ordinateur encore plus intelligent. Mais l’hypothèse initiale n’a pas de sens. Si les IAs génératives conduisent à la fin de l’humanité, ce sera en monopolisant les ressources et en aggravant les problèmes socio-environnementaux, pas en atteignant la superintelligence.

Même s’il est effectivement possible de faire des petites IAs éthiques aux impacts moindres, cela participe à l’acceptation générale de toutes les IAs génératives potentielles, dont celles qui ont un impact énorme et sont fort peu éthiques.

Nous sommes soumis en permamence à un discours politique qui vante les gains en efficacité rendus possibles par le déploiement de ces outils. Pourtant dans le cas des services publics, la numérisation à marche forcée a déjà produit de nombreux dégâts avant même l’introduction des IAs génératives,

Il est fort peu probable que l’introduction des IAs génératives améliore quoi que ce soit à une situation où la numérisation s’est accompagnée de désintermédiation totale.

dans le cas des services publics, la numérisation à marche forcée a déjà produit de nombreux dégâts avant même l’introduction des IAs génératives,

Le domaine du numérique promet des gains de temps depuis plus de 70 ans. Si la promesse avait été suivie d’effet nous devrions, soit avoir réduit le temps de travail à 1h par semaine, soit avoir multiplié la “productivité” par un facteur énorme.

Comme à chaque fois que le numérique est vendu comme moyen de gagner du temps, il faut se demander comment et avec quoi va se remplir le temps ainsi gagné.

Pour conclure sur ce point : si la promesse de “gagner du temps” est tentante, s’il peut sembler dans un premier temps que c’est effectivement le cas, il est fort prévisible que le temps gagné sera reperdu dans une accélération de tout le processus qu’on avait cherché à ainsi optimiser.

Les autres exemples de pollution abondent, de l’édition à compte d’auteur (La plateforme de publication en ligne d’Amazon est contrainte de mettre en place une limite de 3 livres par auteur et par jour)

On nous explique ainsi que les IAs permettent d’automatiser les tâches répétitives et peuvent déjà remplacer les programmeurs juniors, mais que les programmeurs seniors sont toujours nécessaires. Une première conséquence devrait sauter aux yeux : comme on ne devient pas senior sans être passé par le stade junior, la disparition des juniors devrait logiquement être suivie de la disparition des seniors.

Pour conclure ce paragraphe, parcourons Generative AI: What You Need To Know, un manuel de défense intellectuelle contre les promesses des IAs génératives, par un auteur qui a une longue expérience du métier de développeur web, et qui a d’ailleurs écrit “we’re all-in on deskilling the industry. (…) we’re now shifting towards the model where devs are instead “AI” wranglers. The web dev of the future will be an underpaid generalist who pokes at chatbot output until it runs without error, pokes at a copilot until it generates tests that pass with some coverage, and ships code that nobody understand and can’t be fixed if something goes wrong”.
(trad. iPhone:)
« Nous misons tout sur la déqualification du secteur. (…) Nous évoluons désormais vers un modèle où les développeurs deviennent plutôt des « dresseurs d’IA ». Le développeur web de demain sera un généraliste sous-payé qui bidouillera les résultats d’un chatbot jusqu’à ce qu’il fonctionne sans erreur, bidouillera un copilote jusqu’à ce qu’il génère des tests qui réussissent avec une certaine couverture, et livrera du code que personne ne comprend et qui ne pourra pas être corrigé si quelque chose tourne mal. »

Plus le temps passe, moins je suis tentée d’utiliser ChatGPT ou d’autres outils d’IA générative. Le rythme effréné des annonces et la vision du monde des promoteurs de ces outils m’ont définitivement vaccinée contre le moindre frémissement d’intérêt qui aurait pu subsister. Et je n’ai même pas abordé ici les questions de biais, de sécurité, de protection de la vie privée, …

Et quand le service reste gratuit, comme la recherche Google, Facebook ou Instagram, le modèle d’affaires publicitaire rend les services toxiques.
>>>

Nous savons déjà que les services vont devenir plus chers et que les entreprises vont fusionner jusqu’à des situations de monopoles ou d’oligopoles.
>>>

Qu’allons-nous faire de toute la puissance de calcul inutilisée une fois la mise en place généralisée de petits modèles libres, frugaux, locaux ? Certains investissements d’avenir d’aujourd’hui constituent les ruines avec lesquelles nous devrons vivre demain.
>>>

Sommaire

• Le jour où le sol s’est dérobé
• La dépendance qu’on ne sent pas
• Trois mains sur l’interrupteur
• Ce que ça dit du métier
• Travailler comme si l’accès pouvait s’arrêter
• Aller plus loin
• Sources

Les outils d’IA proposent de supprimer l’expérience, explique clairement Jessica Winter. Leurs interventions finalement «bloquent et détournent la progression naturelle et graduelle des jeunes vers la maturité cognitive».
>>>

« Depuis des années, des géants comme Apple, Google et Microsoft se livrent une concurrence féroce pour s’implanter dans les salles de classe et former les écoliers à leurs produits technologiques, dans l’espoir de fidéliser les élèves à vie.
>>>

Pendant plus d’une décennie, les entreprises technologiques ont incité les écoles à acheter un ordinateur portable par enfant, arguant que ces appareils démocratiseraient l’éducation et renforceraient l’apprentissage.
>>>
Mais après des dizaines de milliards de dollars dépensés par les écoles en Chromebooks, iPads et applications éducatives, des études ont montré que les outils numériques n’ont généralement pas amélioré les résultats scolaires ni les taux de réussite des élèves.
>>>

Les responsables scolaires, les enseignants et les parents ont décrit la limitation de l’utilisation des ordinateurs portables comme une tentative de recentrer l’enseignement sur des compétences telles que la collaboration et la communication entre élèves.¨
>>>

A Los Angeles, des parents s’en sont pris à i-Ready, une application de mathématiques et de lecture aux fonctionnalités ludiques, dénonçant justement les compétitions que l’application favorise. « Nos enfants servent de cobayes », dénonce l’association Schools Beyond Screens.
>>>

Martha Kenney, professeure d’études féminines et de genre à l’Université d’État de San Francisco, a décrit le programme d’IA de Cal State comme un outil marketing permettant aux entreprises technologiques de promouvoir des chatbots non éprouvés comme de véritables outils pédagogiques. Alors qu’ils en sont loin.
>>>

Même constat pour Audrey Waters dans un article de sa newsletter. « Google, Anthropic et OpenAI signent des contrats avec des universités. Ces entreprises sont manifestement avides de données à extraire et de nouveaux marchés à exploiter. Et ils cherchent à fidéliser à vie la seule partie de la population qui semble utiliser régulièrement leurs produits. Mais ils se moquent éperdument des valeurs et des objectifs des institutions auxquelles ils vendent leurs services.
>>>
En effet, « l’intégrité académique » – la pratique de la citation – est une véritable farce pour ceux qui ont construit leurs modèles d’IA, littéralement, en plagiant le travail d’autrui. Ces entreprises l’ont clairement affirmé : la tricherie des étudiants ne les concerne pas. »
>>>

• LibreWolf, la référence
• Vivaldi, le meilleur compromis
• Orion, le challenger
  -- Bonus Orion : les extensions Chrome et Firefox sont supportées !

« Si les PDG sont particulièrement vulnérables à la psychose de l’IA c’est parce qu’ils sont suffisamment éloignés du travail de terrain nécessaire pour générer de la valeur avec l’IA. Les LLM sont dangereux pour de nombreuses raisons, mais l’une des moins évoquées est leur capacité à manipuler les dirigeants les plus incompétents. L’IA générative est très douée pour imiter le travail, tout comme la plupart des managers et des dirigeants. Comme eux, même si elle est totalement incapable de faire quelque chose, elle prétendra le contraire et vous complimentera pour vos suggestions. Et c’est pour ça que les crétins du business l’adorent. » « Là où un humain dirait des choses agaçantes comme « c’est impossible dans ces délais » ou « on n’a pas les ressources nécessaires », l’IA répondra « bien sûr, tout de suite ! » et dépensera un maximum de ressources. »
>>>

« Les entreprises ne dépensent pas des millions, voire des centaines de millions de dollars par an en IA parce que c’est une bonne chose, mais parce qu’elles sont dirigées par des personnes totalement incompétentes. L’IA générative est un véritable aimant pour les surveillants, les mouchards, les incapables, les flagorneurs et tous ceux qui détestent travailler et aiment rabaisser les autres. Autrement dit, elle flatte les ratés qui pensent qu’apprendre ou exceller dans un domaine est une perte de temps, car ils méritent de faire ce qu’ils veulent sans le moindre effort. » Les imbéciles de l’IA du monde des affaires sont des sortes d’escrocs, à l’heure où l’escroquerie est devenue la norme pour une part alarmante de la société.
>>>

Si nous en sommes arrivés là, pour Zitron, c’est parce que la définition d’une bonne entreprise a évolué : nous sommes passés d’une entreprise fabriquant de bons produits à un prix juste, fidélisant sa clientèle et s’appuyant sur un marché durable, à une entreprise capable d’afficher la plus forte croissance boursière d’un trimestre à l’autre.
>>>

« Les problèmes que Microsoft, Google, Meta et Amazon résolvent quotidiennement sont ceux liés à leurs actionnaires. Comment assurer notre croissance ? Comment maintenir l’engagement des utilisateurs avec nos produits ? Comment convaincre nos clients de payer plus cher pour nos services ? »
>>>

« Les machines à fabriquer du consentement promues par les imbéciles du monde des affaires servent à nous couper de la réalité, comme eux-mêmes le sont », explique Zitron avec sa verve habituelle.
>>>

« Les LLM impressionnent les écrivains qui rechignent à écrire, les développeurs qui rechignent à coder, les chercheurs qui rechignent à faire de la recherche et les juristes qui se désintéressent de la jurisprudence. Ceux qui vous vantent les mérites de l’IA et vous persuadent qu’il est indispensable de l’utiliser cherchent en réalité à justifier leur propre paresse ou leur aversion pour l’effort. Quant à ceux qui sont impressionnés par les travaux des LLM, ils ont généralement des exigences crasses ».
>>>

Nous sommes confrontés au plus grand gaspillage de capital de l’histoire de l’humanité. Et l’industrie de l’IA est en train de perdre.
>>>

« L’IA est censée être un outil de rationalisation ultra-puissant qui transformera le monde du travail à jamais. Or, le résultat concret semble être : nous avons dépensé des sommes considérables pour quelque chose qui enthousiasme nos managers les moins compétents », explique Zitron avant d’analyser la profondeur de la bulle économique de l’IA, son grand cheval de bataille, depuis longtemps. Le modèle économique de l’industrie de l’IA est totalement irrationnel, répète celui qui n’a cessé d’en documenter les terribles excès. Il n’y aura pas de méthodes miracles pour rendre profitables des services facturés 100 ou 200 dollars par an quand ils en coûtent des milliers. « L’une des plus grandes erreurs que nous puissions commettre est de croire que les riches et les puissants ont la moindre idée de ce que l’avenir leur réserve, ou qu’ils ont une quelconque stratégie. »
>>>

La demande en IA demeure le fruit d’une psychose collective. Son effondrement sera présenté comme imprévisible, car personne au pouvoir n’aura pris la peine de s’y intéresser.
>>>

La demande en IA demeure le fruit d’une psychose collective. Son effondrement sera présenté comme imprévisible, car personne au pouvoir n’aura pris la peine de s’y intéresser. Pour Zitron, « nous sommes arrivés à un point où le masque commence à tomber, et la classe dirigeante, composée d’imbéciles, affiche sans vergogne son mépris pour l’humain », en annonçant notamment des licenciements sans fin. « Les dirigeants du secteur croient pouvoir bourrer le système de promesses de gains si mirobolants que la tech préférera s’autodétruire plutôt que d’admettre son erreur. »
>>>

« Ces gens ne savent plus construire des choses qui fonctionnent, et la seule chose qu’ils savent faire, c’est dépenser de l’argent et licencier. Ils ne croient qu’à la croissance, et on ne peut pas survivre uniquement ni indéfiniment grâce à des croyances et à des promesses illusoires. »
>>>

Savoir converser, typiquement, ne signifie pas être expert d'un sujet ni avoir une idée quelconque de vérité. Je peux être excellent à converser à propos de la météo, on peut apprécier l'élégance de mon éloquence et ma capacité d'utiliser parfaitement toutes les nuances de la langue pour parler de la météo; mais cela ne signifie pas nécessairement que je suis un expert de météo ni que ce que je dis corresponde à la vérité.
>>>

Voilà donc la première bêtise que nous ont fait gober les GAFAM: IA = agents conversationnels. Alors que, depuis les années 1940, on développe plein d'approches computationnelles différentes et adaptées à des questions et des cas particuliers.
>>>

1. Elle serait révolutionnaire. On prend désormais la date de sortie d'un produit commercial (chatGPT) comme une date de rupture. Mais la seule rupture qu'il y a eu est une rupture publicitaire: le fait que, sous la pression immense d'une compagnie privée, les médias ont commencé à parler beaucoup de quelque chose qui existe depuis très longtemps.
   >>>
2. Ces technologies seraient "très puissantes", "très performantes" ou en tout cas beaucoup plus "puissantes" que des technologies préexistantes. Or cette "puissance" ne correspond qu'à l'énormité des investissements et à leur concentration.
   >>>
   […]
   Or la réalité est que la performance d'un agent conversationnel est souvent très médiocre: il demande des ressources très grandes pour faire une chose de manière moyennement fiable, alors qu'une autre approche computationnelle aurait pu faire la même chose de manière plus fiable et à un cout computationnel incomparablement plus bas.
   >>>

3. Les grandes compagnies numériques nous poussent à utiliser ces technologies pour tout faire. Le matraquage publicitaire essaye de nous faire croire que ces applications -- qui, en réalité, ne savent bien faire qu'une chose somme toute très limitée et spécifique, à savoir converser -- devraient être utilisées pour accomplir n'importe quel type de tâche. Par exemple: rechercher des informations. Or utiliser un agent conversationnel pour chercher des informations est une aberration totale.
   >>>

4. Des gens comme Musk et Altman (oui, désormais, on se fie à des multimillionnaires sans aucune autre compétence que l'argent qu'ils ont cumulé de manière complètement fortuite pour se faire une idée sur le monde) n'arrêtent pas de nous le dire: nous allons bientôt atteindre l'"intelligence artificielle générale".
   >>>

5. Finalement ces outils nous sont imposés comme "incontournables". En effet, les GAFAM les foutent partout et il devient presque impossible de les éviter: les moteurs de recherche nous les imposent, toutes les applications multiplient les petites icônes avec des étincelles pour signifier l'usage d'un LLM, les applications de bureautique en sont pleines... Sans qu'on puisse choisir, les sociétés commerciales dont nous sommes devenus dépendants décident désormais que nous allons utiliser des agents conversationnels pour tout faire, même quand leur utilisation n'est pas pertinente, même quand elle est complètement aberrante
   >>>

Que faut-il faire alors? À mon avis, il faudrait d'abord et avant tout arrêter d'utiliser les applications des grandes entreprises du web. Il faut les bannir, toutes: de Microsoft Word à ChatGPT en passant par Google search, Facebook, Windows, MacOS : il faut s'en débarrasser. Il faut en même temps arrêter d'écouter leur discours publicitaire. Il faudrait aussi que les médias arrêtent de le relayer.

Ne faisons pas l'erreur de Baudrillard. Le risque ne vient pas des approches algorithmiques, ne vient pas des LLMs des LxMs, ni des "machines". Le risque vient de la concentration de pouvoir et des richesses dans les mains d'une poignée d'entreprises.