Notes sur Pourquoi je n’utilise pas ChatGPT

Notes par DomPython

2026-06-29T16:15:34+02:00

En réponse aux personnes qui s’étonnent de ma position résolument anti ChatGPT j’ai fini par construire un argumentaire que je vais développer ici.
>>>

Notes par DomPython

2026-06-29T16:17:47+02:00

En tant qu’enseignante-chercheuse en informatique, j’ai lu l’article fondateur On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?1 en 2021. Tous les effets négatifs observés des grands modèles de langage et des IAs génératives sont annoncés dans cet article, comme le dit d’ailleurs l’une des autrices dans un entretien récent.
>>>

Notes par DomPython

2026-07-01T11:32:24+02:00

Aucune technologie n’est neutre ni inéluctable. Chacune se déploie dans un certain contexte économique et politique qui oriente les choix. Cela a toujours été le cas pour le numérique, depuis le début. L’extrême concentration d’acteurs et de moyens qui préside au déploiement des IAs génératives devrait aider à prendre conscience de cet état de fait.

Notes par DomPython

2026-07-01T11:33:32+02:00

Bien sûr si l’on pose comme hypothèse initiale que le cerveau humain est un ordinateur, alors un très gros ordinateur va sembler très intelligent, et un plus gros ordinateur encore plus intelligent. Mais l’hypothèse initiale n’a pas de sens. Si les IAs génératives conduisent à la fin de l’humanité, ce sera en monopolisant les ressources et en aggravant les problèmes socio-environnementaux, pas en atteignant la superintelligence.

Notes par DomPython

2026-07-01T11:36:09+02:00

Même s’il est effectivement possible de faire des petites IAs éthiques aux impacts moindres, cela participe à l’acceptation générale de toutes les IAs génératives potentielles, dont celles qui ont un impact énorme et sont fort peu éthiques.

Notes par DomPython

2026-07-01T11:40:35+02:00

Nous sommes soumis en permamence à un discours politique qui vante les gains en efficacité rendus possibles par le déploiement de ces outils. Pourtant dans le cas des services publics, la numérisation à marche forcée a déjà produit de nombreux dégâts avant même l’introduction des IAs génératives,

Notes par DomPython

2026-07-01T11:41:24+02:00

Il est fort peu probable que l’introduction des IAs génératives améliore quoi que ce soit à une situation où la numérisation s’est accompagnée de désintermédiation totale.

Notes par DomPython

2026-07-01T11:42:00+02:00

dans le cas des services publics, la numérisation à marche forcée a déjà produit de nombreux dégâts avant même l’introduction des IAs génératives,

Notes par DomPython

2026-07-01T11:43:30+02:00

Le domaine du numérique promet des gains de temps depuis plus de 70 ans. Si la promesse avait été suivie d’effet nous devrions, soit avoir réduit le temps de travail à 1h par semaine, soit avoir multiplié la “productivité” par un facteur énorme.

Notes par DomPython

2026-07-01T11:45:19+02:00

Comme à chaque fois que le numérique est vendu comme moyen de gagner du temps, il faut se demander comment et avec quoi va se remplir le temps ainsi gagné.

Notes par DomPython

2026-07-01T11:50:19+02:00

Pour conclure sur ce point : si la promesse de “gagner du temps” est tentante, s’il peut sembler dans un premier temps que c’est effectivement le cas, il est fort prévisible que le temps gagné sera reperdu dans une accélération de tout le processus qu’on avait cherché à ainsi optimiser.

Notes par DomPython

2026-07-01T11:54:20+02:00

Les autres exemples de pollution abondent, de l’édition à compte d’auteur (La plateforme de publication en ligne d’Amazon est contrainte de mettre en place une limite de 3 livres par auteur et par jour)

Notes par DomPython

2026-07-02T14:20:35+02:00

On nous explique ainsi que les IAs permettent d’automatiser les tâches répétitives et peuvent déjà remplacer les programmeurs juniors, mais que les programmeurs seniors sont toujours nécessaires. Une première conséquence devrait sauter aux yeux : comme on ne devient pas senior sans être passé par le stade junior, la disparition des juniors devrait logiquement être suivie de la disparition des seniors.

Notes par DomPython

2026-07-02T14:25:48+02:00

Pour conclure ce paragraphe, parcourons Generative AI: What You Need To Know, un manuel de défense intellectuelle contre les promesses des IAs génératives, par un auteur qui a une longue expérience du métier de développeur web, et qui a d’ailleurs écrit “we’re all-in on deskilling the industry. (…) we’re now shifting towards the model where devs are instead “AI” wranglers. The web dev of the future will be an underpaid generalist who pokes at chatbot output until it runs without error, pokes at a copilot until it generates tests that pass with some coverage, and ships code that nobody understand and can’t be fixed if something goes wrong”.
(trad. iPhone:)
« Nous misons tout sur la déqualification du secteur. (…) Nous évoluons désormais vers un modèle où les développeurs deviennent plutôt des « dresseurs d’IA ». Le développeur web de demain sera un généraliste sous-payé qui bidouillera les résultats d’un chatbot jusqu’à ce qu’il fonctionne sans erreur, bidouillera un copilote jusqu’à ce qu’il génère des tests qui réussissent avec une certaine couverture, et livrera du code que personne ne comprend et qui ne pourra pas être corrigé si quelque chose tourne mal. »

Notes par DomPython

2026-07-02T14:27:32+02:00

Plus le temps passe, moins je suis tentée d’utiliser ChatGPT ou d’autres outils d’IA générative. Le rythme effréné des annonces et la vision du monde des promoteurs de ces outils m’ont définitivement vaccinée contre le moindre frémissement d’intérêt qui aurait pu subsister. Et je n’ai même pas abordé ici les questions de biais, de sécurité, de protection de la vie privée, …