DomPythonIl y a, derrière, la théorie de Kahneman, un économiste, prix Nobel en 2002, qui parle de système 1 et de système 2 [4] :
le système 1 c’est la voie rapide, l’intuition pour les humains, très émotionnel ;
le système 2, c’est #cognitif, je réfléchis, je regarde mon passé, mon éducation.
Ces machines sont système 1, sans intuition. Ce ne sont pas des émotions, c’est un calcul sur les données qu’elles ont avalées. Vous décidez très vite derrière, c’est système 1 sur système 1, personne n’a réfléchi.
>>>
Le pape dit : « Dans l’IA sont à l’œuvre des rapports de #pouvoir, il faut les cartographier et ce n’est pas normal que ce pouvoir immense soit dans la main de quelques-uns. » Je pense que c’est un trait marquant de ce texte, je ne l’avais jamais lu avant dans des encycliques, il dit « des acteurs privés ». « Ce n’est pas normal qu’un pouvoir si grand soit dans la main de quelques acteurs privés. »
>>>
Pour moi « désarmer l’IA » c’est aussi dire que l’intelligence artificielle n’est pas du tout humaine, elle n’a rien à voir avec une super intelligence humaine, elle est autre chose. C’est une sorte d’intelligence livresque, livrée à ses données, [...]
>>>
La plus grande pauvreté, c’est la solitude. C’est d’ailleurs un des passages, la #simulation de relation n’est pas une relation.
>>>
il y a cinq piliers de l’intelligence émotionnelle qui ne sont pas présents dans l’IA, du tout :
- la conscience de soi, si elle fait de la métacognition sur deux petits bouts, ce n’est pas grand-chose
- la maîtrise de soi
- la motivation, il n’y a pas de motivation dans tout ça
- l’empathie, c’est de l’artificiel. J’en faisais, je peux vous dire que ça n’a rien du tout de génial
- les aptitudes sociales, rien de cela.
>>>
Il y a plusieurs autres questions par rapport à la liberté. Il y a celle d’avoir la capacité d’engager sa propre liberté dans la recherche, de croire qu’il suffit de poser une question pour savoir, non, ce n’est pas comme cela que ça marche et puis il y a la question de la délégation de la décision. Ce qui est spécifique à l’Homme, c’est qu’il est un être libre, fait pour la relation. Le pape revient à plusieurs reprises là-dessus.
>>>
Ces machines n’ont rien d’#altérité, elles ont pas de qualia, vous voyez ce que sont les qualia [5] ? C’est l’expérience de vie, c’est l’expérience du sentir, de l’émotion, du bleu, du rouge, de tout ce qui est autour de nous. Nous ressentons, nous imaginons des choses, ce que la machine ne peut pas du tout ni en raisonnement ni de façon interne dans une quelconque modélisation. Aujourd’hui les LLM, dont tout le monde dit que c’est extraordinaire, qu’on va arriver à l’intelligence artificielle générale, c’est du bluff !
>>>