Avec l'imbrication de sa plateforme X et du logiciel de génération d'images Grok, Elon Musk règne désormais sur la plus grande usine à pornographie non-consensuelle, pédopornographie et dégradation de la planète. À l'heure où la Big Tech et le gouvernement des États-Unis ne forment fonctionnellement plus qu'une seule entité, l'inaction des gouvernements européens est une capitulation morale et politique historique.
La situation est simple, et peut donc être racontée très simplement. Le cinquième site web le plus visité du monde, X, qui compte 550 millions d'utilisateurs mensuels actifs (…) commercialise un logiciel qui génère, sur instruction écrite, des images pédopornographiques. Ce n'est pas un bug, un hack, ou une utilisation frauduleuse du système : c'est son fonctionnement normal.
Autre fonctionnalité du logiciel mise en avant par l'entreprise : la possibilité de générer automatiquement, sur commande et gratuitement, des images dénudées et suggestives d'hommes, de femmes et d'enfants (mais surtout, surtout ces deux dernières catégories de personnes), qu'on appelle deepfakes.
Entre le 5 et le 6 janvier, selon Bloomberg, le logiciel a généré 6700 images de nudité non-consensuelle toutes les heures. (Parallèlement, les cinq plus gros sites fournissant un service de deepfake similaire en généraient 79 par heure.) Selon le rapport de l'ONG française AI Forensics, sur 20 000 images générées par le logiciel, 53% présentent des personnes dénudées, dont 81% de femmes, 2% de mineurs et 6% de personnalités publiques
Pire encore, AI Forensics a découvert que Grok pouvait également générer du contenu à caractère de propagande nazie et pro-État islamique. Le 7 janvier, Wired révélait, à nouveau en partenariat avec AI Forensics, que le site et l'application Grok, distincts de la plateforme X mais appartenant à xAI, permettent d'aller encore plus loin et de générer des vidéos mélangeant pornographie et imagerie gore et violente, hentai (manga à caractère pornographique) et deepfakes de célébrités. 10% des 800 photos et vidéos observées par l'ONG concernent du matériel pédopornographique. Les premiers jours de janvier, rapporte le Guardian, les demandes empirent. Bikinis couverts de svastikas. Corps de femmes recouverts d'un liquide blanchâtre, couverts de bleus, ensanglantés, corps attachés. Corps de femmes racisées sexualisées dans des situations de déportation. Photo de Renee Nicole Good, assassinée de sang-froid par l'ICE, modifiée par Grok pour y ajouter des impacts de balle. Convergence des humiliations.
Ces images sexualisées, générées sans consentement des personnes visées, contreviennent aux conditions générales d'utilisation de l'entreprise. Elles sont en outre illégales au regard de la loi française SREN (Sécuriser et Réguler l'Espace Numérique), adoptée le 21 mai 2024, qui prévoit notamment, après saisine de l'Arcom, le blocage des sites pornographiques qui ne contrôlent pas l'âge de leurs utilisateurs, leur déréférencement des moteurs de recherche sous 48 heures et, en vertu de l'article 226-8-1, deux ans d'emprisonnement et 60 000 euros d'amende pour quiconque crée et diffuse ces "hypertrucages" pornographiques. Lorsqu'il s'agit de pédopornographie, l'article 227-23 prévoit a minima 5 ans d'emprisonnement et 75 000 euros d'amende. Pour reprendre l'acronyme inventé par le théoricien des médias Stafford Beer, "the purpose of a system is what it does" (POSIWID) – la fonction d'un système s'identifie via ses effets concrets. Dont acte: au 10 rue de la Paix, à Paris, se trouve le siège français de X, la plus grosse usine à pornographie et pédopornographie générée par IA de la planète.
. Le 9 janvier, X annonce limiter la fonction de génération d'images sexualisées aux seuls abonnés payants du logiciel – ce qui, en plus d'être techniquement faux, tel que le révèle The Verge le même jour (et n'en déplaise à la couverture presse générale, qui se contentera, comme d'habitude avec les mensonges d'Elon Musk, de reprendre le communiqué sans vérifier qu'il dit vrai), confirme que la pornographie non-consensuelle fait partie intégrante du business model de la plateforme. Lorsque les utilisateurs de X tentent de générer de telles images, Grok ne leur répond pas qu'elles sont interdites, mais que la fonction doit être débloquée en achetant le plan "SuperGrok". Prix de la pédopornographie : 30 dollars par mois, sans engagement.
L'Occident menace, index tendu : si ça continue, ça va barder. Efficacité concrète : nulle. Parole, parole parole.
6700 images par heure.
1,8 image par seconde.
Tic, toc.
La transformation de X et Grok en usine à dégradation de la dignité humaine est aussi peu surprenante qu'elle était évitable. X, sous sa forme actuelle, n'est pas une plateforme d'information – c'est le royaume d'Elon Musk, sur lequel il exerce un pouvoir absolu. Elon Musk, je l'ai suffisamment écrit, est un suprémaciste blanc élitiste, raciste, antisémite, misogyne, homophobe et transphobe, convaincu d'appartenir à une "élite cognitive" transhumaniste, eugéniste et intrinsèquement supérieure au reste de l'espèce. Un homme qui, parce qu'il croit à la théorie raciste du "Grand Remplacement", a démantelé l'USAID - conséquence : 600 000 morts, dont 400 000 enfants. Un homme qui parle de ""génocide blanc"" pour décrire son pays de naissance, l'Afrique du Sud. Un homme qui lâche des saluts nazis en mondovision. Et Grok est une transposition algorithmique de son idéologie, son alter ego numérique incorporé à son territoire. Un chatbot qui s'est brièvement, et de lui-même, surnommé "MechaHitler".
Musk, (…) parie sur un monde déjà tellement saturé d'horreurs que le corps social a tout simplement abandonné l'idée de demander des comptes. Non, Elon Musk ne doit pas s'en tirer comme ça. Il faut insister, nommer, rester enragé.e.s coûte que coûte.
Ce à quoi nous assistons est un scandale, une honte indélébile sur nos régimes et un échec institutionnel majeur. C'est l'abandon de toute prétention à l'autonomie décisionnelle vis-à-vis du technofascisme états-unien, la reddition de la forme d'agentivité politique la plus élémentaire en faveur de la froide logique marchande. Nous avons les outils légaux pour interdire X. Nous avons les outils techniques pour interdire X. Nous avons les outils pour le faire rapidement. Nous l'avons fait lorsque les IPTV menaçaient le business model des diffuseurs de foot. Nous l'avons fait, et nous le faisons encore, lorsque les sites de streaming menaçaient le modèle des grands studios hollywoodiens (en 2025, l'Arcom a bloqué l'accès à 5000 noms de domaine). Nous avons fait la guerre aux services d'échange de fichiers peer-to-peer lorsqu'ils empêchaient les actionnaires des majors du disque de dormir sereinement, puis une nouvelle fois avec les sites de partages torrent comme T411 et The Pirate Bay. Nous l'avons fait pour les sites à contenu djihadistes et, comme le rappelle très justement ma consoeur technocritique Mathilde Saliou dans sa newsletter Technoculture, lorsqu'il a fallu désactiver les chaînes russes RT et Sputnik pour cause de propagande pro-russe. Le 20 janvier, alors que j'écris ces lignes, le tribunal de Paris a même bloqué l'accès aux VPN qui permettaient encore de contourner la censure des IPTV, pour protéger les intérêts de Canal+ et BeIN Sports.
Nos administrations de droite successives, qui n'ont jamais vu Internet autrement qu'une éternelle "zone de non-droit" à pacifier par la force et ne savent plus penser la politique autrement que comme une éternelle opération de maintien de l'ordre (social), ont bâti depuis 25 ans une architecture de répression juridico-technique capable de désactiver immédiatement n'importe quel site Web au moindre prétexte. Le gouvernement Macron a désactivé TikTok à la seconde où la jeunesse de Kanaky s'en est servi pour organiser sa lutte pour l'émancipation, en dehors de tout cadre légal, poursuivant la grande tradition coloniale d'expérimentations autoritaires sur des territoires et existences perçues comme subalternes. Ni la morale ni le droit n'arrêtent ce pouvoir dès l'instant où il se sent menacé, et la proportionnalité de la réponse répressive n'a jamais été son fort. Pour protéger les intérêts du capital et de la République, il y a du monde. Mais quand ça concerne les plus vulnérables et que l'homme le plus riche du monde est à la manœuvre, ça hésite, ça se tortille, ça agite les bras, ça bégaie. Imagine-t-on l'État français réagir de cette manière si une chaîne de télévision française (allez, au hasard, une chaîne Bolloré) se mettait à diffuser des deepfakes pédopornographiques? Jamais.
Tétanisé, ensuite, par un pouvoir technofasciste états-unien qui prolifère sur notre dépendance aux services de la Silicon Valley pour nous brutaliser économiquement et diplomatiquement. Les États-Unis de Trump déploient désormais un capitalisme d'État à la chinoise, où la relation entre business et diplomatie met la seconde au service du premier. En août dernier, Marco Rubio a ainsi demandé sans détour aux diplomates basés en Europe de mener une campagne de lobbying auprès des élus contre le Digital Services Act européen. Car s'opposer au monopole de la tech, c'est s'opposer à la domination états-unienne. Symbole de cette hybridation : Grok, apprenait-on le 14 janvier, va être intégré à l'armée des États-Unis via le programme GenAI.mil. S'attaquer à Grok, c'est donc s'attaquer au Pentagone. S'attaquer au Pentagone, c'est s'exposer à tout l'arsenal de répercussions dont dispose l'administration Trump, y compris les conséquences que nous ne pouvons pas encore imaginer.
Ce qui se passe actuellement –autour de Grok, mais aussi autour du Groenland –est une ligne de rupture, un stress test pour savoir exactement de quel bois idéologique est faite l'entité politique européenne. Si la pédopornographie ou l'autodétermination ne sont pas des lignes rouges, c'est qu'il n'y a pas de ligne rouge. S'il n'y a pas de ligne rouge, alors il n'y a pas de principe, pas de projet de société, pas de politique. S'il n'y a pas de politique, il n'y a que la transaction ou la vassalisation, dans tous les cas, le rapport de force pur. Il est l'heure, ou jamais, d'interdire X, de dessiner par des actes le périmètre du projet de société européen, de tracer dans le sable les grandes lignes d'un autre horizon. Car parler très fort mais ne rien faire est presque pire que se taire et subir : c'est collaborer dans un costume de résistant mal taillé. Trump et Musk nous servent un prétexte parfait, une limite morale indépassable et transpartisane, pour fournir enfin une réponse coordonnée à leur agression impérialiste, pour sortir de la position de victime terrifiée, pour se découpler de la dépendance infrastructurelle à la tech californienne et - rêvons tout haut - s'affirmer comme un ensemble politique autonome, qui refuse de considérer le fascisme comme la métastase inévitable du néolibéralisme en bout de course. Il ne s'agit même plus de courage, mais de dignité élémentaire.