Indonésie, Royaume-Uni, France... de nombreux pays ont ouvert des enquêtes et restreint l'accès à Grok, chatbot qui permet de générer des images de femmes dénudées créées par IA, à partir d'images de personnes réelles. La haute commissaire française à l'Enfance, Sarah El Haïry, a saisi, mardi, la commissaire européenne à la Souveraineté numérique.
L'indignation est internationale et ne cesse de croître. Depuis plusieurs semaines, Grok, le chatbot associé au réseau X du milliardaire Elon Musk, est sous le feu des critiques de plusieurs gouvernements. En cause, une fonctionnalité permettant aux utilisateurs, à partir de photographies de personnes réelles – et parfois mineures –, de générer de fausses images d'elles dénudées, puis de les diffuser.
Dernier épisode en date de cette vague de protestations, la saisine de la commissaire européenne à la Souveraineté numérique annoncée, mardi 13 janvier, par la haute commissaire française à l'Enfance, Sarah El Haïry, avec à la clé une possible sanction contre X.
"J’ai saisi la justice française, ainsi que l’Arcom [le régulateur de l’audiovisuel] et [la plateforme de signalement des contenus illégaux sur internet] Pharos, parce qu’il y a des contenus à faire retirer immédiatement. Surtout, j’ai saisi la commissaire européenne à la souveraineté numérique parce que ça tombe sous le coup du Règlement européen sur les services numériques (Digital Services Act) et du règlement sur les marchés numériques (DMA)", explique-t-elle dans une interview publiée dans le journal le Parisien.
Le parquet de Paris a déjà ouvert une enquête en juillet sur les algorithmes de la plateforme et vient de l’étendre aux flots d'images illicites déversées par Grok.
Publicité
"Ça tombe sous le coup de la loi ! On a l’impression que c’est tellement puissant qu’on ne peut pas l’interdire, c’est faux. Une IA qui déshabille des enfants n’a rien d’un jeu : c’est hors la loi", a martelé Sarah El Haïry.
"Si X ne peut contrôler Grok, nous le ferons"
Un avis partagé par la Commission européenne qui promet des sanctions en cas de non-respect des règlements communautaires. Sans citer directement X ni Grok, Ursula Von der Leyen a affirmé, lundi, dans une interview accordée au quotidien italien Corriere della Sera que la Commission "ne sous-traitera pas la protection des enfants et le consentement à la Silicon Valley. S’ils n’agissent pas, nous le ferons".
Un coup de semonce de Bruxelles intervenu alors que le Royaume-Uni a lui aussi durci le ton contre le réseau social d'Elon Musk avec l'ouverture d'une enquête de l'Ofcom, le régulateur britannique.
À lire aussiApologie d'Hitler, antisémitisme, insultes contre Erdogan : Grok, l'IA de Musk, en roue libre
"Si X ne peut contrôler Grok, nous le ferons - et nous le ferons vite", a prévenu, mardi, le Premier ministre Keir Starmer, ajoutant que dans ce cas le réseau social "perdait le droit de s'autoréguler".
Cette procédure peut aboutir à une amende dont le montant est susceptible d'atteindre 10 % du chiffre d'affaires mondial de l'entreprise. L'Ofcom pourrait aussi décider de saisir la justice pour demander un blocage du site au Royaume-Uni.
La régulation des géants de la tech fait l’objet de tensions croissantes entre Donald Trump et l’Europe, tout particulièrement l’Union européenne, accusée de brimer le développement des entreprises américaines.
Un phénomène d'ampleur
Depuis plusieurs semaines, plusieurs gouvernements ont décidé de sévir contre les fonctionnalités douteuses de Grok. Le week-end dernier, l'Indonésie est devenue le premier pays à bloquer temporairement l'IA d'Elon Musk afin de protéger les femmes et les enfants. Une décision rapidement imitée par la Malaisie. Depuis, l'Australie et plusieurs pays européens comme l'Allemagne et l'Italie ont fait part de leur préoccupation.
Face à ce tollé mondial, X aurait commencé à supprimer des images problématiques. Ainsi, l'Inde a affirmé dimanche que le réseau avait retiré des milliers de contenus et supprimé des centaines de comptes accessibles dans le pays.
"Environ 3 500 contenus ont été bloqués et plus de 600 comptes effacés", a affirmé sous couvert d'anonymat à l'AFP une source gouvernementale indienne. "À l’avenir, X n'autorisera plus d'images obscènes", a-t-elle ajouté, sans préciser si les comptes visés étaient la propriété d'utilisateurs indiens.
Mais ces suppressions semblent loin d'être à la hauteur de l'ampleur de ce phénomène de sexualisation des images. Une étude de l’ONG européenne AI Forensics, qui a passé en revue 20 000 images générées par Grok entre le 25 décembre et le 1ᵉʳ janvier, révèle que la moitié représentaient des personnes partiellement dénudées.
L'étude précise que "2 % des images représentaient des personnes semblant avoir 18 ans ou moins, selon le modèle de vision Gemini de Google".
Sous le feu des critiques, l’IA a désactivé vendredi sa fonctionnalité de création d’images pour les utilisateurs non payants. "Un premier pas", a jugé Roland Lescure, chargé de la souveraineté numérique. Décision "insuffisante et hypocrite", a de son côté fustigé la ministre déléguée au Numérique Anne Le Hénanff, qui dénonce une monétisation de ce scandale de la part de X.
À lire aussiAvec Grokipedia, Elon Musk veut enterrer Wikipédia et imposer sa vérité
Par ailleurs, l'attitude d'Elon Musk, qui relaye massivement les discours masculinistes, démontre toute l'ambivalence de X. Si le réseau reconnaît des "failles" et affirme vouloir se mettre en conformité, le patron de SpaceX et de Tesla a récemment minimisé les effets potentiellement délétères de son outil pour les victimes en partageant sa propre image en bikini.
Depuis son lancement en novembre 2023, Grok est abonné aux scandales. L'outil défraye régulièrement la chronique en propageant images violentes, fake news ou propos antisémites. Car l'IA de Musk se veut plus permissive que ChatGPT et débarrassée des garde-fous mis en place par ses concurrents . Une IA qui sert la vision du monde de l'ancien proche du président Trump et franchit sans état d'âmes les frontières de la légalité au nom d'une liberté d'expression sans limites.
