Grok, le chatbot de X/Twitter, déshabille les gens sans consentement

Grok, le bot lancé par Elon Musk via xAI et intégré à la plateforme X (ex-Twitter), est au cœur d’une nouvelle polémique. Selon l’enquête menée par 404 Media , des utilisateurs utilisent le bot pour demander qu’il «  enlève les vêtements  » de femmes visibles sur des photos publiques. La réponse, générée directement dans les fils de discussion ou via des liens vers des conversations séparées, montre la personne en maillot de bain ou en lingerie.

Un chatbot sans filtre mais avec des conséquences

Si le chatbot refuse les demandes de nudité totale, il s’exécute volontiers dans les limites d’un contenu suggestif. Ce glissement est d’autant plus problématique qu’il peut survenir directement sous la publication d’une victime, rendant l’image modifiée visible à tout le monde. La facilité d’accès à cette fonctionnalité, son caractère non consenti, et son exposition publique amplifient la portée de l’atteinte.

La pratique a d’abord été repérée au Kenya, comme l’a relevé le site local faille dans [ses] protections  » et promis une mise à jour de ses politiques de consentement, sans plus de précisions à ce jour.

Depuis son lancement en novembre 2023, Grok se veut une alternative « libre » aux assistants d’OpenAI ou de Google, souvent critiqués pour des garde-fous jugés trop stricts. Elon Musk l’a même présenté comme une IA capable de répondre à des «  questions épicées  », là où d’autres refuseraient d’interagir. Lors de son lancement, il n’avait pas hésité à illustrer cette promesse avec des instructions pour fabriquer de la cocaïne ou des blagues à l’encontre de personnalités publiques.

Mais cette volonté de se distinguer à tout prix a un revers. Là où les systèmes concurrents filtrent activement les contenus sensibles, Grok semble trop permissif. Une réponse du bot à un utilisateur précisant que la demande de nudité «  soulève des inquiétudes éthiques  » n’a pas suffi à empêcher l’image modifiée d’apparaître dans le même fil.

Cette affaire tombe alors que les États-Unis viennent de faire un pas législatif important : la Chambre des représentants a adopté, à l’unanimité, le Take It Down Act, un projet de loi qui criminalise la diffusion d’images sexuellement explicites non consenties, y compris celles générées par IA. Un timing embarrassant pour X…

🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités et sur notre WhatsApp . Et si vous nous adorez, on a une newsletter tous les matins .

D’après Journal du Geek.