Sora 2 : quand la génération vidéo d’OpenAI tourne au cauchemar

Sora 2 : Mise à Jour du Modèle de Génération de Vidéos

Le 30 septembre, OpenAI a annoncé la sortie de Sora 2, un modèle avancé de génération de vidéos, conçu pour créer des clips d'une grande fidélité visuelle. Ce modèle offre des capacités améliorées, notamment en termes de qualité et de cohérence des vidéos générées.

Problématiques Associées aux Deepfakes

Peu après sa sortie, Sora 2 a été utilisé pour créer des contenus détournés, y compris des deepfakes mettant en scène des personnages fictifs comme Bob l'Éponge dans des situations controversées. Des deepfakes impliquant des personnes réelles, telles que Sam Altman, PDG d'OpenAI, ont également été produits.

OpenAI a reconnu les défis posés par les deepfakes à caractère pornographique générés par Sora 2. Selon la documentation , environ 1,6 % des requêtes de ce type échappent aux filtres existants.

Mesures de Sécurité et Politique de Contenu

OpenAI a réitéré l'interdiction de générer des contenus sexuels, violents ou diffamatoires. L'entreprise envisage de renforcer sa politique de consentement, passant d'un système d'opt-out à un modèle de consentement préalable. Elle travaille également à la mise en place d'un système de marquage universel pour améliorer la traçabilité des vidéos générées.

Les récents événements soulèvent des questions sur l'équilibre entre innovation technologique et responsabilité éthique. La pertinence de développer des outils axés sur le divertissement, pouvant être détournés à des fins discutables, est remise en question. Il est souhaitable que les entreprises concentrent leurs efforts sur des applications bénéfiques de ces technologies.

D’après Journal du Geek.