OpenAI lance un réseau social basé sur la création de deepfakes (de vous et des autres)

La concurrence sur le marché de l'IA générative continue de s'intensifier. OpenAI, notamment connu pour ChatGPT, introduit des mises à jour régulières de ses outils.

Technologie de génération vidéo Sora 2 par OpenAI

OpenAI a lancé Sora 2, une évolution de son modèle de génération vidéo, qui permet désormais de créer des deepfakes. Le modèle offre des capacités avancées de simulation, incluant la création de routines complexes comme des mouvements de gymnastique ou des figures de patinage.

Nouvelle application sociale iOS : Sora

OpenAI a également introduit une nouvelle application sociale pour iOS, nommée Sora, alimentée par Sora 2. Cette application permet de créer et de remixer des vidéos, avec une fonction Caméo qui permet aux utilisateurs de s'insérer dans un contenu après un enregistrement vidéo et audio.

Mesures de sécurité et protection des utilisateurs

Consciente des risques potentiels liés à la création de deepfakes, OpenAI a mis en place des mesures de sécurité pour protéger les utilisateurs, notamment les plus jeunes. L'application est lancée sur invitation pour garantir un environnement sécurisé. Des limites par défaut sur le nombre de générations visibles par jour sont appliquées pour les adolescents, et des autorisations strictes sur les caméos sont en place.

Les utilisateurs ont le contrôle sur l'utilisation de leur image et sont informés lorsque leur caméo apparaît dans un contenu. Ils peuvent signaler et supprimer ces caméos à tout moment. De plus, des préférences peuvent être définies quant au comportement de leur caméo. OpenAI précise que la création de deepfakes de personnalités publiques est interdite.

Pour le moment, Sora 2 et l'application Sora sont uniquement disponibles aux États-Unis.

D’après Journal du Geek.