Les rivaux chinois d’Anthropic accusés de piller Claude, l’arroseur arrosé ?

Anthropic a récemment identifié des opérations à grande échelle menées par DeepSeek, Moonshot et MiniMax, visant à exploiter les réponses de leur modèle Claude pour entraîner leurs propres modèles de manière plus rapide et économique.

Selon Anthropic, ces entités ont généré plus de 16 millions d'échanges via 24 000 comptes frauduleux, contournant ainsi les conditions d'utilisation et les restrictions d'accès régionales. La méthode de distillation, où un modèle moins avancé apprend à partir des sorties d'un modèle plus performant, est une technique répandue et légitime lorsqu'elle est utilisée en interne. Cependant, Anthropic souligne que l'utilisation de cette technique par des concurrents pour acquérir rapidement des capacités puissantes constitue un problème.

Les campagnes menées ciblaient principalement les fonctionnalités distinctives de Claude, telles que le raisonnement pour les agents IA, l'utilisation d'outils, et la programmation. Les opérations identifiées incluaient la création de faux comptes, l'utilisation de services proxy pour revendre l'accès à Claude, et la mise en place d'architectures distribuées permettant de remplacer instantanément un compte bloqué. Un réseau aurait même géré plus de 20 000 comptes simultanément.

Anthropic a exprimé des préoccupations concernant les risques pour la sécurité nationale, affirmant que des modèles distillés illicitement pourraient perdre les garde-fous intégrés par les laboratoires américains contre certains usages malveillants. En réponse, l'entreprise prévoit de renforcer ses systèmes de détection des comportements, de partager des indicateurs avec d'autres laboratoires et fournisseurs cloud, d'augmenter les vérifications d'accès, et de mettre en place des contre-mesures au niveau des API et des modèles. Une coordination sectorielle serait également essentielle.

Par ailleurs, Anthropic fait l'objet de plaintes de la part d'éditeurs de musique, les accusant d'avoir utilisé des copies illégales de chansons pour entraîner Claude. D'autres entreprises du secteur de l'IA sont engagées dans des litiges similaires concernant l'utilisation de contenus protégés par le droit d'auteur.

D’après Journal du Geek.