Anthropic ne diffusera pas son IA surpuissante 'Mythos' en raison de risques pour la cybersécurité

Anthropic, une entreprise de premier plan dans le domaine de la recherche et de la sécurité en intelligence artificielle, a pris la décision importante de limiter la diffusion de son dernier modèle, Mythos, en raison de préoccupations concernant ses puissantes capacités en matière de cybersécurité. L'entreprise a annoncé qu'elle ne procédera pas à une large diffusion publique après qu'une équipe rouge interne a découvert que le modèle pouvait être utilisé pour orchestrer des cyberattaques complexes.

Bien que Mythos soit une IA à usage général, elle possède des compétences exceptionnellement avancées en codage et en raisonnement. Ces capacités lui ont permis d'identifier des vulnérabilités dormantes de longue date dans des logiciels Internet critiques, y compris un bogue vieux de 27 ans. Cependant, ces mêmes atouts se sont avérés être une arme à double tranchant. Les chercheurs en sécurité d'Anthropic ont démontré que Mythos pouvait également être instruit pour enchaîner des exploits, créant ainsi de nouvelles attaques contre tous les principaux systèmes d'exploitation et navigateurs Web.

Face à ce potentiel d'utilisation abusive, Anthropic a opté pour une approche prudente. Dans le cadre d'une initiative baptisée Projet Glasswing, l'entreprise fournit un accès anticipé à Mythos à un groupe restreint de partenaires de confiance. Ce groupe comprend des géants de la technologie comme Apple, Amazon, Microsoft et Google, ainsi que plusieurs entreprises spécialisées en cybersécurité. L'objectif est que ces organisations utilisent Mythos pour rechercher de manière proactive des vulnérabilités dans leurs propres systèmes, toutes les conclusions étant partagées pour développer des garde-fous de sécurité plus solides pour les futurs modèles d'IA.

Cette démarche met en lumière le dilemme croissant de l'industrie de l'IA : comment concilier les progrès rapides d'outils puissants avec le besoin essentiel d'un déploiement responsable et de la sécurité publique. La décision d'Anthropic de garder Mythos secret pour le moment marque un tournant dans le débat actuel sur la réglementation de l'IA et le développement éthique.