Anthropic rend publique son IA la plus puissante, bridée pour des raisons de sécurité

Anthropic rend publique son IA la plus puissante, bridée pour des raisons de sécurité.

San Francisco (AFP) - La société américaine Anthropic, éditrice des modèles d'intelligence artificielle (IA) Claude, a mis mardi à la disposition du public la version la plus puissante de sa technologie, tout en la bridant dans des domaines sensibles comme la cybersécurité et, fait nouveau, les risques d'attaque biologique ou chimique.

Baptisé Fable 5, ce modèle est le premier de la classe Mythos - la gamme la plus avancée d'Anthropic, dévoilée en avril mais restreinte pour des raisons de sécurité - à être ouvert au public. Il sera toutefois réservé d'ici deux semaines aux clients haut de gamme, capable de payer le prix fort.

En parallèle, la start-up de San Francisco déploie le même modèle dans une version débridée, Claude Mythos 5, réservée aux entreprises et organisations disposant déjà d'un accès à cette famille, présentée comme capable de détecter et exploiter des failles de sécurité avec une vitesse et une acuité inédites.

Début avril, Anthropic avait annoncé simultanément l'existence de Mythos et sa décision d'en limiter l'accès à des partenaires de confiance pour renforcer leur protection cyber. 

La nouvelle lui avait valu des accusations de "marketing de la peur" et provoqué une vive agitation étatique, pour se préparer aux menaces de l'IA sur les infrastructures essentielles (bancaires, énergétiques, etc.).

Depuis, plusieurs entreprises ayant eu accès à Mythos ont confirmé ses capacités, et l'administration Trump, malgré son lourd contentieux avec Anthropic, a fini par le tester. 

Washington a depuis instauré un dispositif d'évaluation facultatif des modèles d'IA américains les plus puissants, avant leur commercialisation.

Le déploiement de Mythos 5 et le choix des partenaires pouvant y avoir accès se fait désormais "en collaboration avec le gouvernement américain", a précisé Anthropic.

Jusqu'ici, l'entreprise justifiait de restreindre l'accès à Mythos par les seuls risques cyber. Avec Fable 5, elle étend cette vigilance à la biologie et à la chimie.

Anthropic invoque un bond de capacité, permettant d'accomplir des tâches scientifiques. La société affirme aussi qu'elle a accéléré d'environ dix fois certaines étapes de conception de médicaments et formulé des hypothèses inédites en biologie moléculaire.

Ces compétences pourraient, prévient-elle, offrir un "coup de pouce" à des acteurs malveillants. Elle cite l'exemple de la conception de virus adéno-associés (AAV), potentiellement dangereux. Mais aussi bénéfique en thérapie génique. C'est pourquoi la version débridée sera ouverte à des chercheurs sélectionnés.

Selon l'entreprise, les requêtes sur Fable 5 touchant à la cybersécurité, à la biologie ou à la chimie reçoivent une réponse du modèle inférieur, Opus 4.8. Idem pour les tentatives de "distillation", c'est-à-dire de recopie du modèle pour entraîner des concurrents, qu'Anthropic dit avoir détectée à grande échelle depuis des "pays autoritaires".

Anthropic affirme avoir chargé des experts extérieurs de chercher à déjouer ses garde-fous par des simulations d'attaque (le "red teaming") et rémunéré ceux qui y parvenaient.

Selon l'entreprise, aucun, en 1.000 heures de test, n'a réussi un "contournement universel", c'est-à-dire débrider entièrement le système. Mais "il est probablement impossible d'empêcher entièrement" les contournements, reconnaît l'entreprise, qui compte seulement les rendre assez lents et coûteux pour les détecter avant leur déploiement à grande échelle.

Toujours au nom de la sécurité, elle conservera pendant 30 jours toutes les données de ces modèles de pointe.

La société Anthropic, éditrice des modèles d'intelligence artificielle (IA) Claude, a mis mardi à la disposition du grand public la version la plus puissante de sa technologie tout en la bridant dans des domaines sensibles - SEBASTIEN BOZON (AFP)