Les premières divulgations financières publiques de la société d’IA révèlent une croissance explosive, des coûts énormes et des risques allant des cyberattaques aux limites des garanties qu’Anthropic a déposées pour être introduites en bourse aux États-Unis, révélant pour la première fois les données financières du laboratoire de recherche en IA et tous les risques – plus de 90 pages – qui pourraient affecter négativement ses activités.
Bien qu'Anthropic ait mis l'accent sur les garde-fous qu'il a mis en place pour bloquer les tentatives d'utilisation abusive de ses modèles, il inclut également une mise en garde importante plus loin dans le dossier: ces garde-fous pourraient ne pas fonctionner.
L’entreprise aborde les risques dans deux contextes: les dangers que l’IA elle-même représente pour la société et les êtres humains, et la manière dont les activités d’Anthropic pourraient mal tourner.
Les risques posés par l’IA ont été répartis en quatre catégories principales: utilisation abusive par de mauvais acteurs, perte de contrôle, abus autoritaire et perturbation économique.
Anthropic, contrairement à OpenAI, a clairement indiqué que ses clients sont en grande partie d'autres entreprises.