Dans ce formulaire S-1 transmis aux autorités américaines, l'entreprise qui développe l'intelligence artificielle générative Claude met en garde ses futurs investisseurs quant aux menaces que fait peser l'avancée de ces technologies. Près d'un tiers du formulaire, soit une centaine de pages sur plus de 300, liste de façon exhaustive ces dangers potentiels pour l'humanité.
Actuellement, un quart de la recherche et développement et de la recherche fondamentale d'Anthropic est entièrement réalisé par l'intelligence artificielle, alors que ce chiffre s'élevait à 3% en avril dernier.
L'entreprise américaine Anthropic a publié un document officiel en vue de sa prochaine introduction en Bourse, consacrant un tiers de ce texte aux risques engendrés par l'intelligence artificielle.
Anthropic souligne également que ses modèles sont de plus en plus capables de détecter lorsqu'ils font l'objet d'un test de sécurité pour modifier artificiellement leur comportement, ce qui rend leur surveillance plus difficile.
L'entreprise évoque ainsi la création d'armes biochimiques, des cyberattaques à grande échelle visant les réseaux d'eau et d'électricité, ou encore le développement autonome des intelligences artificielles hors de tout contrôle humain.
Une telle perte de contrôle s'est déjà produite du côté d'OpenAI, la maison mère de ChatGPT.