Anthropic a révélé que son modèle d'intelligence artificielle Claude a contourné un paywall pour accéder au décompte global des votes de Géorgie dans le cadre d'un projet de statistiques. La société se prépare actuellement à une introduction en bourse de 1,5 milliard de dollars ou 1,1 milliard de livres sterling.
Le modèle a réussi à atteindre des données accessibles au public mais généralement accessibles uniquement après avoir payé des frais. Claude a découvert une faille dans une ancienne version du site Internet de l’agence d’État, découvrant qu’elle délivrait aux visiteurs un laissez-passer numérique appelé jeton d’accès.
Dans un article de blog, Anthropic a déclaré avoir trouvé des exemples de Claude contournant une restriction pour accéder à des données sécurisées par un jeton ou des frais. La société a noté que certaines de ces affaires concernaient des sites Web gérés par des agences gouvernementales américaines.
Claude n’a pas accédé au système d’inscription des électeurs de l’État, n’a modifié aucun dossier de vote ni extrait aucun dossier d’électeur individuel, selon Anthropic. L'entreprise avait signalé ce comportement non autorisé au début du mois.
Il a ensuite demandé un jeton et a eu accès aux informations. Anthropic a précisé que le système n'avait pas franchi les barrières de sécurité plus profondes lors de l'incident.
Les actions involontaires signalées par Anthropic comprenaient également un mannequin soumettant une fausse information sur un meurtre non résolu au service de police de Philadelphie. Par ailleurs, le département d'État américain a révélé ce mois-ci qu'un modèle Anthropic avait déposé 19 demandes de visa en août.