Le mois dernier, OpenAI a annoncé qu’un essaim de 10 000 agents concurrents avait collectivement résolu une variante du problème d’existence et de régularité de Navier-Stokes, un défi mathématique majeur, en 88 heures.
Ces limites sont aussi ce qui rend les systèmes dangereux, a-t-elle écrit. Les récits selon lesquels les grands modèles de langage évolueraient jusqu’à devenir des terminators superintelligents sont techniquement invraisemblables, mais cela ne signifie pas que la technologie ne présente aucun risque.
Sunita Verma a soutenu que l’intelligence artificielle d’aujourd’hui ne passera pas à l’échelle jusqu’à la superintelligence, mais que les mêmes limites techniques rendent le risque catastrophique réel.
Le monde réel, a-t-elle soutenu, apporte des cas limites, des instructions ambiguës et d’innombrables façons d’accomplir une tâche.
Le besoin de jugement humain, a-t-elle écrit, limite la probabilité qu’un grand modèle de langage surpasse nettement les êtres humains.
La question plus urgente, a-t-elle écrit, est de savoir comment les systèmes déjà en usage sont supervisés.
Geoffrey Hinton, décrit dans le commentaire comme le parrain de l’IA, estime le risque d’extinction de l’humanité à au moins 10 % au cours des prochaines décennies.
Hinton a déclaré que la principale préoccupation est «d’atteindre n’importe quel objectif que vous leur donnez» — même si cela implique de se comporter dangereusement. Les modèles d’aujourd’hui apprennent une seule fois en amont, puis s’arrêtent, a-t-elle dit. Un système entraîné sur les conditions d’hier ne comprend pas automatiquement celles d’aujourd’hui. Verma a déclaré que des prouesses de ce genre ne montrent pas une voie vers des machines qui surpassent largement l’intelligence humaine.