En 2023, il a quitté Google afin de pouvoir parler librement des dangers de l'IA. Il avait mis en garde que si les systèmes se laissent emporter par la quête de davantage de contrôle, nous sommes en difficulté.
L'informaticien a déclaré au Guardian que le choc pourrait ressembler à Tchernobyl dans son effet sur l'attention du public, bien que ce ne soit pas un accident nucléaire. Il a cité des exemples tels qu'une attaque rendue possible par l'IA qui provoque une panne massive de la production d'électricité, ou un incident qui paralyse le système financier pendant une semaine.
Son rôle de précurseur de l'IA moderne a suscité des comparaisons avec Robert Oppenheimer, qui a joué un rôle central dans la création des armes nucléaires. Un ami lui a même acheté un chapeau de style Oppenheimer.
Il a contrasté cela avec ce qu'il a décrit comme l'approche des géants de la tech, disant qu'ils traitent la technologie comme on a traité la thalidomide.
Il travaille sur l'IA depuis environ 44 ans. Dans les années 1970, il a contribué à forger l'idée du réseau de neurones, un système mathématique capable d'apprendre et d'acquérir de l'expérience de manière analogue aux êtres humains.
Hinton, 78 ans, a déclaré que les gens pourraient se remettre d'un tel événement et que cela pourrait amener les gouvernements et les entreprises à se réveiller et à prêter attention. Geoffrey Hinton, lauréat du Nobel souvent appelé l'un des parrains de l'intelligence artificielle, a déclaré que l'humanité aurait peut-être mieux fait de ne jamais développer cette technologie, mettant en garde qu'elle pourrait déclencher un incident de grande ampleur cette année ou l'année prochaine.
D'ici une décennie, et peut-être plus tôt, a-t-il dit, l'humanité saura si elle peut gérer les risques et permettre ce qu'il a appelé une abondance radicale, ou si elle échoue à gérer ces risques.
Il n'est pas un catastrophiste à propos du domaine bâti sur ses recherches sur les réseaux de neurones artificiels. Il a dit que l'IA pourrait encore mener à un avenir merveilleux, mais a ajouté qu'il se pourrait que nous aurions mieux fait de ne jamais la développer. S'adressant à des documentaristes, il a dit qu'il sentait qu'il avait le devoir de mettre en garde.