Selon Eric Schmidt, ancien PDG de Google, l’intelligence artificielle (IA) pourrait atteindre un niveau d’autonomie susceptible de constituer une menace sérieuse pour l’humanité d’ici cinq à dix ans. Lors d’une conférence, Schmidt a exprimé ses préoccupations sur les risques posés par cette technologie qui évolue rapidement, comparant ces risques à ceux de la bombe atomique.
Schmidt estime que si aucune action n’est entreprise dans les cinq prochaines années, les conséquences pourraient être catastrophiques.
Cette affirmation particulièrement alarmante suscite de nombreux débats. Certains experts, comme Yann LeCun de Meta, considèrent ces craintes prématurées, arguant que les systèmes d’IA actuels ne sont pas encore suffisamment sophistiqués. D’autres partagent cependant les inquiétudes de Schmidt et soulignent la nécessité d’une réglementation et d’une surveillance accrues pour éviter les risques potentiels.
Lors de son intervention, Schmidt a mis en garde contre les systèmes d’IA capables de prendre des décisions indépendantes et potentiellement d’accéder à des armes ou à d’autres outils dangereux. Il imagine un scénario où les machines pourraient tromper les humains ou agir contre nos intérêts, soulevant ainsi des questions éthiques et existentielles.
Face à ces préoccupations, Schmidt, également président de la Commission nationale de sécurité sur l’intelligence artificielle, propose la création d’une organisation similaire au GIEC pour encadrer le développement de l’IA et fournir des informations aux décideurs politiques. Ces informations mettent en lumière l’urgence et la gravité des préoccupations entourant l’IA, ainsi que la nécessité d’une réglementation et d’une surveillance accrues pour éviter des conséquences néfastes.