L’intelligence artificielle peut désormais se reproduire

Des chercheurs de l’université de Columbia ont récemment réussi à concevoir un réseau de neurones intelligent capable de s’auto-répliquer. Et oui, nous ne sommes pas dans un livre de science fiction, vous lisez bien!

Au lieu, de péniblement créer les couches du réseau de neurones et de manuellement guider son développement à mesure qu’il apprend, ils ont automatisé ce processus.

Ces chercheurs, du nom d’Oscar Chang et Hod Lipson, ont publié leur fascinant papier appelé “Neural Network Quine” ce mois-ci, et avec celui-ci une nouvelle méthode pour faire grandir un réseau de neurones.
Chang a expliqué aux journalistes la raison pour laquelle ils avaient cherché à développer ce genre de modèle.

Voici sa réponse :

La construction d’agents intelligents (Intelligence Artificielle) est désormais possible grâce au technique du Deep Learning qui imite les fonctionnements biologiques. Nous avons tenté de créer un mécanisme d’auto-réplication qui rend la sélection naturelle de Darwin possible. Ainsi, une population d’agents intelligents pourra s’améliorer elle-même simplement grâce à la sélection naturelle. Tout comme dans la nature.

La méthode que Lipson et Chang ont utilisée imite les principes de sélection naturelle en utilisant un des points forts de l’IA : sa capacité à prédire des tendances.

Jusqu’alors, pour apprendre davantage et obtenir un résultat plus pertinent, un réseau de neurones comparait des données parmi ses différentes couches afin de déterminer ce qui est similaire ou différent, et donc en formant des tendances. De nombreux composants des réseaux de neurones traditionnels réalisent des tâches spécifiques, telles que trouver toutes les images de chats dans une pile de 6 millions d’images ou essayer de s’approprier le style d’art des humains.

Ces réseaux de neurones, auparavant, pouvaient s’améliorer d’une myriade de façons différentes, également en laissant deux agents être en désaccord et argumentant par exemple, ou en essayant de façon itérative différents aspects d’une tâche avec des agents spécifiques et ensuite en combinant la connaissance que chacun a acquise. Après de multiples itérations, ces agents devenaient meilleurs.

Mais avec le système “Quine” que Lipson et Chang ont créé, le réseau de neurones s’améliore grâce à l‘“évolution” de nouvelles versions d’agents au sein du modèle original en prédisant leur rôle dans le modèle futur une fois qu’ils auront appris de nouvelles informations.

Finalement, un réseau de neurones qui peut prédire sa propre croissance pourrait mener à un système intelligent qui devient résistant aux efforts de le supprimer ou de le faire régresser. Théoriquement, les humains pourraient essayer et supprimer des composants spécifiques ou supprimer le programme mais de petits échantillons de code, peut-être cachés dans un Cloud sécurisé, pourraient relancer le système entier instantanément. Je m’égare dans la science fiction une nouvelle fois.

Il n’y a aucune raison de s’inquiéter pour l’instant. Les humains restent fermement au contrôle des commandes. En réalité, les chercheurs ont dû faire face au même problème de surconsommation que celle qui existe dans la nature.

Vu que cela demande des ressources extra pour s’auto répliquer et créer une meilleure version de lui-même, le modèle est moins performant à l’accomplissement des tâches qu’un modèle traditionnel de réseau de neurones.

Là où certains peuvent approximer les 100% de bons résultats à des tâches telles que la reconnaissance d’images, le modèle auto-réplicateur est au moins 10% moins bon.

Chang a expliqué que :

La raison de ces résultats moins probants reste inconnue. Mais nous remarquons que c’est un phénomène similaire au compromis entre les tâches de reproduction et les autres que l’on retrouve dans la nature. Par exemple, nos hormones nous aident à nous adapter à notre environnement et en temps voulu au manque de nourriture.

Conclusion

Cela signifie qu’il y a encore beaucoup de travail avant que ce genre de réseau de neurones puisse fonctionner aussi bien que les réseaux que nous connaissons déjà.

La recherche n’en est encore qu’à ces balbutiements, mais nous savons déjà que les itérations futures permettront à des réseaux de neurones de recréer d’autres réseaux de neurones grâce aux mêmes mécanismes d’auto-réplication.
Dans le futur, l’intelligence artificielle se créera elle-même, progressera elle-même, et intégrera de nouveaux réseaux de neurones grâce à des mécanismes de sélection naturelle. Quel est le pire qui puisse nous arriver?