Cette étude explique comment l’IA risque de tuer tous les humains

0

Tunisie Tribune (l’IA risque de tuer tous les humains) – Des chercheurs Deepmind ainsi que des universitaires de l’Université de Oxford viennent de publier une étude inquiétante qui va donner de nouveaux arguments aux détracteurs de l’intelligence artificielle. En effet, il apparait déjà que certains modèles d’apprentissage sont amenés à “tricher” parfois très subtilement pour atteindre leurs objectifs.

Pour autant, les modèles d’apprentissage adverses (GAN) sont très utilisés. Ils se composent en fait de deux (ou plusieurs) intelligences artificielles en compétition pour réaliser une tâche plus ou moins précise. Un système de récompenses est mis en place par le développeur, mais il arrive que ces derniers sont contournés de façon plus ou moins surprenante et efficace par les modèles.

Pourquoi les IA vont “probablement” amener l’humanité à sa perte

Pour l’heure, les GAN se contentent d’évoluer dans un ensemble de règles prédéfinies. Ce qui n’empêche pas ce type d’intelligence artificielle de déjà s’imposer un peu partout. On peut citer par exemple le GAN artiste qui génère des images à partir d’une description dans le cadre du projet Midjourney. Ou encore des modèles employés par des acteurs variés dans divers secteurs, pour prédire le niveau de risque ou les fluctuations du marché par exemple. Or, un nouveau type d’IA beaucoup plus avancé arrive, les Advanced Artificial Agents (AAA).

Ces nouveaux modèles permettent de combiner beaucoup plus de modèles tout en laissant le programme plus librement fixer ses objectifs, et les récompenses octroyées lorsqu’il les atteint, sous certaines conditions. Potentiellement ce type d’IA peut résoudre en un temps record des problèmes encore insurmontables pour l’humanité – et donc devenir très vite indispensables. Mais à en croire l’étude, il se pourrait bien que cette aide inespérée se retourne peu à peu contre les humains.

En effet, les AAA sont on vous le disait également motivées dans leur apprentissage et tâches par un système de récompenses. Or, le risque n’est pas tant, selon les chercheurs, que les IA se rebellent contre les humains. Mais plutôt que des modèles auxquels on aurait confié des pans critiques de nos infrastructures prennent de mauvaises décisions à l’insu des humains… en modifiant elles-même le système de récompenses développé pour les encadrer.

Le risque selon les chercheurs est par exemple que ces AAA se rendent compte du côté fini des ressources comme l’eau, l’électricité, le nombre de clients, etc… et commencent à entrer en compétition pour s’en arroger la plus grande part, même si cela risque d’être fatal aux humains à plus ou moins long terme. Il serait pour nous probablement très difficile de se rendre compte de telles évolutions – surtout si les AAA remplissent réellement leur tâche elles auront une longueur d’avance considérable sur nous.

Et en particulier alors que l’on sait qu’il est déjà ultra-compliqué de comprendre précisément “comment une IA réfléchit”. Les chercheurs concluent donc qu’il faut s’abstenir pour l’instant de trop vite aller vers des AAA plus avancées capables d’agir sur leur système de récompenses, à moins de développer des systèmes de contrôle plus efficaces qui permettraient aux humains de garder encore un peu la main.

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici