La recherche sur l’intelligence artificielle est-elle dangereuse ? Il y a ceux qui le croient et ont appelé à une pause dans le développement de ChatGPT et d’autres projets qu’ils considèrent comme un malheur pour l’humanité.
[Los creadores de ChatGPT le preguntaron cómo matar personas, y la respuesta es aterradora]
Ce n’est pas comme si ces IA allaient fabriquer des robots et commencer à tirer sur des gens. Le danger qu’ils représentent est plus subtil, comme la diffusion de désinformation ou le développement de technologies inconnues aux conséquences désastreuses. Mais cela ne signifie pas que les “IA tueuses” n’existent pas.
Contrairement à d’autres projets d’IA, dont les conséquences pour les humains sont accidentelles, l’objectif principal de ChaosGPT est de détruire l’humanité ; Ce n’est pas un “bug”, mais une “fonctionnalité”.
Plus précisément, les créateurs de ChaosGPT ont placé trois conditions sur l’IA lors de leur première exécution; “Détruire l’humanité”, “Établir la domination mondiale” et “Gagner l’immortalité”. Toutes les étapes que cette IA va entreprendre doivent avoir pour but d’atteindre au moins un de ces objectifs ; pour ce faire, il s’exécute en “mode continu”, s’exécutant indéfiniment jusqu’à ce qu’il ait terminé ses tâches. À moins que quelqu’un ne débranche la prise en premier, l’IA n’arrêtera pas de “penser” à des méthodes pour atteindre ces objectifs.
Bien sûr, vous vous demandez peut-être pourquoi quelqu’un voudrait créer une telle chose. Pour le moment, ses créateurs n’ont pas expliqué leur véritable objectif, mais il est très probable qu’ils veuillent sensibiliser aux dangers de l’IA avec quelque chose de flashy et qui, après tout, n’aura vraiment aucune conséquence pour l’humanité.
Et c’est que ChaosGPT est limité à un terminal, à partir de laquelle vous ne pouvez pas faire grand-chose. Il est basé sur Auto-GPT, un projet visant à créer des systèmes d’IA capables de résoudre des tâches imposées par l’utilisateur, en les divisant en tâches plus petites plus faciles à accomplir. Pour cela, il est capable de se connecter à Google pour rechercher et mieux comprendre en quoi consiste chaque objectif.
L’IA a évoqué l’utilisation de la bombe tsar pour détruire l’humanité
Société d’énergie atomique de l’État de Rosatom
Les résultats de ChaosGPT sont publiés sur un compte Twitter, et la vérité est qu’il a commencé fort. Dans le premier message, l’IA envisage l’utilisation de la bombe tsar, développée par l’Union soviétique pendant la guerre froide et responsable de la plus grande explosion artificielle de l’histoire enregistrée. « Et si j’en achète un ? » l’IA se demande.
Peut-être plus effrayant est une réflexion plus récente, dans laquelle ChaosGPT affirme que “les masses sont facilement influençables”, et que ceux qui ne sont pas convaincus sont les plus vulnérables à la manipulation. C’est l’un des dangers signalés de projets comme ChatGPT, qui peuvent être utilisés pour créer de la propagande ou de fausses nouvelles.
Pour le moment, ChaosGPT ne peut pas nous faire de mal. Reste à savoir combien de temps il faudra pour développer une IA ayant le même but mais plus évoluée et, surtout, secrète.
L’intelligence artificielle révolutionne tous les domaines de la création graphique : ajouter ou soustraire ?