Le plus grand scientifique d’OpenAI voulait « construire un bunker avant de lancer l’AGI »

« Bien sûr, vous aurez le choix d’entrer ou non dans le bunker. » L’ancien directeur scientifique d’OpenAI, Il y a Sutskever, se prépare depuis longtemps à l’intelligence artificielle générale (AGI), un terme industriel mal défini qui désigne le moment où l’intelligence humaine sera dépassée par les algorithmes.

Dans des entretiens avec Karen Hao, de The Atlantic, qui écrit un livre sur l’éviction ratée du PDG Sam Altman en novembre 2023, des personnes proches de Sutskever ont déclaré qu’il semblait très préoccupé par l’AGI.

Selon un chercheur qui a entendu le cofondateur de l’entreprise, qui a depuis démissionné, s’épancher sur le sujet lors d’une réunion de l’été 2023, un scénario apocalyptique semblait être une évidence pour Sutskever.

« Une fois que nous serons tous entrés dans le bunker… », a commencé le scientifique en chef.

« Je suis désolé », l’interrompt le chercheur, « le bunker ? ».

« Nous allons certainement construire un bunker avant de libérer l’IAG, dit Sutskever, sans détour. « Bien sûr, vous aurez le choix d’entrer ou non dans le bunker. »

L’échange souligne à quel point les dirigeants d’OpenAI étaient, et restent, confiants dans la technologie qu’ils pensent construire – même si d’autres soutiennent que nous sommes loin de l’AGI et que nous n’y parviendrons peut-être jamais.

Enthousiaste
Aussi théâtral que puisse paraître cet échange, deux autres personnes présentes à l’échange ont confirmé que le devin AGI résident d’OpenAI – qui, notamment, a affirmé des mois avant la sortie de ChatGPT en 2022 qu’il pensait que certains modèles d’IA étaient « légèrement conscients » – avait effectivement mentionné un bunker.

« Il existe un groupe de personnes qui croient que la construction de l’IAG provoquera une « extase » », a déclaré le premier chercheur à Hao. « Littéralement, une extase. »

Comme l’ont noté d’autres personnes qui ont parlé à l’auteur pour son prochain livre « Empire of AI », l’obsession de Sutskever pour l’AGI avait pris une nouvelle tournure à l’été 2023. Outre son intérêt pour la création d’AGI, il s’était également inquiété de la manière dont OpenAI gérait la technologie qu’elle était en train de faire germer.

Cette préoccupation a finalement conduit le scientifique fou, aux côtés de plusieurs autres membres du conseil d’administration de l’entreprise, à évincer le PDG Sam Altman quelques mois plus tard, et finalement à son propre départ.

Bien que Sutskever ait mené le coup d’État, sa détermination, selon des sources interrogées par The Atlantic , a commencé à faiblir lorsqu’il a réalisé que la base d’OpenAI s’alignait sur Altman. Il a finalement retiré son opinion selon laquelle le PDG n’était pas apte à diriger, dans ce qui semblait être une tentative pour sauver sa peau – une tentative qui, au final, s’est avérée vaine .

Il est intéressant de noter que Hao a également appris que les gens au sein d’OpenAI avaient un surnom pour le coup d’État manqué : « The Blip ».

Adaptation Terra Projects

Source : https://futurism.com/

Le Grand Défi de la Terre

Le quiz scientifique de Terra Projects

10 questions Score : 0 / 100 20 s

Prêt à relever le défi ?

Volcans, météorologie, climat, océans, espace, séismes, nature, préhistoire, énergie et découvertes scientifiques.

10 questions au hasard parmi 500 · 20 secondes par réponse · Une explication pour apprendre à chaque question.

Dès 9 bonnes réponses sur 10, ta partie compte pour les diplômes !

🏅 Mes diplômes Terra Projects

Trois récompenses à débloquer avec au moins 9 bonnes réponses sur 10 à chaque partie, plusieurs parties de suite :

Clique sur « Aperçu du diplôme » pour voir son modèle avant de le débloquer. Après 3, 5 ou 10 parties consécutives avec au moins 9/10, le bouton d’impression PDF s’active. Les diplômes obtenus restent acquis, même si une série est interrompue. Sauvegarde sur cet appareil uniquement. Récompenses ludiques, sans valeur scolaire officielle.

Terra Projects · La curiosité est notre plus belle aventure
Recevoir les nouveaux articles