Tweet

Nous avons dépassé l’horizon des événements ; le décollage a commencé. L’humanité est sur le point de construire une superintelligence numérique, et du moins jusqu’à présent, c’est beaucoup moins étrange qu’il n’y paraît.

Les robots ne sont pas encore présents dans les rues, et la plupart d’entre nous ne parlons pas à l’IA toute la journée. Des gens meurent encore de maladies, nous ne pouvons toujours pas aller facilement dans l’espace, et il y a beaucoup de choses dans l’univers que nous ignorons.

Et pourtant, nous avons récemment construit des systèmes plus intelligents que les humains à bien des égards, capables d’amplifier considérablement la productivité de leurs utilisateurs. La partie la plus improbable du travail est derrière nous ; les connaissances scientifiques qui nous ont permis de créer des systèmes comme GPT-4 et o3 ont été durement acquises, mais elles nous mèneront très loin.

L’IA contribuera au monde de multiples façons, mais les gains de qualité de vie qu’elle apportera, grâce à l’accélération du progrès scientifique et à l’augmentation de la productivité, seront considérables ; l’avenir pourrait être bien meilleur que le présent. Le progrès scientifique est le principal moteur du progrès global ; il est extrêmement stimulant de penser à tout ce que nous pourrions accomplir de plus.

À bien des égards, ChatGPT est déjà plus puissant que n’importe quel être humain ayant jamais existé. Des centaines de millions de personnes l’utilisent chaque jour pour des tâches de plus en plus importantes ; une petite nouvelle fonctionnalité peut avoir un impact extrêmement positif ; un léger décalage multiplié par des centaines de millions de personnes peut avoir un impact négatif considérable.

2025 a vu l’arrivée d’agents capables d’effectuer un véritable travail cognitif ; l’écriture de code informatique ne sera plus jamais la même. 2026 verra probablement l’arrivée de systèmes capables de comprendre de nouvelles idées. 2027 pourrait voir l’arrivée de robots capables d’effectuer des tâches dans le monde réel.

De plus en plus de personnes pourront créer des logiciels et des œuvres d’art. Mais le monde en veut davantage, et les experts resteront probablement bien meilleurs que les novices, à condition qu’ils adoptent les nouveaux outils. De manière générale, la capacité d’une personne à accomplir beaucoup plus de choses en 2030 qu’en 2020 constituera un changement radical, dont beaucoup sauront tirer profit.

Sur le plan le plus important, les années 2030 ne seront peut-être pas si différentes. Les gens continueront d’aimer leur famille, d’exprimer leur créativité, de jouer et de nager dans les lacs.

Mais, sur des points essentiels, les années 2030 seront probablement radicalement différentes de toutes celles qui les ont précédées. Nous ignorons jusqu’où nous pouvons dépasser l’intelligence humaine, mais nous sommes sur le point de le découvrir.

Dans les années 2030, l’intelligence et l’énergie – les idées et la capacité à les concrétiser – vont devenir extrêmement abondantes. Ces deux éléments ont longtemps été les principaux freins au progrès humain ; avec une intelligence et une énergie abondantes (et une bonne gouvernance), nous pourrions théoriquement tout espérer.

Nous vivons déjà avec une intelligence numérique incroyable, et après un choc initial, la plupart d’entre nous y sont plutôt habitués. Très vite, nous passons de l’émerveillement qu’une IA puisse générer un paragraphe magnifiquement écrit à la question de savoir quand elle pourra créer un roman magnifiquement écrit ; ou de l’émerveillement qu’elle puisse poser des diagnostics médicaux salvateurs à la question de savoir quand elle pourra développer des remèdes ; ou encore de l’émerveillement qu’elle puisse créer un petit programme informatique à la question de savoir quand elle pourra créer une entreprise entièrement nouvelle. C’est ainsi que fonctionne la singularité : les merveilles deviennent une routine, puis des enjeux importants.

Les scientifiques affirment déjà qu’ils sont deux à trois fois plus productifs qu’avant l’IA. L’IA avancée est intéressante pour de nombreuses raisons, mais rien n’est peut-être plus significatif que le fait de pouvoir l’utiliser pour accélérer la recherche en IA. Nous pourrions découvrir de nouveaux substrats informatiques, de meilleurs algorithmes et que sais-je encore. Si nous pouvons réaliser l’équivalent d’une décennie de recherche en un an, ou un mois, le rythme des progrès sera évidemment bien différent.

Désormais, les outils que nous avons déjà développés nous aideront à approfondir nos connaissances scientifiques et à créer de meilleurs systèmes d’IA. Bien sûr, il ne s’agit pas d’un système d’IA mettant à jour son code de manière totalement autonome, mais il s’agit néanmoins d’une version larvaire de l’auto-amélioration récursive.

D’autres mécanismes d’auto-renforcement sont à l’œuvre. La création de valeur économique a déclenché un processus de développement d’infrastructures pour faire fonctionner ces systèmes d’IA de plus en plus puissants. Et des robots capables de construire d’autres robots (et, dans un certain sens, des centres de données capables de construire d’autres centres de données) ne sont pas si loin.

Si nous devons fabriquer le premier million de robots humanoïdes à l’ancienne, mais qu’ils peuvent ensuite gérer l’ensemble de la chaîne d’approvisionnement (extraire et raffiner des minéraux, conduire des camions, diriger des usines, etc.) pour construire davantage de robots, qui peuvent construire davantage d’installations de fabrication de puces, de centres de données, etc., alors le rythme des progrès sera évidemment très différent.

Avec l’automatisation de la production des centres de données, le coût de l’intelligence devrait à terme converger vers un niveau proche de celui de l’électricité. (On s’interroge souvent sur la consommation énergétique d’une requête ChatGPT ; une requête moyenne consomme environ 0,34 wattheure, soit l’équivalent d’un four en un peu plus d’une seconde ou d’une ampoule à haut rendement en quelques minutes. Elle consomme également environ 0,000085 gallon d’eau, soit environ un quinzième de cuillère à café.)

Le rythme du progrès technologique continuera de s’accélérer, et les individus resteront capables de s’adapter à presque tout. Il y aura des difficultés, comme la disparition de catégories entières d’emplois, mais d’un autre côté, le monde s’enrichira tellement et si rapidement que nous pourrons sérieusement envisager de nouvelles idées politiques, comme jamais auparavant. Nous n’adopterons probablement pas un nouveau contrat social d’un seul coup, mais, dans quelques décennies, les changements progressifs auront porté leurs fruits.

Si l’histoire nous guide, nous découvrirons de nouvelles choses à faire et de nouvelles envies, et nous assimilerons rapidement de nouveaux outils (l’évolution des métiers après la révolution industrielle en est un bon exemple récent). Les attentes augmenteront, mais les capacités progresseront tout aussi rapidement, et nous obtiendrons tous de meilleurs produits. Nous construirons des choses toujours plus merveilleuses les uns pour les autres. Les humains ont un avantage important et curieux à long terme sur l’IA : nous sommes programmés pour nous soucier des autres, de ce qu’ils pensent et font, et nous nous soucions peu des machines.

Il y a mille ans, un agriculteur de subsistance aurait observé ce que beaucoup d’entre nous font et aurait dit que nous avons des emplois factices, pensant que nous nous amusons simplement, car nous avons de la nourriture en abondance et un luxe inimaginable. J’espère que dans mille ans, nous considérerons ces emplois comme de véritables emplois factices, et je suis convaincu qu’ils seront extrêmement importants et gratifiants pour ceux qui les exercent.

Le rythme des découvertes sera immense. Difficile d’imaginer aujourd’hui ce que nous aurons découvert d’ici 2035 ; peut-être passerons-nous de la résolution de problèmes de physique des hautes énergies une année à la colonisation spatiale l’année suivante ; ou d’une avancée majeure en science des matériaux une année à de véritables interfaces cerveau-ordinateur à haut débit l’année suivante. Nombreux seront ceux qui choisiront de vivre de la même manière, mais certains au moins décideront probablement de se « brancher ».

À l’avenir, cela paraît difficile à appréhender. Mais le vivre sera probablement impressionnant, mais gérable. D’un point de vue relativiste, la singularité se produit progressivement, et la fusion se fait lentement. Nous gravissons le long arc du progrès technologique exponentiel ; il semble toujours vertical vers l’avant et plat vers l’arrière, mais c’est une courbe uniforme. (Repensez à 2020, et à ce qu’aurait représenté un phénomène proche de l’IAG d’ici 2025, par rapport à la réalité des cinq dernières années.)

Il y a de sérieux défis à relever, mais aussi d’énormes avantages. Nous devons résoudre les problèmes de sécurité, tant sur le plan technique que sociétal, mais il est crucial de diffuser largement l’accès à la superintelligence, compte tenu des implications économiques. La meilleure voie à suivre pourrait être la suivante :

Résoudre le problème d’alignement, ce qui signifie que nous pouvons garantir de manière robuste que nous obtenons des systèmes d’IA pour apprendre et agir en fonction de ce que nous voulons collectivement sur le long terme (les flux de médias sociaux sont un exemple d’IA mal alignée ; les algorithmes qui les alimentent sont incroyables pour vous faire continuer à faire défiler et comprendre clairement vos préférences à court terme, mais ils le font en exploitant quelque chose dans votre cerveau qui remplace votre préférence à long terme).

Il faut donc s’attacher à rendre la superintelligence abordable, largement accessible et non concentrée sur une personne, une entreprise ou un pays. La société est résiliente, créative et s’adapte rapidement. Si nous parvenons à exploiter la volonté et la sagesse collectives, même si nous commettons de nombreuses erreurs et que certaines choses tournent mal, nous apprendrons et nous adapterons rapidement et pourrons utiliser cette technologie pour maximiser les avantages et minimiser les inconvénients. Accorder une grande liberté aux utilisateurs, dans le cadre de larges limites que la société doit définir, semble essentiel. Plus tôt le monde pourra entamer un débat sur ces grandes limites et sur la manière dont nous définissons l’alignement collectif, mieux ce sera.

Nous (l’ensemble du secteur, pas seulement OpenAI) construisons un cerveau pour le monde entier. Il sera extrêmement personnalisé et facile à utiliser pour tous ; nous serons limités par les bonnes idées. Pendant longtemps, les techniciens des startups se sont moqués des « concepteurs », ceux qui avaient une idée et cherchaient une équipe pour la concrétiser. Il me semble maintenant qu’ils sont sur le point de connaître leur heure de gloire.

OpenAI représente désormais beaucoup de choses, mais nous sommes avant tout une entreprise de recherche sur la superintelligence. Nous avons beaucoup de travail devant nous, mais la plupart du chemin est désormais tracé et les zones d’ombre s’estompent rapidement. Nous sommes extrêmement reconnaissants de pouvoir faire ce que nous faisons.

L’intelligence, trop facile à mesurer, est à portée de main. Cela peut paraître fou, mais si nous vous avions dit en 2020 que nous serions là où nous en sommes aujourd’hui, cela aurait probablement semblé encore plus fou que nos prédictions actuelles pour 2030.

Puissions-nous évoluer en douceur, de manière exponentielle et sans incident grâce à la superintelligence.

Adaptation Terra Projects

Source : https://blog.samaltman.com/

(0)