Dernières Infos

Un monde où l’IA est toujours plus inquiétante

L’intelligence artificielle suscite autant d’espoirs que d’inquiétudes. Si certains voient en elle un formidable outil de progrès, d’autres, comme le chercheur en IA Roman Yampolskiy, craignent qu’elle ne signe la fin de l’humanité.

Un scénario catastrophe d’un chercheur isolé ?
Interrogé lors d’un podcast, Yampolskiy a fait part de ses prédictions inquiétantes. Il estime qu’une IA capable de prendre un milliard de décisions par seconde pendant un siècle finirait inévitablement par causer notre perte. Il appuie ses craintes sur des incidents passés, comme les détournements de GPT, le modèle de langage d’OpenAI, pour contourner ses restrictions. Pour lui, ces exemples illustrent notre incapacité à anticiper les menaces potentielles de l’IA.

Yampolskiy n’est pas le seul à tirer la sonnette d’alarme. Le français Yann Le Cun, figure emblématique de l’IA et directeur de la recherche en IA chez Meta, a lui aussi exprimé ses préoccupations quant aux risques existentiels liés à cette technologie. La communauté scientifique s’interroge également sur les enjeux éthiques du développement de l’IA, souvent négligés au profit de la course à la performance.

Récemment, une lettre ouverte signée par des employés d’OpenAI, Google DeepMind et Anthropic a dénoncé le manque de prudence des entreprises dans la conception de l’IA. L’un des signataires, Daniel Kokotajlo, ancien chercheur chez OpenAI, a même estimé à 70% la probabilité que l’IA détruise l’humanité. Il reproche à son ancienne entreprise d’ignorer les risques au profit d’une course effrénée vers l’intelligence artificielle générale (AGI), une IA dotée de capacités cognitives humaines.

L’intelligence artificielle est-elle bénéfique pour l’humanuté ?
Si les mises en garde de ces chercheurs sont alarmantes, elles ne font pas l’unanimité au sein de la communauté scientifique. La prévision du développement de l’IA reste un domaine en plein essor et il est possible que la technologie évolue de manière positive. De plus, l’IA n’est pas la seule menace existentielle qui pèse sur l’humanité.

Face à ces incertitudes, OpenAI se veut rassurant et affirme prendre en compte les inquiétudes soulevées. L’entreprise assure adopter une approche scientifique rigoureuse dans la gestion des risques liés à l’IA.

L’intelligence artificielle représente un potentiel immense pour l’humanité, mais elle soulève également des questions cruciales quant à notre avenir. Le débat sur les risques liés à l’IA est loin d’être clos et nécessite une réflexion approfondie de la part des chercheurs, des entreprises et des décideurs politiques. Il est essentiel de trouver un équilibre entre l’innovation technologique et la préservation de l’humanité.

L’avenir nous dira si l’IA sera notre alliée ou notre ennemie. En attendant, il est crucial de rester vigilant et d’encadrer le développement de cette technologie pour éviter qu’elle ne devienne incontrôlable. La survie de l’humanité pourrait bien en dépendre.

source : https://www.jeuxvideo.com/

(92)

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.