Un informaticien souvent surnommé « le parrain de l’intelligence artificielle » a quitté son emploi chez Google pour dénoncer les dangers de cette technologie, ont rapporté lundi 1er mai 2023 les médias américains.
Geoffrey Hinton, qui a créé une technologie de base pour les systèmes d’intelligence artificielle, a déclaré au New York Times que les progrès réalisés dans ce domaine posaient « des risques profonds pour la société et l’humanité ».
Regardez ce qu’il en était il y a cinq ans et ce qu’il en est aujourd’hui », a-t-il déclaré dans l’article publié lundi 1er mai.
« Prenez la différence et propagez-la vers l’avant. C’est effrayant.
M. Hinton a déclaré que la concurrence entre les géants de la technologie poussait les entreprises à lancer de nouvelles technologies d’IA à une vitesse dangereuse, mettant en péril des emplois et propageant des informations erronées.
« Il est difficile de voir comment on peut empêcher les mauvais utilisateurs de s’en servir pour faire de graves dégâts », a-t-il déclaré au Times.
En 2022, Google et OpenAI – la start-up à l’origine du populaire chatbot d’IA ChatGPT – ont commencé à construire des systèmes utilisant des quantités de données beaucoup plus importantes qu’auparavant.
M. Hinton a déclaré au Times qu’il pensait que ces systèmes éclipsaient l’intelligence humaine à certains niveaux en raison de la quantité de données qu’ils analysaient.
» Il se peut que ce qui se passe dans ces systèmes soit en fait très supérieur à ce qui se passe dans le cerveau « , a-t-il déclaré au journal.
Bien que l’IA ait été utilisée pour aider les travailleurs humains, l’expansion rapide des chatbots tels que ChatGPT pourrait mettre des emplois en péril.
L’IA « supprime les tâches pénibles », mais « elle pourrait faire plus que ça », a-t-il déclaré au Times.
Le scientifique a également mis en garde contre la propagation potentielle de fausses informations créées par l’IA, déclarant au Times que l’individu moyen « ne sera plus en mesure de savoir ce qui est vrai ».
M. Hinton a annoncé sa démission à Google le mois dernier, selon le Times.
Jeff Dean, responsable scientifique de Google AI, a remercié M. Hinton dans une déclaration aux médias américains.
« En tant que l’une des premières entreprises à avoir publié les principes de l’IA, nous restons attachés à une approche responsable de l’IA », ajoute le communiqué.
« Nous apprenons continuellement à comprendre les risques émergents tout en innovant avec audace ».
En mars, le milliardaire de la technologie Elon Musk et une série d’experts ont appelé à une pause dans le développement des systèmes d’IA afin d’avoir le temps de s’assurer qu’ils sont sûrs.
Cette lettre ouverte, signée par plus de 1 000 personnes, dont M. Musk et Steve Wozniak, cofondateur d’Apple, a été motivée par la publication de GPT-4, une version beaucoup plus puissante de la technologie utilisée par ChatGPT.
M. Hinton n’a pas signé cette lettre à l’époque, mais il a déclaré au New York Times que les scientifiques ne devraient pas « augmenter la puissance de cette technologie tant qu’ils n’auront pas déterminé s’ils peuvent la contrôler ».
Adaptation Terra Projects
Source : https://www.sciencealert.com/
Le Grand Défi de la Terre
Le quiz scientifique de Terra Projects
Prêt à relever le défi ?
Volcans, météorologie, climat, océans, espace, séismes, nature, préhistoire, énergie et découvertes scientifiques.
10 questions au hasard parmi 500 · 20 secondes par réponse · Une explication pour apprendre à chaque question.
Dès 9 bonnes réponses sur 10, ta partie compte pour les diplômes !
Défi terminé !
🏅 Mes diplômes Terra Projects
Trois récompenses à débloquer avec au moins 9 bonnes réponses sur 10 à chaque partie, plusieurs parties de suite :
Clique sur « Aperçu du diplôme » pour voir son modèle avant de le débloquer. Après 3, 5 ou 10 parties consécutives avec au moins 9/10, le bouton d’impression PDF s’active. Les diplômes obtenus restent acquis, même si une série est interrompue. Sauvegarde sur cet appareil uniquement. Récompenses ludiques, sans valeur scolaire officielle.
