Tweet

Un informaticien souvent surnommé « le parrain de l’intelligence artificielle » a quitté son emploi chez Google pour dénoncer les dangers de cette technologie, ont rapporté lundi 1er mai 2023 les médias américains.

Geoffrey Hinton, qui a créé une technologie de base pour les systèmes d’intelligence artificielle, a déclaré au New York Times que les progrès réalisés dans ce domaine posaient « des risques profonds pour la société et l’humanité ».

Regardez ce qu’il en était il y a cinq ans et ce qu’il en est aujourd’hui », a-t-il déclaré dans l’article publié lundi 1er mai.

« Prenez la différence et propagez-la vers l’avant. C’est effrayant.

M. Hinton a déclaré que la concurrence entre les géants de la technologie poussait les entreprises à lancer de nouvelles technologies d’IA à une vitesse dangereuse, mettant en péril des emplois et propageant des informations erronées.

« Il est difficile de voir comment on peut empêcher les mauvais utilisateurs de s’en servir pour faire de graves dégâts », a-t-il déclaré au Times.

En 2022, Google et OpenAI – la start-up à l’origine du populaire chatbot d’IA ChatGPT – ont commencé à construire des systèmes utilisant des quantités de données beaucoup plus importantes qu’auparavant.

M. Hinton a déclaré au Times qu’il pensait que ces systèmes éclipsaient l’intelligence humaine à certains niveaux en raison de la quantité de données qu’ils analysaient.

 » Il se peut que ce qui se passe dans ces systèmes soit en fait très supérieur à ce qui se passe dans le cerveau « , a-t-il déclaré au journal.

Bien que l’IA ait été utilisée pour aider les travailleurs humains, l’expansion rapide des chatbots tels que ChatGPT pourrait mettre des emplois en péril.

L’IA « supprime les tâches pénibles », mais « elle pourrait faire plus que ça », a-t-il déclaré au Times.

Le scientifique a également mis en garde contre la propagation potentielle de fausses informations créées par l’IA, déclarant au Times que l’individu moyen « ne sera plus en mesure de savoir ce qui est vrai ».

M. Hinton a annoncé sa démission à Google le mois dernier, selon le Times.

Jeff Dean, responsable scientifique de Google AI, a remercié M. Hinton dans une déclaration aux médias américains.

« En tant que l’une des premières entreprises à avoir publié les principes de l’IA, nous restons attachés à une approche responsable de l’IA », ajoute le communiqué.

« Nous apprenons continuellement à comprendre les risques émergents tout en innovant avec audace ».

En mars, le milliardaire de la technologie Elon Musk et une série d’experts ont appelé à une pause dans le développement des systèmes d’IA afin d’avoir le temps de s’assurer qu’ils sont sûrs.

Cette lettre ouverte, signée par plus de 1 000 personnes, dont M. Musk et Steve Wozniak, cofondateur d’Apple, a été motivée par la publication de GPT-4, une version beaucoup plus puissante de la technologie utilisée par ChatGPT.

M. Hinton n’a pas signé cette lettre à l’époque, mais il a déclaré au New York Times que les scientifiques ne devraient pas « augmenter la puissance de cette technologie tant qu’ils n’auront pas déterminé s’ils peuvent la contrôler ».

Adaptation Terra Projects

Source : https://www.sciencealert.com/

(437)