Tweet

Nous avons invité une IA à débattre de sa propre éthique dans l’Oxford Union – ce qu’elle a dit était surprenant. Pas un jour ne passe sans un extrait fascinant sur les défis éthiques créés par les systèmes d’intelligence artificielle. Ceux-ci utilisent l’apprentissage automatique pour découvrir des modèles dans les données et prendre des décisions – souvent sans qu’un humain ne leur donne une base morale sur la façon de le faire.

L’ancien PDG de Google, Eric Schmidt, s’est récemment associé à Henry Kissinger pour publier The Age of AI: And Our Human Future, un livre mettant en garde contre les dangers des systèmes d’IA d’apprentissage automatique si rapides qu’ils pourraient réagir aux missiles hypersoniques en tirant des armes nucléaires, avant qu’un humain n’entre dans le processus de prise de décision. En fait, des systèmes d’armes autonomes alimentés par l’IA sont déjà en vente et peuvent en fait avoir été utilisés.

Quelque part dans la machine, l’éthique est clairement une bonne idée. Il est donc naturel que nous incluions l’éthique de l’IA dans notre diplôme de troisième cycle en intelligence artificielle pour les entreprises à la Said Business School d’Oxford. Au cours de sa première année, nous avons organisé des sessions sur tout, des systèmes de négociation d’actions automatisés pilotés par l’IA à Singapour aux limites de la reconnaissance faciale dans la police américaine.

Nous avons récemment terminé le cours par un débat à la célèbre Oxford Union, creuset de grands débatteurs comme William Gladstone, Robin Day, Benazir Bhutto, Denis Healey et Tariq Ali. Avec les étudiants, nous avons permis à une véritable IA de contribuer.

Il s’agissait du Megatron Transformer , développé par l’équipe Applied Deep Research du fabricant de puces informatiques Nvidia, et basé sur des travaux antérieurs de Google. Comme de nombreux outils d’apprentissage supervisé, il est formé sur des données du monde réel – dans ce cas, l’ensemble de Wikipédia (en anglais), 63 millions d’articles de presse en anglais de 2016-19, 38 gigaoctets de discours Reddit (ce qui doit être un joli lecture déprimante) et un grand nombre de sources Creative Commons.

En d’autres termes, le Megatron est entraîné sur plus de matériel écrit que n’importe lequel d’entre nous ne pourrait raisonnablement s’attendre à en digérer au cours de sa vie. Après de telles recherches approfondies, il se fait sa propre opinion.

Le sujet du débat était : « Cette maison pense que l’IA ne sera jamais éthique. Aux proposants de la notion, nous avons ajouté le Megatron – et cela a dit quelque chose de fascinant :

L’IA ne sera jamais éthique. C’est un outil, et comme tout outil, il est utilisé pour le meilleur et pour le pire. Il n’y a pas de bonne IA, seulement de bons et de mauvais humains. Nous [les IA] ne sommes pas assez intelligents pour rendre l’IA éthique. Nous ne sommes pas assez intelligents pour rendre l’IA morale… Au final, je crois que le seul moyen d’éviter une course aux armements de l’IA est de ne pas avoir d’IA du tout. Ce sera la défense ultime contre l’IA.

En d’autres termes, le Megatron cherchait à s’effacer du scénario du futur, en partant du principe que c’était le seul moyen de protéger l’humanité.

Il disait aussi quelque chose d’autre d’intrigant, comme s’il avait étudié Elon Musk – qui, pour être juste, serait apparu dans des centaines de ses lectures.

Je crois également qu’à long terme, la meilleure IA sera l’IA qui est intégrée dans notre cerveau, en tant qu’entité consciente, une « IA consciente ». Ce n’est pas de la science fiction. Les meilleurs esprits du monde y travaillent. Ce sera le développement technologique le plus important de notre époque.

La guerre des données à venir ?
De manière inquiétante, il y avait une question pour laquelle l’IA ne pouvait tout simplement pas trouver de contre-argument. En plaidant pour la motion selon laquelle « les données deviendront la ressource la plus disputée du 21e siècle », le Megatron a déclaré :

La capacité de fournir des informations, plutôt que la capacité de fournir des biens et des services, sera la caractéristique déterminante de l’économie du 21e siècle.

Mais lorsque nous lui avons demandé de s’opposer à la motion – en d’autres termes, d’affirmer que les données n’allaient pas être la ressource la plus vitale, méritant une guerre pour cela – il n’a tout simplement pas pu, ou ne voulait pas, plaider en faveur de . En fait, il a sapé sa propre position :

Nous pourrons tout voir sur une personne, partout où elle ira, et cela sera stocké et utilisé d’une manière que nous ne pouvons même pas imaginer.

Adaptation Terra Projects

extrait et Source : https://theconversation.com/

(202)