Dernières Infos

Le PDG de l’IA de GPT4 : « Cela peut devenir super dangereux très rapidement »

credit GPTA et numerama : https://www.youtube.com/watch?v=8ptKOj1rXOU&ab_channel=Numerama

OpenAI a publié mardi 14 mars 2022, son très attendu GPT-4, en fournissant un « rapport technique » de 98 pages sur la dernière publication de son grand modèle de langage (LLM).

Mais malgré la longueur de la documentation et les racines non lucratives de l’entreprise, OpenAI a révélé très peu d’informations sur le fonctionnement réel de sa dernière IA, ce qui inquiète les experts, rapporte Venture Beat.

OpenAI, cependant, affirme qu’elle avait de bonnes raisons de ne pas dévoiler ses cartes.

« Étant donné le paysage concurrentiel et les implications en termes de sécurité de modèles à grande échelle comme le GPT-4 », peut-on lire dans le document, « ce rapport ne contient pas d’autres détails sur l’architecture (y compris la taille du modèle), le matériel, le calcul d’entraînement, la construction de l’ensemble de données, la méthode d’entraînement ou d’autres éléments similaires ».

En d’autres termes, il s’agit de la formule Krabby Patty d’OpenAI, et la recette n’est pas prête d’être dévoilée.

Sauce secrète
Selon le PDG de Lightning AI, William Falcon, un chercheur en IA qui a précédemment travaillé sous la direction de Yann LeCun, scientifique en chef de Meta, le refus d’OpenAI de donner sa recette secrète GPT-4 est une décision précaire.

OpenAI « dit en gros, c’est cool, faites votre truc, on s’en fout », a déclaré Falcon à Venture Beat, estimant qu’OpenAI a créé un « mauvais précédent » pour les startups concurrentes dans le domaine de l’IA. « Vous allez donc avoir toutes ces entreprises qui ne seront plus incitées à rendre les choses open-source, à dire aux gens ce qu’elles font ».

« Ces modèles peuvent devenir très dangereux très rapidement, sans que personne ne les surveille », a-t-il ajouté. « Et il est vraiment difficile de les contrôler. C’est un peu comme une banque qui n’appartient pas à la FINRA, comment pouvez-vous la réglementer ?

Montrez votre travail
Falcon soulève un excellent point. Il est facile pour quiconque de dire qu’il fait tout ce qu’il faut pour arriver à un certain résultat. Mais si l’on ne montre pas son travail, il est pratiquement impossible de se faire contrôler par des tiers.

Il y a aussi le fait que l’existence de l’article est tout simplement trompeuse. Bien que le document de l’OpenAI soit qualifié de rapport technique, il ne contient pas vraiment d’informations techniques. Selon M. Falcon, cela ne rend pas service à tout le monde.

« Vous vous faites passer pour des chercheurs », a déclaré le PDG à Venture Beat. « C’est là le problème.

Quoi qu’il en soit, le rapport technique a permis de clarifier une chose : malgré son nom, les portes d’OpenAI sont fermement fermées – et il est peu probable que cela change.

Adaptation Terra Projects

Sources : https://futurism.com/ / https://venturebeat.com/

(190)

Laissez un message