Intelligence artificielle : le PDG d'OpenAI appelle les gouvernements à intervenir pour "limiter les risques"

Le PDG d'OpenAI, Sam Altman, le 16 mai 2023. © AFP - WIN MCNAMEE

Devant une commission de sénateurs américains mardi, Sam Altman, patron d'OpenAI, la société qui a créé ChatGPT, a exhorté les États-Unis à établir des règles pour encadrer l’intelligence artificielle.

L’intervention des gouvernements est "cruciale" et "urgente" pour réguler l’intelligence artificielle (IA), selon le PDG d’OpenAI la start-up à l’origine de ChatGPT. Interrogé mardi par une commission sénatoriale américaine, Samuel Altman a témoigné des dangers que l’IA pourrait poser à l’avenir si aucune règle n’est définie : diffusion d'informations erronées au moment des élections, manipulation des opinions, remplacement d'emplois. "Nous voulons travailler avec le gouvernement pour empêcher que cela ne se produise", assure le jeune entrepreneur, car "l'intervention réglementaire des gouvernements sera essentielle pour atténuer les risques de modèles de plus en plus puissants".

Les dérives de l'IA au centre des débats

Mardi, au début de l'audition de Sam Altman, le sénateur Richard Blumenthal a diffusé un enregistrement dans lequel on pouvait l’entendre évoquer les dangers de l’intelligence artificielle : un texte rédigé par ChatGPT puis lu par un logiciel imitant sa voix. "Si vous écoutiez de la maison, vous auriez sans doute pensé que c'était ma voix et mes mots, alors que cela ne l'était pas", a déclaré l’élu.

Richard Blumenthal s’est montré inquiet des possibles dérives de l'intelligence artificielle générative : "Et si je lui avais demandé (…) une approbation de la capitulation de l'Ukraine ou du leadership du président russe Vladimir Poutine ?" Les technologies d'IA "ne sont plus des fantasmes de science-fiction, elles sont réelles et présentes", a-t-il ajouté.

La mise en ligne de ChatGPT, en novembre, a suscité un immense intérêt du public et des entreprises pour l'intelligence artificielle dite générative, c'est-à-dire capable de créer du contenu - texte, images, sons ou vidéo - après avoir été entraînée sur d'immenses bases de données.

À réécouter : Quand les experts sonnent l’alarme face aux progrès de l’Intelligence artificielle

Géopolitique

3 min

Pour la création d’une nouvelle agence de régulation

Samuel Altman se montre favorable à la création d’un régime de licence pour les entreprises travaillant avec de puissants systèmes d’IA. Il propose également la création d’une nouvelle agence de régulation, pour imposer des garde-fous qui permettraient de bloquer des modèles d'IA qui pourraient "s'auto-répliquer et s'auto-exfiltrer dans la nature". Cet organisme serait chargé d'attribuer des autorisations aux organisations développant des systèmes d'IA d'un certain niveau, et "pourrait les retirer si elles ne se conforment pas à des standards de sécurité". Il anticipe aussi la possible perte de contrôle par les humains d’une IA. Enfin, Samuel Altman souhaite que toutes les créations d’images par une intelligence artificielle soient obligatoirement précisées.

"Mes pires craintes sont que nous causions des dommages significatifs dans le monde, dans plusieurs domaines comme la technologie, l'industrie. Si cette technologie va dans le mauvais sens, elle peut aller assez loin, et nous voulons le dire haut et fort." Selon l’entrepreneur : "À mesure que cette technologie progresse, nous comprenons que les gens s'inquiètent de la façon dont cela pourrait changer notre façon de vivre. Nous le sommes aussi."

Pour afficher ce contenu Twitter, vous devez accepter les cookies Réseaux Sociaux.

Ces cookies permettent de partager ou réagir directement sur les réseaux sociaux auxquels vous êtes connectés ou d'intégrer du contenu initialement posté sur ces réseaux sociaux. Ils permettent aussi aux réseaux sociaux d'utiliser vos visites sur nos sites et applications à des fins de personnalisation et de ciblage publicitaire.

Devant les sénateurs, Samuel Altman a tenté de rester optimiste : "Nous pensons que les avantages des outils que nous avons déployés jusqu'à présent l'emportent largement sur les risques, mais assurer leur sécurité est vital pour notre travail."

Vous trouvez cet article intéressant ? Faites-le savoir et partagez-le.