Le problème du moratoire sur l’IA : “ça profitera à la Chine”

Elon Musk, Steve Wozniak et plus de 20 000 cosignataires demandent un moratoire de six mois sur le développement d’IA plus puissantes que GPT-4
Mais pour Eric Schmidt, l’ancien PDG de Google, cela offrirait un avantage à la Chine
Celui-ci est cependant conscient des risques et est favorable à un rapprochement entre acteurs de l’industrie

La course à l’intelligence artificielle entre certains géants de la tech effraie et c’est normal. Mais le moratoire sur le développement de cette technologie que certains (dont Elon Musk) proposent serait une mauvaise idée, d’après Eric Schmidt, l’ancien PDG de Google. Pourquoi ? Selon lui, cela profiterait à la Chine. C’est ce qu’il a expliqué dans une interview accordée à l’Australian Financial Review et relayée par le magazine Fortune.

Shmidt a indiqué qu’il n’est pas favorable au moratoire de six mois, à cause des avantages que cela donnerait à la Chine. En revanche, l’ancien PDG de Google se dit favorable à une réunion entre les différents acteurs pour établir les limites à ne pas franchir dans cette course à l’intelligence artificielle. Alors que Microsoft intègre ChatGPT et d’autres IA d’OpenAI sur ses produits, Google prépare également une offensive dans ce domaine. Et Meta, de son côté, continue de développer des modèles comparables à ChatGPT. Shmidt connaît les risques liées à l’intelligence artificielle. Mais malgré cela, il se dit défavorable au moratoire.

Une pause demandée par Elon Musk, Steve Wozniak, etc.

Pour rappel, le moratoire a été demandé dans une lettre ouverte ayant déjà récolté plus de 20 000 signatures. Parmi les signataires, il y a des patrons de la tech comme Elon Musk, Steve Wozniak, le cofondateur d’Apple, des chercheurs, ou encore l’auteur Yuval Noah Harari. Ces signataires demandent aux laboratoires d’intelligences artificielles de suspendre pendant six mois l’entraînement d’IA qui seraient plus puissantes que GPT-4 (la version améliorée de ChatGPT).

“Les laboratoires d’IA et les experts indépendants devraient profiter de cette pause pour développer et mettre en œuvre conjointement un ensemble de protocoles de sécurité partagés pour la conception et le développement avancés d’IA qui sont rigoureusement audités et supervisés par des experts externes indépendants”, lit-on dans le document.

Aujourd’hui, bien que les IA génératives soient extrêmement sophistiquées, celles-ci peuvent parfois “halluciner” et induire les utilisateurs en erreur. On peut également évoquer l’impact de la technologie sur le marché du travail, ou encore les utilisations malveillantes (malgré les garde-fous déjà en place). La lettre indique que les systèmes avec une intelligence capable de rivaliser avec les humains posent un “risque profond pour la société et pour l’humanité”.

Vers l’auto-régulation ?

De son côté, Google a déjà indiqué qu’il ne suspend pas le développement de son IA. “Je pense que dans les détails réels, je ne vois pas très bien comment vous feriez quelque chose comme ça aujourd’hui”, a expliqué Sundar Pichai, l’actuel patron de Google, dans une interview avec le podcast Hard Fork, selon Fortune. Celui-ci a également expliqué qu’un tel moratoire ne serait possible qu’avec une intervention du gouvernement.

Mais Schmidt semble assez réticent par rapport à cette idée d’intervention du gouvernement. En effet, pour lui, peu de gens au sein du gouvernement américain savent exactement de quoi il s’agit. L’ancien PDG de Google est plutôt favorable à une coopération entre acteurs de l’industrie (mais sans le moratoire).