L'IA est dans les mains de quelques entreprises, voici pourquoi c'est un problème

Ne laissons pas le secteur de l’intelligence artificielle entre les mains de quelques entreprises, plaident trois chercheurs, qui appellent les pouvoirs publics à réagir. Voici pourquoi.

La force de frappe des Big Tech dans l’intelligence artificielle (IA) a mis K-O les centres de recherche publics et universitaires. C’est ce que pensent trois chercheurs du Massachusetts Institute of Technology (MIT), qui lancent une alerte dans un article publié dans Science le 2 mars dernier. Pendant des décennies, expliquent les chercheurs, la recherche dans ce secteur a été menée par les centres de recherche publics et les équipes Recherche et développement du secteur privé. Mais aujourd’hui, les choses ont changé.

L’industrie est devenue de plus en plus influente, et cela devrait inquiéter les pouvoirs publics, écrivent-ils. Car une grande partie des ressources et des connaissances du secteur est désormais entre les mains d’une dizaine d’individus et d’entreprises. Et ce sont eux qui définiront les produits et les applications de demain, ce qui signifie que toutes les applications d’intérêt public risquent de devenir de plus en plus rares, estiment les auteurs de l’article scientifique.

Déséquilibre du financement

Cette « mainmise de l’industrie » peut d’abord s’observer au niveau des investissements publics et privés faits dans l’IA. Pour poursuivre des recherches dans ce secteur, il faut un financement tel que le secteur public ne peut pas suivre, expliquent les chercheurs, prenant l’exemple d’OpenAI, à l’origine de ChatGPT. La structure a d’abord été une organisation à but non lucratif. Son objectif d’alors n’était pas de générer des profits, mais que l’humanité toute entière profite des fruits de son travail. Quatre ans plus tard, Microsoft y a investi près d’un milliard de dollars. OpenAI a changé de statut pour devenir une « organisation à but lucratif plafonnée ». La raison : avec ce financement, elle a pu « augmenter rapidement ses investissements dans le calcul et embaucher plus d’ingénieurs ».

Cet exemple illustre le déséquilibre de plus en plus flagrant entre financement public et privé, soulignent les scientifiques. Alors que le secteur privé a investi 340 milliards de dollars dans ce secteur en 2021, les agences gouvernementales américaines y ont investi près de 1,5 milliard de dollars, la Commission européenne 1 milliard d’euros.

Une absence de contrôle, des secteurs délaissés…

Interrogé par le Financial Times, Nur Ahmed, un des trois auteurs de l’article, a expliqué que les financements publics ne permettaient pas par exemple de construire de grands modèles de langage comme le GPT-4. Car cette IA nécessite d’énormes quantités de données et de puissance de calcul à laquelle seules les grandes entreprises technologiques comme Google, Microsoft et Amazon ont accès. Ce qui signifie que les chercheurs ne peuvent pas reproduire les modèles construits par ces entreprises, et qu’ils ne peuvent donc pas les analyser pour vérifier par exemple la présence éventuelle de préjudices ou de biais.

Et autre conséquence, les alternatives « publiques » aux technologies d’IA des entreprises, servant l’intérêt général, seront de plus en plus rares, soutiennent les chercheurs. Les entreprises vont en effet chercher à gagner des profits et à vendre leurs services : une vision des choses partagée par Alex Hanna, directrice de recherche au Distributed AI Research Institute et ancienne membre de l’équipe « Ethical AI » de Google, interrogée par le Financial Times. Les thématiques comme par exemple la préservation de la biodiversité, la science du climat ou l’agriculture ne sont pas vraiment la priorité des recherches actuelles des industriels, explique-t-elle.

Comment alors réduire cette mainmise des industries sur l’IA ? Les scientifiques plaident pour davantage de ressources pour le secteur public – y compris au niveau des salaires des chercheurs pour que ces derniers soient davantage incités à rester dans le public. Les titulaires de doctorat en IA finissent à 70% dans des entreprises – en 2004, cela ne concernait que 21% des doctorants, selon une étude du MIT. Et cette proportion a certainement augmenté depuis la révolution ChatGPT. Autre moyen d’atténuer la mainmise de l’industrie sur l’IA : la mise en place de centres de données réservés aux universitaires.

À lire aussi : Intelligence artificielle à la maison : comment installer facilement un générateur d’images sur votre ordinateur ?

Mais les chercheurs demandent surtout une réaction des pouvoirs publics qui pourraient mettre en commun des ressources : de quoi atteindre le niveau nécessaire pour créer des alternatives répondant à l’intérêt public. Il s’agit aussi de garantir des capacités de contrôle des IA actuellement sur le marché, écrivent les auteurs de l’article, rappelant que si rien n’y fait, ces quelques entreprises auront seules le privilège de définir les IA de demain.

Source : Article publié dans Science, intitulé : « L'influence croissante de l'industrie dans la recherche sur l'IA »