Comment les entreprises de la tech nous forcent à utiliser l'IA

Travail réalisé par Nolwenn Maudet, Anaëlle Beignon et Thomas Thibault

Introduction

Le déploiement à marche forcée des services d'IA générative pose de sérieux problèmes sociaux et environnementaux. Nous en parlions dans une de nos newsletters et les alertes dans la presse sont de plus en plus fréquentes.

L'IA accroît fortement les impacts environnementaux du numérique. Pour ne citer que quelques chiffres, 80% des data centers pourraient être désormais obsolètes et au cours du premier semestre 2023 l'Amérique du Nord a établi un nouveau record avec une augmentation de +25 % de construction de nouveaux centres de données.

Poussées par des investissements massifs qu'il faut rentabiliser, par la promesse de nouvelles sources de profits ou par la peur de se voir dépassées, de nombreuses entreprises du numérique ont commencé à mettre en œuvre des fonctionnalités alimentées par l'IA.

L'ajout de nouvelles fonctionnalités dans des applications ou des logiciels n'est bien sûr pas nouvelle en soi, mais ce qui frappe avec l'IA, c'est la manière dont les entreprises poussent à l'adoption de ces fonctionnalités, en particulier par le biais du design. Il nous semble que ce phénomène est inédit dans l'histoire des interfaces. Notre objectif avec cette enquête est d'analyser les multiples stratagèmes mis en place par les entreprises pour nous inciter à adopter l'IA, qu'on le veuille ou non.

Analyse

Au début de l'année 2024, nous avons commencé à remarquer que de nombreuses icônes d'IA apparaissaient dans les différents logiciels, sites web et applications que nous utilisions. Nous avons donc commencé à collecter systématiquement des captures d'écran de chaque changement d'interface lié à l'IA. Grâce au bouche à oreille et à un appel sur Mastodon, nous avons collecté plus d'une centaine de captures d'écran, tant dans les logiciels professionnels de productivité que dans d'autres types d'utilisation (loisirs, communication, créativité, etc.).

En analysant ce corpus, nous constatons que les fonctionnalités basées sur l'IA sont proposées aux utilisateurs·ices de manière agressive, par diverses stratégies récurrentes. Lorsque nous comparons la manière dont les fonctions alimentées par l'IA sont introduites dans l'interface par rapport aux changements non liés à l'IA, le contraste est souvent saisissant et montre à quel point les fonctions d'IA occupent une place bien particulière.

Voici donc comment les entreprises nous forcent à utiliser l'Intelligence Artificielle.

➀ L'IA a le premier rôle dans nos interfaces

Tout d'abord, les fonctions d'IA ont tendance à occuper beaucoup d'espace et se voient souvent attribuer l'espace le plus précieux dans les interfaces, les barres d'outils et les menus.

Par exemple, Snapchat a ajouté une fonctionnalité basée sur l'IA sous la forme d'une conversation appelée MyAI qui, contrairement à toutes les autres conversations, reste toujours au-dessus de toutes les autres, même si les utilisateurs·ices n'interagissent jamais avec elle. Chez Google, on observe à peu près le même système en camouflant l'IA comme un message reçu. Dans le pop-over de la messagerie LinkedIn, une bannière annonçant une fonctionnalité basée sur l'IA occupe plus de la moitié de l'espace.

Snaptchat et Google Messages

Linkedin

Google Keep utilise le bouton d'action flottant, normalement réservé à l'action la plus importante, pour afficher une fonction basée sur l'IA.

Google Keep

Dans Notion et DeepL, lorsque les personnes sélectionnent des mots, une barre d'outils apparaît dans laquelle les premiers boutons à gauche (positionnés les plus près possible du curseur) sont des fonctions alimentées par l'IA. Sur Notion, on peut noter que ces fonctions occupent près d'un tiers de l'espace de la barre d'outils.

DeepL

Notion

Une mise en avant graphique

Les fonctionnalités de l'IA ne sont pas seulement mises en avant dans l'espace, elles sont aussi souvent mises en évidence visuellement. Par exemple, dans de nombreux cas tels que Buffer, Miro ou Acrobat Reader, les fonctions d'IA sont mises en avant à l'aide d'une couleur spécifique, d'un dégradé coloré ou même d'une animation de l'icône (Notion), contrairement à toutes les autres fonctions qui sont généralement affichées à l'aide d'icônes statiques en noir et blanc.

Dans Notion

Nous avons également constaté que les fonctionnalités d'IA sont fournies avec de nombreuses façons différentes d'y accéder et qu'elles sont constamment rappelées aux personnes. Dans Acrobat Reader, par exemple, les fonctions d'IA sont présentées et suggérées aux personnes à de multiples reprises. La même fonction « Assistant IA » est présentée au moins six fois dans l'interface : dans les barres d'outils gauche et droite, sous forme de bouton dans la barre de menu, sous forme d'infobulle dans l'interface, sous forme d'invite dans l'interface graphique et lorsque les personnes sélectionnent du texte.

On observe dans certaines pages un retravail graphique complet de l'interface aux couleurs et aux symboles de l'IA.

La page d’accueil du moteur de recherche Qwant en avril 2024 (à gauche) et en novembre 2024 (à droite). La nouvelle page reprends tous les codes graphiques de l’IA (couleurs, symbole de l’étincelle) et mets en avant ses fonctionnalités IA.

Une mise en avant par l'interruption de l'expérience

Lorsqu'on ouvre Adobe Photoshop, les utilisateurs·ices sont d'abord accueillis par une fenêtre contextuelle les encourageant à « explorer la puissance de l'IA générative ». Après avoir fermé ce premier pop-up, une infobulle s'ouvre dans l'interface pour suggérer la même fonctionnalité. De même, lorsque les personnes ouvrent Microsoft Skype, ils sont souvent accueillis par son chatbot IA nommé Copilot qui les invite à l'utiliser dès l'ouverture de l'interface. De nombreux outils, dont Slack et Google Doc, font également la promotion de leurs fonctions d'IA à l'aide de bannières dans l'interface.

En ce sens, la manière dont les fonctionnalités de l'IA sont présentées aux personnes entraîne une rupture dans le flux de travail habituel des utilisateurs. De nombreuses infobulles et bannières promouvant l'IA dans les interfaces nécessitent généralement au moins un clic de la part des personnes pour être supprimées.

Adobe Acrobat : à l’ouverture du document

Vous n'êtes qu'à un clic de l'utiliser

La prééminence accordée aux fonctions d'IA dans les interfaces conduit inévitablement les personnes à déclencher des fonctions d'IA, même par accident. Par exemple, dans Notion, il est très facile de déclencher l'assistant d'IA par erreur en appuyant sur la barre d'espacement, très fréquemment utilisée. En comparaison, le raccourci clavier pour toute autre commande exige que les personnes appuient sur « / », ce qui est moins sujet à ce type d'erreur.

Il est probable que cette mise en avant excessive soit une première dans l'histoire des interfaces. Jamais une fonctionnalité n'aura autant été poussée en si peu de temps, à la fois spatialement, graphiquement, interactivement et de manière autant répétée.

Sur Notion, l’invitation à l’IA au simple clic et le lancement de prompt via la barre d’espace

Toujours activée...

Si les fonctions d'IA sont extrêmement faciles à déclencher ou sont activées par défaut, il est pourtant bien plus difficile pour les personnes de les désactiver ou de les refuser. C'est même souvent impossible.

Par exemple, les gens ont commencé à découvrir que l'application de suivi sportif Strava avait commencé à utiliser l'IA pour commenter leurs activités et, même s'ils ne voulaient pas l'utiliser, ils n'avaient aucun moyen de la désactiver. Dans Snapchat également, non seulement la conversation MyAI reste en tête, mais il est actuellement impossible pour les utilisateurs de la supprimer.

Même lorsque les applications proposent des moyens de désactiver les fonctions basées sur l'IA, cela ne se fait pas sans heurts. Dans le choix des mots, tout d'abord, car le refus d'utiliser les fonctions basées sur l'IA peut rarement être un non catégorique. Au lieu de cela, les applications proposent souvent un moyen temporaire d'écarter la fonction en utilisant des termes tels que « ignorer pour le moment » ou « peut-être plus tard ». Ce que cela signifie pour les utilisateurs·ices, c'est qu'iels finiront certainement par l'utiliser à long terme.

Sur Qwant la recherche par IA est activée par défaut.

...mais très dure à désactiver

Pour comprendre à quel point l'IA nous est imposée, il est intéressant de voir, par contraste, combien d'applications cachent le fait qu'elles ont commencé à activer par défaut l'apprentissage de l'IA sur nos données. Si l'option de désactivation existe, son existence n'est pas mentionnée aux utilisateurs et le paramètre dédié est caché parmi d'autres. Il existe un écart considérable entre, d'une part, la manière dont les possibilités des fonctions basées sur l'IA sont mises en évidence et présentées et, d'autre part, les informations fournies aux utilisateurs pour leur permettre de protéger leurs données contre l'utilisation à des fins d'entraînement de l'IA.

➁ L'IA est présentée comme magique

Le symbole de la magie et de l'innovation

Le symbole graphique le plus courant pour représenter les fonctionnalités d'IA est l'icône étincelle ✨. Associée généralement à quelque chose de « spécial », d'excitant, de nouveau mais aussi à l’innovation et à l’émerveillement, l’icône participe à une représentation d’une fonctionnalité intrinsèquement “bonne”. À la différence d’autres icônes qui illustrent littéralement ou métaphoriquement ce qu’elles font (⚙️🖋️🗑️📅📎 etc.), l’icône ✨ utilisée pour l’IA la dinstingue de fait des autres fonctionnalités dans les interfaces.

Ce traitement graphique est d’ailleurs souvent complété par des superlatifs et un champ lexical de la puissance et du magique ("Powerful assistant" chez Grok, "Explore the power" chez Photoshop, "Join us to dive into performance"chez Apple).

La couleur de la magie

Notons également l'omniprésence de la couleur mauve communément associée à la magie et à l'impalpable. Plus encore, on constate l'usage de dégradés bleu-mauve quasi identiques .

Sorcières dans Merlin l’Enchanteur ou dans Blanche Neige

Page commerciale sur le site de Notion (2022)

Lors d'une rencontre avec Marion Lamarque, spécialiste des couleurs, cette dernière nous faisait remarquer ceci :

"Dans les arts visuels, le violet symbolise la magie, mais est aussi associé à l'innovation. Le mauve version éclaircie du violet, y ajoute la sensation de douceur et rend donc la magie des IA plus rassurante, surtout lorsqu'il est associé en dégradé à un bleu azur, apaisant et consensuel."

Le tout en un ou l’indéfinition de la fonctionnalité

En mobilisant la sémantique visuelle de la magie, les entreprises positionnent l'IA comme un outil à tout faire, sans jamais dire ce qu'elle ne fait pas. Cette indéfinition graphique est propice à la mise en avant de l'IA dans toutes nos interfaces, sans qu'il soit nécessaire de distinguer leurs profondes différences d'usage. En effet, la même icône est utilisée par les entreprises pour des fonctionnalités à base d'IA qui n'ont souvent rien à voir entre elles. Le bouton IA de Zoom, par exemple, a un usage complètement différent de celui de Google, et pourtant ils sont visuellement identiques. L’uniformisation graphique de fonctionnalités profondément différentes produit un flou qui profite à l’IA. Si nous ne savons pas de quoi nous parlons précisément, nous ne sommes pas en mesure d’en attendre véritablement quelque chose. Nous sommes invité·es à nous laisser surprendre et pouvons plus difficilement en critiquer les effets.

Notion (à gauche) explique que leur “outil d’IA fait tout”, Adobe (au milieu) propose différents usages et utilise “etc” pour suggérer que l’IA peut faire plein d’autres choses. Sur Google idem avec “and more”.

Cette “magification” touche non seulement les nouvelles fonctionnalités, mais aussi parfois celles qui sont pourtant déjà bien ancrées dans nos usages et bien comprises. Sur Cairn par exemple, la recommandation algorithmique d’ouvrages similaires est désormais associée au symbole de l’IA.

L’invisibilisation de la machine et sa matérialité

La polyvalence promise des outils de l'IA, incarnée par des évocations magiques, aboutit également à l'invisibilisation de la matérialité des multiples opérations de l'IA, imposant l'idée que l'IA rend nécessairement les choses plus faciles, meilleures et plus rapides.

Ces métaphores sont pratiques puisqu'elles permettent d'éluder les questions d'efficacité et les effets environnementaux ou politiques, encadrant un processus opaque de génération de données dans un événement magique.

Qwant, propose une réponse “instantanée” aux recherches grâce à l’IA. Bien que celle-ci apparaisse bien longtemps après les résultats. Les mots et les métaphores invisibilisent ici le calcul de la machine et les impacts bien plus conséquents qu’une recherche classique.

Nous ne savons pas comment devrait se comporter quelque chose de magique : est-ce normal qu’il prenne du temps ? Ai-je mal fait quelque chose ? Sa consommation de ressources est-elle justifiée ? L’invisibilisation de la machine par la métaphore de la magie place les personnes dans un autre rapport à l’outil. Il n’est plus possible de faire attention à la machine.

➂ L’IA est un assistant (pas une simple feature)

La métaphore humaine

Une forme récurrente que prennent les IA génératives sur nos interfaces est celle de l’assistant. Les assistants intelligents -ou AI assistants (eng)- sont incarnés via des métaphores évoquant des caractéristiques humaines, par exemple en ayant un prénom comme Aria” (Opera) ou “Leo” (Brave). Leur humanité est aussi signifiée par la manière dont ils sont présentés sur l’interface. Par exemple, l’assistant de Snapchat est présenté comme un contact. La personnification des assistants IA est poussée jusqu’à la modalité d’interaction textuelle et les invitations à demander à ou à discuter avec l’IA.

Les assistants proposent d’aider les personnes à “apprendre de nouvelles manières, planifier des évènements, écrire des messages de remerciements, et plus encore” (Gemini sur Google), « discuter, créer et trouver n’importe quoi » (Notion), ou « suggérer des idées uniques » (Skype). Ces activités suggèrent des tâches qu’on associent généralement aux humains plutôt qu’à une procédure informatique. Cette manière de présenter l'IA comme ayant des caractéristiques ou compétences humaines contribue aux discours présentant l'IA comme désirable et performante. Cette polyvalence des compétences humaines permet aussi de justifier la colonisation de fonctions d'IA dans nos services numériques.

Bouton IA Notion

Aide et délégation

Les outils d’IA générative évoquent souvent des rôles professionnels (ex: “Copilot” (Microsoft), ”Agentforce” (Slack) “Cocreator” (Paint), “companion” (Microsoft, Zoom) , “analyst” (Google Chat), ou littéralement “assistant” (Proton, Brave, Webex). Cela alimente une idée de l’IA comme un pair, ou comme collaborateur. Cela fait écho au fantasme de l’allègement des tâches exigeantes grâce à la technologie : l’assistant IA permet de déléguer des actions inintéressantes ou difficiles, élevant les utilisateurs à des tâches plus importantes.

Dans ces exemples personnifiés, nous (les utilisateurs) n’utilisons pas l’IA comme nous le ferions avec un outil, nous demandons à des assistants dévoués (ex: “Whenever you need me”(Notion), “Need help?” (Brave)) de faire à notre place. Les assistants d’IA sont présentés comme des subordonnés polyvalents, attendant des instructions pour les guider. Ce positionnement des IA comme étant hiérarchiquement inférieures à nous, et contrôlables (attendant nos instructions) pourrait être une réponse à la peur de la dégradation du travail pour les travailleurs qualifiés. Il véhicule la figure séduisante de l’agent qui fusionne les propriétés d’un outil et d’un coéquipier, sauf que ce coéquipier ne nous demandera pas de coup de main, lui.

“Nous souhaitons des agents infatiguables qui nous traitent comme des coéquipiers, même si on ne les traite pas de la même manière”

Newendorp et ses collègues, dans un article de 2024 parlant de la métaphore de la relation sociale véhiculée par les agents conversationnels.

La maîtrise de l'IA, une compétence comme une autre?

Une autre stratégie visant à renforcer l’adoption de l’IA consiste à présenter les fonctionnalités qui mobilisent de l’IA générative comme des extensions de la productivité, de la créativité et de l'intelligence des personnes, qui leur donne de nouvelles compétences (ex : générer du code) ou plus de temps (ex : générer des notes de réunion). Les fonctionnalités ne présentent pas l'IA comme un assistant personnalisé qui ferait à notre place, mais affichent plutôt un panel d’outils qui étendent les compétences (ici professionnelles) des utilisateurs: les actions possibles réalisables grâce à l’IA sont représentées grâce à des icônes traditionnels d’outils logiciels, plutôt qu’un champ textuel libre.

Cette évocation de l’outil participe à présenter l’utilisation de l’IA comme un facteur de compétitivité professionnelle, où la rapidité de réalisation des tâches et le spectre de savoir-faire sont valorisés. C'est une manière d'imposer l'IA plus indirecte et pernicieuse, en jouant sur la concurrence entre travailleurs.

Mais pourquoi ce forcing ?

Une utilisation forcée inédite pour compenser de lourds investissements

Cette analyse nous montre qu’il se passe quelque chose de spécial avec l’IA : une forme d’utilisation forcée, probablement inédite dans l’histoire des interfaces. Car oui, il faut rentabiliser les investissement massifs de plusieurs centaines de milliards de dollars réalisés par les entreprises qui ont peur de se laisser distancer dans ce qui peut être perçu comme une ruée vers l’or. Dans un marché saturé, où les perspectives de croissance sont maintenant assez faibles, les nouvelles fonctionnalités d’IA deviennent même très souvent l'occasion d'augmenter le prix des abonnements ici et là de divers services numériques. Nous, utilisateurs·rices, devons alors payer le prix du risque financier pris par les entreprises dans cette course à l’IA. Et les changements plus ou moins visibles qui ont submergés nos interfaces en sont la conséquence directe.

Contrairement aux précédentes évolutions technologiques, les entreprises peuvent désormais, par le biais de mises à jour et de logiciels hébergés dans le cloud, transformer les interfaces du jour au lendemain, affectant instantanément tous les utilisateurs·rices. Ce qui auparavant se produisait progressivement se diffuse désormais presque instantanément auprès de milliards de personnes dans le monde, sauf qu’aucune possibilité d’y échapper n’existe.

L’effet d’emballement collectif pousse alors dans la course les entreprises qui ne veulent pas “louper” le changement de paradigme. Si bien même que certaines fonctionnalités semblent n’exister que pour dire “nous aussi”, quand d’autres fonctionnalités mobilisant des algorithmes depuis longtemps se rhabillent aux couleurs de l’IA.

L’IA, une réponse en quête d’un besoin à satisfaire

Les entreprises de la tech tâtonnent pour essayer de trouver les fonctionnalités qui seront adoptées. On l’a vu, l’explosion de nouvelles fonctionnalités d’IA s’accompagne d’une quantité massive d’informations, de pop-up, de communications, de tutoriels et d’exemples de cas d’usages (spots TV, info-bulles, etc.). Cette stratégie d’utilisation forcée, accompagnée d’une profusion massive d’explications, nous semble être le symptôme d’une technologie dont les usages sont au mieux peu clairs, au pire qui ne répondent à aucune demande, aucun besoin.

Cette course aux nouvelles fonctionnalités d’IA, symbole de l’innovation, se fait au détriment du réel besoin et peuvent, dans de nombreux cas, participer à cacher des problèmes plus profonds dans nos logiciels.

Un grand merci à toutes les personnes qui nous ont partagées leurs anecdotes et captures d'écran pour nourrir cette recherche.