Usbek & Rica : En quoi la numérisation du monde, ce phénomène que vous qualifiez dans votre livre de « technologie totale », entraîne-t-elle une forme de militarisation de nos existences ?
L’une des ruptures majeures du choc technologique que nous vivons tient à la dualité des technologies qui nous entourent, ces technologies de l’hyper-vitesse et de la symbiose. Elles sont duales par nature, à la fois civiles et militaires. Les réseaux sociaux, par exemple, constituent des espaces d’expression, ludiques, mais aussi des lieux d’influence et de manipulation politique, géopolitique et idéologique. C’est là que se jouent les guerres informationnelles aujourd’hui. Il suffit de penser à l’affaire Cambridge Analytica, à la guerre d’influence franco-russe au Sahel, au conflit en Ukraine…
On peut citer aussi l’exemple de TikTok, accusé par les autorités américaines d’être un outil d’espionnage et d’ingérence chinoise. Ou encore le cas de Neuralink, l’entreprise d’Elon Musk, qui promet des bénéfices thérapeutiques grâce à des implants neuronaux mais qui ouvre surtout un vaste champ de manipulations et de piratages si on rend possible l’accès au monitoring de notre activité cérébrale. Cela annonce les guerres cognitives de demain. De ce point de vue-là, plus on se « technologise », plus on se « vulnérabilise », et plus on devient des cibles ou des soldats potentiels. On doit avoir ça en tête : la démocratie est en train d’être militarisée.
La frontière entre ce qui relève du civil et du militaire serait donc de plus en plus floue. Mais est-ce vraiment nouveau quand on pense à Internet, au nucléaire, aux pesticides ou même à la conquête spatiale - autant de technologies et de secteurs où la Défense a été centrale, voire pionnière ?
Les Big Tech ont un caractère singulier parce qu’elles sont des entités hybrides : elles ont un statut d’entreprises privées mais elles sont aussi des véhicules géopolitiques, des acteurs militaires, avec des agendas politiques. Elon Musk, Sam Altman ou Peter Thiel ont une vision de ce que doit être ou ne pas être l’État ou la démocratie. Et ça, c’est nouveau.
Au temps de la Compagnie des Indes Orientales, par exemple, c’étaient les États qui donnaient leurs prérogatives et transféraient des compétences. Là, ce n’est pas le cas. Quant aux exemples que vous évoquez, le citoyen lambda n’était pas en prise avec ces technologies-là. Là, tout le monde peut devenir un hacker malveillant en choisissant un bon prompt sur ChatGPT… Ce sont des technologies de déstabilisation qui ne coûtent pratiquement rien.
D’après vous, la guerre en Ukraine, puis l’intervention militaire israélienne dans la bande de Gaza ont marqués des tournants. Qu’est-ce qui a changé exactement avec ces deux conflits ?
Ce qu’a rendu visible la guerre d’Ukraine, c’est la data-ification des champs de bataille. Les systèmes d’IA à usage militaire (Starlink, les drones, les IA génératives) sont parties prenantes des conflits. C’est une guerre classique, « de tranchées », mais c’est aussi, dans le même temps, une mise en données avec une captation extrêmement massive et sur-technologisée du champ de bataille, traitée par des algorithmes qui en font de l’information stratégique, puis des IA génératives qui vont élaborer des scénarios possibles d’action. Dans le cas d’Israël, on a découvert l’utilisation du logiciel Habsora, qui était censé « rationaliser » et « optimiser » les bombardements grâce à l’IA. Ces conflits ont rendu visible tout un champ d’expérimentations.
En filant la métaphore guerrière, vous appelez à « réarmer » les citoyens, à en faire des « citoyens-soldats ». Comment résister à la brutalisation du débat public, à sa polarisation et à la militarisation des esprits que vous évoquez ?
On a aujourd’hui des technologies de l’hyper-vitesse qui sont duales, civiles et militaires by design, et elles sont dans les mains de tout le monde. Elles arrivent dans un contexte de défiance démocratique et de crise de la légitimité.
À cela s’ajoute la multipolarité de l’échiquier mondial, où la technologie est une arme de coercition et de rapport de force. Partant de là, nous devenons tous des cibles. Les attaques extérieures, informationnelles et cognitives, visant à faire imploser les démocraties de l’intérieur, convergent grâce aux groupes antisystèmes, ce que les anglo-saxons appellent les contrarians, ceux qui sont contre tout. Ces groupes ont entre les mains des technologies qui peuvent diffuser leurs idées massivement. Ils sont encore marginaux mais peuvent métastaser, et on se retrouve ainsi dans des logiques insurrectionnelles.
Face à ce mouvement, il y a d’abord un enjeu d’hygiène informationnelle et cognitive. Pendant la crise du Covid, le gouvernement canadien a été confronté aux mêmes problématiques qu’en France : antivax, complotisme… Il a lancé des campagnes de sensibilisation suivant la logique suivante : on ne va pas vous dire quoi croire, en revanche prenez toujours quelques secondes avant d’engager une action sur un contenu donné, afin de désamorcer les circuits cognitifs des biais, des croyances et des réflexes pour basculer vers les circuits cognitifs de la réflexion, du raisonnement. Il n’est plus question de dire « le vrai » puisqu’avec une IA générative on peut créer tout un univers de faux qui semblerait parfaitement crédible, mais que chacun redevienne un acteur au sens athénien du terme : un soldat-citoyen.
Vous insistez sur le fait que les lois sont insuffisantes pour freiner l’emprise du numérique sur nos vies. Quel regard portez-vous sur les débats relatifs à l’IA ?
On peut avoir une double lecture de l’IA Act européen. En termes de realpolitik, il était important de promouvoir un texte qui dise aux Big Tech : au sein de nos frontières, vous allez respecter nos lois et nos valeurs. L’IA Act joue sur ce registre des libertés fondamentales, des valeurs européennes. Depuis 2019 et l’arrivée de Thierry Breton comme Commissaire européen au marché intérieur, il y a une prise de conscience que l’Europe ne peut plus être seulement un marché de consommateurs qui serait pacifié par le commerce. Nous sommes entrés dans un monde brutal, de rapports de force, et notre relation avec notre principal allié, les États-Unis, est une relation transactionnelle.
Maintenant, ces tentatives de réglementation ne posent pas la question centrale : quel est notre projet avec la technologie ? Pour l’instant, on suit simplement le mouvement général et on s’ajuste… On traite la question technologique en silos, comme un patchwork. En fonction de l’actualité, on s’intéresse à différentes dimensions de la technologie mais on n’aborde jamais la question de la vision globale.
Ce terme vise à rappeler que toutes les technologies sont en lien, elles font système et elles sont privatisées par quelques acteurs qui se comptent sur les doigts des deux mains. Ces entreprises-là ont un projet de contrôle total du monde et du futur. Elles ont une approche idéologique, fondée sur le transhumanisme, le long-termisme, l’accélérationnisme… Ces entreprises quadrillent et captent. C’est le cas de celles d’Elon Musk, par exemple : le ciel avec Starlink, les réseaux sociaux avec X, nos cerveaux avec Neuralink, les routes avec Tesla et ses voitures bourrées de capteurs… Ce sont des entreprises qui mettent en place des enclosures modernes.
Et c’est un continuum avec ce que j’appelle le « Big State ». Car les États sont des acteurs de premier plan de cette conflictualisation technologique du monde. Ils coopèrent. Ils constituent l’un des principaux marchés pour les géants de la tech Etats. Il suffit de penser à des projetscomme SpaceX, Palantir ou OpenAI… C’est un Leviathan à deux têtes : Big Tech et Big State.
Oui, le Big State, c’est cette obsession quasi-paranoïaque du contrôle de la population. Plus on a de la data, plus on en manque, plus on en veut, comme une forme d’addiction à l’hyper-contrôle, avec ce désir de projection de puissance sur le monde extérieur. C’est le cas des Etats-Unis, de la Chine, de la Russie, de l’Inde, d’Israël, de la Turquie… La France souhaite devenir à son tour un Big State, en tout cas elle en a le discours. Il y a bien une relation d’amour-haine entre ces pays-là et les géants de la tech. Les deux sont dans des velléités d’hyper-pouvoir, avec des agendas qui peuvent converger.
Vous vous méfiez du « pessimisme réactionnaire » de certains penseurs technocritiques. Pourquoi la piste d’un ralentissement de la numérisation du monde ne vous semble-t-elle pas pertinente à explorer ?
À mon avis, on masque souvent une forme de technophobie derrière la technocritique, surtout en France, et je ne suis pas là-dedans. Je ne rejette pas la technologie, et je ne pense pas que le sens de l’histoire soit de dés-innover, de se dé-technologiser. C’est la finalité des technologies plus que leur existence propre que je questionne : ce sont seulement des outils.
Si on sort du dogme techno-solutionniste, si on sort d’un projet de surveillance généralisé, cela me va. Mais les politiques qui n’ont pas le courage de s’emparer de ce sujet font de la bidouille normative, ils manquent de radicalité dans leur approche. Alors qu’il faudrait par exemple redéfinir le statut juridique des entreprises de la Big Tech, qui tend vers une forme hybride public-privé. Il s’agit de se poser les bonnes questions : que sont devenus les géants technologiques aujourd’hui, et comment les gouverner ?
