Cette réflexion part d’un constat personnel : la dernière version de Outlook a rendu Copilot, le robot conversationnel de Microsoft, omniprésent.
On ne peut qu’être étonné de voir « copilot » apparaître pour lire un courriel, expliquer son contenu, ou encore suite à un clic-droit. Mais ma surprise n’a pas durée en me remémorant les travaux de Pierre Musso sur la religion industrielle et la notion qu’il développe à la fin de l’ouvrage du même nom, soit le cybermanagement.
Résumons brièvement la thèse de Pierre Musso développée tout au long de cet ouvrage de 700 pages. La religion chrétienne a servi de base à la construction d’une religion industrielle, sous l’effet des écrits de Saint-Simon et de ses successeurs, dont l’ambition était de développer une religion scientifico-industrielle basée sur la foi dans le progrès. Dans cette religion, l’ « organisation » est centrale. C’est le règne de l’entreprise. Or, après la Seconde Guerre mondiale, la performance accompagne ce règne sous l’effet du management. Mais l’auteur avertit que l’organisation ne peut pas être une Institution entendue, à la suite de Pierre Legendre, comme une colle entre le « pourquoi vivre ?» et le « comment vivre ?». Car l’organisation n’est que réseau (en référence à l’organisme) et dissout le politique dans la gestion. L’ordinateur était l’avatar de cette organisation en réseau. Dans ce règne de l’entreprise, la machine devient la nouvelle incarnation après le Christ, la nature et l’humanité. L’idéologie qui accompagne cette religion, comme mythologie fondatrice, est le cybermanagement. Sa seule mesure est l’efficacité, c’est-à-dire « atteindre le but assigné » conformément à la pensée cybernétique qui donnera naissance à l’intelligence artificielle. Le programme informatique n’aura été qu’une étape. L’IA en est le dernier avatar.
Faut-il, maintenant qu’on a identifié le ressort idéologique de cette religion industrielle, s’étonner de voir une organisation technologique, instiller sans consentement l’usage de l’intelligence artificielle dans toutes les tâches des organisations ? Poser la question, c’est y répondre.
En effet, la question du consentement est particulièrement problématique en termes de gouvernance contractuelle de l’IA dans les organisations. Ces changements logiciels se font sans avertissement et ressemblent fortement à des nudges, c’est-à-dire la construction d’une architecture de décision amenant à l’adoption de l’IA sans délibération possible sur la volonté réelle de l’adopter tant au niveau politique, qu’au niveau individuel. Cette architecture prend la forme de l’interface logiciel qui amène l’utilisateur à se servir de l’IA sans avoir se demander si c’est éthique, légal, approuvé par son organisation, etc. Quand tout n’est plus que gestion efficace du travail, l’IA intervient facilement pour permettre l’accomplissement de tâches procédurales. Il suffit de modifier les interfaces des logicielles pour influencer l’adoption de cette technologie. Le problème majeur est que cela se fait sans lire les conditions générales d’utilisation. Microsoft parvient ainsi à avoir accès à tout un éventail de données sensibles.
Mais, ne soyons pas offusqué de cela car qu’avons-nous fait pour prévenir ce phénomène ?
En laissant le capitalisme managérial américain, tel qu’il fut théorisé par le sociologue québécois Michel Freitag, devenir notre modèle de société, nous avons posé les conditions nécessaires à l’émergence du cybermanagement et à la préparation de nos sociétés à accueillir l’IA. Quand le politique est remplacé par la gestion efficace et rationnelle de l’Homme, l’IA ne peut que s’installer sans opposition. Microsoft n’était d’abord que l’organisation fournissant une suite logicielle aux organisations. Avec Copilot, elle devient l’organisatrice des organisations ou, pour le dire autrement, l’organisation des organisations. La boucle de rétroaction, cher à la cybernétique, est donc bouclée. Qui osera encore parler de souveraineté dans ce contexte ?
Benjamin Lehaire
