Le paradoxe de la « boîte noire » numérique

Parcoursup, Amazon, reconnaissance faciale et j’en passe… La « boîte noire », marronnier de la presse et sujet récurrent de conversations de salon, nous présage des lendemains qui déchantent, d’autant plus que son « pouvoir ordonnateur » (1) est l’incontournable corollaire de la généralisation algorithmique, du développement de l’IA (intelligence artificielle), du machine learning, de la robotique et, plus largement, de la transformation numérique de tous les secteurs de l’activité humaine. La boîte noire peut le pire et si elle peut le faire, elle le fera : c’est tout dire ! Mais c’est aussi rien dire… car le Diable seul sait — et encore — ce qu’elle cache vraiment derrière sa sulfureuse réputation, ses grimoires d’alchimiste, ses codes secrets, ses signes cabalistiques, ses coffrets de silicium et ses armures de métal.

C’est pourquoi je dis souvent que ce n’est pas une boîte noire, mais une boîte quantique : noire – transparente. J’entends par là que la boîte noire est « clairement obscure ». Comme le chat de Schrödinger, le monstre qui s’y tient est à la fois vivant et mort, et l’observateur qui veut bien se représenter cette superposition d’états, pourra y déceler une autre dimension éthique : la machinisation ne nous livre jamais qu’un certain degré d’ordre, mais c’est bien à travers sa négation digérée, son rebut, que se dévoile la vérité de l’organisation de notre civilisation.

Plutôt que s’abandonner passivement au spectacle de la machin(is)ation, tournons donc le regard vers la mach[i(ni)s]ation !

(1) Le terme « ordinateur » — ou plus précisément ordinatrice électronique — imaginé pour IBM en 1955 par le philologue Jacques Perret, est fondé sur le latin ordinator (celui qui met de l’ordre, ordonnateur) et connoté de son acception ecclésiastique.

Le « Deus ex machina » moderne : la « mach[i(ni)s]ation » exposée sur la scène publique.

La boîte noire porte en étendard son opacité, discutée sur tous les modes et tous les tons dans la société et à travers les médias. C’est la loupe qui montre le « loupé » derrière « l’ordonnance » (la mise en ordre) ; le miroir grossissant ou déformant posé sur les opacités, les omissions, les non dits, les rejets, les exclusions, les failles et les interstices, les détournements, les externalités, les effets de bord, d’accrétion ou de dispersion que l’algorithme embarque ou induit.

L’égout, c’est la conscience de la ville. Tout y converge et s’y confronte. Dans ce lieu livide, il y a des ténèbres, mais il n’y a plus de secrets. Chaque chose a sa forme vraie, ou du moins sa forme définitive. Le tas d’ordures a cela pour lui qu’il n’est pas menteur. 

Victor Hugo (Les Misérables, Tome V Jean Valjean, Livre II L’intestin de Léviathan, Chapitre II L’histoire ancienne de l’égout)

Ainsi, elle contient la contrepartie positive de sa noirceur : le pouvoir de « montrer les monstres » (du lat. monstrum avertissement céleste, prodige ; dérivé de moneo, avertir). Elle a la capacité d’attirer l’attention *commune*, sur les présupposés et les croyances, explicites ou implicites, et les mécanismes et processus, formels et informels, dont ils sont hérités et qu’elle fait émerger. Elle a donc aussi celle de contribuer à les combler et les dépasser.

J’entends ces monstres comme des expressions rationalisées et technicisées des biais humains (cognitifs, socio-culturels, administratifs, économiques et politiques…) et des failles organisationnelles et sociétales qu’ils ont induites. Ils ne sont que le fruit longuement maturé de l’encodage de ces biais, de leur mise en langage.

Le retour du refoulé (de l’upcycling des coquilles d’huîtres)

Ce qu’il faut ici considérer, c’est que cette « mise en langage » dépasse très largement les lignes de code informatique des programmes contemporains — si nombreux et complexes soient-ils— auxquelles nos raccourcis de pensée la résument. Car ces lignes de code portent en elles, tout le processus pluri-séculaire de fondation, de structuration, de formalisation et de consolidation qui les a précédées : depuis le passage successif au langage oral, à l’écrit, puis informatique, en passant par de multiples étapes de socialisation, normativisation, administrativisation, automatisation, numérisation, programmation … (Je prends souvent par exemple l’état-civil et les registres paroissiaux qui lui préexistaient, ou encore nos simples adresses postales — nommage et numérotation des rues —, comme illustrations d’une organisation sociétale historique et stricto sensu numérique, de l’information)

Cette mise en langage « moderne », peut alors être vue comme une forme de verbalisation, potentiellement salvatrice, en l’état la plus aboutie, universelle et synthétique, porteuse des biais sociétaux et des refoulés psycho-sociaux. Elle forme une manifestation civilisationnelle toujours plus consistante, une expression formelle de l’inconscient collectif de l’humanité, et ouvre ainsi un dépassement possible de la « mémoire traumatique » commune.

Car n’oublions pas que c’est là depuis toujours une des dimensions dans laquelle pourrait se définir, se reconnaître ce que l’autre, le doux rêveur, appelait gentiment l’hominisation de la planète. Pour ce qui est de reconnaître le passage, le pas, la marque, la trace, la paume de l’homme, nous pouvons être tranquilles. Si nous trouvons une accumulation titanesque d’écailles d’huîtres, ça ne peut manifestement être que des hommes qui sont passés par là, je veux dire une accumulation de déchets en désordre. Il y a des époques géologiques qui ont laissé, elles aussi, leurs déchets; ils nous permettent de reconnaître quelque chose, un ordre. Le tas d’ordures, voilà une des faces qu’il conviendrait de ne pas méconnaître de la dimension humaine.

Lacan (L’éthique de la psychanalyse)

Pour peu de prêter l’oreille à tous les états possibles de cette boîte quantique, sans renoncer au libre-arbitre, sans inconsidérément abandonner au « pouvoir ordonnateur » qui lui est prêté toute velléité de penser la condition humaine, elle offre ainsi des potentialités de remédiation collective, de processus curatifs capables d’aider la nation moderne à « faire société » et l’homme contemporain à maintenir l’humanité comme projet.

Tes principes sauvés et tes lois conspuées,
Tes monuments hautains où s’accrochent les brumes.
Tes dômes de métal qu’enflamme le soleil,
Tes reines de théâtre aux voix enchanteresses,
Tes tocsins, tes canons, orchestre assourdissant,
Tes magiques pavés dressés en forteresses,

Tes petits orateurs, aux enflures baroques,
Prêchant l’amour, et puis tes égouts pleins de sang,
S’engouffrant dans l’Enfer comme des Orénoques,
Tes anges, tes bouffons neufs aux vieilles défroques
Anges revêtus d’or, de pourpre et d’hyacinthe,
Ô vous, soyez témoins que j’ai fait mon devoir
Comme un parfait chimiste et comme une âme sainte.

Car j’ai de chaque chose extrait la quintessence,

Tu m’as donné ta boue et j’en ai fait de l’or.

Charles Baudelaire ( Les Fleurs du mal — Appendices, Ébauche d’un Épilogue pour la 2ème Édition )