Comme une radio au rayon X, les boîtes noires révèlent à nos yeux l’ossature algorithmique dont elles sont faites.

L’homme contemporain a ainsi l’opportunité de mieux voir, et interpréter, la nature et la genèse de ces mécaniques apparemment obscures et complexes, formes évoluées, synthétiques et les plus abouties, de langages.

Ça peut faire peur. Quels monstres y a-t-il là-dedans ?

Reproduction, perroquets et (re)production de perroquets

Des perroquets. De simples perroquets. Des perroquets chatoyants, multicolores, bavards, puissants et talentueux improvisateurs probabilistes, qui répètent, imitent, prolongent et amplifient tout ce que nous disons et avons toujours dit.

Des perroquets comme ceux que l’imprimerie a déjà apportés à l’humanité grâce au système reproductif des livres, mais en encore mieux et en toujours plus. L’IA est un système de reproduction de perroquets.

Il y a 11 ans j’écrivais à propos de l’avenir « numérique » des contenus scolaires / éducatifs — « Bible du XXème siècle » — que « la structuration cloisonnée, linéaire et hautement reproductible des savoirs frôlait désormais des limites d’automatisation, là où l’enjeu éducatif est l’autonomisation ». « Tout homme est pape, une Bible à la main » disait Michel Serres, citant Boileau à propos de Luther.

Les Intelligences Artificielles génératives, qui fonctionnent sur un modèle caractéristiquement imitatif et prédictif, éclairent désormais mieux ce psittacisme. Par leurs simulacres de réponses, écho-prolongement de nos propres schémas, elles rendent ainsi aussi éclatants que risibles — et effrayants si nous n’en avons pas une certaine conscience —, notre art du clonage, nos biais dialectiques, nos talents xyloglottes (de la langue de bois) et nos dons très élaborés en prévisionnisme hautement stratégique à la petite semaine.

L’IA, tueuse d’intelligence d’oiseaux ?

Non, car la boîte noire contient aussi des cygnes noirs. Je vous accorde que, dans le noir, ils se voient moins. Mais ils ne manquent jamais d’intérêt. L‘intelligence humaine réside dans la capacité à les déceler et à transformer les grains de sable en perle, par une certaine créativité du vide.

L’art de l’artiste, du poète, du découvreur, de l’innovateur est invariant par l’Intelligence Artificielle. Il a de tous temps été, il est, et il restera, cette grâce quasi-mystique de ramener la vie du fond du gouffre et de créer à partir du néant. L’irréductible, l’inobjectivable, l’au-delà du calculable se manifestent de l’improbable — « chose au monde la moins partagée » —.

Ce que ne possède, seule, aucune Intelligence Artificielle, c’est l’accès développemental à cette dimension poïétique — une abyssale relation singulière à l’altérité radicale — d’où émergent et où tendent à l’infini, le possible et toute possibilité du possible.

La lumière jaillit toujours de l’invisible étincelle de l’entre-perroquets.

Source de l'article Les oiseaux dans la boîte noire de l’IA : Blog-notes | Corinne Dangas.

C’est pourquoi je dis souvent que ce n’est pas une boîte noire, mais une boîte quantique : noire – transparente. J’entends par là que la boîte noire est « clairement obscure ». Comme le chat de Schrödinger, le monstre qui s’y tient est à la fois vivant et mort, et l’observateur qui veut bien se représenter cette superposition d’états, pourra y déceler une autre dimension éthique : la machinisation ne nous livre jamais qu’un certain degré d’ordre, mais c’est bien à travers sa négation digérée, son rebut, que se dévoile la vérité de l’organisation de notre civilisation.

Plutôt que s’abandonner passivement au spectacle de la machin(is)ation, tournons donc le regard vers la mach[i(ni)s]ation !

(1) Le terme « ordinateur » — ou plus précisément ordinatrice électronique — imaginé pour IBM en 1955 par le philologue Jacques Perret, est fondé sur le latin ordinator (celui qui met de l’ordre, ordonnateur) et connoté de son acception ecclésiastique.

Le « Deus ex machina » moderne : la « mach[i(ni)s]ation » exposée sur la scène publique.

La boîte noire porte en étendard son opacité, discutée sur tous les modes et tous les tons dans la société et à travers les médias. C’est la loupe qui montre le « loupé » derrière « l’ordonnance » (la mise en ordre) ; le miroir grossissant ou déformant posé sur les opacités, les omissions, les non dits, les rejets, les exclusions, les failles et les interstices, les détournements, les externalités, les effets de bord, d’accrétion ou de dispersion que l’algorithme embarque ou induit.

L’égout, c’est la conscience de la ville. Tout y converge et s’y confronte. Dans ce lieu livide, il y a des ténèbres, mais il n’y a plus de secrets. Chaque chose a sa forme vraie, ou du moins sa forme définitive. Le tas d’ordures a cela pour lui qu’il n’est pas menteur. 

Victor Hugo (Les Misérables, Tome V Jean Valjean, Livre II L’intestin de Léviathan, Chapitre II L’histoire ancienne de l’égout)

Ainsi, elle contient la contrepartie positive de sa noirceur : le pouvoir de « montrer les monstres » (du lat. monstrum avertissement céleste, prodige ; dérivé de moneo, avertir). Elle a la capacité d’attirer l’attention *commune*, sur les présupposés et les croyances, explicites ou implicites, et les mécanismes et processus, formels et informels, dont ils sont hérités et qu’elle fait émerger. Elle a donc aussi celle de contribuer à les combler et les dépasser.

J’entends ces monstres comme des expressions rationalisées et technicisées des biais humains (cognitifs, socio-culturels, administratifs, économiques et politiques…) et des failles organisationnelles et sociétales qu’ils ont induites. Ils ne sont que le fruit longuement maturé de l’encodage de ces biais, de leur mise en langage.

Le retour du refoulé (de l’upcycling des coquilles d’huîtres)

Ce qu’il faut ici considérer, c’est que cette « mise en langage » dépasse très largement les lignes de code informatique des programmes contemporains — si nombreux et complexes soient-ils— auxquelles nos raccourcis de pensée la résument. Car ces lignes de code portent en elles, tout le processus pluri-séculaire de fondation, de structuration, de formalisation et de consolidation qui les a précédées : depuis le passage successif au langage oral, à l’écrit, puis informatique, en passant par de multiples étapes de socialisation, normativisation, administrativisation, automatisation, numérisation, programmation … (Je prends souvent par exemple l’état-civil et les registres paroissiaux qui lui préexistaient, ou encore nos simples adresses postales — nommage et numérotation des rues —, comme illustrations d’une organisation sociétale historique et stricto sensu numérique, de l’information)

Cette mise en langage « moderne », peut alors être vue comme une forme de verbalisation, potentiellement salvatrice, en l’état la plus aboutie, universelle et synthétique, porteuse des biais sociétaux et des refoulés psycho-sociaux. Elle forme une manifestation civilisationnelle toujours plus consistante, une expression formelle de l’inconscient collectif de l’humanité, et ouvre ainsi un dépassement possible de la « mémoire traumatique » commune.

Car n’oublions pas que c’est là depuis toujours une des dimensions dans laquelle pourrait se définir, se reconnaître ce que l’autre, le doux rêveur, appelait gentiment l’hominisation de la planète. Pour ce qui est de reconnaître le passage, le pas, la marque, la trace, la paume de l’homme, nous pouvons être tranquilles. Si nous trouvons une accumulation titanesque d’écailles d’huîtres, ça ne peut manifestement être que des hommes qui sont passés par là, je veux dire une accumulation de déchets en désordre. Il y a des époques géologiques qui ont laissé, elles aussi, leurs déchets; ils nous permettent de reconnaître quelque chose, un ordre. Le tas d’ordures, voilà une des faces qu’il conviendrait de ne pas méconnaître de la dimension humaine.

Lacan (L’éthique de la psychanalyse)

Pour peu de prêter l’oreille à tous les états possibles de cette boîte quantique, sans renoncer au libre-arbitre, sans inconsidérément abandonner au « pouvoir ordonnateur » qui lui est prêté toute velléité de penser la condition humaine, elle offre ainsi des potentialités de remédiation collective, de processus curatifs capables d’aider la nation moderne à « faire société » et l’homme contemporain à maintenir l’humanité comme projet.

Tes principes sauvés et tes lois conspuées,
Tes monuments hautains où s’accrochent les brumes.
Tes dômes de métal qu’enflamme le soleil,
Tes reines de théâtre aux voix enchanteresses,
Tes tocsins, tes canons, orchestre assourdissant,
Tes magiques pavés dressés en forteresses,

Tes petits orateurs, aux enflures baroques,
Prêchant l’amour, et puis tes égouts pleins de sang,
S’engouffrant dans l’Enfer comme des Orénoques,
Tes anges, tes bouffons neufs aux vieilles défroques
Anges revêtus d’or, de pourpre et d’hyacinthe,
Ô vous, soyez témoins que j’ai fait mon devoir
Comme un parfait chimiste et comme une âme sainte.

Car j’ai de chaque chose extrait la quintessence,

Tu m’as donné ta boue et j’en ai fait de l’or.

Charles Baudelaire ( Les Fleurs du mal — Appendices, Ébauche d’un Épilogue pour la 2ème Édition )

Source de l'article Le paradoxe de la « boîte noire » numérique : Blog-notes | Corinne Dangas.