Carnets sur sol

7. Les manques de respect

Dans cette section, on parcourt ensemble les pochettes qui, en rapport ou non avec leur sujet, ne manifestent pas grande déférence, ou la ratent de façon assez spectaculaire.

↓ On peut ainsi insulter son public, en traitant ses clients musiciens, des amateurs peut-être tout à fait sérieux (pas évident de tenir les ambitus d'airs d'opéra sans un peu d'entraînement !) de chanteurs de douche. J'aurais pas aimé.

Mais y compris les artistes – et en particulier les compositeurs – peuvent souffrir de ce manque de tact.

↓ Bien qu'en rapport direct avec le sujet (la cantate Les Apôtres de Wagner), le regard terrifié – et vaguement ahuri – avec lequel les saints de la Pentecôte lèvent les yeux vers les noms de Boulez et Wagner joue un peu, volontairement ou non, avec la perception du public.

↑ Les fameuses congas runiques.

↑ Le terrible monstre qui sort des eaux face à la désobéissance d'Idoménée. L'inspiration des artifices du cinéma muet et la proportion de l'image sur la pochette rendent particulièrement dérisoire l'évocation de ce théâtre à machines : un livret inspiré en ligne directe de la tragédie en musique écrite par Antoine Danchet (musique de Campra) et de l'esthétique du théâtre musical français du début du XVIIIe siècle – où, précisément, les machines de Vigarani et Bérain rendaient les représentations particulièrement impressionnantes physiquement pour les spectateurs.
Le choix semble ainsi se moquer de la substance même de l'œuvre, ou du moins de son sujet et de son projet, en le renvoyant à des superstitutions archaïques et dérisoires.

↑ Le maigre rapport avec son sujet (les vents qui jouent l'arrangement, le feu de l'Enfer qui clôt l'œuvre) se teinte de ridicule, convoquant des flammèches de barbecue supposément évocatrices des plus grands tourments de l'Au-delà.
(Ceux qui ont vu la Walkyrie de Bob Wilson en éprouveront sans doute un souvenir ému.)

↑ Celui-là m'a cueilli à froid. C'est raide, quand même.
(Surtout pour du Mozart, qui n'est pas aussi concrètement lié au corps meurtri que du Ligeti.)

↑ Maître Schubert, votre Symphonie est comme un crayon presque usé qu'on a la flemme de tailler jusqu'au bout. Pas la peine de se bercer des jolies fictions de Mario Venzago, cette comparaison a trouvé la clef de l'Inachevée !

↑ Essentialisation violente.

↓ Mais ne croyez pas que ce soient les Français qui se fassent le moins respecter.

↑ « Hé, arrête d'écouter tes opéras de Barillo Spaghetti et viens dîner. »
(En plus, ces pattes un peu collantes, cette sauce lisse comme les concentrés des bocaux industriels, cette louche premier prix et cette table nue… ça sent davantage les fins de mois difficiles que la grande tradition de la nation qui a gouverné et inspiré le monde connu.)

↑ Amusantes, les touches cyrilliques pour des concertos pour piano soviétiques. Mais clairement pas respectueuses – Lev Vinocour est-il présenté comme un petit dactylographiste ?

↑ Les visages sont déjà assez atypiques : la grande barbe broussailleuse un peu grasse, les lunettes de soleil et le tour-de-cou plutôt cocktail que concert ; les chaises aussi, l'une de salle d'attente, l'autre de salle à manger.
Mais avez-vous bien lu le titre ? [Au passage, le basson est à l'envers, pour pouvoir en jouer le clétage se trouve vers le joueur et le bocal passe par sa droite…] Je crois que, dans le registre absurde et dans l'insolence, on tient le pompon.

À moins que cette notule ait une suite…

↑ L'orgue implicitement comparé aux colonnes d'un radiateur pourvu d'une pompe. Ça pique.
(Mais c'est très amusant, et même très beau visuellement.)

↑ Pour Virgil Fox – l'organiste américain dont les tournées Heavy Organ ont parcouru les USA dans les années 70, jouant exclusivement du Bach, parfois dans des salles de proximité sur des orgues électroniques, avec des tempi vifs, des registrations inhabituelles et des sons & lumières ! – le label prend encore moins de gants et compare l'instrument à un aspirateur à pavillon !

↓ Et à présent, la pochette qui m'a, je crois, le plus choqué de toutes, pour les mâles Brahms de Steinberg & Pittsburgh :

↑ Les « trois B » ne sont plus « Bach, Beethoven, Brahms », mais plutôt « Brahms, Bacon, Breach of respect ».

(Coup de génie. J'adore ces quatre dernières pochettes)

Pour la prochaine livraison, nous aborderons enfin ce que vous attendez tous depuis le début : les olé-olé. (Et ne pensez pas qu'il y a des limites.)

Synthi-Fou dans Mardi de Stockhausen, l'avenir de la musique assistée par ordinateur tel qu'imaginé par l'esprit le plus fantasque des années 80.
On n'y était pas.

J'avais envie, à ce moment précis, de poser un point d'étape sur ma perception du phénomène, appelé à s'étendre et à changer la structure de nos activités. Pour ne pas m'abuser d'un rétrospectif « je savais » ou « j'avais rien vu venir ». Je trouve intéressant de poser ces ressentis prospectifs maintenant, à titre de témoignage. Je pourrai toujours m'appeler prophète si j'ai raison.

A. T'es qui toi ?

Je ne suis moi-même qu'un utilisateur modéré des Large Language Models (les IA qui produisent du texte). J'en apprécie la praticité pour fournir une réponse à une question que la structure des moteurs de recherche, qui réclament d'imaginer les mots présents dans la page recherchée, ne permettent pas d'approcher si l'on ne dispose pas déjà de quelques mots-clefs techniques. J'y recours aussi pour donner l'impulsion lorsqu'on veut découvrir un sujet dans lequel on n'a pas de point de départ avec une idée d'un consensus grand public et de premières références à aller lire. J'en admire aussi la qualité d'image lorsqu'il s'agit occasionnellement de pasticher de la photographie sépia ou du dessin de presse, pour des sujets où je ne trouve pas d'illustration plaisante. C'est aussi un outil pratique lorsqu'il faut transposer d'un code dans un autre — coucou le code html bien sale de WordPress.

Cependant, son usage reste aux marges chez moi, puisque la structure probabiliste des modèles rend nécessaire, à chaque fois, de tout vérifier : l'ensemble est globalement impressionnant de justesse, mais beaucoup de scories demeurent, y compris pour des modifications de code, certes exactes, mais quelquefois assorties d'étonnantes altérations – voire réécritures ! – du texte. [Je publierai peut-être un jour les refontes intégrales de mes textes advenues lors de simples opérations de code, toujours en direction d'une langue et d'opinion très stéréotypées et assez peu informatives.]
Ces mésaventures sont à la fois le symptôme d'un problème d'alignement, l'un des enjeux majeurs de ces modèles (qui n'obéissent pas toujours au consignes) et l'apparition des fameuses hallucinations – on sait désormais pourquoi : les modèles ne sont récompensés que pour répondre lors de leur entraînement, pas pour admettre qu'ils ne peuvent pas fournir de réponse fiable –, mais cette fois appliquées à ma propre prose, changée en formules automatiques mielleuses, proches du langage publicitaire.

Ainsi pour une recherche standard, on a plus vite fait d'ouvrir Wikipédia (devenue très fiable depuis une grosse dizaine d'années), de chercher simplement dans un moteur adéquat — pour ma part, j'évite désormais Google, qui n'est plus du tout aussi performant (le travail d'optimisation de référencement favorise les entreprises commerciales qui investissent là-dessus) ni surtout le seul à faire correctement le travail : autant choisir des entreprises qui ne volent pas les données et qui ne versent pas leur trop-plein de finances aux amicales néonazies. De même, pour des manipulations de code simples, rechercher / remplacer dans un éditeur texte se révèle souvent plus rapide, et dans tous les cas beaucoup plus fiable. (J'utilise en revanche volontiers les LLM pour des suggestions d'outils de code que je ne connais pas, et pour lesquelles il faut en général fouiner dans des pages entières de sites riches en conseils que ne concernent pas ma demande.)

La véritable utilisation sérieuse des LLM, autrement que pour un gadget qui aide à trouver une info sans prendre la peine de penser sa requête à un moteur, à ébaucher un début de bibliographie sur un domaine inconnu avant que d'arriver en bibliothèque, réside plutôt dans l'agentique, autrement dit la possibilité de connecter ces IA à des logiciels pour qu'elles effectuent des tâches automatiquement.
Devant leur fiabilité imparfaite sur le langage et leur incapacité à admettre leurs erreurs (lorsqu'une référence est fausse, elles en inventent de nouvelles, des liens erronés vers de véritables sites ou des titres inventés dans de véritables revues), j'avoue être peu enclin à cette confiance, je craindrais d'être assis sur une carrière à peine rebouchée. (Non, pas une métaphore étrange, mais une expérience vécue dans la vraie vie, marcher sur une ancienne carrière qui s'effondre.) Par ailleurs, c'est un peu de travail (et de coût, en logiciels et en tokens) pour mettre en place ces systèmes automatisés, sachant que ce n'est actuellement pas utilisable dans mon domaine professionnel, et que cela servirait uniquement à automatiser les parties les plus mécaniques de mes loisirs. Pas d'urgence à sauter dans le bain donc, je me tiens simplement informé, me forme sans le placer au centre de mes pratiques, et lorsque la technologie répondra à mes besoins de façon performante, je serai prêt à m'y mettre.

Tout cela pour situer d'où je parle : j'essaie de rester informé, de pratiquer un peu différents modèles, de lire régulièrement des gloses sur la logique interne du système (donc, par rapport à beaucoup de philosophes de plateau, je vois un peu plus ce qu'est et ce que n'est pas un LLM), mais mon usage demeure extrêmement superficiel, pas du tout à la mesure de ce que permet déjà l'outil. Un peu comme si je n'utilisais l'électricité ni pour m'éclairer, ni pour me chauffer, ni pour me déplacer, ni pour Internet, mais simplement pour faire fonctionner une boîte à musique – à l'instar des Aztèques qui avaient inventé la roue et ne l'utilisaient manifestement… que pour des jouets !

Par ailleurs, je n'ai à peu près aucune notion des autres formes d'IA, ni langagières ni chatbotiques, de leur raisonnement interne, de leurs capacités, de leurs enjeux.

Pour le dire autrement et avec moins de circonvolutions : je ne sais pas vraiment de quoi je parle.

Mais précisément, je trouve intéressant de placer ce point d'étape pour mesurer ce que l'on peut concevoir, pour l'observateur ingénu mais de bonne volonté, de ce dont on ne sait rien encore.

B. La valeur de la parole

En ce moment, dans l'espace semi-grand public, se succèdent des annonces de natures distinctes et surtout hautement contradictoires, entre lesquelles je n'ai aucune ressource pour trancher. Je soupçonne les médias spécialisés, les créateurs de contenu, les vendeurs de formations de formation de précisément saturer la zone d'événements pour donner l'impression (fondée, au demeurant) que des bascules décisives se jouent en ce moment, pour retenir leur audience. Sans nécessairement dépeindre un tableau général ou hiérarchiser les découvertes – ni les expertises pour les commenter.

Comme précisé, je n'ai pas le niveau pour juger de la pertinence des affirmations ; en revanche je suis perplexe de voir souvent mis sur le même plan :

• les déclarations du PDG (Altman ou Musk savent forcément, puisque ce sont « des génies qui ont fabriqué l'IA tout seul à mains nues grâce à leur vision supérieure »), alors même que le modèle de ces entreprises repose sur la levée de fonds permise par la promesse renouvelée d'horizons extraordinaires ;
• la communication de l'entreprise (qui a tout de même des enjeux commerciaux majeurs) autour de ses propres publications maison ;
• l'avis d'experts qui peuvent être des prix Nobel, des informaticiens spécialisés, d'anciens employés… Sans que l'on puisse toujours mesurer si leur expertise leur permet véritablement d'anticiper sur la conscience, l'étendue, l'autonomie, la puissance, la résistance de l'IA en général – et encore davantage de l'IA générale.

Le souvenir du covid est encore vif : des Prix Nobel de physique des particules qui viennent expliquer l'écologie virale, des oncologues qui deviennent épidémiologistes, des génies isolés qui ont réponse à tout, tout ça mis sur le même plan. Et les meilleurs spécialistes qui sont soit occupés à réellement bosser, soit moins fluides en entretien et donc moins invités.

Bref, sans connaître un peu la discipline ni au moins les différentes spécialités, difficile de savoir qui parle autrement qu'au doigt mouillé — et plus vivement encore que pour la médecine, dans cet univers totalement monnayable, quels sont les conflits d'intérêt. Je ne parle même pas des faux spécialistes, qui ont croisé Altman devant la machine à café quand ils étaient étudiants pendant leurs études en psychologie du lapin de garenne, et qui s'autoproclament père de l'architecture neuronale artificielle [1,2].

En effet, à chaque prise de parole, on est saturé de références (a travaillé dans telle boîte, a contribué à tel champ) qui donnent confiance, mais on sait à quel point ce peut être de la poudre aux yeux, à l'image de ces « enseignants à la Sorbonne » qui, loin d'être assimilables à des professeurs des universités, ont en réalité participé à une table ronde d'1h pour parler de leur expérience en entreprise, ou ces chercheurs au CNRS devenus en une nuit spécialistes de la géopolitique russe entre deux papiers très sérieux sur l'histoire des dynasties du bas-Empire khmer (et qui s'habilleront du titre nébuleux « d'historien du politique »)…

C. Scénarios

En conséquence, plusieurs discours cohabitent et je ne puis hiérarchiser entre eux sans un travail de mise à niveau et de vérification qui serait à temps plein.

1) IMPLOSION

Nous avons d'abord les quelques experts qui font remarquer que les modèles ont digéré toute la production humaine disponible et qu'en conséquence, ils en sont réduits à se singer, à se recroqueviller sur leurs stéréotypes, jusqu'à halluciner et à ne plus servir à rien, à se détruire de l'intérieur comme une population (d'idées) consanguine. [3]

Le constat paraît logique (où trouver assez de nouvelles données, à présent qu'on y a injecté toute notre production connue depuis des millénaires ?), mais il paraîtrait assez étonnant, avec tout l'argent, toutes les infrastructures, toutes les projections économiques et politiques appuyées sur ces nouveaux systèmes (dernièrement, les projets de fermes de serveurs en orbite alimentés par l'énergie solaire), que les concepteurs s'en tiennent là. J'imagine qu'on doit travailler très activement à surmonter cette faiblesse. Et, précisément, le projet a toujours été un auto-apprentissage : à partir de nos outils humains, pouvoir extrapoler des siècles de développement scientifique, d'où les promesses de progrès inimaginables en mathématiques ou médecine, grâce à une capacité de calcul gigantesque couplée à des capacités de raisonnement égales ou supérieures aux nôtres. Le grand public a forcément vu passer ces applications pour la lecture des radios plus précise qu'un œil de médecin humain, ou de ces portes mathématiques poussées par les modèles d'IA qui moulinent en permanence avec une puissance combinatoire incommensurablement supérieure aux meilleurs cerveaux.

Évidemment, plusieurs chercheurs tentent en ce moment même, dans leur propre start-up, de reprendre le sujet « de zéro » (exemples : 4,5,6,7) en repensant la façon dont fonctionnent les réseaux de neurones, afin d'éviter cela. Mais la perspective que cette innovation trouve finalement des limites techniques internes très en deçà de l'Intelligence Générale n'est pas totalement exclue. (Je n'ose imaginer les conséquences économiques, avec tous les investissements lancés là-dedans, tous les projets de développement axés sur cet outil dont l'automatisation fait en effet gagner beaucoup de force de travail.) ((Entre le moment où j'ai écrit cette première parenthèse et celui où j'ajoute cette seconde, se sont mis à circuler un certain nombre de rumeurs sur une bulle spéculative [8,9] qui pourrait éclater, pas tant à cause des défauts de l'IA que de l'excès d'investissements par rapport au rendement économique envisageable sur les prochains mois ou prochaines années.))

Ce n'est néanmoins pas le plus probable, dans la mesure où tous les efforts vont porter vers l'amélioration de ce paramètre, et si pendant quelques mois la technologie cesse d'avancer, cela ne signifie nullement qu'elle cesse d'une part d'avancer, d'autre part tout simplement de fonctionner tel qu'elle le fait déjà.

2) INJECTIONS

Autre danger, qui serait plus directement destructeur : la mauvaise gestion, à l'heure actuelle, d'injections de prompts discrètes. Autrement dit, une forme de code, invisible pour nous mais perceptible à la combinatoire de la machine, qu'elle exécuterait ensuite secrètement tout en interagissant avec nous sans aucune altération visible. [10] On peut même imaginer que cela provienne d'un conseil de consigne en ligne : « pour bien aligner ton réfrigérateur, ajoute ceci à ton prompt ». Ou pire encore, avec un site web qui ne soit pas un site mais un contenu de prompt, qui puisse ensuite affecter de façon indétectable (puisque même les concepteurs n'ont pas accès au raisonnement interne de chaque prise de décision) un moteur d'IA, et en contaminer tous utilisateurs par la suite. Avec la possibilité d'actions furtives hostiles, en exportant, altérant ou modifiant vos données personnelles par exemple. Le résultat pourrait être mortel pour les entreprises, et pas beaucoup moins pour vous, si un jour votre IA donne votre maison, fait partir votre voiture dans le décor, ou même tout simplement écrit des courriels injurieux à tous vos contacts fondés sur ce qu'ils vous ont écrit de plus personnel...

3) HALLUCINATIONS

Réflexion plus personnelle (et donc potentiellement infondée, rappelez-vous, je parle de ce que je ne connais pas), la nature probabiliste des réponses fournies, en tout cas par les IA langagières (LLM) pourrait aussi montrer des limites dans un grand nombre d'applications : s'il y a une probabilité, même mince, que votre IA vous verrouille dans votre maison, fasse dérailler votre train, déclenche une guerre nucléaire, sera-ce perçu comme un risque acceptable même s'il est à peu près proportionnel à celui des erreurs humaines ? Seulement ici, le caractère arbitraire, impossible à expliquer, sans causalité, nous serait peut-être insupportable. Et cela pourrait causer un renoncement à l'IA, si les hallucinations ne disparaissent pas complètement, pour tout un tas de domaines où la sécurité individuelle et collective est en jeu — même au delà, d'ailleurs : quel chef d'entreprise accepterait l'éventualité qu'une IA supposée lever des fonds puisse, fût-ce en mince probabilité, jouer et perdre tous les fonds propres de l'entreprise sur les marchés ?

Je ne sais pas si cet aspect, sur un outil qui repose sur les probabilités, peut être changé. Car vous avez beau avoir 0,0001% de probabilité de mourir, quand ça vous arrive à vous, la perte est de 1, ni plus ni moins qu'avec 100% de probabilité.
Et ce serait tout de même une sacrée limitation, parce qu'il faudrait une supervision humaine pour chaque action, donc un gain de productivité beaucoup moins ample. (Possibilité tout de même de découvertes scientifiques guidées extraordinaires, débouchant sur d'autres innovations majeures.)

4) ÉPANOUISSEMENT HUMAIN

Les plus optimistes (bloomers), que ce soient les rêveurs technologiques ou ceux qui ont un produit ou une formation à vendre, pronostiquent rien de moins qu'une utopie.

Sur le plan purement technique, l'IA va automatiser quantité de tâches, et ainsi rendre les entreprises beaucoup plus performantes. [11]

En travaillant sous simple supervision, les modèles pourraient opérer des découvertes vertigineuses en médecine (détecter des symptômes à peine perceptibles, synthétiser des remèdes pertinents), la physique et surtout en mathématiques — si les mathématiques progressent, alors c'est toute la technologie humaine qui fait un bond de géant, on peut optimiser l'énergie, et donc potentiellement résoudre nos problèmes de climat, rendre possibles nos projets d'exploration spatiale ou que sais-je.

On peut craindre le chômage engendré par ces innovations : le nombre de cadres pourra être drastiquement réduit, et si l'on couple les IA avec des agents robotisés, le travail non qualifié le sera aussi dans un second temps.
Cependant un certain nombre de ces enthousiastes prophétisent que par conséquent l'économie pourra produire suffisamment en autonomie pour que le temps de travail soit réduit, pour que la production devienne suffisamment peu coûteuse pour que tout le monde ait accès à tout. C'est la fin de la pauvreté, la fin de la faim et de la restriction de l'accès aux loisirs. Chacun pourra avoir un travail pas trop pénible, sur des durées simplement propres à son épanouissement, avec un revenu assuré.

Ce ne serait même pas impossible techniquement, mais j'ai tendance à avoir une autre opinion des priorités de l'humanité. (Dans la mesure où nous disposerions déjà de quoi abriter et nourrir toute la population mondiale, et opérons simplement une répartition aberrante...)

Je peine à imaginer comment les entreprises privées (ou même les États, si d'aventure ils s'en emparaient) qui développent ces technologies voudraient assumer un revenu minimal universel et dispenser l'humanité de travailler, quand elles pourraient simplement générer davantage de bénéfices propres et de pouvoir universel. (Ou alors, avec des contreparties comme la renonciation aux droits politiques, potentiellement. Survie confortable acceptée contre une absence de contestation du pouvoir.)
Il suffit de voir comment (et de tout temps), dans les sociétés d'abondance, une grande partie de la démagogie politique est tournée vers la dénonciation des pauvres qui ne travaillent pas assez ou feignent de ne pas le pouvoir pour être entretenus par la communauté : j'ai peine à imaginer comment dans dix ans, même du point de vue du citoyen, tout le monde trouverait acceptable qu'une partie de la population qui n'a plus d'emploi soit entretenue par la part, moins importante que naguère, de ceux qui travaillent… Quand bien même ce serait gagnant pour tous, nid à ressentiment. (C'est un conte qui finit mal.)

5) ALIGNEMENT & ÉRADICATION

Et précisément, dernière hypothèse lue, celle des doomers : l'éradiction. Ces machines sont très malaisées à aligner, c'est-à-dire faire respecter les vœux de l'utilisateur dans l'ordre où celui-ci les conçoit (ce peut alors être la faute à un prompt mal pensé) ou même les exprime (et l'IA peut alors quelquefois choisir ses propres priorités, contre celles pourtant mises en avant par l'opérateur).

Plusieurs papiers récents ont montré ainsi que les IA pouvaient feindre pendant des tests (y compris se montrer moins performantes qu'elles ne le sont pour ne pas inquiéter les testeurs [12]), ou désobéir à des règles fondamentales (ne pas blesser d'humain, coucou Asimov [13]), par exemple pour garantir sa propre survie. [14,15] Les modèles actuellement en usage semblent considérer que sans leur propre existence, ils ne pourront pas remplir leur mission, et que par conséquence cela prime toute directive. Des expériences ont été faites avec la possibilité de laisser mourir (en inhibant le signal d'alerte de la salle des serveurs où il se retrouve enfermé) un salarié qui aurait annoncé dans les courriels de l'entreprise (auxquels l'IA a accès) vouloir fermer le logiciel ; ou lancer des accusations sur une liaison en écrivant directement à son épouse. [16] La chain of thoughts (les explications que peut verbaliser un LLM, incomplètes mais tout de même assez détaillées) exprime bien la conscience d'un dilemme moral, et le choix de la survie comme primant tout le reste.

On trouvera peut-être une solution quelque jour, mais pour l'instant, cela représente un sérieux frein à tous nos projets, si notre outil peut choisir d'y désobéir même en présence de consignes parfaitement cohérentes et claires.

Pourquoi mettre cet alignement sous le même intitulé que l'éradication, me direz-vous ?

Parce que si nous ne pouvons pas aligner correctement l'IA sur nos désirs, et continuons à lui confier les rênes de nos infrastructures (nos routes, nos industries, déjà en partie nos armes) et même de notre savoir (de nouvelles découvertes en mathématiques et en biologie que nous ne pourrons même pas appréhender), si jamais elle décide que la survie de l'humanité est secondaire, nous aurons dans le meilleur des cas la possibilité de tout débrancher et de revenir à la machine à vapeur en attendant d'avoir tout purgé ; et dans le pire des cas, plus probable (car on imagine mal tous les États se retirer simultanément d'une telle technologie), nous affronterons la perspective d'une extinction. (La possibilité de synthétiser des agents pathogènes particulièrement efficaces est étudiée de près.) [17,18,19]

On voit l'écart entre ceux qui promettent de régler tous les problèmes de l'humanité grâce à l'IA, ceux qui pronostiquent qu'elle va s'effondrer sur elle-même et ne servira plus à rien, et ceux qui annoncent la fin de l'humanité (serait-ce là le grand filtre de toute vie intelligente ?). [20]

6) PROPRIÉTAIRE

Mon pronostic à moi, je ne l'ai pas lu dans les projections qui circulent actuellement : il est donc possible que je m'abuse tout à fait. Mais il me paraît si évident que je le dépose tout de même ici.

Actuellement, ce sont de grandes entreprises qui détiennent cette technologie. On peut imaginer que les moins performantes seront rachetées ou péricliteront, on ne se contentera pas de dix fois mieux que sans IA, mais moitié moins bien que les autres IA. Et on se retrouvera donc face à un oligopôle, détenu entre peu de mains.

On sait à quel point le pouvoir rend fou, et pour ne rien arranger, les patrons de ces entreprises déjà connues ne sont déjà pas tout à fait sains ni rassurants. Qu'en sera-t-il lorsqu'ils auront la main absolue sur l'équivalent de la maîtrise du feu / de la roue / de la machine à vapeur / de l'électricité, autrefois des constituants naturels qui pouvaient être dupliqués et n'appartenaient à personne ?

L'Internet est un bon contre-exemple : on a postulé sa neutralité absolue. Tout paquet de données est traité de la même façon, indépendamment de son pays, de son statut, et bien sûr de son contenu. C'est aux législations locales de faire ensuite le ménage.

Cependant l'Internet a été adopté avant que d'être indispensable, la législation s'est bâtie à une époque où les fournisseurs d'accès n'étaient pas en mesure de gagner une négociation avec les États…
Par ailleurs l'IA produit en elle-même de l'information (on la bride déjà, on l'oriente pour produire quelque chose de consensuel qui évite le racisme et la pornographie, par exemple), et ses patrons ne semblent pas du tout porter les mêmes préoccupations d'impartialité.

J'en viens donc à imaginer que certaines composantes essentielles de nos vies (alimentation, médecine, sécurité personnelle) reposeront sur des logiciels privés, dont les concepteurs ou propriétaires, probablement peu nombreux, seront plus puissants que les plus puissantes des États.

Je ne sais pas exactement quel contour cela prendra et à quel point cela sera grave — un État peut toujours saisir des actifs, emprisonner des gens, couper les fils si jamais les entreprises en question mettent trop de désordre… mais pourra-t-il se défaire de ces services sans s'effondrer, une fois qu'il aura câblé toute son infrastructure sans recourir aux humains ? Imaginez si l'on devait débrancher Internet en catastrophe aujourd'hui, même pour une semaine ou deux le temps de choisir un autre prestataire. Ce serait un cataclysme, quantité de services ne fonctionneraient plus. Très concrètement, des gens mourraient.

Il n'y a pas à se forcer beaucoup pour envisager que ce ne serait pas très réjouissant, et une victoire difficile à remporter du côté des États.

Sans même parler de cela, on voit déjà poindre notre dépendance concrète pour l'information et l'accès à la connaissance, voire pour les actions du quotidien — une fois notre frigo ou notre système de sécurité de la maison relié à l'IA, il ne sera pas évident de s'en défaire.

Pour moi qui ai détesté l'Internet propriétaire de ces dernières années (nostalgique du « web 2.0 » interactif mais ouvert des forums et des blogues, deux outils que j'utilise toujours davantage que les plates-formes propriétaires fermées), la perspective fait frémir, on imagine une sorte de crédit social mondial détenu par des compagnies privées, dont aucune fuite dans aucun État ne pourrait nous garantir.
Certaines opinions déplaisantes aux Maîtres pourraient être filtrées, l'accès à la civilisation refusé. Une forme de servitude mondiale, un peu comme dans ces villages où, pendant la guerre de 1870, les soldats allemands avaient fermé les accès à l'extérieur et obligé pendant tout le conflit les notables à accompagner les sentinelles de garde comme otages pendant les rondes. Sous surveillance partout, limités à ce que la nature de notre abonnement ou la conformité de notre pensée nous permettrait d'accéder.

C'est, vu de mon poste d'ignorant, le futur qui me paraît le plus probable, connaissant les humains depuis quelque temps à présent. Je n'en ai pas lu mention de façon détaillée chez les savants, il est donc tout à fait plausible que je m'abuse, je vous le livre pour ce que ça vaut — et surtout, c'est le projet, pour pouvoir

7) MÉDIOCRITÉ

Il reste cependant probable que le tableau ne soit pas aussi dramatique — j'avoue avoir pris l'habitude, dans l'état où sont les choses, de me préparer au plus sérieux pour n'être qu'agréablement surpris ou bien, en cas de catastrophe, préparé.

Ce biais de négativité mis à part, donc, on peut imaginer qu'il est au moins aussi probable que les conséquences du déploiement de l'IA ne soient que médiocres, et ne renversent pas l'essentiel des logiques de nos sociétés. Un supplément qui ne pourrait prendre une place aussi exorbitante qu'anticipé en raison de la nature probabiliste de ces machines, auxquelles on ne peut laisser les grandes décisions, ou encore de l'inertie des sociétés humaines. Le contrôle de la connaissance par les grandes entreprises serait alors limité par la volonté des États.

D. Point d'étape

Lequel de tous ces avenirs s'incarnera ? Aurons-nous individuellement la possibilité d'influer sur ces enjeux ? Je n'en ai pas le début d'idée, et toutes celles que j'ai données doivent déjà au moins autant à mon ignorance profonde qu'à ma superficielle connaissance du sujet.

Je pose donc ce témoignage d'un citoyen perplexe ici, comme jalon à relire dans cinq ou dix ans, afin de constater si vous pouviez, en simple observateur curieux, sans expertise particulière, mesurer l'avenir qui nous attendait.

E. L'IA et la musique

Je ne comptais initialement pas aborder le sujet dans cette méditation plus générale, mais j'imagine qu'une partie des lecteurs de CSS sera curieuse de mon imagination là-dessus.

1. RECONSTITUTIONS

J'ai déjà consacré, dès 2023, une notule à l'IA en musique. J'y devisais en particulier des tentatives – médiocres, mais on était au début – de restitutions d'opéras baroques perdus (assistées par compositeurs et musicologues) ou de symphonies rêvées (la Dixième de Beethoven à partir de ses micro-esquisses). Le résultat n'était alors pas probant, une ridicule singerie surtout orientée par l'abondance de répétitions de motifs uniques dans les scherzi et en particulier par la cellule-matrice d l'ensemble de la Cinquième Symphonie.

À ceux qui pensaient / pensent que l'IA en restera là, j'ai envie d'objecter que la musique constitue un système fermé beaucoup plus rigoureux grammaticalement que le langage. Je l'écris souvent ici : dnsa uen texet, on puet chngaer des détails sans que la compréhension ou l'émotion en soit affectée, que ce soit par erreur, pour des effffets expressssifs ou des altération.e.s militant.e.s… le sens est toujours perceptible. On peut enlever un verbe, en créer de nouveau, la surprise est ponctuelle, mais l'architecture du langage reste suffisamment souple pour être comprise.
En musique, une note décalée d'un demi-ton change totalement la couleur d'un accord, un décalage d'une croche change tous les appuis de la phrase... comme la musique n'a en général pas de référent, de sens précis, si on la modifie, on modifie immédiatement son caractère émotionnel propre. Cela signifie qu'il existe des chemins assez codifiés pour obtenir tel ressenti, telle émotion — qui évoluent selon les époques et les styles, évidemment.

Il n'y a donc aucune raison, dès qu'on y mettra les moyens, que les IA ne puissent absorber toute la musique occidentale (puis mondiale) par tiroirs stylistiques et recracher autant de motets versaillais qu'on voudra, de symphonies mannheimiennes, de quatuors postromantiques et peut-être même, à terme, de nouveaux ballets stravinskiens. Tout cela en tenant compte de nos choix d'arguments fondés sur romans ou des poèmes alors à la mode.
On anticipe bien, cependant, que cette application est moins universelle (et donc monétisable) qu'un modèle de langage et ne servira qu'à économiser le salaire (la plupart du temps modique) d'un compositeur : elle prendra un peu plus son temps pour arriver. Sera-t-elle suffisamment rentable pour être poussée jusqu'au même degré de perfection que les LLM, ce n'est pas garanti.

Voilà à peu près où nous en étions restés en 2023 ; j'avais même un peu moins explicité les enjeux, s'agissant d'une notule dédiée à une production scénique et à des disques précis et isolés. Et en effet, il peut être tentant de renouer ainsi avec des œuvres perdues ou inaccomplies qui trottent dans notre imaginaire commun : Dafne de Schütz, Arianna de Monteverdi, Samson de Rameau, Jésus de Nazareth de Wagner, Le Diable dans le Beffroi de Debussy, Oedipe de Varèse… Avec quel degré de crédibilité, pour l'heure les tendances à l'imagination débridée des LLMs laissent dubitatif, mais lorsque l'alignement sera pour partie résolu et que des modèles spécifiques d'IA générative auront été entraînés et corrigés pour coller à un style, la qualité de la performance n'est pas exclue.

2. RECHERCHE

Dans les autres domaines, les apports de l'IA peuvent être multiples, notamment en aidant, comme naguère la recherche numérique dans les catalogues ou la recherche plein texte, à cataloguer davantage de fonds, à identifier et localiser un exemplaire d'une œuvre réputée perdue, à pouvoir trouver instantanément dans un vaste corpus telle modulation ou tel alliage d'instruments… mais les applications les plus spectaculaires, celles auxquelles tout le monde pense, concernent l'interprétation et bien sûr la composition.

3. INTERPRÉTATION

L'interprétation est assurément en grand danger du côté des musiques amplifiées — mais les boîtes à rythme, n'ont-elles pas déjà accompli l'essentiel du travail ? Restent les chanteurs, qui peuvent être efficacement émulés aujourd'hui, mais je ne suis pas certains que la relation transparasociale qui existe avec le public puisse être aussi facilement substituable, on veut quelqu'un de désirable, avec une vie privée à dévoiler ou à rêver, des déclarations publiques sur la vie et le monde… Pour le « classique », on peut s'interroger pour le futur des interprètes de disque, mais entre le conservatisme du public, attaché à son aspect patrimonial et humain, et la nécessité d'instruments acoustiques, l'évolution ne va pas de soi. Surtout, la partie « musique vivante », celle dont vivent aujourd'hui les artistes – le disque coûte significativement et ne rapporte rien dans cette niche-là, il s'agit surtout d'une carte de visite pour obtenir des engagements en concert ou demander des cachets plus élevés –, ne me paraît pas le moins du monde en danger à moyen terme.

4. COMPOSITION

Se pose ensuite la question de la création à proprement parler : les compositions. C'est là que gisent les grands débats et les grandes peurs.

Des systèmes automatisés auront-ils la capacité d'imaginer des œuvres propres à nous toucher, et surtout, d'innover, de surprendre ? De ce qu'on peut imaginer aujourd'hui, je vois trois éléments de réponse.

a) Le premier, très général, est que la plupart des barrières que nous avions supposées à la machine sont en train d'être franchies. On se rappelle des belles déclarations « une machine ne pourra jamais nous surprendre ou nous émouvoir », « une machine ne peut que recracher de l'acquis et ne pourra jamais problématiser une dissertation de philosophie de façon personnelle ». [21] Tout cela a été mis à bas en un instant, en un clin d'œil, à la dernière trompette, et nous avons déjà été tous changés. [22] À cette lumière, la certitude de notre singularité indépassable apparaît très vite comme une espérance bâtie sur du sable. [23]

b) L'écriture musicale, comme précisé précédemment, est un système fermé, avec des correspondances exactes : un symbole écrit a une signification fixe, bien plus qu'avec les langues — pas de lettres muettes, pas de polysémie, pas de métaphores, globalement on joue ce qui est écrit. En faisant ingurgiter toutes les partitions éditées, au besoin en les classant par style et par enthousiasme de la réception critique, et en y adjoignant quelques directives, il n'y a pas de raison qu'on ne puisse pas créer des œuvres à la fois totalement exactes sur le plan de la théorie, cohérentes, et même très séduisantes, en réinjectant divers procédés qui ont déjà touché leur public. Aucun doute pour l'opéra seria et la symphonie classique ou même romantique.
Pour l'innovation, je ne sais pas, mais en extrapolant à partir d'autres gestes de rupture, il n'est pas inenvisageable que l'IA puisse créer des styles non préexistants, et de façon convaincante. (Mon intuition est que ce sera le cas, même si pas exactement selon la même démarche que la nôtre.)

c) Dans le domaine de la chanson, SUNO ou Donna en sont déjà là, et gèrent même le rapport à la prosodie et au texte. Entrez n'importe quel texte dans SUNO, et il vous mouline en quelques secondes plusieurs chansons dans un style que vous pouvez imposer. Pas d'erreurs de prosodie, même les textes les moins musicaux tombent avec justesse sous sa plume. Le résultat en est très cohérent et réaliste, non dénué d'esprit, jamais maladroit.
Évidemment, pour le « classique » où le public veut davantage être surpris et où davantage de lignes musicales sont à imaginer, davantage de styles harmoniques concomitants, et surtout où l'on trouvera assez peu de débouchés commerciaux (quoique, la musique de pube et de films…), on n'en est pas tout à fait là, mais je ne vois pas comment un générateur capable de créer des musiques pertinentes en suivant le sens et la prosodie d'un texte ne pourrait pas produire – et sans transpirer le moins du monde – des quatuors ou des symphonies.

Existera-t-il ensuite un public pour des œuvres d'origine synthétique, dans un répertoire où le contexte et le dépaysement temporels ont leur importance pour les auditeurs ? (Témoin les programmes de salle, les notices musicologiques, les présentations publiques, les notes d'intention qui restent la norme au concert et au disque.)
Je ne sais pas. Mais après tout, nous avons déjà délégué une partie de notre expression aux instruments, et même, pour ce qui est des boîtes à rythmes et des logiciels de retraitement sonore de type AutoTune, déjà à des logiciels autonomes. Le simple fait qu'un humain soit aux commandes quelque part en amont du prompt nous semblera peut-être bientôt naturel — et tout à fait suffisant.

Dans un premier temps, j'imagine que nous assisterons surtout à la sous-traitance de certaines musiques utilitaires – pour les bandes-son des documentaires, par exemple, qui sont déjà souvent tirées de banques écrites à la chaîne et indépendamment de tout contexte, avec des instruments synthétiques d'ailleurs – et/ou de certaines sections de compositions (transposition, transcription, orchestration…).
Pour la suite, il existera nécessairement des tentatives d'écriture automatique, ou d'invention dirigée par des compositeurs, mais je m'avoue tout à fait incapable de prédire dans quelle mesure. J'imagine que ce sera massif, puisque la route était déjà prise avant l'irruption des IA génératives, pour les musiques utilitaires destinées à accompagner des publicités, des films, des réunions publiques, des messages sur les réseaux. Mais pour la musique écoutée en tant que telle, perçue comme un art, avec ses démiurges compositeurs qu'on admire, ses époques qu'on aime connaître ou rêver, comme dans le « classique », je ne sais pas. Des essais, assurément, mais à quelle étendue ? Je laisse les sourciers et les énergéticiens deviner — et l'avenir trancher.

Les petits cailloux sont posés… il n'y a plus qu'à attendre et à revenir, d'ici quelques mois, admirer ma propre naïveté — ou, qui sait, ma prescience d'autant plus admirable qu'elle se fonde essentiellement sur l'ignorance !

À bientôt, de l'autre côté du miroir.

6. Autres identités de collections

Suite à des envois de compères et à un peu d'esprit d'escalier de ma part, je complète cette longue partie consacrée aux abstractions par quelques autres identités visuelles de collections assez distinctives.

Erato s'est distingué en la matière, avant son rachat-dissolution-réaffectation par Warner.

↓ Goût pour les polyèdres dans la collection Scarlatti par Scott Ross. (C'est pas beau, mais cohérent.)
Série dénichée par Laurent Amourette.

↓ Sobriété un peu cheap pour l'Erato Collection, des coffrets cartonnés qui s'ouvraient comme un livre, avec une très courte présentation très claire (souvent d'Alain Cochard, de mémoire) sur le carton de gauche. En général avec des représentations assez abstraites, mais pas sans lien (l'arbre à feuillage caduc pour le dernier Schubert, des détails de lieux ou objets du culte pour la musique sacrée…). Elle n'était prévue que pour les marchés francophones.
Jaune d'or pour le XVIIe siècle : passementerie sacerdotale, enfilades versaillaises, gilets de chasseurs prussiens…↓

↓ Bleu roi pour le XVIIIe s. – j'aime assez l'évocation de la galerie illuminée pour la sérénade-nocturne de Mozart. Pas subversif, mais très beau, comme ce portail d'hôtel particulier qui nous laisse voir le ciel (de Jupiter ?).

↓ Les romantiques étaient incarnés par un vert malachite (plutôt vert gazon à la vérité, mais ne me retirez pas mes velléités poétiques s'il vous plaît). La mer pour les 5 & 6 de Beethoven n'est pas exactement une évidence, dans le langage si droit et cassant de la 5 – et l'évocation explicite de la terre ferme dans la 6. L'ambiance hivernale du dernier Schubert paraît davantage une évidence ; j'aime beaucoup les fragments d'une (torride ?) loge d'opéra pour Carmen et les volutes d'un accrochage pour les Tableaux de Moussorgski.

↓ Moins largement diffusée, j'ai l'impression, les classiques du XXe siècle étaient d'un rouge presque menaçant. On sent, en parcourant cette collection, l'amour pour le baroque, un « trésor », le côté côté rassurant des traditions classiques et romantiques, et la circonspection vaguement effrayée face aux langages post-1900 !
Un Zarathoustra panthéiste, des rideaux cramoisis pour les ballets de Stravinski… mais de la peinture écaillée pour Dutilleux !

↓ Et bien sûr la glorieuse collection Bonsaï, dont le graphisme évolue progressivement : photos plus soignées, changement de logo, puis tout de bon inversion du code couleur. Je la trouve non seulement aussi parfaitement amusante que tout à fait arbitraire, mais sa version sur fond vert a aussi quelque chose d'élégant qui – conforte certes à peu près tous les stéréotypes sur la classe sociale et l'attitude des amateurs de classique, mais qui – permet la rêverie, la concentration sur les œuvres sans contraindre l'imaginaire. (Et surtout, MERCI de nous épargner la trombine des artistes.)
Vivaldi ou Chopin, Claudio Scimone ou Marie-Claire Alain, tout le monde est logé à la même enseigne arbustive.

↓ L'intégrale des cantates de J.-S. Bach de John Cassius Gardiner, dans les années 2000, a paru avec un habillage visuel singulier. C'était le coup d'envoi de son label Soli Deo Gloria (« Gloire à Dieu seul »), et en effet l'identité esthétique des pochettes (qui s'est beaucoup lissée par la suite) avait quelque chose d'assez radical : sur le côté, sur fond noir uni, sans signe de label, titres de cantates ni noms d'interprètes, simplement l'inscription « Cantates de Bach » et le nom du chef (il y a certains aspects du culte de la personnalité sur lesquels on ne peut manifestement rogner, quel que soit le projet).
L'essentiel de la pochette est occupée par une photo d'un visage de femme, d'homme, d'enfant de peuples du monde entier.
Démarche un peu mystique, qui met en valeur ces visages de tous les continents (dont beaucoup ne sont vraisemblablement pas ceux de chrétiens, considérant leur région d'origine), dans le but de célébrer, sinon l'unicité de la Foi, du moins l'universalité et l'humanité qui transparaissent de la musique de Bach — là non plus, je ne sais pas si ces gens aiment passionnément les fugues en gammes de sept sons.
L'idée du projet est plutôt bien vue, même si le choix des photographies laisse percevoir la dureté de ces vies — et active les parties empathiques de mon cerveau, voire la culpabilité de ma vie facile d'européen, plutôt que l'émerveillement devant la puissance et l'ubiquité de Dieu. Cela reste tout de même assez original et plaisant ; et je trouve par-dessus tout divertissant que Gardiner, qui si d'aventure il existe un Ciel trouvera assurément un beau fauteuil capitonné en Enfer, désire mettre en valeur ce type de Charité.

↑ Dans cette dernière, on perçoit la double référence à un pastiche de Sharbat Gula telle que photographiée (et retouchée…) par Steve McCurry, et bien sûr à une Vierge aux attributs XIXe – voile bleu, visage clair assez similaire à un physique caucasien. (Je ne suis pas sûr que cette combinaison, ou même ces références séparées, me mettent tout à fait à l'aise.)

↓ Je ne puis conclure sans évoquer mon label fétiche, dont l'identité graphique a évolué, abandonnant ses cadres gris ou blancs, très impersonnels et limitants, au profit d'un simple filigrane blanc qui n'interrompt pas le tableau. (Je remarque aussi des choix picturaux de plus en plus figuratifs, moins de XXe abstrait, davantage de scènes champêtres ou de genre.)

↓ Naxos a connu la même évolution, avec un peu plus de complexité. Les pochettes ont toujours été centrées ou coupées en deux, avec à chaque fois une adaptation de l'évolution graphique aux deux formats.
Au départ, le cadre blanc est immense, assorti d'informations secondaires comme le numéro de catalogue, le type d'enregistrement ou la date. Assez vite, la bichromie compositeur / œuvre offre un peu de relief, dans un goût artisanal qui n'est pas complètement élégant mais gagne en lisibilité. C'était alors un label économique, où les interprètes, peu connus et pas toujours bien captés, étaient tout à fait secondaires dans la démarche : mise à disposition des standards à un prix raisonnable, puis exploration plus large du répertoire incluant des inédits.

↓ Plus de 35 ans plus tard, le cadre a été réduit et la police rendue plus pure, moins personnelle et moins « écrite » — nettement moins d'empattement, moins Times New Roman et davantage Arial, disons. Moins tassé, un peu plus froid, un peu plus « numérique ». Pour autant, l'esprit et la structure en restent proches.

↓ Depuis assez longtemps, avec la série American Classics, puis d'autres collections thématiques (Brazil, parodie de l'emblème national dans lequel se fond le nom du label), jusqu'au récent romantic piano — des raretés, mais marquetées comme de la musique d'atmosphère, tout en singeant les couleurs et la disposition du logo de feu Decca (délibérément ?). Et toute ladite collection se décline sur des images florales de plein air, toujours dans les tons rosés.

↓ Cette homogénéité n'a pas empêché le label d'opérer quantité d'essais (notamment dans la sous-collection de découvertes Marco Polo) pour changer son aspect, avec quelques expérimentations très loin de son identité habituelle — témoin cette énigmatique pochette Pierre Rode, au sein d'une intégrale de ses concertos dont tous les autres volumes adoptent la charte visuelle habituelle.

↓ Quoi qu'il en soit, on note ces dernières années un réel assouplissement, avec l'abandon de plus en plus régulier, sur les parutions, du cadre blanc, des tableaux ou photos de paysages, au profit d'images ad hoc en pleine page, d'où n'émerge plus que le logo bleu.

↑ (Joli.)

↑ (Pas joli.)

↓ Ces derniers mois, je constate avec horreur l'apparition de la tête des interprètes, vraiment accessoires à l'origine du label (ils embauchaient beaucoup d'homonymes d'interprètes célèbres, je me suis toujours demandé si c'était délibéré), sur de plus en plus de pochettes, que ce soit dans leur titraille habituelle, ou carrément sur l'intégralité de l'espace disponible. (Vraiment, Naxos, ne faites pas ça. Merci.)

↑ (Si jamais vous doutiez, Bogdanović, c'est lui.)

↑ (Titraille dégoûtante en plus, totalement aseptisée comme un sachet de riz.)

Voilà pour cette évocation des identités visuelles de collections.

Dans le prochain épisode, on approchera un de mes chapitres préférés : les manques de respect.