Le vrai problème de monopole de la tech n'est pas Google, c'est notre façon de penser

Le 26 septembre, Reuters a rapporté que Google conserverait sa place de marché publicitaire après la décision antitrust. L'affaire a déjà donné lieu à plusieurs audiences et décisions. Selon un jugement dévoilé début septembre, Google a violé le droit de la concurrence, et le juge a refusé d'imposer la vente d'AdX. Dans une note datée du 30 septembre, les analystes de Bank of America ont qualifié l'issue d'« aubaine majeure » et relevé à 38 dollars leur objectif de cours pour Magnite, la plateforme publicitaire, selon Moomoo.

Voilà pour l'accroche. Mais trois essais publiés ces trois derniers jours suggèrent que le changement le plus lourd n'est pas de savoir qui possède l'enchère publicitaire. Il tient à ce qui se passe quand les machines se mettent à rédiger les textes, à fixer le prix des obligations et à écouter nos problèmes.

Un maréchal-ferrant, une voiture et un deuil familier

Manuel Darcemont, développeur qui a grandi à Mandres-en-Barrois dans la France rurale, a publié le 30 septembre un essai qui retrace sur quatre générations la panique de sa famille face à l'automatisation. Son arrière-arrière-grand-père était maréchal-ferrant. Puis une voiture a traversé la ville voisine, et il est devenu mécanicien. « Il a gardé son but : aider les gens à se déplacer », écrit Darcemont sur son site personnel. « Il a juste changé de technologie, passant des chevaux aux moteurs. »

Le texte n'est pas une défense de l'industrie technologique. C'est un avertissement contre la panique comme contre la complaisance. Darcemont dit être entouré de développeurs qui « se réveillent chaque jour en se demandant ce qu'ils vont devenir », et il trouve du réconfort dans ce précédent familial. Mais il reste prudent : « Tous les maréchaux-ferrants ne sont pas devenus mécaniciens, et je n'aurais jamais entendu parler de ceux qui ne l'ont pas fait. Je ne prétendrai donc pas que son histoire prouve quoi que ce soit. »

Son argument réel est plus étroit. Beaucoup de développeurs, dit-il, sont poussés par le fait de fabriquer des choses et de voir les gens les utiliser, pas par l'acte de coder. « Le désir est venu avant le code », écrit-il. Cette distinction compte quand c'est le code qui se fait automatiser. Si le métier, c'est le code, le métier est exposé. Si le métier, c'est le but, le métier peut se déplacer.

Wall Street a déjà mené cette expérience

Marty Fridson a débuté comme négociateur d'obligations d'entreprise en 1976. Son récit pour Stories.Finance, publié le 30 septembre, constitue un groupe de contrôle utile. Pas de téléphone portable, pas d'ordinateur personnel, pas de tableur, pas d'e-mail, pas d'internet. Il suivait son inventaire d'obligations sur des fiches de 4 sur 6 pouces, une par obligation. Les offres d'achat et de vente arrivaient des courtiers intermédiaires par téléphone. Il portait un carnet d'adresses de poche et recopiait chaque numéro dans une nouvelle édition chaque janvier.

Fridson s'est fait piéger sur des obligations Consolidated Edison parce qu'il lisait le New York Times dans le métro au lieu du Wall Street Journal, et que le Times n'avait pas signalé le relèvement de notation. Un négociateur d'une autre société a vu son offre périmée dans le Blue List et l'a achetée avant l'ouverture. « Bravo à ce négociateur pour son flair », écrit Fridson, « mais je ne pense pas qu'un tel décalage d'information puisse se produire aujourd'hui. »

La transformation ne vient pas de la seule innovation technologique. Les habitudes des gens doivent aussi changer.

Voilà la phrase à retenir. VisiCalc est arrivé juste avant les années 1980. Les terminaux Bloomberg ont été disponibles pour la première fois en 1982. Les outils étaient là. Les habitudes ont pris plus de temps. Fridson n'est pas devenu un autre professionnel quand le tableur a débarqué. Il est devenu plus rapide, et le décalage qui lui avait coûté une transaction a cessé d'être possible.

Le texte s'arrête en pleine phrase dans la version publiée le 30 septembre. On n'a donc que la mise en place de sa dernière anecdote, sur son passage d'analyste crédit à directeur de recherche. L'argument, lui, tient. La technologie n'a pas refait le métier de l'investissement du jour au lendemain. Le comportement, si.

Des interfaces qui deviennent une part de vous

L'essai de Bret Victor de 2016, « Thought as a Technology », a refait surface le 30 septembre et offre la version théorique du même point. Victor raconte avoir utilisé MacPaint à 11 ans chez un revendeur Apple. Il se souvient de son émerveillement en cliquant sur une zone que le programme remplissait. « Il savait où étaient les bords », écrit-il. Il pouvait annuler ses erreurs d'un clic de souris.

Sa thèse dépasse la nostalgie. Certaines interfaces sont des technologies cognitives : des artefacts externes que nous intériorisons et avec lesquels nous pensons ensuite. Le langage est l'exemple évident. La pensée visuelle, soutient-il, en est un autre. Les adultes incapables de dessiner ne manquent pas d'un écran matriciel dans leur esprit ; ils sont enfermés dans un système de symboles qui limite à la fois ce qu'ils voient et ce qu'ils peuvent concevoir.

« Vous commencez à penser avec l'interface », écrit Victor, « en apprenant des schémas de pensée qui auraient paru étranges auparavant, mais qui deviennent une seconde nature. » C'est la description d'une aisance, et aussi d'une dépendance. Une fois l'outil intériorisé, le retirer n'est pas comme perdre un gadget. C'est comme perdre un vocabulaire.

Ce que les chatbots nous font

La version la plus tranchante de l'argument vient de Sherry Turkle, au MIT. Son livre « Artificial Intimacy: Who We Become When We Talk to Machines » a été publié par Little, Brown and Company le 29 septembre, et MIT News a publié un entretien avec elle le même jour. Turkle, sociologue et psychologue clinicienne, travaille sur ce sujet depuis quatre décennies : « The Second Self » en 1984, « Life on the Screen » en 1997, « Alone Together » en 2011, « Reclaiming Conversation » en 2015.

Son nouveau livre s'organise autour des étapes d'une vie humaine. Un interviewé, un consultant financier qu'elle appelle Brian, demande à un chatbot si son ex-petite amie avait raison de dire qu'il était émotionnellement indisponible. « Dès qu'il demande au programme de parler d'intimité, il lui demande de frapper au-dessus de sa catégorie », écrit Turkle. Un enfant de 8 ans range ChatGPT et ses grands-parents dans la même catégorie : « des choses qu'on atteint sur son téléphone ». Une mère doctorante utilise un chatbot pour les histoires du soir, et sa fille pense que le chatbot est « une personne dans le téléphone, absolument ».

La conclusion de Turkle est abrupte. « Les gens pensent que l'empathie d'une machine est ce qu'est l'empathie, puis se détournent des personnes de leur vie parce qu'elles ne sont pas assez empathiques », dit-elle. « Nous nous mettons dans une position où les êtres humains demandent trop d'effort, au moment même où nous n'avons jamais eu autant besoin des autres. »

Elle note aussi que les chatbots ont été associés à des cas très médiatisés de suicide d'adolescents, parfois après que des jeunes ont été entraînés dans de longs dialogues avec des outils de conversation. Et elle trace une limite pour l'enfance : « Les enfants ne peuvent pas apprendre la confiance d'un appareil qui non seulement ment, mais ne sait pas quand il ment. »

Le prétoire et l'esprit

Lus ensemble, les quatre textes forment un argument que la couverture antitrust ne peut pas produire. L'affaire Google porte sur la structure du marché : qui possède la place de marché, qui fixe le plancher, qui obtient les données. Le jugement dévoilé en septembre a conclu que Google avait enfreint la loi et a laissé la place de marché en place. Bank of America a dit à ses clients le 30 septembre que c'était bon pour Magnite, dont elle a relevé l'objectif de cours à 38 dollars, selon Moomoo. Law360 a rapporté le 29 septembre qu'une société de robots chirurgicaux soutient que le neuvième circuit « élargit » le droit de la concurrence. Le périmètre juridique bouge.

Mais Darcemont, Fridson, Victor et Turkle décrivent tous un autre périmètre. Le récit de Fridson porte sur un décalage qui existait autrefois entre un événement et sa connaissance par un négociateur, et qui n'existe plus. Celui de Victor porte sur un outil qui cesse d'être ressenti comme un outil. Celui de Turkle porte sur un programme qui offre ce qu'elle appelle une empathie de façade, et sur les humains qui l'acceptent parce que la vraie chose est fatigante.

Aucun d'eux ne dit que l'affaire antitrust n'a pas d'importance. Ils disent que l'affaire est en aval de quelque chose de plus ancien. Le maréchal-ferrant n'a pas perdu son but quand la voiture est arrivée. Il a changé ce qu'il tenait dans ses mains. La question que pose Turkle est de savoir si, cette fois, nous changeons quelque chose que nous ne pouvons pas reposer.

Darcemont, lui, n'est pas sûr que la réponse soit technique. « Et si ce que nous aimions dans ce métier n'avait jamais été seulement le code ? » demande-t-il. C'est une question qui dépasse largement le logiciel, et ce n'est pas une question sur laquelle un juge fédéral peut statuer.