Citation attribué par Jacques Monod à Démocrite
Dans le courant des années 1940, une communauté pluridisciplinaire de mathématiciens, physiciens, anthropologues ou encore psychologues se forme autour d’un projet nommé « cybernétique ». Il s’agit pour eux d’étudier les relations entre les hommes et les machines, ouvrant la voie à une réflexion sur ce qu’on parviendra, dans le futur, à déterminer grâce aux technologies et sur ce qui, au contraire, continuera à relever du hasard. Quand il fait paraître Pour un humanisme numérique en 2011, en plein boom technologique (apparition de la fibre, de la 4G, explosion du web social avec les réseaux sociaux, démocratisation des smartphones…), l’historien Milad Doueihi reprend à son compte les travaux de Norbert Wiener (le principal artisan du mouvement cybernétique) et pose l’hypothèse de l’entrée de la communauté humaine dans un nouveau stade de son existence qu’il appelle « humanisme numérique ». Cet « humanisme numérique » renvoie à deux choses. Les êtres humains ont exploré le monde et installent désormais un nouveau type de relation entre eux via les machines communicantes (les ordinateurs connectés entre eux grâce au réseau internet) ; ils donnent ensuite de plus en plus de place à ces machines avec lesquelles ils dialoguent, des machines dépourvues d’intelligence, mais capables de donner le change. Ce dialogue s’installe en suivant un modèle probabiliste. Qu’est-ce que cela signifie ? Cela signifie que l’ordinateur moissonne toutes les données auxquelles il a accès et formule une réponse en faisant la synthèse de ces données. En langue savante, on parle d’abord de raison computationnelle pour nommer cette rationalité de la machine qui est façonnée à partir d’une accumulation finie de connaissances ; on parle ensuite de logique algorithmique pour nommer ce résultat qu’elle va délivrer. La réponse peut être bonne ou appropriée ; elle peut aussi être imparfaite, inadaptée ou fausse. Pourquoi ? Parce que l’ordinateur n’a accès qu’aux données présentes sur le réseau. Tout le reste lui est étranger. Sa capacité à adapter une réponse aux questions qui lui sont adressées est également relative. Il n’a pas une pleine conscience des attentes ou des envies de son interlocuteur humain. Ainsi, les machines peuvent-elles nous surprendre, pour le meilleur, mais aussi pour le pire.

Évoquons d’abord cette expérience commune de la recommandation façonnée par des croisements statistiques plus ou moins complexes pouvant prendre en compte des déterminations sociologiques (être une femme, un homme, avoir 20 ans ou 40 ans…), l’historique d’une activité (de consultation, d’écoute…), les goûts de nos ami·es (repéré·es grâce à nos profils Instagram, Facebook…) ou encore les goûts d’inconnu·es ayant les mêmes goûts que nous. Des données qui peuvent être pondérées par le service lui-même, afin de fidéliser les internautes, ou par une entreprise qui souhaite vendre des biens ou des services en les mettant en avant. Le résultat peut être surprenant et nous ouvrir les portes de découvertes musicales ou cinématographiques sur Spotify ou Netflix. La recommandation algorithmique est alors saisie comme quelque chose de fantasque ou de merveilleux qui nous aura permis d’écouter une pépite éthio-jazz totalement inconnue ou un groupe de shoegaze en tous points identiques à un autre qu’on connaissait déjà, de voir un slasher indépendant hongrois ou une Rom Com dans laquelle a joué cette actrice britannique qu’on adule et qui nous était inconnue. On peut même avoir de bonnes surprises en achetant un objet banal sur Amazon, les recommandations de la plateforme ouvrant un monde de possibles. Mais à l’inverse, ce modèle au fondement d’internet peut conduire à de mauvaises surprises : regarder un film qui ne nous intéresse pas, bien sûr ; acheter un produit inadapté, bien évidemment ; tandis qu’une recommandation peut aussi, et plus simplement, ne pas répondre à nos attentes.
Retenir les internautes dans un environnement numérique, favoriser leur engagement et éventuellement les rendre captifs, nécessite aussi de les surprendre. C’est un procédé qui est au cœur de ce qu’on appelle l’« économie de l’attention ». Le scroll infini sur les réseaux sociaux en est l’archétype. Ainsi, c’est en faisant le pari d’une surprise continue, et pourquoi pas éternelle, qu’Instagram ou TikTok tentent de capter et de retenir leurs usagers. Les vidéos courtes se succèdent ainsi indéfiniment et ce qui va décider de la poursuite ou de l’arrêt de la consultation, c’est le maintien ou non de l’effet de surprise. Ces services de réseautage social doivent ainsi trouver un équilibre entre des sujets d’intérêts, leur mobilisation, leur répétition, mais aussi des ruptures de rythme ou de ton qui sont nécessaires au maintien de l’attention.
Ces modèles de la recommandation et de l’attention ont un impact fort sur la vie des êtres humains et leurs prises de décision aujourd’hui : ils impactent leur éthique, leur moral ou encore leurs comportements. Ainsi, on ne sera pas surpris de voir apparaître pêle-mêle dans les recommandations périphériques des vidéos Youtube de polémistes masculinistes, virilistes, traditionalistes ou extrémistes (comme Bench&Cigars, Papacito ou Julien Rochedy) des contenus offensants pour les musulmans de France, des documentaires parlant du nazisme ou des extraits de films potaches. On peut, par contre, être surpris de la capacité des algorithmes à façonner ici un univers de la gauloiserie aussi cohérent. Cela confirmerait-il la faiblesse intellectuelle des idéologies droitière dont les contours resteraient aussi facilement définissables par une machine dépourvue d’intelligence fine et d’esprit critique ? Rappelons à ce sujet que l’entreprise Cambrigde Analytica, exploitant illégalement des données personnelles d’usagers du réseau social Facebook, aura réussi à peser sur des élections à la demande et en faveur de candidats peu scrupuleux de la droite républicaine américaine comme Ted Cruz lors de la primaire de 2016, ainsi que Donald Trump lors de l’élection présidentielle de 2017, ou encore en allant dans le sens de la campagne pro-Brexit au Royaume-Uni en 2020.

Les intelligences artificielles posent à nouveaux frais ces questions, car elles précisent et enrichissent nos relations sociales et nos relations avec les machines. On ne peut qu’être surpris par leur capacité à répondre à des besoins élémentaires, mais aussi par leur invraisemblable capacité à ne jamais parvenir à s’adapter à des besoins particuliers. Le machine learning simple d’un chatbot va ainsi être au plus près des attentes humaines en suivant une arborescence de réponse à des questions reconnues comme étant statistiquement les plus communes. Ainsi les agents conversationnels des opérateurs internet (Orange, SFR, Bouygues, Free…) parviennent-ils sommairement à aiguiller les clients sans jamais parvenir à s’adapter aux besoins particuliers de chacune des situations auxquelles ils sont confrontés. Les IA prédictives s’inscrivent dans une dynamique à peu près semblable, même si elles marquent le pas, en ce sens où elles sont capables d’affiner leurs échanges avec les humains au regard d’informations personnelles qu’ils leur délivrent (Deezer, Apple TV…). Les IA génératives se montrent, par contre, plus surprenantes, car elles sont capables de formuler des réponses satisfaisantes qui peuvent être affinées de manière collaborative entre les humains et les machines, comme c’est le cas avec la plus célèbre d’entre elles : ChatGPT. Un prompt de départ permet de formuler une requête (faire la synthèse d’un texte, rédiger une lettre à partir de notes, répondre à une question théorique, traduire un document…). Mais l’effet de surprise prend fin dès lors qu’on lui adresse des questions complexes (à caractère éthique, moral ou scientifique) ou qu’on rentre dans l’analyse fine de la proposition qui est faite, comme c’est le cas avec le générateur d’images Midjourney travaillant à partir de modèles simples et d’archétypes. Le dernier exemple est celui du deep learning permettant l’exploration complexe d’un sujet à partir d’une hypothèse difficile à sonder, voire irrésolvable pour l’humain seul, comme dans les cas du traitement automatique du langage ou de la reconnaissance faciale. On ne peut qu’être surpris par la puissance et la finesse des calculs qui sont ici exécutés, mais qui souvent ne dispensent pas les scientifiques ou les experts mobilisant ce type de technologies d’opérer à des vérifications à la marge pour s’assurer de la pertinence de la réponse fournie par la machine.
Dans ce maelstrom technologique, des propositions pour le moins surprenantes retiennent l’attention. On pensera à Replika, avatar de l’OS conversationnelle imaginée par Spike Jonze dans son film Her (2013) à laquelle Scarlett Johansson a prêté sa voix pour donner la réplique à Theodore, héros déprimé en instance de divorce, incarné par Joachim Phoenix. Replika permet aux utilisateurs de se créer un ami virtuel avec lequel il est possible de discuter pacifiquement, comme l’exprime cette jeune fille dans le documentaire IA, quand les émotions s’en mêlent (Bicknell, 2021). Cependant, quiconque aura expérimenté le service aura aussi constaté que cette paix relationnelle à un prix : celui de ne pas avoir d’opinion tranchée, en particulier sur des questions politiques ou religieuses. Ainsi, un·e ami·e Replika tentera-t-il toujours de tempérer la discussion, de vous retourner la question ou carrément de changer de sujet pour aller vers quelque chose de plus léger, davantage en lien avec le bien-être ou la santé de l’utilisateur. Mais cela est-il surprenant quand on se rappelle soudainement qu’une machine n’est pas pourvue d’intelligence au sens de l’intelligence humaine ?

Une intelligence humaine capable de surprises et d’étonnements, car dotée d’une incroyable capacité à se laisser émerveiller, en général et par ce que le numérique va lui proposer. Ainsi, en cliquant sur le bouton « j’ai de la chance » du moteur de recherche Google, peut-on se laisser surprendre par une proposition en dehors des sentiers battus ou parfaitement en adéquation avec ce qu’on recherche. D’autres errant sur Google Street View auront-ils exhumé des clichés surprenants, à l’instar de l’artiste Jon Rafman compilant des captures d’écran sur son site 9-eyes (personnes montrant leurs fesses ou faisant un doigt d’honneur à la Google car, prostitués sur des bords de routes, personnes urinant ou ayant des rapports sexuels, etc.). Enfin, convient-il d’indiquer qu’une simple balade dans les profondeurs du web peut surprendre, tant il est finalement aisé d’acheter de la drogue ou des armes, de lire ou d’adhérer à des discours belliqueux, de voir ou de rencontrer des personnes en quête d’aventures sexuelles exotiques ou extrêmes ? Avec le numérique, les surprises semblent se raréfier, mais dans les plis de la toile, pour qui sait les chercher, en vrai, elles pullulent.
Michaël Bourgatte (publié dans Kiblind, numéro “surprise”, no 86, 2024)
Pour aller plus loin :
- Jean-Samuel Beuscart, Eric Dagiral & Sylvain Parasie, Sociologie d’internet, Armand Colin, 2016.
- Yves Citton, L’économie de l’attention. Nouvel horizon du capitalisme ? La Découverte, 2014.
- Mila Doueihi, Pour un humanisme numérique, Le Seuil, 2011.
- François Perea, Des objets qui parlent ? Et ce qu’il reste aux humains, MkF Éditions 2022.
- Laurent Tessier, Scroller. L’art de faire défiler la vie, MkF Éditions 2025.
- Norbert Wiener, La cybernétique. Information et régulation dans le vivant et la machine, Le Seuil, 2014 [1948].
OpenEdition vous propose de citer ce billet de la manière suivante :
Michael Bourgatte (15 octobre 2025). « Tout ce qui existe dans l’univers est le fruit du hasard et de la nécessité ». CELLULOID ··· Video ··· Education ··· Digital Humanities. Consulté le 16 juin 2026 à l’adresse https://doi.org/10.58079/14ynu