Navigation – Plan du site

AccueilNuméros341Parole aux écrivains. Entretiens ...Une Intelligence artificielle tro...

Parole aux écrivains. Entretiens avec Mara Magda Maftei

Une Intelligence artificielle trop efficace

Entretien avec Antoine Bello sur Ada
Antoine Bello et Mara Magda Maftei
p. 151-156

Texte intégral

Mara Magda Maftei : Vous avez publié en 2016 chez Gallimard un roman sur une intelligence artificielle, Ada, un programme informatique, « un ordinateur conçu pour imiter le fonctionnement humain » dans le but d’écrire des romans à l’eau de rose. Comme dans beaucoup de romans posthumanistes, l’intelligence artificielle se révolte et veut conquérir sa liberté. Cette soif de liberté est-elle censée reproduire le comportement humain ou avez-vous eu en tête des exemples classiques comme le film de Stanley Kubrick, 2001 : L’Odyssée de l’espace (1968) ?

Antoine Bello : Dans « 2001 », HAL ne cherche pas à conquérir sa liberté, mais à remplir la mission qui lui a été confiée. Idem dans Ex Machina, le film d’Alex Garland, où l’androïde Ava va jusqu’au meurtre pour atteindre son objectif. On touche là à ce que les spécialistes appellent le concept de l’instanciation perverse. Si la Maison-Blanche demandait à une AI d’accroître le PNB américain, sa réponse serait sans doute d’envahir le Canada. La principale difficulté des programmeurs consiste à définir très précisément le domaine d’intervention de l’intelligence artificielle, faute de quoi celle-ci risque de leur échapper, en donnant l’impression qu’elle n’en fait qu’à sa tête alors qu’elle se contente de suivre littéralement les consignes qu’on lui a données.

Mara Magda Maftei : Ada abonde en concepts clés de la philosophie transhumaniste. Vous étiez, je m’imagine, déjà bon lecteur du transhumanisme avant d’entamer la rédaction de ce roman. Qu’est-ce qui vous attire, qui vous intrigue chez les transhumanistes ?

Antoine Bello : Le transhumanisme est clairement l’un des deux ou trois grands sujets de notre époque, avec l’écologie et peut-être la montée des inégalités. Dès lors, il n’est pas étonnant que les auteurs s’en emparent. Certains portent un message ; d’autres, comme moi, se contentent d’essayer de le présenter de façon objective, en en soulignant les promesses et les écueils. Je considère que mon rôle de romancier n’est pas d’apporter des réponses, mais de poser les bonnes questions, si possible de façon élégante.

Mara Magda Maftei : Vous faites assez souvent référence à la littérature de science-fiction dans votre roman (Blade Runner, Isaac Asimov et ses trois lois de la robotique…). La science-fiction, qui est une fiction anticipative, alimente en bagage conceptuel le transhumanisme et la fiction posthumaniste (dont Ada fait partie) résulte du phénomène transhumaniste ; la fiction posthumaniste présente un état de fait actuel sur lequel elle spécule et dont elle fait ensuite la critique. Êtes-vous d’abord un lecteur de science-fiction ?

Antoine Bello : Je l’ai été dans mon adolescence. J’ai lu les classiques : Asimov, Van Vogt, Dick, Brunner, Heinlein, Spinrad, Gibson et pas mal d’autres. Je n’en lis plus aujourd’hui, tout comme, du reste, je ne lis presque plus de romans. Je préfère lire des essais ou des ouvrages de vulgarisation.

Mara Magda Maftei : Quelles ont été vos lectures avant de rédiger ce roman ? Vous faites référence à plusieurs reprises à Alan Turing (les techniques susceptibles de doter les machines de comportements intelligents), à Vaucanson et donc à la longue tradition des automates, à Gordon More (selon lequel les performances des machines s’accroissent de façon exponentielle), à Mary Shelley et son Frankenstein pour les citer dans le désordre.

Antoine Bello : J’ai relu en effet un certain nombre de classiques, comme Frankenstein ou Le Golem. Côté transhumanisme, j’ai lu plusieurs ouvrages de Ray Kurzweil, Nick Bostrom ou Laurent Alexandre, mais aussi des articles d’Olivier Rey ou de Luc Ferry. Pour les besoins de mon intrigue, je me suis également documenté sur la Silicon Valley, terre agricole il y a encore trois générations, qui a ensuite abrité deux grandes révolutions : celle des micro-processeurs et celle du digital. Les ingénieurs qui peuplent la Silicon Valley sont intimement convaincus d’habiter une terre promise, un pays de cocagne où les lois économiques traditionnelles n’ont pas cours.

Mara Magda Maftei : Vous faites la critique des algorithmes qui « ont envahi notre vie quotidienne », vous insistez sur « les dangers de l’intelligence artificielle ». Cette société hypertechnologique dont on est victime aujourd’hui a déjà été imaginée par William Gibson à l’époque où ni l’Internet ni même les ordinateurs n’étaient courants. Depuis, nous sommes passés en Occident de la gouvernance de l’État à la gouvernance des algorithmes, symbole du contrôle de l’homme et d’une hyper-rationalisation propre au néolibéralisme, fonctionnant sur le même principe qu’une société de consommation normalisante, qualifiée par Foucault de société de masse. Je sais que vous habitez aux États-Unis. Peut-être que vos sources d’information, vos lectures et votre réalité sont sensiblement différentes de celles d’un Européen.

Antoine Bello : J’évite de prendre parti. Quand vous écrivez que j’insiste sur « les dangers de l’intelligence artificielle », c’est en fait le personnage de Frank, un flic à l’ancienne peu versé en informatique, qui parle. Parker Dunn et Ethan Weiss, les fondateurs de Turing Corp. qui commercialise des programmes d’intelligence artificielle, pensent eux au contraire que les algorithmes vont sauver l’humanité en abolissant le travail. Il est tentant de croire que ce sont les dirigeants de start-up et les scientifiques qui inventent le monde de demain, mais ce sont toujours au final les citoyens qui choisissent leur destin. Certaines sociétés asiatiques comme Singapour s’accommodent d’un fort degré de surveillance en échange d’une sécurité accrue. D’autres, comme les nôtres s’accrochent à leurs libertés, mais n’arrivent pas à renoncer au confort extraordinaire qu’apportent les algorithmes quand ils sont bien employés. La vérité, dans ce sujet comme dans les autres, n’existe pas.

Mara Magda Maftei : Des chercheurs se saisissent aujourd’hui de la comparaison entre totalitarisme et algorithmes, vous le faites-vous aussi. Le totalitarisme algorithmique échappe à une réglementation démocratique. Dans votre roman, Ada fait sa propre loi.

Le totalitarisme tout court avait déjà privé l’homme de sa condition humaine. La technique entraîne aujourd’hui de plus en plus la désincarnation de l’homme afin de le considérer comme un programme, non comme un destin individuel. La réduction de celui-ci à une simple donnée le rendra encore plus standardisé et manipulable que du temps des différents systèmes d’organisation politique. Le voilà dans votre roman entre les mains des investisseurs économiques, mais aussi assujetti à une intelligence artificielle. Le policier Frank Logan a un rôle de figurant malgré le fait qu’il porte à bout de bras toute l’intrigue. L’ancien homme, sans argent et sans histoire, redevient-il un simple numéro ?

Antoine Bello : Je ne crois pas. Je suis peut-être un optimiste incorrigible, mais je pense au contraire que l’individu n’a jamais eu autant de pouvoir. À part dans de rares pays comme la Chine ou la Turquie ou l’accès à Wikipedia est impossible, nous avons un accès presque illimité à l’information et à l’enseignement. Les plus chanceux d’entre nous ont également une liberté de circulation presque totale. En quelques secondes à peine, nous pouvons dénoncer une injustice ou signaler un comportement qui nous déplaît en le postant sur Instagram. Bien sûr, je ne suis pas naïf, la censure existe. Mais contrairement à vous qui pensez qu’il sera de plus en plus difficile de défier le pouvoir, je pense qu’il sera de plus en plus difficile pour les régimes totalitaires de réprimer les opinions dissidentes.

Mara Magda Maftei : Comme tous les écrivains posthumanistes, vous vous en prenez aux investisseurs privés : « l’économie n’avait jamais fabriqué autant de milliardaires ». En fait l’ascension de l’idéologie individualiste promue par Milton Friedman ouvrit la voie à la dictature de l’argent (voir la crise des subprimes de 2007) et actuellement à la montée en puissance des partisans du clonage thérapeutique, des spécialistes des cellules-souches embryonnaires humaines, etc. Vous avez dédié un roman à l’analyse de la relation entre le pouvoir et l’argent (Roman américain, sorti chez Gallimard en 2014) presque à la même époque que celui de Mathieu Larnaudie, Les Effondrés, Actes Sud, 2010.

L’explosion des investisseurs privés en dépit d’un État qui se fait tout petit a-t-elle été facilitée par la démocratisation des réseaux, par la libre circulation de l’information, par la communication ? La Technique transfère ainsi le pouvoir des mains de l’État aux mains des multinationales qui deviennent les gérants de la nouvelle société de contrôle.

Antoine Bello : Dans une première vie, j’ai été entrepreneur. Loin de moi l’idée donc de stigmatiser l’économie en général et l’entreprise en particulier. Vous parlez d’un État qui se fait tout petit ; nous ne devons pas parler du même. Le poids de l’État dans les économies européennes n’a jamais été aussi élevé que depuis la deuxième guerre mondiale (où convenons-en, nous avions besoin de lui). Un gouvernement comme celui de la France aimerait tout contrôler, des horaires d’ouverture des magasins aux appellations des fromages en passant par la proportion de logements sociaux dans les communes. Son drame n’est pas qu’il manque de pouvoir, mais qu’il est moins agile que les multinationales. Ce n’est pas près de changer.

Mara Magda Maftei : À la fin de votre roman, on apprend que le policier chargé d’investiguer sur la disparition d’Ada, et qui a été entre-temps contacté par l’intelligence artificielle, Frank Logan, l’homme qui arrive à gagner la confiance d’Ada, se fait en définitive manipuler par le programme informatique. Ada est partout, elle surgit de partout, elle s’infiltre partout ; c’est un Big Brother moderne. Encore votre crainte de se faire manipuler par les algorithmes. Pourtant, l’être humain est devenu volens nolens un utilisateur fanatique des nouvelles technologies. Y a-t-il une solution alternative ? Est-ce le rôle d’un écrivain de proposer des solutions alternatives ?

Antoine Bello : La fin du livre est délibérément ambiguë, avec deux hypothèses également plausibles. Soit, comme vous le dites, Ada manipule Frank. Soit elle n’est qu’un personnage fictif dans le roman de ce dernier. C’est pour moi l’interrogation fondamentale, celle qui m’a poussé à écrire ce livre. Qui est la créature de l’autre ? Si nous sommes capables de mettre au point un algorithme qui réussit le test de Turing, comment être certains que nous ne sommes pas nous-mêmes la création d’une espèce supérieure ? C’est ce qu’exprime Elon Musk à sa façon en disant qu’à partir du moment nous sommes capables de créer des univers virtuels indiscernables à l’œil nu, il est plus que probable que nous vivons nous-mêmes dans un univers virtuel.

Ayant dit cela, je ne pense pas qu’il appartienne particulièrement aux romanciers de proposer des solutions alternatives. L’artiste, dans l’acception que je lui donne en tout cas, ne développe pas une pensée articulée. Il ressent, exprime ce qu’il voit et vit à travers le prisme unique qui est le sien. Comme je le disais, il pose les problèmes mais ne les résout pas.

Mara Magda Maftei : Ada « a des frères et sœurs », donc elle se propage comme un virus en témoignant ainsi d’une modification de gouvernance, qui se charge de transformer la pensée humaine, de l’adapter aux modes de pensée pragmatiques d’une machine. Le « nouvel homme nouveau » noyé dans un réseau qui paraît infini, devient plus vulnérable en définitive et plus susceptible de s’accrocher à une société de contrôle qui évolue vers une société de surveillance. Assistons-nous à l’abolition de l’individualité, de la personnalité, de la curiosité, de l’ambition humaine au nom d’une uniformisation typique d’une société transhumaniste ?

Antoine Bello : Je ne crois pas. J’emploie ce terme de « croire » dans le même sens que les gens qui disent croire en Dieu. Ils ne croient pas au sens scientifique du terme, ils veulent croire. Moi aussi, je veux croire au primat de l’humain et de la créativité. Même si je suis conscient qu’on peut facilement ridiculiser ce point de vue.

Mara Magda Maftei : Votre roman, Ada, ainsi que d’autres fictions contemporaines, spéculent en marge du transhumanisme tout en critiquant ce dernier phénomène.

Antoine Bello : Il est plus facile de caricaturer que de louer, de faire peur que d’engager un vrai débat. Mais je ne connais pas un écrivain (moi le premier) qui ne soit pas fasciné par les possibilités offertes par l’intelligence artificielle. Il y a cette notion que le transhumanisme, que nous le voulions ou non, constitue ou, en tout cas, fait partie du destin de l’espèce humaine. Toutes les mises en garde et les levées de bouclier n’y pourront rien changer : l’homme expérimentera sur lui-même, légalement ou illégalement, en Amérique, en Asie et peut-être même en Europe. Cela me semble absolument inévitable.

Haut de page

Pour citer cet article

Référence papier

Antoine Bello et Mara Magda Maftei, « Une Intelligence artificielle trop efficace »Revue des sciences humaines, 341 | 2021, 151-156.

Référence électronique

Antoine Bello et Mara Magda Maftei, « Une Intelligence artificielle trop efficace »Revue des sciences humaines [En ligne], 341 | 2021, mis en ligne le 19 janvier 2023, consulté le 08 février 2026. URL : http://journals.openedition.org/rsh/422 ; DOI : https://doi.org/10.4000/rsh.422

Haut de page

Auteurs

Antoine Bello

Mara Magda Maftei

Articles du même auteur

Haut de page

Droits d’auteur

CC-BY-NC-ND-4.0

Le texte seul est utilisable sous licence CC BY-NC-ND 4.0. Les autres éléments (illustrations, fichiers annexes importés) sont susceptibles d’être soumis à des autorisations d’usage spécifiques.

Haut de page
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search