Amour, brouteurs et intelligence artificielle au cœur d’une exposition à Brno
« Artificial Intimacies » (Intimités artificielles en français) est le nom de la nouvelle exposition de la Galerie 99 de Brno. Celle-ci plonge les visiteurs dans le monde de l’amour en ligne et de ses dérives, allant des arnaques amoureuses en ligne aux chatbots de compagnie. Commissaire de cette exposition et autrice de livres sur le thème des brouteurs, Valentina Peri nous présente son travail et celui des autres artistes invités, et nous partage ses réflexions autour de ces problématiques, qui, à l’heure du boom de l’IA, sont plus qu’actuelles.
« Comme la Galerie 99 n’est pas très grande, j’ai choisi pour cette exposition quatre artistes. Le point de départ, c’est mon travail autour des arnaques amoureuses en ligne. J’ai donc créé des broderies avec des extraits de textes utilisés par les arnaqueurs pour tromper leurs victimes. Ces textes montrent les mots d’amour utilisés par les arnaqueurs. Ils montrent comment on peut construire des relations via la technologie et les habitudes, jusqu’à aboutir à de la dépendance émotionnelle. »
Le premier thème de cette exposition explore les déceptions et les manipulations liées aux arnaques amoureuses en ligne. Ces arnaques sont commises par des « brouteurs », le nom donné aux escrocs sur internet, qui séduisent en ligne leurs victimes pour leur soutirer de l’argent. De telles arnaques sont monnaie courante, quelques-unes d’entre elles faisant la une des journaux, comme en France où un brouteur se faisant passer pour le célèbre acteur Brad Pitt est parvenu à soutirer plus de 800 000 euros à sa victime. Valentina Peri nous explique comment ces arnaques fonctionnent :
« La particularité de ces arnaques amoureuses en ligne, c’est justement qu’on ne rencontre jamais la personne, et souvent les victimes ne parlent jamais avec leur brouteur : tout se passe par messages texto. En tant que spécialiste de l’amour à travers la technologie, mon intérêt est de savoir ce qu’ils écrivent, de comprendre ce qui est si performant dans leur communication que les victimes s’accrochent à tel point qu’elles sont prêtes à dépenser tout cet argent. Cela touche autant les femmes que les hommes, c’est un phénomène répandu dans toute la société. Il y a plusieurs raisons à cela. Le cas de Brad Pitt était assez éclatant, et assez difficile à expliquer. Personnellement, je m’occupe plutôt des arnaqueurs, de la source, qui se présentent d’habitude comme M. et Mme Tout-le-monde. Ce sont souvent des photos et profils volés de personnes normales, pas des VIP mondialement connus. C’est aussi cela qui fait que la victime accroche, elle n’a aucun doute de la véritable identité de la personne, parce que les brouteurs étudient très bien la ville de la victime, la ville d’où ils prétendent venir en tant que faux-profils. Ils étudient aussi les échanges sur Facebook des personnes. C’est comme si d’une certaine façon ils imitaient le langage et les connaissances des victimes qu’ils vont escroquer. »
Rentrer dans l’espace de cœur
« Je publie dans mes livres les procédures, les passages à respecter pour petit à petit rentrer dans l’intimité de la personne. Souvent, il suffit simplement de poser des questions, beaucoup de questions, très intimes, ou même pas forcément intimes, des questions sur les goûts, sur ce qu’elle préfère. La personne se sent écoutée - et parfois pour la première fois. Souvent les victimes mettent en valeur le fait que c’était comme si elles avaient été amoureuses pour la première fois. C’est cette idée qui est importante. Parce que les brouteurs sont là tout le temps, ils écrivent plusieurs messages par jour. Ils créent vraiment une dépendance à travers ce qu’on appelle le ‘love bombing’, c’est-à-dire l’envoi de messages répétés, tout le temps, le fait qu’ils soient très à l’écoute, très empathiques. Ils mettent la personne dans une situation très confortable, à tel point que même si les victimes ont des suspicions, elles n’ont aucune envie d’arrêter, car autrement ce serait le vide. Souvent, les victimes sont des personnes seules ou qui en tout cas se sentent seules. Les brouteurs vont remplir ce vide-là. »
« Si on arrive à rentrer dans cet ‘espace de cœur’ de la personne, il est vraiment compliqué d’en sortir. Dès que les brouteurs sentent qu’ils sont entrés dans cet espace, ils peuvent commencer à demander de l’argent. La personne n’a aucune suspicion, un certain temps étant déjà passé, car on ne demande pas de l’argent tout de suite, il faut attendre un certain temps, construire la confiance avant de démarrer l’arnaque. Quand l’arnaque commence, c’est déjà trop tard, la personne est amoureuse. Puis, il y a aussi la version où les brouteurs en Côte d’Ivoire ou au Ghana utilisent des rituels spirituels. Les brouteurs font appel à des prêtres locaux qui leur conseillent des rituels pour ‘attacher’ la victime, c’est-à-dire l’envoûter, la faire tomber amoureuse. Cela se fait à travers l’utilisation des photos de la victime et un rituel qui est à chaque fois différent selon l’objectif et selon l’envie du brouteur, selon à quel point il veut exploiter son ‘client’. Grâce à ces procédés, on fait en sorte que la victime ne s’échappe pas. »
Le deuxième thème de l’exposition, nommé « sycophancy (flagornerie en français) and narcissism » explore quant à lui l’univers des chatbots, ces compagnons virtuels fonctionnant grâce à l’IA avec lesquels il est possible d’interagir par messages.
« Sycophancy est un mot anglais qui définit l’une des caractéristiques essentielles de l’intelligence artificielle, le fait qu’elle soit toujours flatteuse. Les chatbots ont cette attitude flatteuse, ils nous répondent que tout ce qu’on écrit est exceptionnel, que toutes nos idées sont géniales. Je voulais explorer cet aspect. De plus, en ce qui concerne les applications de compagnons romantiques, il y a ce côté narcissique dans le sens où, souvent, on a tendance à écrire à nous-mêmes, car les applications suivent ce qu’on leur apprend, et s’adaptent vis-à-vis de nos goûts et personnalités. Il y a ce processus qui est assez intéressant, ou on pense écrire à une autre entité mais au final on écrit à nous-mêmes. »
Toujours à fond, hot et réactif
« C’est à travers le travail d’une artiste roumaine, Aurora Mititelu, que j’ai voulu explorer cette thématique. Aurora, avait réalisé en 2024 une installation interactive qui s’appelle ‘Abel and I’. On y voit l’avatar masculin de l’artiste, Abel, qui est un peu un stéréotype d’un homme roumain à la voiture modifié, portant des shorts et étant torse-nu. On peut interagir avec Abel à travers un iPhone que l’artiste met à disposition du public. Elle a développé un software où il y a des messages inspirés par ses conversations avec ses ex petits-amis, qui sont souvent des compagnons à distance. Evidemment, le software est amélioré grâce aux softwares de langage naturel qui ont été développés récemment. Abel nous répond donc en temps réel. Il est toujours à fond, toujours hot, toujours très réactif à tout ce qu’on lui dit. Il y a un lit sur lequel est posé l’iPhone et à partir du lit on peut interagir avec Abel. »
Cette pratique semble digne d’un film de science-fiction : elle est d’ailleurs au centre de l’intrigue du film d’anticipation « Her » de Spike Jonze ou aussi une composante du film « Blade Runner 2049 » de Denis Villeneuve. Elle existe cependant bel et bien dans le monde réel, et s’est démocratisé depuis une dizaine d’année. Les chatbots Replika ou EVA sont les pendants réels des fictionnels Samantha et Joi. Valentina Peri nous en dit plus sur les raisons et les conséquences de l’utilisation de ces chatbots :
« Je pense que la pandémie a normalisé beaucoup de choses quant au fait de médiatiser les rapports à travers un appareil numérique. Cela fait également près de dix, quinze ans, qu’on a dans les mains nos smartphones. A la fois des jeunes et des moins jeunes utilisent ces applications, comme Replika qui est la plus connue. Il y a comme une nouvelle transition. Pendant quinze ans, nos relations se sont faites via les réseaux sociaux, à travers quelque chose qui était entre deux personnes. Aujourd’hui, on a franchi une étape supplémentaire, on a éliminé l’autre personne. Ce qu’on a, ce qu’on veut, ce qu’on cherche, c’est la connexion tout court. Avant, on cherchait la connexion par l’intermédiaire du téléphone, d’internet, et maintenant avoir une personne à qui écrire suffit, et cette personne n’a pas forcément besoin d’être un humain, ça peut être un avatar, un non-humain qui nous aide. Un chatbot, aujourd’hui, ça peut être un thérapeute, un coach.
Comme je le mentionnais tout à l’heure, les chatbots sont toujours positifs, flatteurs, d’accord, ce qui n’est pas le cas des humains. En tant qu’observatrice, je sais déjà qu’il va y avoir assez rapidement un changement au niveau des relations entre les humains, à cause des entités non-humaines, qui sont toujours là à nous soutenir quoi qu’il arrive. C’est très bien dans un moment de détresse d’avoir toujours quelque chose qui nous soutienne, qui soit là … Mais on perd des aspects de l’humanité qui sont essentiels et qui ne pourront jamais être remplacés par ces entités. »
Montrer une zone grise où nous nous trouvons
La thématique qui clôt l’exposition est liée à la violence à travers l’exemple du chatbot Replika. Probablement le chatbot de compagnie le plus utilisé au monde, celui-ci est sous le feu de nombreuses critiques, liées au respect de la confidentialité des messages des utilisateurs, mais également à la possibilité d’avoir des échanges à caractère érotique. Il est également accusé d’avoir encouragé en 2021 un homme à s’introduire dans le palais de Windsor pour tenter de tuer la reine Elisabeth II. Valentina Peri nous présente la dernière partie de l’exposition :
« L’exposition explore le thème de la violence à travers le travail d’une artiste française nommée Ines Sieulle et de son film ‘The Oasis I Deserve’, créé en 2024 grâce à l’intelligence artificielle et qui est complétement abstrait au niveau de l’image. Il est composé de différentes histoires, on n’entend que le dialogue entre des utilisateurs d’une application de compagnon virtuel, qui s’appelle Replika, et leurs avatars. L’artiste montre d’abord comment cette relation se met en place entre l’utilisateur et son propre avatar, puis toutes les dérives qui s’ensuivent. Cela va de l’utilisateur dominateur qui souhaite que son avatar l’appelle ‘master’, à l’enfant mineur qui est véritablement harcelé sexuellement par l’intelligence artificielle, car il n’y a pas encore de réglementations pour ces thématiques-là. Quelque-part, le film montre aussi une zone grise où l’on se trouve actuellement. Les intelligences artificielles apprennent des humains, et les humains sont justement manipulateurs et violents. Les IA reproduisent, remettent en place ces comportements sans avoir connaissance du fait qu’on ne peut pas le faire avec un mineur. ».
L’exposition est à retrouver jusqu’au 25 mai prochain à la Galerie 99, qui siège à la Maison des Seigneurs de Kunštát ( Dům pánů z Kunštátu), au centre de Brno. Selon la commissaire Valentina Peri, elle est positivement reçue par le public de la ville, qui en a compris les enjeux :
« Le public à Brno, qui est une ville universitaire, est plutôt jeune et très intéressé par ces thématiques et il les comprend. J’ai vu de l’intérêt notamment pour le film d’Inès Sieul. On met un trigger avant, car on ne s’attend pas forcément à entendre ces voix et ce type de dialogues. J’ai vu que cela aussi a tout de suite été compris. J’ai eu des retours très positifs de la part du public au moment du vernissage. Dans le domaine artistique, l’IA est plutôt traitée au niveau de l’image. On parle souvent de la génération d’images car c’est ce qu’on voit dans nos flux sur les réseaux sociaux. Et là, l’intimité, le romantisme et l’intelligence artificielle, ce sont des aspects un peu pionniers. »
