Je pensais qu'il suffisait de dire au client: "Quittez le jeu et rapportez le problème aux administrateurs", mais j'ai aussi découvert l'ampleur du problème. Je suis animé d’ une foi raisonnable dans le potentiel de progrès humain que représente le Métavers et d'habitude je confronte les sceptiques, mais là je ne peux pas censurer mon inquiétude : Le métavers est aussi une plateforme de désinhibition qui favorise des agressions qui bien virtuelles, n’en sont pas moins des agressions.
Insultes, injures, menaces, agressions verbales live, gestes de menace, ne sont pas rares, ils sont même suffisamment fréquents pour remettre en cause le développement de plusieurs aspects de cet univers. Le Métavers en est à ses débuts et ne peut pas se permettre un mauvais départ.
Le travail de modération dans le Métavers est bien plus complexe que la surveillance des propos tenus sur un forum de discussion ou un réseau social (quoique … parfois) dans le web2.
Une modération permanente dans le Métavers est techniquement impossible, et pourtant si le Métavers évolue sans règle de vie et laisse libre cours aux inconduites, c’est sa pertinence et son existence qui seraient mises en cause.
Il faut des règles dans tout environnement ludique. Lorsque les enfants jouent dans le bac à sable, leur première initiative collective est d’imaginer des règles. Lorsque les adultes jouent à des jeux stratégiques de haut niveau, les règles et les contraintes font partie du cadre qui apporte le plaisir et l’accomplissement dans la réussite d’une mission.
Les règles sont une nécessité pour fonctionner et les appliquer est une nécessité pour que les règles soient crédibles. Cela s'applique aussi aux comportements sociaux, les mêmes règles de respect doivent s'appliquer dans le monde réel et dans le Métavers qui ne doit pas devenir un exutoire et un espace de défoulement.
Les comportements inappropriés, agressifs et le harcèlement sont sanctionnés dans la vraie vie, mais qu’en est-il des comportements lorsque le truchement d’un avatar facilite un sentiment d’impunité ? La sanction doit-elle être simplement une mise hors-jeu, les personnes se déclarant harcelées devraient elles se contenter de ne plus jouer et s'extraire du jeu devenu toxique ? Dans ce cas harceleurs et harcelés sont-ils logés à la même enseigne?
En novembre dernier, le directeur technique de Méta, Andrew Bosworth, déclarait que le harcèlement dans le Métavers était la principale menace pesant sur le développement de cet univers. La principale menace n’est donc pas technique, ou boursière, mais humaine et éthique.
Le groupe Facebook (Meta) a de bonnes raisons de s’inquiéter, son univers Horizon World a fait l’objet d’études récentes (juin 2002, voir sources en fin d'article) démontrant que les agressions et les simulations de viols sont si fréquentes que cet univers bénéficie d’une notoriété inversée : on y va pour vérifier si c’est aussi pire que les médias le disent et effectivement les avatars féminins sont à risque de tentative d’agression sexuelle virtuelle dès la première heure de présence.
Dans le Chat d’Horizon World, les pires attitudes viennent se réfugier dès lors qu’elles sont censurées et expulsées des réseaux sociaux surveillés (parfois maladroitement) par l’IA ou des modérateurs.
Sur les 10 000 « mondes » créés dans Horizon World pour les 300 000 utilisateurs actuels en juin 2022, la part occupée par les comportements inacceptables augure très mal.
À titre de comparaison, le blanchiment d’argent sale dans l’écosystème des cryptomonnaies ne représente que 0.30 % des transactions en mai 2022, ce qui interdit de dire que les cryptos favorisent le blanchiment, mais la proportion des agressions virtuelles dans Horizon est telle qu'il n’est pas interdit d’affirmer que le Métavers est malheureusement à risque de toxicité. Le harcèlement sexuel, psychologique, racial, commercial, mais aussi la traque agressive des utilisateurs sont des réalités qui n’ont rien de virtuel, on pourrait aussi y inclure les recrutements sectaires et complotistes.
La situation n’est pas meilleure dans Horizon Venue, l’univers Méta dédié aux évènements festifs virtuels.
Le casque VR présente un risque d’accélérateur de comportements inappropriés, le casque VR permet des gestes et des quasi contacts problématiques.
Facebook (Méta) est conscient des risques et tente d’y remédier, il faut mettre à son crédit qu’il ne dissimule pas les problèmes (comment pourrait-il alors que ses propres testeurs se sont agressés dans la phase d’essai Béta du développement du projet).
Dans le web2, Facebook (Méta) a déjà une expérience de la difficulté de surveillance et de modération des médias sociaux, parfois avec succès, parfois de manière approximative, parfois de manière à mon avis très contestable (regrettable exemption de censure sur Facebook des insultes et menaces de mort si elles désignent des militaires ou des décideurs politiques russes). Mais dans le Métavers les difficultés de modération sont colossales. La modération dans le Métavers repose beaucoup sur les signalements et les dénonciations, or une enquête fiable ne peut être menée à charge et demande un effort de recherche et de vérification équilibrée au cas par cas. Méta a-t-il des moyens d’enquête ?
Mettre des limites aux contacts physiques virtuels et aux ressentis transmis par l’équipement de l’utilisateur est seulement une apparence de solution. Les utilisateurs légitimes en seraient frustrés et rien n’empêche les harceleurs de faire pression sur les harcelés pour qu’ils déconnectent les limites de distance.
Lorsqu’on apprécie une innovation et son potentiel, il faut savoir en dénoncer les failles pour mieux le protéger. Je crois dans le potentiel du Métavers pour le développement des connaissances et la démocratisation du savoir, aussi pour devenir aussi un multiplicateur d’inclusion et de progrès social , mais force est de constater que la réalité de l’âme humaine et de ses capacités de nuisance sociale doit être pris en considération.
Le mot Utopie en latin signifie : un lieu qui n’existe pas. Tous les progrès se font en découvrant des lieux qui n’existent pas encore. L’utopie devient une réalité seulement en intégrant des valeurs et des règles éthiques.
La question du harcèlement dans le Métavers n’est pas un sujet annexe à traiter ultérieurement, c’est un préalable qui détermine si l’aventure doit être tentée ou non.
Sources complémentaires :