Nous avons rencontré Michael Madary, chercheur en philosophie, spécialisé sur en éthique des nouvelles technologies. L’occasion pour nous d’en savoir plus sur l’éthique de l’immersion et de mieux cerner les expériences qui vont trop loin.
Uxmmersive : En 2016, vous avez publié le Code of Ethics, qui pose les bases d’une immersion éthique lorsque nous utilisons la réalité virtuelle. Vous pouvez nous en dire plus ?
La réalité virtuelle suscite des nombreuses attentes et à juste titre ! Néanmoins celle-ci s’accompagne de risques majeurs pour les usagers que ce soit en termes d’enfermement, de manipulation ou de surveillance. Avec Thomas Metzinger nous avons donc publié un ensemble de principe pour protéger les utilisateurs.
Nous recommandons par exemple de faire attention à des expositions trop longue durée, à veiller à ses données personnelles et d’éviter de regarder des contenus à risques qui peuvent véritablement endommager le cerveau.
Une partie de ce code vise aussi à poser un cadre éthique pour de futures recherches sur le sujet. L’éthique de la recherche est un sujet épineux et il convient de l’encadrer pour la réalité virtuelle et éviter des expériences qui dérapent. Pour cela, les chercheurs doivent par exemple obtenir un consentement éclairé, ne pas survendre les possibilités technologiques ou encore éviter des expériences de types tortures pour en voir les effets en réalité virtuelles.
Vous pouvez retrouver l’ensemble des principes du code ici
Depuis la publication de ce code, avez-vous identifié de nouveaux risques éthiques ?
Il y a deux champs que nous n’avions pas vus à l’époque : celui de la protection des enfants et celui du harcèlement.
Les enfants sont particulièrement sensibles aux écrans, leur cerveau est en pleine formation. Nous ne savons pas encore quels sont les impacts de la réalité virtuelle sur eux – et il est compliqué de faire des tests pour en mesurer les risques en toute sécurité !
Concernant le harcèlement, il y a par exemple eu le cas d’une femme qui a participé à un jeu en ligne en RV ; en entendant sa voix, un joueur a compris que c’était une femme et est venu toucher des parties intimes du corps de son avatar. On voit que les comportements de harcèlement se déportent en ligne. Ca peut malheureusement paraitre anodin, mais notre cerveau perçoit notre avatar comme notre propre corps en réalité virtuelle. C’est donc une nouvelle forme d’agression digitale.
La Commission Européenne avait lancé cette recherche sur l’éthique lorsque la réalité virtuelle était à la mode. Qu’en est-il depuis ? Quel regard portez-vous sur les usages actuels de la réalité virtuelle par rapport à votre code d’éthique ?
Nous avons bien sûr voulu sensibiliser les ingénieurs qui façonnent les futurs usages de la réalité virtuelle : ceux qui créent les casques, mais aussi ceux qui produisent des contenus. Il y a eu beaucoup de réactions enthousiastes parmi les chercheurs, mais je ne connais aucune grande entreprise de cette industrie qui a adopté notre code.
Nous utilisons des technologies créées par des entreprises qui qui préfèrent édicter eux-mêmes leurs sans aucune transparence. Les risques de manipulation sont donc réels.
Nous avions identifié certains risques, comme le tracking très précis qui peut être fait sur ce qu’on regarde dans le casque, ce qui capte notre attention, sont très actuels. Il y a un vrai danger de collecte de données sans que l’utilisateur soit informé à la fois de cette collecte, et de ce qui en sera fait.
Ces risques éthiques nous font beaucoup penser à ceux de la protection des données personnelles…
Exactement ! Il y a un enjeu majeur sur le consentement éclairé et la transparence. Il y a une exigence éthique à prendre au sérieux le rapport entre celui qui propose le produit en réalité virtuelle et celui qui va le consommer. Le consommateur devrait savoir ce qui est collecté, qui utilise ces données et comment.
Imaginons : vous regardez plusieurs petits films en RV. Les technologies actuelles peuvent suivre et enregistrer ce que vous regardez, ce qui vous fait réagir…
On va voir par exemple que je réagis davantage quand il y a des chats, que je repère les petits détails, quelles couleurs je préfère, et encore d’autres choses dont je n’ai même pas conscience ?
Le plus dangereux c’est ce que tu soulignes à la fin : nous n’avons même pas conscience de ce qui nous fait réagir. Nous révélons beaucoup nos pensées et notre état d’esprit par nos expressions corporelles.
“Nous sommes tous persuadés d’agir et de prendre des décisions en toute indépendance, de manière éclairée et raisonnée. Sauf que nous sommes très influençables !“
M. Madary
Pour résumer, peut-on dire que le risque majeur est celui de la manipulation du comportement et de la surveillance ? A quoi cela est-il dû ?
Notre cerveau est très plastique, c’est ce que nous expliquons dans la première partie de notre code : nous sommes tous persuadés d’agir et de prendre des décisions en toute indépendance, de manière éclairée et raisonnée. Sauf que nous sommes très influençables ! Notre comportement va dépendre de notre environnement direct, de ce que font nos pairs lorsque nous sommes dans un groupe… On pense bien sûr à l’expérience de Milgram sur le pouvoir de l’autorité ; l’expérience de la prison de Stanford où des élèves ont été répartis entre prisonniers et surveillants. En quelques jours, l’expérience a pris une ampleur effrayante, avec des comportements très dangereux et violents.
Notre environnement social et sensoriel nous influence bien plus que ce que nous croyons ! C’est un enjeu majeur, qui va au-delà de la réalité virtuelle, mais pour toutes les technologies émergentes qui vont vers plus de contrôle et de surveillance. Je recommande vivement la lecture de The age of surveillance capitalism de Shoshana Zuboff, sorti en janvier. Elle a fait un travail fantastique sur ces risques.
Que répondre à ceux qui n’ont pas peur de ce monde surveillé en pensant avoir le contrôle ?
Ce qui est dangereux, c’est l’illusion d’avoir le contrôle alors qu’on ne l’a pas. Prenez un environnement de travail. Si votre direction décide que les casques de réalité virtuelle deviennent votre outil de travail, comment s’y soustraire ?
Or, dans ce casque, votre supérieur pourra tracker votre productivité, vos émotions, votre attention, sans votre réel consentement.
Je dirais donc à cette personne de s’assurer de qui a le contrôle de ses actions ? Est-ce elle ? Ou est-ce que c’est une illusion ? Après, si elle souhaite tout de même aller en ce sens, c’est à elle de faire ce choix !
Et que peut-on faire pour éviter un tel scénario ?
Il faut permettre aux individus de s’emparer de ce sujet, mais c’est encore difficile de savoir comment… Ensuite, il y a la voie de la régulation, comme il y a eu la RGPD en Europe pour mieux protéger les données personnelles. Aujourd’hui, on parle de démanteler Facebook pour protéger la démocratie. Dans le passé, il y a eu des lois anti-trust qui sont passées pour casser des entreprises devenues trop puissantes. Il est possible que nous fassions face à des situations similaires aujourd’hui.
Enfin, de nombreux parents me contactent régulièrement car leurs enfants restent scotchés à leurs écrans et ils ne savent pas comment réagir face à cela. Peut-être qu’une boîte à outil pour parents désemparés serait utile, avec des conseils pratiques. Des parents mieux informés, des enfants qui savent contrôler leur rapport avec leur environnement feront une société avec une meilleure maîtrise de ses usages face aux nouvelles technologies !
A Propos de Michael Madary
Co-auteur du Code d’éthique, qui donne les bases d’une immersion éthique dans la réalité virtuelle, il a coécrit en 2016 le Code d’éthique, parrainé par la Commission européenne avec Thomas Metzinger.
Si vous avez aimé cet article, abonnez-vous à notre newsletter ici !
