Transformation numérique - Trois questions erronées sur la confiance et sur l’IA

No trust, No use: on considère souvent que la confiance constituerait un facteur de succès crucial en matière d’acceptation et d’utilisation de nouvelles technologies. Mais ce n’est pas si simple. L’utilisation et l’acceptation des nouvelles technologies vont-elles réellement de pair avec la confiance? Pour mieux ancrer les thèmes de la confiance et de l’IA dans la pratique, il faut commencer par poser les bonnes questions.

L’utilisation de technologies intelligentes et ubiquitaires exacerbe le champ de tension entre la personne, la machine et la société. Les débats passionnés qui, dans leurs extrêmes, oscillent entre les adeptes de Nostradamus annonçant la fin du monde et les évangélistes promettant monts et merveilles de la technologie semblent s’enliser.

L’insécurité et le scepticisme croissent, ce qui entraîne inéluctablement la mise en exergue de la question de la confiance: comment réussir à gagner la confiance des consommateurs? Une manœuvre de diversion intelligente pour détourner l’attention des faiblesses de la propre culture d’entreprise ou de la qualité des produits. Le mot a tendance à être mis à toutes les sauces, en particulier dans la pratique, notamment dans les guides de conception, la publicité, les campagnes d’image ou les codes éthiques des entreprises de technologie, des banques ou d’autres start-up de l’IA. Mais ce n’est souvent qu’un explétif sans consistance visant à véhiculer certaines connotations positives. On peut également l’appeler «trust-washing».

Le temps est venu de balayer les mythes, de parler clairement et de cesser de poser les mauvaises questions:

1. Faites-vous [l’utilisateur] confiance à l’AI?

La question de savoir si quelqu’un fait confiance à l’IA, et dans quelle mesure, n’a dans le fond aucun sens. Le concept de confiance présente toujours trois dimensions: qui fait confiance, à qui fait-on confiance et à quel objectif cette confiance se rapporte. Par exemple: je fais confiance à Amazon pour que l’article que j’ai commandé me soit livré dans les délais prévus. Mais je ne fais pas confiance à Amazon au titre de l’utilisation «éthiquement défendable» de mes données personnelles, de leur éventuel détournement à des fins de marketing et de leur analyse par des moyens «psychographiques» discutables pour me caser dans un profil.

Question plus pertinente: faites-vous confiance à ce [produit basé sur l’IA] pour réaliser l’objectif X? 

2. Comment pouvons-nous [entreprise de technologie] augmenter la confiance dans l’AI?

Les services de marketing et de vente élèvent la voix: comment pouvons-nous piloter, influencer ou manipuler le consommateur de telle sorte que la confiance dans le produit AI X et donc la probabilité de son adoption soit renforcées? Ici, il faut s’attacher à une différenciation claire et à un changement de perspective: avoir confiance et être digne de confiance sont deux concepts fondamentalement différents. Avoir confiance est une attitude chez les consommateurs, alors qu’être digne de confiance est une propriété des produits, des processus ou d’une entreprise. Les exhortations à travailler sur ces points fusent en masse de partout. Il faut se rendre à l’évidence: la confiance ne s’achète pas, il faut la mériter en prouvant que l’on est digne de confiance.

Question plus pertinente: comment pouvons-nous être plus digne de confiance?

3. Devrions-nous [la société] faire confiance à l’AI?

Jamais - dirait J. Bryson. Les programmes basés sur l’IA ne sont pas de nature à inspirer confiance. Un logiciel doit être digne de confiance, c’est-à-dire qu’il doit être structuré de telle sorte que la responsabilité des développeurs puisse être engagée le cas échéant. Pour cela, nous devons savoir et pouvoir vérifier ce dont un système est capable ou non. La confiance est sans fondement, comme en comptabilité. Du point de vue éthique, la question est plus qu’erronée.

Question plus pertinente: comment pouvons-nous mieux comprendre l’IA?

De nombreux groupes de recherche en psychologie tentent, à juste titre, de mieux décrypter le mystère liant la confiance à la technologie: comment la confiance influence-t-elle l’art et la manière dont nous nous fions suffisamment à une technologie pour l’utiliser? Quel est le rôle d’autres facteurs, comme la compréhension de l’IA ou la capacité d’action perçue (mot-clé: Agency!), dans le comportement de l’utilisateur? Des accidents mortels résultant de «trop peu ou de trop de confiance» dans une technologie: p. ex., le fameux phénomène de «mort par GPS» ou encore l’ingénieur accidenté en Tesla parce qu’il faisait confiance au système qui devait le mener sans encombres à bonne destination avec une fiabilité de 100%. Il considérait qu’il était tout à fait approprié de s’adonner à des jeux vidéo durant le parcours.

Le plaidoyer final consiste à nuancer cette situation en demi-teinte et à choisir une voie transdisciplinaire qui intègre la science, la pratique, la politique et d’autres parties prenantes. Il est grand temps pour nous de pouvoir poser et discuter ensemble les bonnes questions.

Connecta ne pourra malheureusement pas avoir lieu. Marisa Tschopp aurait dû figurer parmi les 80 intervenants. Un programme alternatif vous attend avec Connecta TV, Connecta Dok et Connecta Talk – En savoir plus: www.post.ch/connecta.