Interfaces éthiques, confiance accrue

Un nombre croissant de systèmes se basent sur l’intelligence artificielle (IA), notamment pour la communication avec la clientèle. Comment concevoir des interfaces utilisateurs plus durables et plus éthiques afin qu’elles inspirent davantage confiance?

Le cybernéticien Paul Pangaro de l’université Carnegie Mellon, dont je reprends ici les idées, analyse la conception des interfaces utilisateurs, ou l’interface design, du point de vue du praticien. Ayant déjà conçu de nombreux dialogues pour des bots, il connaît bien son sujet. Il considère que, dès le moment où les clientes et les clients se trouvent sur un canal (d’entreprise) numérique, il s’agit d’une «interaction éthique».

Pour expliquer son approche, il s’appuie sur «l’impératif éthique» du cybernéticien Heinz von Förster, impliquant que nous «agissons toujours de façon à augmenter le nombre de choix qui s’offrent à nous».

Il convient ici de faire une distinction entre «choix» et «option»: un choix ne signifie pas seulement plus de possibilités. Le choix englobe tout ce qu’on pourrait faire. La formulation de l’impératif éthique considère le développeur comme faisant partie du monde. D’un point de vue éthique, il n’a pas le droit de dire aux autres ce qu’ils doivent faire, mais assume la responsabilité de ses actes et de leurs motifs.

L’impératif éthique peut-il être utilisé comme ligne directrice pour élargir le choix des utilisatrices et utilisateurs et de la clientèle? Comment un bot peut-il connaître le souhait d’un client et ce qu’il doit faire pour le satisfaire?

Souvent, les recommandations automatiques ne sont pas basées sur la personnalité des clientes et clients et leurs besoins, mais plutôt sur leurs comportements passés. En conséquence, les systèmes leur offrent des choix qui sont davantage dans l’intérêt de l’entreprise que du leur. Cela vaut également pour les moteurs de recherche, dont les résultats sont basés sur le comportement passé des utilisateurs.

Pour Paul Pangaro, c’est le dilemme éthique des interfaces. Il se demande comment les clientes et clients doivent être traités par les bots en tant qu’organismes vivants et évolutifs. Sa réponse: au lieu de créer des moteurs de recherche, nous devrions plutôt développer des machines à questions: «Commençons notre conversation numérique en posant des questions». Mais est-il possible de formuler automatiquement des questions «invitant» la clientèle à s’engager dans une conversation, afin que les bots puissent analyser de nouvelles décisions prévisionnelles? Et ces questions peuvent-elles renforcer la confiance dans les canaux numériques des entreprises?

Les interfaces éthiques ont le potentiel de clarifier et d’harmoniser les valeurs des entreprises et de leur clientèle dans un échange de questions et de réponses. Paul Pangaro souhaite que les interfaces soient construites et intégrées de manière à ce qu’un client puisse remettre en question le résultat calculé.

Bref, les entreprises ont intérêt à créer des systèmes avec des interfaces éthiques offrant à la clientèle le plus vaste choix possible et lui permettant de mieux comprendre les valeurs de l’entreprise, d’accroître sa capacité d’action et de tirer des enseignements des conversations.

En raison de la situation actuelle, Connecta Berne aura lieu à nouveau sous forme virtuelle en 2021. La diversité du numérique mise en exergue par Connecta transparaîtra non seulement sur le Connecta Blog, mais aussi à travers les formats Connecta TV et Connecta Talk. En savoir plus: www.post.ch/connecta.