Più fiducia nelle interfacce etiche

L’intelligenza artificiale (IA) viene applicata in un numero sempre maggiore di sistemi, non da ultimo anche nella comunicazione con i clienti. Come configurare le interfacce utente in modo più etico-sostenibile affinché suscitino più fiducia?

Il cibernetico Paul Pangaro della Carnegie Mellon University, alle cui idee mi ispiro in questo articolo, vede la configurazione delle interfacce utente da un punto di vista pragmatico. Ha già elaborato numerosi dialoghi per i bot e quindi è un esperto in materia. Secondo lui nel momento in cui i clienti si trovano in un canale digitale (aziendale) si crea un’«interazione etica».

Per spiegare questo approccio fa riferimento all’«imperativo etico» del cibernetico Heinz von Förster: «Dobbiamo agire sempre in modo da aumentare la somma di tutte le nostre possibilità di scelta».

E qui dobbiamo distinguere fra «scelta» e «opzione»: una scelta, infatti, non significa solo più possibilità. Comprende tutto ciò che si potrebbe fare. In base all’imperativo etico lo sviluppatore è parte del mondo: (eticamente) non ha il diritto di dire ad altri cosa devono fare, ma ha la responsabilità di ciò che fa e dei motivi per cui lo fa.

L’imperativo etico può essere applicato come norma per aumentare le possibilità di scelta di utenti e clienti? Come fa un bot a sapere cosa vogliono i suoi interlocutori e come deve comportarsi?

Le raccomandazioni automatiche spesso non si basano sulla persona e i desideri dei clienti, bensì sui loro precedenti modelli di comportamento. Così finiscono con il proporre possibilità di scelta che rientrano più negli interessi dell’azienda. Ciò vale anche per i motori di ricerca, i cui risultati poggiano su comportamenti antecedenti.

Pangaro lo considera il dilemma etico delle interfacce. E si chiede come i bot debbano trattare i clienti da esseri viventi e in evoluzione. La risposta: invece di costruire motori di ricerca, sviluppare macchine di domanda: «Iniziamo il colloquio digitale ponendo domande». Ma possiamo calcolare automaticamente le domande che «invitano» i clienti a un colloquio, in modo da consentire ai bot di analizzare nuove decisioni che guardano al futuro (cosid. «turns»)? E queste domande sono in grado di suscitare la fiducia nei canali digitali delle nostre aziende?

Le interfacce etiche hanno il potenziale di chiarire e conciliare i valori delle aziende e dei loro clienti in un dialogo di domanda e risposta. Pangaro auspica che le interfacce siano costruite e integrate in modo da consentire ai clienti di valutare criticamente il risultato calcolato.

Concretamente le aziende dovrebbero realizzare superfici etiche che lasciano il maggior numero possibile di opportunità di scelta, permettendo ai clienti di capire meglio i valori dell’azienda, di aumentare le loro capacità di agire e di apprendere dai colloqui.

A causa della situazione attuale, anche nel 2021 Connecta Bern si svolgerà in modalità digitale. Il carattere variegato della digitalizzazione, che caratterizza Connecta, sarà affrontato, oltre che nel Connecta Blog, anche nei formati Connecta TV e Connecta Talk. Per saperne di più: www.post.ch/connecta.