Mehr Vertrauen in Interfaces

Künstliche Intelligenz (KI) kommt in immer mehr Systemen zur Anwendung, nicht zuletzt auch in der Kommunikation mit Kundinnen und Kunden. Wie kann es bei der Gestaltung von Bedienoberflächen gelingen, diese ethisch-nachhaltiger zu gestalten, damit ihnen mehr Vertrauen geschenkt wird.

Der Kybernetiker Paul Pangaro von der Carnegie Mellon University, dessen Ideen ich in diesem Beitrag aufgreife, sieht die Gestaltung von Bedienoberflächen, das Interface-Design, aus dem Blickwinkel des Praktikers. Er hat schon zahlreiche Dialoge für Bots entworfen, kennt sich also aus. Dabei vertritt er die Ansicht, dass es sich in dem Moment, in dem sich die Kundinnen und Kunden auf einem digitalen (Unternehmens-)Kanal befinden, um eine «ethische Interaktion» handelt.

Zur Erklärung seines Ansatzes zieht er den «ethischen Imperativ» des Kybernetikers Heinz von Förster hinzu. Dieser fordert, dass wir «immer so handeln, dass die Gesamtzahl all unserer Wahlmöglichkeiten erhöht wird».

An dieser Stelle sollten wir nun zwischen «Wahl» und «Option» unterscheiden: Eine Wahl bedeutet nicht nur mehr Möglichkeiten. Die Wahl umfasst alles, was jemand tun könnte. Die Formulierung des ethischen Imperativs sieht den Entwickler als Teil der Welt. Er hat dabei (ethisch) nicht das Recht, anderen zu sagen, was sie tun sollen; trägt aber sehr wohl eine Verantwortung für das, was er aus welchen Gründen tut.

Taugt der ethische Imperativ als Vorgabe, um die Auswahlmöglichkeiten für die Anwenderinnen und Anwender sowie für die Kundinnen und Kunden zu erhöhen? Woher weiss ein Bot, was eine Kundin oder ein Kunde will und was er daraufhin tun soll?

Automatische Empfehlungen basieren oft nicht darauf, wer die Kundinnen und Kunden sind und was sie wollen, sondern bauen vielmehr auf deren früheren Verhaltensmustern auf. Als Konsequenz bieten die Systeme den Kundinnen und Kunden Auswahlmöglichkeiten, die mehr im Interesse des Unternehmens als dem ihrigen sind. Dies gilt auch für Suchmaschinen, deren Ergebnisse auf vergangenem Verhalten der Nutzerinnen und Nutzer basieren.

Pangaro betrachtet dies als ethisches Dilemma der Interfaces. Seine Frage lautet, wie die Kundinnen und Kunden von den Bots als lebendige und sich entwickelnde Organismen zu behandeln sind. Seine Antwort auf das Dilemma: Anstatt Suchmaschinen zu bauen, sollten wir besser Fragemaschinen entwickeln: «Beginnen wir unser digitales Gespräch, indem wir Fragen stellen». Aber können wir Fragen, die Kundschaft zu einem Gespräch «einladen», automatisch berechnen, sodass Bots neue, vorausschauende Entscheidungen (sog. «Turns») untersuchen können? Und können diese Fragen Vertrauen in die digitalen Kanäle unserer Unternehmen aufbauen?

Ethische Interfaces haben das Potenzial, die Wertvorstellungen der Unternehmen und die ihrer Kundschaft in einem Dialog des Nachfragens und Antwortens zu klären und in Gleichklang zu bringen. Pangaro wünscht sich, dass Interfaces so gebaut und integriert werden, dass eine Kundin oder ein Kunde das berechnete Ergebnis hinterfragen kann.

Alles in allem sollten Unternehmen Systeme mit ethischen Oberflächen aufbauen, die der Kundschaft so viel Wahlmöglichkeiten wie möglich lassen. Sie sollten dabei den Kundinnen und Kunden ermöglichen, ein besseres Verständnis der Werte des Unternehmens zu entwickeln, deren Handlungsfähigkeit erhöhen und schliesslich aus den Gesprächen lernen.

Die Connecta Bern wird auch im 2021 aufgrund der aktuellen Lage digital durchgeführt. Die Vielfalt der Digitalisierung, welche die Connecta auszeichnet, wird neben dem Connecta Blog in den Formaten Connecta TV und Connecta Talk aufgegriffen. Hier erfahren Sie mehr: www.post.ch/connecta.