UX Ethik für KI? Die ETHIKA Prinzipien sind da!

16.12.18

Als Ergebnis des Future UX Retreats 2018 haben wir nun unser Workshopergebnis als "ETHIKA Manifest" veröffentlicht. Darin geht es um die Verantwortung von User Experience Designern beim Einsatz von KI/AI Lösungen.

 

ETHIKA 

Prinzipien für die User Experience beim Einsatz von KI 

Im Rahmen des Future User Experience (FUX) Retreats 2018 haben wir zusammen mit Kollegen aus namhaften Unternehmen wie IBM, SAP und anderen uns Gedanken gemacht, wie wir als User Experience Verantwortliche sicherstellen können, dass der Einsatz von künstlicher Intelligenz auch menschengerecht erfolgt. 

 

Motivation

Thema war das Zusammenspiel von UX und KI, denn in den letzten Jahren können wir den Beginn eines durchdringenden Wandels in unserer Gesellschaft verfolgen. Digitalisierung wird als große Chance, aber auch als Risiko für den Menschen betrachtet. Menschen und Maschinen sind immer mehr miteinander vernetzt und sich teilweise so fremd wie nie.

 

Gerade künstliche Intelligenz wird zum jetzigen Zeitpunkt von allen Seiten diskutiert. Wir wollen keineswegs vor dem Einsatz künstlicher Intelligenz (KI) warnen. Im Gegenteil, wir sprechen uns sehr dafür aus. Wir halten es für essentiell, dass KI in den Alltag des Menschen unterstützend eingebunden wird.

 

Wir gehen davon aus, dass der Einsatz von KI eine immer größere Rolle spielen und in absehbarer Zeit nicht mehr wegzudenken sein wird. Gleichzeitig bringt der Einsatz eine Vielzahl neuer Gestaltungsmöglichkeiten mit sich, aber auch Risiken zum Missbrauch.

 

Daher sehen wir die Rolle des UX-Designers ganz neuen Herausforderungen gegenübergestellt und sehen ihn als die Schnittstelle zwischen Mensch und KI; jemand der die Zusammenarbeit zwischen den beiden unterstützen muss.

 

Dazu wurden folgende Thesen erarbeitet:

  1. UX muss sich verändern, wenn sie weiter ernst genommen werden will, denn der UXler als Designer und Sketch-Bediener wird nicht reichen.
  2. Die Themen Digitalisierung und KI geben UX die Chance, eine ganzheitliche, sehr persönliche Erfahrung zu formen, die weit über die typischen, auf visuelle User Interfaces beschränkten Ansätze hinausgeht.
  3. Das Thema UX nimmt damit eine zentrale Stellung bei der Lösung komplexer Projekte ein und ist ein strategischer Faktor in der intelligenten Digitalisierung.
  4. Die Herangehensweise ist dabei Menschen- statt Technikorientiert. Für eine ganzheitliche Gestaltung von Beziehungen zwischen Menschen und Maschinen sind Aspekte wie Empathie, Persönlichkeit und Verständnis für die Bedürfnisse der Nutzer wichtiger denn je. Eine KI muss den Nutzer als Teil eines neu entstehenden Systems aus Menschen und KI in seiner Gesamtheit „verstehen”, um ein gutes Erlebnis zu erlauben.

 

Die Verantwortung für die Gestaltung kann dabei nicht sich selbst überlassen werden. Deshalb müssen dabei neben konzeptionellen auch ethische Grundsätze berücksichtigt werden.  Dazu müssen neue Gestaltungsprinzipien entstehen, für die wir die folgenden Prinzipien als Denkanstöße formulieren:

 

Die ETHIKA-Prinzipien

Emotion (Beziehungen)

Ein KI-basiertes System muss die Emotionen des Nutzers berücksichtigen und dabei insbesondere Rücksicht darauf nehmen, dass Menschen unweigerlich eine Beziehung zu einer KI aufbauen werden. Dies soll ihm nicht schaden sondern ihn auch emotional positiv berühren.

 

Transparenz

Der Nutzer muss immer wissen, ob ihm eine echte oder künstliche Intelligenz gegenübersteht. Wir halten es für falsch, wenn sprachbasierte intelligente Systeme sich nicht als solche zu erkennen geben und den menschlichen Nutzer im Glauben lassen, mit einem menschlichen Gegenüber zu sprechen. Nur mit dieser Transparenz lässt sich das nötige Vertrauen schaffen.

 

Humanität

Beim Zusammenspiel von KI mit menschlicher Intelligenz ist zu berücksichtigen, dass wir analog zu den bekannten ergonomischen Regeln die unsere Wahrnehmung und unsere Informationsverarbeitung berücksichtigen, nun auch mehr die kognitiven [und emotionalen] Grenzen und Besonderheiten des Menschen berücksichtigen müssen. Eine KI die uns zu viel, zur falschen Zeit oder aber die falschen Dinge abnimmt, kann unsere eigene Intelligenz einschränken oder dauerhaft unsere Gesundheit gefährden.

 

Intelligenzsparsamkeit

Analog zur Datensparsamkeit sollte beim Einsatz von KI-Komponenten auch immer zuerst überlegt werden, welche Mehrwerte sich für den Nutzer ergeben statt zu einem Selbstzweck zu werden. Gerade bei moralischen Entscheidungen sollten wir uns vorher schon überlegen, welche Entscheidungen wir einem System übergeben wollen.

 

Kontrolle und Steuerung

Wenn KI eingesetzt wird, dann muss Sie durch die Nutzer immer beherrschbar sein. Wir halten es für wichtig, dass wir ggf. auf eigene Gefahr KI übersteuern können oder zumindest den Einsatz vermeiden können, wenn wir uns der Konsequenzen bewusst sind. Es mag später Szenarien geben, in denen ein menschlicher Eingriff zu Lasten einer KI nicht mehr erlaubt ist, doch dann sollten wir dies vorher schon wissen, berücksichtigen und den Nutzer darauf aufmerksam machen können.

 

Aufmerksamkeit und Einbindung des Nutzers

Für UX-Experten wird es gerade bei Systemen mit KI-Anteilen eine wesentliche Aufgabe sein, die Aufmerksamkeit der Nutzer durch ihre Einbindung zu planen und entsprechend seines zu erwartenden Handlungsanteils aufrecht zu erhalten.. Der Bereich der sogenannten “Vigilanz” ist seit Jahrzehnten Forschungsgegenstand und muss hier besonders berücksichtigt werden.

 

Allgemein gilt: Je stärker das typische Interface in den Hintergrund tritt, desto wichtiger und verantwortungsvoller wird die Gestaltung des Gesamtsystems.

 

Die Autoren und Teilnehmer des FUX 18

 

David Jacken

Fiducia & GAD IT AG

Frank Termer

BITKOM

Jens Heuer

IBM iX

Kai Strieder

damdr

Kathrin Scherlebeck

untrouble GmbH

Lukas Rein

RHaug GmbH

Maren Mäuselein

Bundesdruckerei GmbH

Nadine van den Berg

Fiducia & GAD IT AG

Patrick Huber

Coaching

Philipp Grewer

innogy.C3

Ronald Hartwig

RHaug GmbH

Thomas Biedermann

 

Thomas Freudenreich

Palma-Web

Tim Nixdorff

Bejond

Yin Chen

DB Netz

Download als PDF
Mehr zum FUX und zur Anmeldung für 2019