Damit das Zusammenleben und -arbeiten mit intelligenten Maschinen klappt, ist Vertrauen essentiell. Was müssen UX Designer über künstlich intelligente Anwendungen wissen? Ein Crashkurs von Zeix zum World Usability Day 2019.
Das Thema des World Usability Day 2019 befasste sich mit der Frage, was UX Professionals beitragen können, um die digitale Zukunft menschenfreundlich zu gestalten. Als UX Architect und Mathematikerin erkläre ich im Videocast, was man über Künstliche Intelligenz (KI) wissen muss, um als UX Professional diese Mammutaufgabe angehen zu können.
Videocast: Vertrau mir! UX Design für künstliche Intelligenz
Die Keynote ist 45 Minuten lang. Für Eilige fassen wir das Wichtigste in drei Blogposts zu Vertrauen, Definition von KI und Entscheidungsprozessen von KI zusammen. Basis der praktischen Empfehlungen sind die Erkenntnisse aus mehreren Jahren KI User Research bei Zeix.
Unsere Aufgabe als User Experience Architekten ist es, dem User zu helfen, die Vertrauenswürdigkeit eines KI-Systems zu beurteilen.
Wie wir Vertrauen bilden
Die Philosophin Onora O’Neill sagt, dass wir jemanden als vertrauenswürdig beurteilen, wenn wir ihn als kompetent, zuverlässig und ehrlich wahrnehmen. Was heisst das für KI-Anwendungen?
Mantra der Vertrauenswürdigkeit
- KI, sag mir, was du kannst. User brauchen ein mentales Modell, damit sie wissen, was sie von der intelligenten Anwendung erwarten können. UX Design kann diese Erwartungen formen. Ein solches Erwartungsmanagement gehört ins Pflichtenheft jeder KI-Anwendung.
- KI, beweise mir, dass du Recht hast. User vergleichen Antworten eines vermeintlich klugen Systems mit bekannten vertrauenswürdigen Informationsquellen, um ihre Zuverlässigkeit zu beurteilen. Damit sie dies können, müssen KI-Anwendungen ohne langwierige Registrationen und administrative Hürden zugänglich sein, zumindest, um sie auszutesten.
- KI, sei ehrlich zu mir. Missverständnisse und Unsicherheiten prägen die menschliche Kommunikation. Zwar funktioniert die künstliche Spracherkennung schon weitgehend fehlerfrei, die Sprachauswertung aber nicht. Gibt es Interpretationsspielraum in einer Aufgabe oder Zweifel an der richtigen Lösung, muss das KI System Unsicherheit ausdrücken können und sich Hilfe beim Menschen suchen.
Haben die User ein definiertes mentales Modell des Systems entwickelt, sind wieder UX Professionals gefragt. Der Nutzen der KI muss zur tatsächlichen Verwendung, zur realen Nutzungssituation passen. Ein vermeintlich offensichtlicher Nutzen kann im Alltag komplett versagen.
Entscheidend für die Produktentwicklung ist, Kenntnisse zu haben, was die User tatsächlich tun, nicht was sie sagen.
Auch im Jahr 24 des Usability Booms führt am laufenden Beobachten des User-Verhaltens kein Weg vorbei.
Die drei Punkte oben gelten natürlich auch für andere digitale Anwendungen, nicht nur für Künstliche Intelligenz. Um dem User zu helfen, ein mentales Modell einer KI-Anwendung aufzubauen, sollten wir erstmal selbst verstehen, was das System macht. Dazu sind Grundkenntnisse zur Künstlichen Intelligenz notwendig. Diese gibt’s im Video oben oder zusammengefasst im nächsten Beitrag «Was ist Künstliche Intelligenz?»
Kommentare