adesso Blog

Menschen von oben fotografiert, die an einem Tisch sitzen.

Wir profitieren schon längst davon. Von der Kartierung des Gehirns bis zur Spracherkennung – Künstliche Intelligenz (KI beziehungsweise Artificial Intelligence/AI) wird in jeden Aspekt unseres Lebens integriert. Die Art und Weise, wie wir Geschäfte machen, wird in allen Branchen und Sektoren transformiert. Und damit auch, wie wir Produkte und Systeme entwerfen.

Mit Eintritt in eine neue Ära des maschinellen Lernens führen unsere Produkte nicht nur unsere Befehle aus, sondern sie erledigen die Dinge selbst. Das hat Einfluss auf unsere Art zu reagieren und unsere Erwartungshaltung. Das UX-Design hat die Verantwortung, Vertrauen in die KI-gesteuerte Software zu bringen und nützliche, leicht verständliche Produkte zu schaffen, um das Leben der Menschen einfacher und freudvoller zu machen.

Wir finden KI bereits überall in unserem täglichen Leben. Viele praktikable Vorteile stecken in unseren Smartphones, in Autos, in Smarthomes und in Sprachassistenten.Spätestens jetzt ist es Zeit, sich mit der Designperspektive auseinanderzusetzen und eine AI-getriebene UX zu praktizieren mit Anticipatory und Speculative Design.

Anticipatory Design – wissen, was Nutzende wollen, bevor sie es selbst wissen

Anticipatory Design ist eine Kombination aus Internet of Things, Machine Learning und UX-Design. Es handelt sich um eine Disziplin, die es zum Ziel hat, automatisierte, vorhersehende Systeme zu schaffen, die proaktiv funktionieren. Das Verhalten der Userinnen und User wird so weit verstanden, dass ihre Bedürfnisse vorausgeahnt werden können. Das System kann entsprechende Aktionen triggern. Somit kann eine individuelle User Experience geschaffen werden, die für die Userinnen und User besonders nützlich sein kann und sie kognitiv entlastet. Täglich müssen wir tausende Entscheidungen bewältigen. Das kann uns manchmal überfordern. Mit Anticipatory Design können nun Produkte und Systeme entstehen, die im Interesse der Userin oder des Users Entscheidungen treffen können und ihnen damit mentalen Stress ersparen und Zeit für Wichtigeres freiräumen.

Ein Beispiel könnte sein, dass man sich keine Gedanken machen muss, welche Nahrungsmittel man kaufen soll. Denn die KI hat bereits eine Einkaufsliste erstellt – basierend auf den Gerichten, die regelmäßig gekocht werden. Ein anderes Beispiel: Ein Trainingsplan wird je nach Tagesverfassung der Userin bzw. des Users adaptiert.

Wir profitieren übrigens bereits davon. Netflix weiß, was wir sehen wollen. Spotify weiß, was wir hören wollen. WhatsApp schlägt automatische Antworten für Nachrichten vor.

Natürlich gibt es hier auch potenzielle Probleme zu berücksichtigen. Die größten ethischen Bedenken im Zusammenhang mit antizipatorischem Design betreffen die Datensicherheit und den Schutz der Privatsphäre. Aber auch die „Bubble“ ist in der Kritik. Algorithmen können eine Schleife erzeugen, aus der es schwerfällt auszubrechen. Die Userinnen und User werden daran gehindert, neue Erfahrungen abseits der üblichen Ereignisse und Aktivitäten ihrer Nutzerprofile zu machen. Daher ist es wichtig, dass die Userinnen und User die Kontrolle behalten, dass die Transparenz gewahrt wird und die Nutzenden die Möglichkeit haben, sich gegen vorgefertigte Vorschläge zu entscheiden.

UX-Design-Prinzipien für AI-Experiences

Befürworterinnen und Befürworter malen sich eine utopische Zukunft mit Künstlicher Intelligenz aus –Kontrahentinnen und Kontrahenten sehen in der Künstlichen Intelligenz eher eine Dystopie. Zwischen diesen beiden Standpunkten befindet sich das UX-Design mit der Aufgabe, den Menschen in den Mittelpunkt zu stellen und den Fokus auf seine Bedürfnisse zu lenken. Und nicht die KI um der Technologie willen voranzutreiben.

So wie bei allen anderen Produkten greifen die bekannten Interaktionsprinzipien nach der DIN-EN-ISO-Norm 9241-110 für gutes UX-Design. Aber wenn es um KI-getriebene Software geht, ist diesen vier Prinzipien besondere Aufmerksamkeit zu widmen.

AI-UX-Prinzip Nr. 1: KI-Inhalte visuell unterscheiden

KI-generierte Inhalte können überaus nützlich sein. Aber KI-Algorithmen haben ihre Schwachstellen, wenn sie nicht über ausreichend Daten verfügen, um aus ihnen lernen zu können. Deshalb ist es wichtig, die KI-generierten Inhalte visuell zu differenzieren, um den Nutzenden die Entscheidung zu überlassen, ob sie ihnen vertrauen möchten.

AI-UX-Prinzip Nr. 2: Erklären, wie Maschinen lernen

Künstliche Intelligenz kann auf den ersten Blick wie Magie wirken. Manchmal fällt es sogar Expertinnen und Experten schwer zu erklären, wie der maschinell lernende Algorithmus auf ein Ergebnis kommt. Für Nutzende sind Hinweise zur Funktionsweise und darauf, welche Daten verwendet werden, nützlich. Das kann natürlich auf abstrakter Ebene passieren. Ein Beispiel ist die Produktempfehlung, wenn wir online einkaufen.

AI UX-Prinzip Nr. 3: Erwartungshaltung formen

Selbstfahrende Autos sind technologisch so ausgeklügelt, dass sie selbst in komplexen Situationen navigieren können. Nichtsdestotrotz müssen wir dem System unsere ungeteilte Aufmerksamkeit zukommen lassen. Hier müssen die richtigen Erwartungen geweckt werden. Denn zu hohe Erwartungen, etwa, dass Autos das Fahren ohne unsere Kontrolle bewältigen könnten, können zu falschem Vertrauen und Fehlentscheidungen führen.

AI-UX-Prinzip Nr. 4: Grenzfälle handhaben

Es kann passieren, dass KI-Inhalte generiert und Aktionen ausgeführt werden, an die noch niemand gedacht hat. Unerwartete Fälle brauchen mehr Aufmerksamkeit im UX-Design, denn es kann sich dabei nicht nur um seltsame oder lustige, sondern sogar um störende und unangenehme Grenzfälle handeln. Hier findet sich eine Reihe von Chatbot-Beispielen, bei denen der Kontext nicht verstanden wurde und die KI eine unangebrachte Antwort ausgab.

Eine klare Kommunikation über die Fähigkeiten der KI kann den Nutzenden helfen, die unerwarteten Fälle zu verstehen.

Ein kleiner Exkurs in die Bewertungsmetriken einer KI zeigt, wie man den Kompromiss zwischen Precision und Recall findet. Die Optimierung des Recalls bedeutet, dass das maschinelle Lernprodukt alle richtigen Antworten verwendet, die gefunden werden können. Auch wenn einige falsche Antworten daruntergeraten – eine KI, die Krebserkrankungen identifizieren kann, wird mit dieser Bewertungsmetrik in einem Datensatz von Röntgenbildern alle Krebserkrankten finden. Unter den Ergebnissen können aber auch einige Gesunde erscheinen.

Bei Optimierung auf Precision hingegen wird die KI ausschließlich Röntgenbilder der Krebserkrankten ausgeben, aber es werden möglicherweise nicht alle gefunden. Denn der Algorithmus für maschinelles Lernen filtert nur die eindeutig richtigen Antworten, kann aber einige positive Grenzfälle übersehen.

UX-Designerinnen und -Designer können den Entwicklerinnen und Entwicklern Informationen über die Erwartungen und Prioritäten der Nutzenden liefern. Die Entwicklerinnen und Entwickler können dann wiederum die Algorithmen optimieren, um fehlerhafte Ausgaben zu minimieren.

Speculative Design – mögliche Zukunftsszenarien erforschen

Der Mensch und seine Bedürfnisse sollen im Mittelpunkt der Entwicklung bleiben. Dabei sollten UX-Designerinnen und -Designer auch weit in die Zukunft blicken und gesellschaftliche Auswirkungen sozusagen vorausahnen. Hier kommt das Speculative Design ins Spiel.Wir können unser zukünftiges Leben mit KI so gestalten, wie es für uns am besten ist.

Um dabei nicht in eine falsche Richtung abzudriften und unerwünschte Auswirkungen zu vermeiden, ist es wichtig, sich heute die Frage zu stellen, welche Zukunft wir eigentlich wollen und wie ein Leben mit KI funktionieren soll. Welche Auswirkungen könnte es auf Sozialsystem, Gesundheitswesen, Finanzsystem oder gar Politik haben? Wo können Disruptionen entstehen und welche Konsequenzen würden folgen?

Speculative Design ist eine Methode, um mögliche Zukunftsszenarien dahingehend zu analysieren, welche positiven oder negativen Resultate auftreten können, und entsprechende Maßnahmen abzuleiten. Dabei werden die verschiedenen Zukunftsszenarien durchdacht, deren Grad von sehr wahrscheinlich bis irgendwann möglich reichen kann. Im Anschluss werden Artefakte entwickelt, mit denen es ermöglicht wird, die einzelnen Szenarien zu erleben und zu begreifen. Erst wenn langfristige Veränderungen einkalkuliert werden, können die richtigen Entscheidungen getroffen werden.

Fazit

Die Wahrung von Persönlichkeitsrechten, Datensicherheit und Rechtssicherheit muss gegeben sein. UX-Designerinnen und -Designer stehen in der Verantwortung zu gestalten, wie KI uns begegnen wird. Sie stehen in der Verantwortung, dafür zu sorgen, dass es immer heißen wird „Hey Siri, schalte das Licht aus, ich will schlafen“ und nicht irgendwann „Schlafenszeit – ich schalte jetzt das Licht aus“.

Weitere spannende Themen aus der adesso-Welt findet ihr in unseren bisher erschienen Blog-Beiträgen.

Bild Viktoria Düngfelder

Autorin Viktoria Düngfelder

Viktoria Düngfelder ist seit 2021 für adesso als Consultant tätig. Ihre Arbeitsschwerpunkte bilden das UX Design und das Requirements Engineering.

Diese Seite speichern. Diese Seite entfernen.