Das Design von digitalen Services kommt ohne künstliche Intelligenz (AI) kaum mehr aus. Damit AI die Menschen in ihrem Verhalten möglichst gut unterstützt, sie aber nicht ihrer Entscheidungsfreiheit beraubt, werden seit über zwei Jahrzehnten Richtlinien für die Interaktion zwischen Mensch und AI diskutiert.
Eine Reihe US-amerikanischer Wissenschaftler hat nun im Auftrag von Microsoft 18 allgemein gültige Design-Richtlinien ausgearbeitet, die sich auf die Interaktion zwischen Mensch und KI beziehen. Diese Richtlinien wurden durch mehrere Evaluierungsrunden validiert. Unter anderem wurden die Regeln von 49 Design-Praktikern im Rahmen einer Studie mit 20 beliebten, auf AI basierenden Produkten getestet.
Damit will man AI-basierte Anwendungen verbessern, denn
[…] as automated inferences are typically performed under uncertainty, often producing false positives and false negatives, AI-infused systems may demonstrate unpredictable behaviors that can be disruptive, confusing, offensive, and even dangerous.
Die 18 Guidelines sind eingeteilt in die Phasen „Beginn“, „während der Interaktion“, „wenn etwas falsch läuft“ sowie „im Laufe der Zeit“. Anfangs muss dem Nutzer beispielsweise klargemacht werden, worum es bei der Anwendung überhaupt geht und was das AI-System leisten kann. Bei einer Sport-App kann das folgendermassen aussehen:
Displays all the metrics that it tracks and explains how. Metrics include movement metrics such as steps, distance traveled, length of time exercised, and all-day calorie burn, for a day.
Geschlechterneutrales Autocomplete bei Textprogrammen
Während der Nutzung einer App können Algorithmen kontextrelevante Infos recherchieren und anbieten. Falls der User etwa nach einem Filmtitel sucht, kann ihm gleich gezeigt werden, in welchen Kinos der Umgebung der Film gespielt wird. Ebenfalls wichtig: Das Abschwächen von Biases. AI darf nicht dazu beitragen, unerwünschte Stereotypen und kognitive Verzerrungen noch weiter zu verstärken. Dazu zählt etwa beim Autocomplete von Textprogrammen, dass beide Geschlechter („ihr“/“ihm“) vorgeschlagen werden.
Falls etwas nicht nach den Vorstellungen des Users funktioniert, soll die App Transparenz über ihren Vorschlag wahren. Ein Navigationssystem kann eine ungewöhnliche Route etwa damit rechtfertigen, dass es sich dabei um den schnellsten Weg handelt.
Mittel- bis langfristig lernen Algorithmen vom Verhalten des Users und können, falls es sich zum Beispiel um eine Musik-App handelt, weitere Songs vorschlagen, die der Konsumhistorie nach dem Geschmack des jeweiligen Individuums entsprechen.
Die 18. Richtlinie wiederum zielt auf den Erhalt der menschlichen Autonomie ab und verlangt, dass Änderungen und Updates des Systems immer verlautbart werden müssen. Zur genaueren Nachlese: Alle 18 Guidelines für die Interaktion zwischen AI-gesteuerten Systemen und Menschen finden sich in diesem Paper auf Seite 3.