RE4AI: 6 Empfehlungen für die Entwicklung von KI-Systemen (Teil 2)

Letzte Woche berichtete ich on RE4AI, Requirements Engineering for Artificial Intelligence. Dabei ging es unter anderem um Einschränkungen und Herausforderungen von RE4AI. Gut und schön, aber wie gehen wir das Ganze in der Praxis an? Ein möglicher Ansatz ist Google PAIR, der im Folgenden vorgestellt wird.

Hier geht es zum ersten Teil und hier ist das Paper What’s up with Requirements Engineering for Artificial Intelligence Systems? von Ahmad et. al.

KI in Produkten: Die neuen Herausforderungen

Um die Herausforderungen von verbauter KI besser zu verstehen, schauen wir uns doch ein prominentes Beispiel an, autonomes Fahren. Eine sinnvolle Anforderung könnte sein:

Doch der Teufel steckt im Detail. Ist immer klar, was eine Ampel ist? Was bedeutet „überfahren“? Wie gehen wir mit Genauigkeit und Präzision um? Was ist mit Sonderfällen, wie bspw. ein sich näherndes Fahrzeug mit Blaulicht? Darf in dem Fall das Fahrzeug über die rote Ampel fahren, um dem Krankenwagen Platz zu machen? Wie können wir diese neuen Probleme angehen, wenn die bestehenden Techniken nicht mehr ausreichen?

Google hat eine neue Reihe von Richtlinien für die Entwicklung von KI-Anwendungen mit einem menschenzentrierten Ansatz unter dem Namen PAIR veröffentlicht. Die Autoren untersuchen Google PAIR in Hinblick auf deren Ergebnisse aus der Literaturanalyse (siehe Teil 1). Basierend darauf sprechen die Autoren Empfehlungen für die zukünftige RE4AI-Forschung aus.

Google PAIR

PAIR steht für „People + AI Research“, wie auf der entsprechenden Google Projektseite zu lesen ist.

Zentraler Teil von PAIR ist das People + AI Guidebook, welches aus einer Sammlung von Methoden, Best Practices und Beispielen für RE4AI besteht. Das Guidebook besteht aus 6 Kapiteln, welche die Autoren des Forschungspapiers sehr schön als Aktivitätsdiagramm zusammengefasst haben (Figure 7).

Empfehlung: Figure 7 im Paper ist ein extrem nützliches Aktivitätsdiagramm, das den Gesamtprozess kompakt darstellt.

Paper mit Figure 7 jetzt herunterladen

Die Kapitelstruktur beschreibt auch das schrittweise Vorgehen, wobei sich die Autoren des Papers auf die folgenden vier fokussieren.

• Nutzerbedürfnisse — Wie auch im traditionellen RE beginnt der Leitfaden mit den Nutzern und der Problembeschreibung. Doch dann kommt eine Prüfung, ob KI überhaupt eine nützliche Lösung ist. Ist KI eine praktikable Lösung, z. B. wenn es nur begrenzte Informationen oder Daten gibt? Wenn ja, sollte der KI-Einsatz klassifiziert werden: Geht es um Automatisierung oder Generierung? Insbesondere: Wird das Ergebnis gut genug sein (Präzision vs. Recall)? Die Literaturrecherche ergab, dass viele Teams gerade letzteres in dieser Phase nicht gründlich genug untersucht hatten.
• Datenerfassung — Die hier zu berücksichtigenden Themen sind zwar bekannt, ein strukturiertes Vorgehen aber wichtig. Dazu gehören die Themen wie Datenschutz, Datensicherheit sowie Vollständigkeit, insbesondere, um Verzerrungen zu vermeiden. Auch wichtig: Wenn Probleme auftauchen, sollten sie zu Daten, Merkmalen oder Bezeichnungen zurückverfolgt werden können. Hier helfen auch Checklisten, zum Beispiel die „fünf essentiellen Charakteristiken“ Genauigkeit, Vollständigkeit, Konsistenz, Glaubwürdigkeit und Aktualität.
• Erklärbare und vertrauenswürdige KI — Die Erwartungen der Nutzer müssen gemanagt werden. Ein zu hohes Vertrauen in die KI kann zu Problemen führen, was die Presse im Moment viel in Bezug auf Chatbots wie ChatGPT diskutiert. Ein wichtiges Werkzeug für Vertrauen ist Erklärung: KI-Systeme sollten den Nutzern erklären können, wie sie zu dem Ergebnis gekommen sind. Das Paper zitiert viel existierende Forschung und konkrete Empfehlungen zur Entwicklung von KI-Systemen. Doch häufig werden diese Richtlinien noch ignoriert.

Nicht von den Autoren untersuchte Schritte von Google PAIR, aber dennoch zentral für RE4AI sind:

• Mentale Modelle — Ein mentales Modell beschreibt unser Verständnis, wie etwas funktioniert. Bei KI ist wichtig, dass sich diese mit der Zeit verändern. Das ist Nutzern of nicht bewusst und diese irritieren, wenn das System plötzlich eine Woche später ein anderes Ergebnis produziert. Wenn im Gegensatz dazu die Nutzer dies verstehen, dann können sie aktiv mithelfen, das System zu verbessern.
• Feedback und Kontrolle — Dieser Aspekt geht Hand in Hand mit dem vorherigen: Wenn wir Nutzern von KI-Systeme die Möglichkeit einer Rückmeldung geben, können wir unter Umständen die Ergebnisse drastisch verbessern. Daher müssen wir uns Gedanken über entsprechende Mechanismen machen.
• Fehler und wohlwollendes Versagen — Was genau ist ein Fehler? Bei KI-Systemen kann ein Antwort mit niedrigem Vertrauen (low confidence) schnell als Fehler wahrgenommen werden. Daher ist es wichtig, im Kontext von KI-Systemen überhaupt erst einmal zu definieren, was ein Fehler ist. Weiterhin sollte entschieden werden, wie es nach einem Fehlerfall weitergehen soll.

Empfehlungen für RE4AI

Die Autoren haben viele Defizite bei der Entwicklung von Systemen gefunden, die KI verbauen. Aus der Verbindung von diesen Defiziten mit den identifizierten „Best Practices“ sprechen sie sechs konkrete Empfehlungen aus:

Viele Probleme profitieren nur begrenzt von KI. Die Autoren empfehlen, in der Entwicklung einen Checkpoint einzuplanen, bei dem die folgenden Fragen beantwortet sein müssen: Welches Problem löst das System? Warum wird es benötigt? Wie wird es eingesetzt? Schafft KI einen Mehrwert für die vorhergehenden Punkte? Hat die Organisation die Ressourcen, ein KI-Produkt zu entwickeln?

Viele KI-Systeme haben Probleme, weil die Spezifikationen einfach nicht die für KI relevanten Aspekte abdecken, wie Datenerfassung, Datenschutz, usw. Die Autoren empfehlen hier, ein Referenzsystem für KI-Systeme zu entwickeln, das in einer Matrix alle für KI-Systeme relevante Anforderungen zusammenträgt. Bis wir so ein Referenzsystem haben, können uns Leitfäden wie Google PAIR im RE4AI gute Dienste leisten.

Die Autoren haben herausgefunden dass eine passende Modellierungssprache sehr effektiv für die Entwicklung von KI-Systemen sein können. Zwei der untersuchten Studien hatten vorgeschlagen, eine eigene Modellierungssprache für KI4RE zu entwickeln. Alternativen gibt es schon heute, allerdings sind klassische Modellierungssprachen wie SysML nur bedingt geeignet.

In der Praxis funktioniert die Kommunikation zwischen diesen drei Rollen nicht gut, unter anderem auch, weil die Verantwortlichkeiten nicht klar voneinander abgegrenzt sind. Die Autoren empfehlen hier entsprechend zu strukturieren und mit einer Kollaborationsplattform zu arbeiten.

Bei KI-Anwendungen gibt es selten Ja-Nein-Entscheidungen. Viele Faktoren fließen in das Gesamtergebnis ein. Hier müssen wir systematisch vorgehen. Das läuft in der Regel auf einer quantitativen Bewertung mit entsprechenden Gewichtungen hinaus, wie auch von PAIR empfohlen. Es gibt zahllose Kriterien. Was ist besser: Ein genauerer Algorithmus oder einer, der die Ergebnisse besser erklärt? Sind die Nachteile von False-Negatives erheblich höher als von False-Positives, oder sind sie gleich? Der Trade-Off zwischen Precision und Recall ist bei KI-Anwendungen besonders wichtig.

Die meisten KI-Projekte beginnen mit bestehenden Systemen und funktionierenden Entwicklungsprozessen. Vieles funktioniert. Daher müssen wir systematisch vorgehen und nur dort ansetzen, wo RE4KI neue Ansätze erfordert, zum Beispiel, weil wir auf neue Art und Weise Daten sammeln können. Dazu schlagen die Autoren vor, eine Taxonomie zu erstellen, die alle verschiedenen Techniken und Methoden auflistet, die beim Aufbau von KI-Systemen erforderlich sind. Bis wir das haben, sollten wir systematisch vorgehen und sicherstellen, dass unsere Anpassungen an Methoden und Techniken positive Ergebnisse erzielen.

Fazit: Viel zu tun

Heute haben wir noch viele Lücken bei der Entwicklung von KI-lastigen Produkten. Diese werden sicher in den nächsten Jahren ausgemerzt. Um heute solche Produkte zu entwickeln hilft es, sich dieser Lücken bewusst zu sein. Außerdem haben die Autoren mit Google PAIR auf ein potentes Werkzeug für RE4AI verwiesen. Die Empfehlungen helfen, im eigenen Umfeld dieses Minenfeld sicher zu durchqueren — und den Markt mit beeindruckenden, KI-basierten Produkten zu begeistern.

Photo by KOBU Agency on Unsplash