Künstliche Intelligenz und Systems Engineering

Selbstfahrende Autos brauchen künstliche Intelligenz (KI), und nachdem mehrere Fahrzeughersteller bereits Google gefolgt sind und selbstfahrende Autos entwickelt haben, hat sich nun auch Toyota in diese Gruppe eingereiht.

Ein Problem das ich dabei sehe hinsichtlich SE: Insbesondere bei eingebetteten Systemen soll das System deterministisch sein: Beim selben Input soll der selbe Output kommen. Das soll für ein nachvollziehbares Verhalten sorgen, was unter anderem für die funktionale Sicherheit oft als unumgänglich angesehen wird. Im Systems Engineering nennt man unvorhersehbares Verhalten auch „emergent behavior“. Dies ist ein klassisches Zeichen von komplexen (im Gegensatz zu komplizierten) Systemen.

Das ist bei KI-Systemen leichter gesagt als getan: Der Input (bpsw. das Kartenmaterial) ändert sich langsam, und die im Verkehr entstehenden Inputs sind so reichhaltig dass hier ein deterministisches Verhalten nicht unbedingt für mehr Sicherheit sorgen würde. Abgesehen davon ist einer der Eigenschaften eines KI-Systems die Fähigkeit, zu lernen. Für Determinismus müsste man diese abschalten, was dessen Wert drastisch senken würde.

Foto: Dr. Gill Pratt, Toyota Executive Technical Advisor and Chief Executive Officer of Toyota Research Institute, Inc.