Im März dieses Jahres ging die Nachricht von einem Verkehrsunfall in der US-amerikanischen Stadt Tempe um die Welt, bei dem eine Fußgängerin getötet wurde. Ein selbstfahrendes Auto des Dienstleistungsunternehmens „Uber“ hatte die Frau erfasst. Erst Wochen später konnten Experten die Ursache benennen: Zwar hatten die Sensoren des Fahrzeuges die Frau erkannt, der Bordcomputer hatte ihre Meldung jedoch als falsch eingestuft. Holger Hermanns, Professor für Verlässliche Systeme und Software an der Universität des Saarlandes, wundert das nicht. „Auch in den Autos auf unseren Straßen erhalten wir Fehlermeldungen, auf die sich selbst das Fachpersonal in den Werkstätten keinen Reim machen kann“, erklärt Hermanns.

 

Eine solche zunehmende Unverständlichkeit gelte auch für Software in anderen Bereichen des Alltags. Angefangen von der zunehmenden Vernetzung von Geräten im eigenen Haushalt, über die von Software gesteuerte Produktion in modernen Fabriken bis hin zu den so genannten Smart Cities, in denen künftig Softwaresysteme das Leben des Einzelnen bequemer, sicherer und energieeffizienter machen. „Momentan enthalten sämtliche computergestützte Systeme keine Konzepte, um ihr eigenes Verhalten zu erklären. Stattdessen berechnen sie Ergebnisse und reichen diese weiter, ohne diese zu erläutern. Damit sind sie nicht verständlich und wir Nutzer verlieren die Kontrolle“, so Hermanns.

 

Daher hat er zusammen mit weiteren Kollegen der Universität des Saarlandes, der Max-Planck-Institute für Informatik und für Softwaresysteme sowie der Technischen Universität Dresden den Sonderforschungsbereich „Grundlagen verständlicher Softwaresysteme“ konzipiert. Darin wollen die Forscherinnen und Forscher die wissenschaftlichen Grundlagen für computerunterstützte Systeme legen, die ihre Funktionalität und ihr Verhalten selbst erläutern. Die Wissenschaftler bezeichnen diese neue Art von Software als „verständliche Systeme“ oder „perspicuous systems“. Neu ist dabei auch, dass sich diese Systeme sowohl Softwareingenieuren bei der Entwicklung erklären als auch Laien beim Benutzen der Software oder bei Fehlfunktionen. „Die Interaktion soll einem Navi ähneln, dass nicht nur sagt, was zu tun ist, sondern auch warum dies zu tun ist“, erklärt Holger Hermanns. Um diese Vision in die Tat umzusetzen, arbeiten die Forscher in 15 Teilprojekten und verbinden dabei Verfahren aus der formalen Verifikation mit Methoden aus der Mensch-Maschine-Interaktion. Dabei setzen sie sich auch mit den Mechanismen des Maschinellen Lernens auseinander. Auf dieser Weise sollen Unfälle wie der oben beschriebene in Zukunft ausgeschlossen werden.

 

An dem neuen transregionalen Sonderforschungsbereich sind von der Universität des Saarlandes neben Holger Hermanns die Professorin Vera Demberg sowie die Professoren Bernd Finkbeiner, Matthias Hein, Jörg Hoffmann und Antonio Krüger beteiligt. Christoph Weidenbach vom Max-Planck-Institut für Informatik und Maria Christakis, Rupak Majumdar und Joel Ouaknine vom Max-Planck-Institut für Softwaresysteme wirken ebenfalls mit. Die Technische Universität Dresden ist durch die Professorinnen und Professoren Franz Baader, Christel Baier, Raimund Dachselt, Christof Fetzer, Stefan Gumhold und Markus Krötzsch sowie die Forscher Sarah Gaggl und Stefan Borgwardt vertreten.

 

Siehe auch:

https://www.perspicuous-computing.science/