Nachrichten, Gerüchte, Meldungen und Berichte aus der IT-Szene

Redaktion: Heinz Schmitz


Keine Diskriminierung durch Blackbox Algorithmen

Blackbox Algorithmen
Unklar ist, aufgrund welcher Kriterien automatisierte Entscheidungen getroffen, denn Algorithmen fallen häufig unter das Geschäftsgeheimnis. (Quelle: vzbv)

Algorithmen spielen in immer mehr Lebensbereichen eine entscheidende Rolle. Unternehmen bestimmen mit Hilfe von Alexa und Co, welche Angebote Verbraucher erhalten. Energieversorger wissen durch Smart-Home-Geräte, ob die Bewohner zu Hause sind, und Navigationsdienste entscheiden über die beste Strecke durch den Verkehr. Unklar ist, aufgrund welcher Kriterien solche Entscheidungen getroffen und wie die verschiedenen Kriterien gewichtet werden, denn Algorithmen fallen häufig unter das Geschäftsgeheimnis.

 

„Automatisierte Entscheidungen auf Basis von Algorithmen können Verbraucherinnen und Verbrauchern das Leben erleichtern. Sie können aber auch zu falschen Entscheidungen führen und Verbraucher diskriminieren. Eine nächste Bundesregierung muss Algorithmen aus Sicht des Verbraucherschutzes genau unter die Lupe nehmen. Relevante Algorithmen basierte Entscheidungsprozesse müssen durch eine unabhängige, staatlich legitimierte Institution kontrolliert werden können“, sagt Klaus Müller, Vorstand des Verbraucherzentrale Bundesverbands (vzbv).

 

Umfrage: Verbraucher sehen automatische Entscheidungen kritisch

Die große Mehrheit der Verbraucher (75 Prozent) sieht in automatisierten Entscheidungen eine Gefahr, wenn deren Datenbasis und Entscheidungsprinzipien unklar sind. Das zeigt eine repräsentative Online-Umfrage von Civey im Auftrag des vzbv.

 

80 Prozent der Befragten wollen, dass Firmen Daten und Kriterien offenlegen, die Algorithmen basierten Entscheidungsprozessen zugrunde liegen. Ähnlich viele, 77 Prozent, wollen eine staatliche Überprüfbarkeit. „Die Umfrage zeigt, dass Verbraucher algorithmischen Entscheidungen nicht per se vertrauen. Die Politik muss handeln, um Verbrauchern hier mehr Sicherheit zu geben“, so Müller.

 

Gesellschaftlicher Diskurs erforderlich

Der Einfluss Algorithmen basierter Entscheidungsprozesse auf Lebensgestaltung, Teilhabemöglichkeiten, Konsumentscheidungen und Autonomie jedes Einzelnen sowie auf die Gesellschaft insgesamt wird zunehmen. „Wir müssen uns präventiv mit den Auswirkungen automatisierter Entscheidungsprozesse beschäftigen und nicht erst dann, wenn die ersten Skandale da sind“, so Müller. „Mit einem Thesenpapier will der vzbv Denkanstöße geben und einen Beitrag zur notwendigen Debatte leisten, wie Chancen von Algorithmen genutzt und Risiken minimiert werden können.“

 

Der vzbv hat insgesamt 15 Thesen zum Umgang mit Algorithmen basierten Entscheidungsprozessen aufgestellt. Diese Thesen – unter anderem wie ein unabhängiges Kontrollsystem etabliert werden könnte – diskutiert der vzbv am 7. Dezember 2017 in Berlin auf der Fachveranstaltung „Algorithmen transparent gestalten“ mit Vertretern aus Wissenschaft, Wirtschaft und Politik und bei Twitter unter dem Hashtag #Algo17.

 

Siehe auch:

https://www.vzbv.de/sites/default/files/downloads/2017/12/06/civey_vzbv_umfrageergebnisse_algorithmen.pdf

https://www.vzbv.de/sites/default/files/downloads/2017/12/06/17-12-07_vzbv_thesenpapier.pdf

Zurück