KI - Algorithmen strenger kontrollieren!

Künstliche Intelligenz - Algorithmen kontrollieren

Neue Technologien, wie z.B. Serviceroboter, bringen Entlastung im Pflegealltag, benötigen aber, damit sie entsprechend funktionieren, gut programmierte Algorithmen. Die Verbraucherzentrale Bundesverband e.V. (VZBV) fordert nun strengere Kontrollen von Algorithmen. Software, die selbständig dazulerne und sich irgendwann nicht mehr an Gesetze halte, sei keine Science Fiction mehr.

Rechtlich gesehen kommt Maschinen selbst keine Rechtspersönlichkeit zu. Das bedeutet, dass sie, anders als Menschen oder juristische Personen, nicht Adressaten rechtlicher Regelungen sind. Es gibt für sie weder "dürfen" noch "nicht dürfen", obwohl sie dies aufgrund ihrer fortgeschrittenen künstlichen Intelligenz wahrscheinlich sogar unterscheiden könnten.

Bei den Zulassungsverfahren für selbstlernende Systeme ergeben sich Probleme: Diese Systeme verändern sich im laufenden Betrieb und passen sich an die veränderte Umwelt an. Das bedeutet, dass die zum Zeitpunkt der Zulassung überprüften Eigenschaften des Systems nur eine "Momentaufnahme" darstellen, weil sie sich mit der Zeit unkontrolliert verändern können - und damit ggf. den gegebenen Kriterien für eine Zulassung nicht mehr entsprechen würden.

Die Ethikkommission des Bundesministerium für Verkehr und digitale Infrastruktur (BMVI) hält den Einsatz selbstlernender Systeme nur bei nicht unmittelbar sicherheitsrelevanten Funktionen für denkbar. Derartige Systeme sollten nicht nur einer Zulassungskontrolle, sondern zusätzlich einer kontinuierlichen Fehlerkontrolle unterliegen.

Die Verbraucherzentrale Bundesverband e.V. (VZBV) fordert nun strengere Kontrollen von Algorithmen. Lernende Maschinen könnten Entscheidungen eines Tages womöglich anhand unerwünschter oder verbotener Kriterien wie Geschlecht, Herkunft, Alter oder Vermögen treffen. Die Forderung des VZBV lautet daher, die Intensität der Regulierung an das Gefahrenpotenzial eines Algorithmus zu knüpfen. Die schärfste Regulierung solle im Gesundheitsbereich gelten, um schwere Schäden von Verbrauchern abzuwenden.

Stethoskop und Smartphone
© Björn Wylezich - Fotolia.com

Lesen Sie auch ...

Quellen

Zeit Online (2019): Algorithmen: Wer haftet für die Fehler?

Verbraucherzentrale Bundesverband e.V. (2019): Algorithmen kontrollieren - geltendes Recht durchsetzen

Projekt (2019): Projektbericht ABIDA - ASSESSING BIG DATA (PDF)

Autor/in

Inke Ruhe