“Ein geheimer Algorithmus entscheidet, wer in Amerika sterben wird” kritisiert Cathy O’Neill auf Bloomberg Opinion.
O’Neill hatte 2016 in ihrem Buch “Weapons of Math Destruction” auf die Gefahren hingewiesen, die durch blindes Vertrauen in die Algorithmen von Big Data entstehen können.
Im gestrigen Artikel kritisiert sie den Gouverneur von Arizona, der auf Basis eines nicht-öffentlichen Pandemie-Modells der Federal Emergency Management Agency weitgehende Lockerungen der Corona-Maßnahmen entschieden hat.
Solche mathematischen Modelle kommen nicht zufällig. Sie tauchen dann plötzlich auf, wenn Leute eine schwierige Diskussion vermeiden wollen, in der es um historische Anstrengungen, Geld und komplexe Entscheidungen ginge.
Aus Furcht vor Mathematik oder Mangel an Informationen würden Menschen solche Black-Box-Modelle nicht hinterfragen.
Wenn es jemals ein Thema gab, das eine schwierige öffentliches Diskussion erforderte, ist es die Antwort auf Covid-19. Wie viele Menschen sind wir gewillt sterben zu lassen, um Unternehmen am Laufen zu halten? Und welche Menschen würden wir sterben lassen? Mit der Verwendung eines geheimen Modells als Grundlage solcher Entscheidungen nimmt die Trump-Administration diese Fragen aus der öffentlichen und wissenschaftlichen Sphäre heraus; sie ersetzt die datenbasierte ethische Debatte durch ein pseudomathematisches politisches Werkzeug.
Kommentare (4)