“Ein geheimer Algorithmus entscheidet, wer in Amerika sterben wird” kritisiert Cathy O’Neill auf Bloomberg Opinion.

O’Neill hatte 2016 in ihrem Buch “Weapons of Math Destruction” auf die Gefahren hingewiesen, die durch blindes Vertrauen in die Algorithmen von Big Data entstehen können.

Im gestrigen Artikel kritisiert sie den Gouverneur von Arizona, der auf Basis eines nicht-öffentlichen Pandemie-Modells der Federal Emergency Management Agency weitgehende Lockerungen der Corona-Maßnahmen entschieden hat.

Solche mathematischen Modelle kommen nicht zufällig. Sie tauchen dann plötzlich auf, wenn Leute eine schwierige Diskussion vermeiden wollen, in der es um historische Anstrengungen, Geld und komplexe Entscheidungen ginge.

Aus Furcht vor Mathematik oder Mangel an Informationen würden Menschen solche Black-Box-Modelle nicht hinterfragen.

Wenn es jemals ein Thema gab, das eine schwierige öffentliches Diskussion erforderte, ist es die Antwort auf Covid-19. Wie viele Menschen sind wir gewillt sterben zu lassen, um Unternehmen am Laufen zu halten? Und welche Menschen würden wir sterben lassen? Mit der Verwendung eines geheimen Modells als Grundlage solcher Entscheidungen nimmt die Trump-Administration diese Fragen aus der öffentlichen und wissenschaftlichen Sphäre heraus; sie ersetzt die datenbasierte ethische Debatte durch ein pseudomathematisches politisches Werkzeug.

Kommentare (4)

  1. #1 Karl Mistelberger
    mistelberger.net
    9. Mai 2020

    Arizona liegt derzeit bei 71 Toten / Million Einwohner gegenüber 238 in den USA. Da ist viel Luft nach oben.

    Governor Doug Ducey sollte sich einen schicken Pullover zulegen und auch sonst Anders Tegnell zum Vorbild nehmen. Dann sind auch die erhöhten Sterbezahlen wie in Schweden (314/Mio) kein Problem mehr.

  2. #2 schorsch
    9. Mai 2020

    Geheime Algorhitmen, Blockchain und KI – wahrhaft, wir leben in einer Welt der Zauberei und Magie!

  3. #3 Oger
    10. Mai 2020

    @Karl Mistelberger
    Die USA ticken anders in Sachen Sozialsysteme als Europa. Dort ist man im wörtlichen Sinne gezwungen zwischen biologisch und wirtschaftlich Toten abzuwägen. Müssen sie aber nicht verstehen.
    Leider können sie als nicht amerikanischer Staatsbürger nicht für die Präsidentschaft kandidieren. Sicher hätten sie in diesem Fall die Lösung parat. Sanders ist gescheitert an dieser Challange.

  4. #4 Joseph Kuhn
    10. Mai 2020

    Wir delegieren gesellschaftliche Verantwortung. In dem Fall an den Gouverneur von Arizona, der sich die relevanten Entscheidungsparameter des Algorithmus vermutlich hat erläutern lassen und damit algorithmisch verschleiert für sein Volk entscheidet. Oder an die Programmierer, sollte sich der Gouverneur nicht dafür interessiert haben, nach welchen Prioritäten der Algorithmus entscheidet.