Ich habe nun, nach einer etwas längeren Abwesenheit, meine New York Times wieder in die Hände bekommen, und bin gleich (auf Seite 3) über zwei Lesestücke zu zwei Themen gestoßen: die uns hier immer wieder aufregen. Zum Beispiel dieses Stück über “Alternativmedizin”, die ja auch bei Joseph Kuhns Gesundheits-Check gerade mal wieder diskutiert wird; wie der Titel ‘Alternative Medicine’ Is Label That Misses Point schon sagt, geht es hier im Prinzip darum, dass “alternative” Medizin, die den Anforderungen der Evidenzbasierung genügen, nicht “alternativ” ist, sondern schlichtweg “Medizin” – und wenn nicht, dann ist sie “alternativ”, sondern schlichtweg gar keine Medizin.

Im zweiten Lesetipp geht es um Diskriminierung (sexistische und andere), die ja aktuell gerade wieder bei mir hier Stoff für Diskussion ist. Aber hier geht es nicht um Menschen, sondern um Computer, genauer gesagt: Algorithmen, die manchmal gar nicht von Menschen, sondern durch Maschinenlernen generiert werden und dennoch (oder gerade deswegen, weil sie ja die Vorurteile der Vergangenheit lernen und reflektieren) deutliche Indizien von Diskriminierung zeigen. Wie beispielsweise der Google-Anzeigenalgorithmus, der Stellenanzeigen für Topverdiener (>200.000 Dollar) bevorzugt männlichen Lesern auf den Bildschirm schob (das Paper dazu gibt es hier). Warum das so ist und was man dagegen tun sollte, erklärt die Microsoft-Computerwissenschaftlerin Cynthia Dwork im Interview mit der New York Times: Teaching Algorithms Not to Discriminate.

flattr this!

Kommentare (24)

  1. #1 BreitSide
    Beim Deich
    11. August 2015

    Naja, bei Gugl wäre ich vorsichtig mit dem Begriff “Diskriminierung”. So wenig ich Gugl mag, es bildet ja nur die Wirklichkeit ab – mehr oder weniger…

    Wir erinnern uns, als Gugl zu Bettina Wulff als Suchbegriff gleich “Escort” vorgeschlagen hatte und selbige dagegen klagte. Aber was kann Gugl dafür, wenn (ich sag mal einfach) 49% der Suchenden genau diese 2 Begriffe kombiniert hatten? Aktuell kommt als dritter Suchvorschlag “Bettina Wulff Hostess”. Sie scheint keinen Erfolg gehabt zu haben. Und das ist gut so. Oder war der Erfolg, dass “Escort” zu “Hostess” wurde, was (für mein Gefühl) nicht ganz so eindeutige ist?

    Wenn Gugl Werbung platziert, tut es das ja nicht nach wünschenswerten Vorstellungen, sondern orientiert sich an der Wirklichkeit (oder was es dafür hält). Es wird diese Anzeigen auch keinem Studenten oder 80-Jährigen unterbreiten, Farbige/Latinos werden wohl auch unterdurchschnittlich bedacht.

    Aber das ist ja nicht die Schuld von Gugl, sondern von den Kunden, also den potenziellen Empfängern der Anzeigen. Damit Gugl Erfolg hat, muss es deren Wünsche genauestmöglich abbilden. Und wenn die Einsteller Vorurteile haben, MUSS Gugl die Vorurteile genauestmöglich abbilden.

    Insofern sehe ich da keinen Anlass, Gugl DESWEGEN an den Karren zu fahren. Überbringer schlechter Nachrichten werden heutzutage doch nicht mehr erschossen…;-)))

  2. #2 Jürgen Schönstein
    12. August 2015

    @BreitSide
    Nein, der Algorithmus, der Stellenanzeigen zuteilt, ist nicht einfach nur auf eine zufällige Kombination von in der Bevölkerung bevorzugten Suchworten aufgebaut. Da werden schon soziodemographische Indikatoren (oder genauer gesagt: solche, die ohne Zugriff auf personenbezogene Informationen Rückschlüsse auf Alter, Geschlecht oder Einkommen plausibel machen) herangezogen.

    Aber es ging ja auch nicht um Kritik an Google, sondern um den Hinweis darauf, dass auch von Maschinen generierte Algorithmen nicht “objektiv” sind, sondern bestehende Diskriminierung maschinell lernen und weitertragen können.

  3. #3 Alisier
    12. August 2015

    Danke für den link!
    Allerdings scheint mir die Sicht auf Akupunktur nicht mit mir bekannten Studien übereinzustimmen, die ich aber jetzt nicht zur Hand habe. Soweit ich das verstanden hatte, ist es völlig wumpe, wo die Nadeln hineingepiekst werden, um einen nachweisbar positiven Effekt bei einer sehr geringen Anzahl von spezifischen Beschwerden zu generieren.
    Was auch verständlich ist, wenn man bedenkt, dass je nach Schule die Piekspunkte seeeeehr weit auseinanderliegen.
    Und dass versucht wurde, per ordre de mufti eine Punktkarte als einzig relevant festzulegen, um die ganze Akupunkturlehre nicht von Vornherein der Lächerlichkeit preiszugeben, ist auch bekannt.

  4. #4 Michael Winter
    12. August 2015

    Hallo Jürgen,
    Du schreibst von „Stellenanzeigen“ im paper ist von „Career coaching service for “$200k+” executive positions“ die Rede. Ist ein in kleiner Unterschied.

    Im paper ist von „Gender“ die Rede untersucht wird dann nur Frau/Man. – Wäre dann nicht „SEX“ die treffendere Bezeichnung? Die Physiker z.B. schaffen es ja auch Masse und Gewicht auseinanderzuhalten.
    Ebenso die Übersetzung „Diskriminierung“ – meint das jetzt im Deutschen >DiskriminierungUnterscheidung<.

  5. #5 Jürgen Schönstein
    12. August 2015

    @Michael Winter
    Stimmt, da habe ich geschlampt: Keine Stellen, sondern Headhunter-Anzeigen. Am “Vorurteil” des Algorithmus ändert das letztlich aber nichts…

  6. #6 BreitSide
    Beim Deich
    12. August 2015

    Ja schon. Aber, wie auch immer der Algorithmus aufgebaut ist, welche (legalen oder illegalen) Daten er auch heranzieht, das Ziel ist doch die Zufriedenheit des Kunden? Und wenn der die Welt diskriminierend sieht, MUSS doch der Dienstleister diese Sichtweise kopieren? Er kann ja seinen Auftraggeber nicht zu einem besseren Menschen machen? Er kann es wollen und versuchen, aber es ist nicht sein Auftrag.

    Kann natürlich auch sein, dass der(!) Headhunter gar nicht so weit denkt, sondern seine Vorurteile einfach einfließen lässt…

    Und es stimmt natürlich schon, Gugl ist nicht neutral, sondern vielfältigen kommerziellen und politischen Interessen verpflichtet. Ob seine (männlichen…) Chefs diese diskriminierende Sichtweise auf ihr Unternehmen übertragen haben?

  7. #7 der eine Andreas
    12. August 2015

    Ist ein Algorithmus, der die Wirklichkeit abbildet, sexistisch?

    Ja,ja – der Überbringer der Nachricht….

    Der werden also mehr Männern +200k$ Stellen angezeigt als Frauen.

    Gut:
    1. Frage: Da anscheinend nur die Ads der Seite “Times of India” ausgewertet wurde, liegt es an der Seite?
    2. Frage: Da es ja ads sind, die von den Kunden bezahlt werden müssen, wie lauten die Vorgaben der Werbekunden?
    3. Frage: Da ja ads nicht ziellos eingeblendet werden sollen, wie wertet Google allegemein Anfragen nach +200k-Stellen aus. Sprich: wie hoch ist die Anzahl der Suchanfragen nach +200k$-Stellen bei Männern bzw. Frauen?

    Oder anders gefragt:
    Bekommen User, die oft nach Aliens, Engeln, Impfschäden oder Impfverweigerung suchen, mehr Anzeigen für Gobuli und Esoterik-Hotlines und wenn ja, ist das eine Diskriminierung intelligenter Menschen?

  8. #8 BreitSide
    Beim Deich
    12. August 2015

    @deA: Falsche Frage!

    Wer oft nach Aliens etc sucht, kann nicht sehr intelligent sein. Es sei denn, er studiert diese Knallchargen. DAS weiß Gugl dann wohl nicht mehr…

    Ansonsten danke, dass Du meine Fragen praktisch 1:1 kopiert hast :rofl:

  9. #9 Michale Winter
    12. August 2015

    @ Jürgen
    „ Stimmt, da habe ich geschlampt: Keine Stellen, sondern Headhunter-Anzeigen.“

    Da würde mich interessieren wie das „schlampen“ aussah – in Netz sind einige Artikel mit der gleichen Aussage zu finden: Stellenangebote statt Weiterbildung.

    Was ich in paper nicht konkret gefunden habe ist wie sichergestellt wurde das die Ergebnisse wirklich auf einen Algoritmus beruhen und nicht z.B. auf Abblocken des Werbenden. Da Werbung gern per Klickzahl verkauft wird gibt es Sicherheiten gegen computergenerierte Klicks. Tausendfache Zugriffe aus einen Adressbereich lassen da doch die Alarmglocken schrillen?

  10. #10 Babe Ruthless
    13. August 2015

    > „und wenn nicht, dann ist sie “alternativ”, sondern schlichtweg gar keine Medizin.“
    Sommerrätsel: Welches Wort fehlt?

  11. #11 Babe Ruthless
    13. August 2015

    > „der Google-Anzeigenalgorithmus, der Stellenanzeigen für Topverdiener (>200.000 Dollar) bevorzugt männlichen Lesern auf den Bildschirm schob“
    Also Spam. Noch nie habe ich Offerten für eine Klitorisvergrößerung bekommen, oft aber immer nur für Penisverlängerung. Da sollte mal einer was gegen unternehmen!

  12. #12 Gus
    13. August 2015

    Zu dem Lesestück aus der NYT hätte ich als Querverweis gleich einen Lesetipp der auch die groben Fehler dieses Artikels aufzeigt…
    https://www.sciencebasedmedicine.org/we-should-abandon-the-concept-of-alternative-medicine

  13. #13 lindita
    13. August 2015

    Ich habe mal ein Kommentar zu Facebook-Algorithmus gelesen. Selbst wenn Fb Themen anbietet, die den Kunden nicht interessieren, werden sie einfach nicht angeklickt. Deshalb wird sich der Algorithmus in Zukunft noch mehr an den Kunden orientieren, sodass wir auch weiterhin in unsrem vorgefassten Weltbild ungestört bleiben.

  14. #14 BreitSide
    Beim Deich
    13. August 2015

    Exakt. Bei Gugl soll das “Search Bubble” heißen, sodass man immer mehr Treffer findet, die dem eigenen Weltbild entsprechen.

    Einerseits nett, andererseits gerät man dann leicht in eine selbstreproduzierende Falle.

  15. #15 Sven Türpe
    14. August 2015

    Diskriminierung ist kompliziert. Wie wäre der folgende Vorwurf zu entkräften:

    Dieses Blog stellt seine Inhalte schriftlich in deutscher Sprache im Internet bereit. Es diskriminiert jene, die der deutschen Sprache nicht mächtig sind oder über keinen Internet-Zugang verfügen. Sie können die Inhalte nicht lesen und nicht an der Diskussion teilnehmen.

  16. #16 Omnivor
    Am Nordpol von NRW
    14. August 2015

    @#11 Kann das nicht daherher kommen, dass einer Ihrer FB- oder G+ -Freunde häufig nach diesem Stichwort sucht und Sie zur psychischen Unterstützung vorbereitet sein sollen?

  17. #17 BreitSide
    Beim Deich
    22. August 2015

    Oh Sven, wie haben wir Deinen Scharfsinn vermisst [/Ironie]

  18. #18 BreitSide
    Beim Deich
    22. August 2015

    Hat hier jemand an der Bloguhr gedreht? Svens Kommentar #15 ist auf den 14. August datiert, trudelte aber erst heute bei mir ein (22. August) Omnivors (angeblich 14. August) auch.

  19. #19 Fritz
    28. August 2015

  20. #20 Fritz
    28. August 2015

    Wie funktioniert dies?

  21. #21 Fritz
    28. August 2015
  22. #22 Fritz
    28. August 2015

    [youtube http://www.youtube.com/watch?v=AyPzM5WK8ys%5D

    Auch das verstehe ich nicht

  23. #23 Fritz
    28. August 2015

    Auch dies ist schwierig zu verstehen

    [embed]https://www.youtube.com/watch?v=8pWlwiIT2hQ[/embed]

  24. #24 Fritz
    28. August 2015

    Test:

    😀 :bigsmile: 😉 :p :O 😐 🙂 :love: :party: :glasses: J) :steve: 8) :(( :~ 🙁 😐