Wenn man bei Google “Klimawandel ist …” eingibt, dann hängen die vorgeschlagenen Erweiterungen und die Suchergebnisse davon ab, was Google über den Nutzer und seine IP-Adresse weiß. Die Algorithmen von Facebook, Google, YouTube & Co. führen dazu, dass Nutzer sich immer stärker in ihrer Filterblase verfangen und nicht mehr hinauskommen, im schlimmsten Fall sich immer weiter radikalisieren.

Die Dokumentation “Das soziale Dilemma” (u.a. mit der Mathematikerin Cathy O’Neil) geht den Ursachen nach und befragt Insider und Aussteiger. “Ganze Teams von Entwicklern arbeiten daran, Ihre Psychologie gegen Sie einzusetzen” erzählt ein ehemaliger Google-Manager.
Netflix-Abonnenten – zu denen ich nicht gehöre – können den Film unter https://www.netflix.com/de/title/81254224 sehen. Unten der Trailer.

Kommentare (18)

  1. #1 uwe hauptschueler
    16. September 2020

    “Ganze Teams von Entwicklern arbeiten daran, Ihre Psychologie gegen Sie einzusetzen”

    Das liest sich schon fast wie eine Verschwörungstheorie. Was wollen die von mir, in welche Richtung soll ich geschupst werden?
    Die Suchanfrage “Klimawandel ist …” habe ich bei Google und startpage eingegeben. Große Unterschiede sind auf der jeweils ersten Ergebnissseite für mich nicht erkennbar.

  2. #2 Dr. Webbaer
    16. September 2020

    Die Algorithmen von Facebook, Google, YouTube & Co. führen dazu, dass Nutzer sich immer stärker in ihrer Filterblase verfangen und nicht mehr hinauskommen, im schlimmsten Fall sich immer weiter radikalisieren.

    So einfach ist es nicht, sog. Surfverhalten ist komplexer als derart, wie behauptet wird, auch ist es nicht so, dass jede ‘single action’ des Nutzers getrackt wird.
    Es lohnt sich manchmal die Entwicklerconcole des Browsers zuzuschalten, in der dann gesehen werden kann, ob Inhalteanbieter tracken.
    Die ScienceBlogs.de bspw. scheinen hier recht freundlich zu sein und tracken nicht.

    Die Idee von der Filterblase stammt von dem hier :

    -> https://www.amazon.de/Filter-Bubble-Personalized-Changing-Think/dp/0143121235

    -> https://de.wikipedia.org/wiki/Eli_Pariser (“politischer Aktivist”)

    Mit freundlichen Grüßen
    Dr. Webbaer

  3. #3 Dr. Webbaer
    16. September 2020

    Tracken schon, lol ….

  4. #4 Dr. Webbaer
    16. September 2020

    Tracken schon a bisserl …

  5. #5 Beobachter
    16. September 2020

    Es wundert mich nicht, dass man hier bei kritischer Auseinandersetzung mit “Big Data” und “Filterblasen” sofort in die VTler-Schublade gestopft wird … 🙂

  6. #6 rolak
    16. September 2020

    fast wie eine Verschwörungstheorie

    Nee, Uwe, das ist die völlig normale -und auch zutreffende- Beschreibung einer funktionalen MarketingAbteilung.

  7. #7 Beobachter
    16. September 2020

    @ rolak, # 6:

    “Ganze Teams von Entwicklern arbeiten daran, Ihre Psychologie gegen Sie einzusetzen”
    (Zitat aus # 1)

    Ist es also “völlig normal”, wenn Nutzer durch globale IT-Konzerne über ihr Konsumverhalten, ihre “Filterblasen”- und Zielgruppen-Zugehörigkeit ausgespäht werden und die so gewonnenen massenhaften Daten zu Marketing-Zwecken bzw. zur Profitmaximierung verwendet und weiterverkauft werden?
    Und es nur sehr begrenzt möglich ist, sich als Internet-Nutzer dem zu entziehen?

    Es gibt Kritiker/Datenschützer, die das nicht “völlig normal” finden …

  8. #8 Knusperkopp
    16. September 2020

    Erst einmal zum Beitrag:
    Danke Thilo für die Empfehlung/den Hinweis. Zwar befindet sich die Doku hinter einer Paywall, aber es gibt im Netz genügend Rezensionen mit Auszügen.

    Zur Doku:
    Ich habe mir die Doku letzte Woche angesehen und kann sie grundsätzlich empfehlen. Zumindest für Leute, die sich mit den Themen Influencing/Nudging auf derartigen Plattformen noch nicht so beschäftigt haben und wissen wollen, warum im Bereich Webdesign die Kenntnis der menschlichen Psychologie oft wichtiger ist, als das richtige Platzieren eines Werbebanners.

    Auch kommen am Rande technologische Komponenten ins Spiel wie der Infinite Scroll oder das Live A/B-Testing. Leider werden die Auswirkungen dieser Techniken nicht besprochen und somit reden die dort auftretenden “CTOs” und “Head of Developments” vor allem über psychologische Aspekte. Hier hätte eine tiefere Besprechung der Konsequenzen technologischer Entwicklungen der Doku gut getan.

    Insgesamt glaube ich, diese Doku ist mit “Eine unbequeme Wahrheit” (2006) vergleichbar: So erschreckend die Details doch sind, wirkt sich die Doku kaum im aktuellen, globalen Handeln aus. In 10-15 Jahren schauen wir dann zurück und hören die Dokumentare sagen “Wir haben’s euch ja gesagt”.

    Zu den Kommentaren:

    @#1 uwe hauptschueler:

    Das liest sich schon fast wie eine Verschwörungstheorie. Was wollen die von mir, in welche Richtung soll ich geschupst werden?

    Eigentlich handelt die gesamte Doku davon, diesen Ausspruch im Detail mit Hintergrundinformationen zu belegen. Ich frage mich also, warum man ein Zitat bewertet, ohne den Kontext zu kennen. In welche Richtung geschubst werden soll, sollte eigentlich klar sein: “Bleib auf der Plattform und betrachte die Inhalte!” Denn das ist die Grundformel, womit diese Plattformen Geld verdienen.

    Die Suchanfrage “Klimawandel ist …” habe ich bei Google und startpage eingegeben. Große Unterschiede sind auf der jeweils ersten Ergebnissseite für mich nicht erkennbar.

    Nicht eingeben und Enter drücken, sondern die Suchvorschläge in der Liste betrachten. Darum geht es.

    @#2 Dr. Webbaer:

    So einfach ist es nicht, sog. Surfverhalten ist komplexer als derart, wie behauptet wird, auch ist es nicht so, dass jede ‘single action’ des Nutzers getrackt wird.

    Auch hier gibt es viele Infos in der Dokumentation. Selbstverständlich wird möglichst jede single action erfasst. Das ist die Grundlage für eine datengetriebene Architektur. Warum sollte man es auch nicht machen, wenn der eigene Umsatz vom Wissen über das Nutzerverhalten und der Beeinflussung dessen abhängig ist?

    Es lohnt sich manchmal die Entwicklerconcole des Browsers zuzuschalten, in der dann gesehen werden kann, ob Inhalteanbieter tracken.

    Die Entwicklerkonsole des Browsers hilft nur bei der Betrachtung der Clientseite. Event getriggerte Funktionen auf Serverseite können gar nicht eingesehen werden. Tracking ist mehr als ein Cookie setzen oder einen Facebook Pixel laden. Das sind nur die Referenzen für die Datenzuordnung. Die Datenaggregation selbst geschieht auf vielerlei andere Arten (bspw. Javascript events aber gern auch einfach GET/POST Anfragen) und ist clientseitig nicht nachvollziehbar.

  9. #9 Christian
    16. September 2020

    Danke für den Reminder! Mein Browser ist seit längerem so eingestellt, dass er beim Schließen – unter anderem – sämtliche persönliche Daten vollständig verwirft. Das ist in Zeiten bildschirmfüllender Cookie-Abfragen zwar etwas aufwändig, andererseits kann ich dann ja bedenkenlos die häufig über das notwendige hinausgehende Cookie-Vorauswahl abnicken. Für Facebook verwende ich einen anderen Browser als für alle anderen Seiten. In Sachen Canvas-Fingerprint bin ich via Addon hoffentlich auf der richtigen Seite.

  10. #10 rolak
    17. September 2020

    »Zitat«
    »eigene, völlig zitatunabhängige Formulierung«
    Ist es also “völlig normal” (..) ?

    Es war keineswegs notwendig, zu demonstrieren, wie ein Strohmann-Argument aufgenaut ist und angewendet wird, Beobachter. Aber immerhin: ein eindrucksvolles Beispiel!

  11. #11 Sonstwas
    18. September 2020

    @ 1

    Zitat:
    Die Suchanfrage “Klimawandel ist …” habe ich bei Google und startpage eingegeben. Große Unterschiede sind auf der jeweils ersten Ergebnissseite für mich nicht erkennbar.

    -> Das man für jeden User inidviduelle Suchergebnisse programmiert, wäre möglich, ist aber nicht immer der Fall oder nötig oder wirklich hilfreich, was die Sekundärinteressen von solchen Datenbankbetreibern angeht.
    Vielleicht sind sie schlicht zu uninteressant? Zu “gewöhnlich” und bekommen die gewöhnliche Anfragen-Antwort, die es gegenwärtig aufgrund der allegmeinen Öffentlichkeits-Konstellation eben gibt?

  12. #12 Struppi
    18. September 2020

    Ich verstehe nicht wo das Problem ist, wenn Menschen “Filterblasen” haben?

    Das war schon immer so und hat niemanden geschadet. Ein Problem wird es erst, wenn man nicht mehr miteinander spricht und sich nicht damit auseinandersetzt warum jemand in dieser oder jener Blase ist.

    Letztlich wirkt die ganze Berichterstatung darüber so, als ob es darum ginge irgendwelche Wahrheiten müssten verkündet werden und dürften auf keinen Fall anders betrachtet werden.

    Welchen Sinn macht es, wenn alle glauben der Klimawandel ist eine Katastrofe? Was passiert schlimmes, wenn es einige Menschen anders sehen?

    Auf mich wirken alle diese Debatten wie eine neue Form einer Kirche der sich alle zugehörig fühlen. Zum einen um sich selbst als Teil der Guten betrachten zu können und viele brauchen auch die Häretiker die man mit Unheil überschütten kann.

    Daher lasst den Menschen doch ihre Blasen, ihr bewegt euch auch in euren. Dagegen gibt es nichts zu sagen. Wenn euch diese Menschen stören, geht ihnen einfach aus den Weg, macht ihr doch im RL (hoffentlich) auch. Normalerweise sucht man sich Freunde dort, wo man auf gleichgesinnte trifft.

    Zum technischen: Meiner Ansicht nach, sollte man sich nicht im Internetz ohne uMatrix bewegen. Alls aktiven Inhalten beim Besuchen von Seiten müssen geblockt werden. Da wie es schon hier geschrieben wurde, JS (und zum Teil auch CSS) ohne aktives zutun im Hintergrund massiv Daten zum auspionieren des Nutzerverhaltens übertragen kann. Wer das auf spezifischen Seiten will, muss uMatrix dann konfigurieren. Diesen Aufwand möchten die Menschen aber nicht machen.

  13. #13 Struppi
    18. September 2020

    Oh – weil es etwas falsch rüber kommt.

    Mit “Nicht sprechen” und “aus dem Weg gehen” sind zwei verschiedene Dinge für bestimmte Umstände gemeint.

    Wenn es um Entscheidungen im zusammenleben geht, ist das mteinander sprechen wichtig. Im Privaten muss ich micht nicht mit Menschen, mit anderer Meinung beschäftigen.

  14. #14 Dr. Webbaer
    21. September 2020

    @ Kommentatorenfreund ‘Knusperkopp’

    ‘Datenaggregation’ ist clientseitig derart nachvollziehbar, wenn der Traffic seitens eines möglicherweise übergriffig werdenden Inhalteanbieters des Webs beobachtet wird.
    Sicherlich ist es Dr. W s-egal, das kleine ‘S’ meint hier Suboptimales, wenn wie gemeint getrackt wird, vgl. mit diesem Jokus im Kommentariat (von Ihnen) :

    -> ‘Warum sollte man es auch nicht machen, wenn der eigene Umsatz vom Wissen über das Nutzerverhalten und der Beeinflussung dessen abhängig ist?’ [Quelle]

    Denn es gibt ja auch Sittlichkeit, Ethik, Ethos und so.

    Hier, bei – ‘Die Algorithmen von Facebook, Google, YouTube & Co. führen dazu, dass Nutzer sich immer stärker in ihrer Filterblase verfangen und nicht mehr hinauskommen, im schlimmsten Fall sich immer weiter radikalisieren’ -, musste Dr. Webbaer ein wenig schmunzeln, denn dies ist schlicht (“schlecht”) unzureichend kognitiv-intellektuell unzureichendes Denken, wie Dr. Webbaer findet.

    Dies hier :

    -> https://de.wikipedia.org/wiki/Eli_Pariser (von dem “Pariser” erfunden wie beigebracht, ist aus diesseitiger Sich Bull, denn auch das sich mindest anmaßende Subjekt konsumiert im Web multilateral)
    Sie sind, Kommentatorenfreund ‘Knusperkopp’, wie Ihre Fachkenntnis auch hindeutend ist, im Apparat, woll, im bundesdeutschen, vielleicht auch international tätig, “Mounk’ und so?, not bad, gute Arbeit!
    (Nun, “gute” Arbeit, lol.)

    Mit freundlichen Grüßen
    Dr. Webbaer

  15. #15 Dr. Webbaer
    21. September 2020

    Dies hier :

    -> https://de.wikipedia.org/wiki/Eine_unbequeme_Wahrheit

    … ist aus diesseitiger Sicht Ökologismus. [1]

    Auch hier – Zur Doku:
    ‘Ich habe mir die Doku letzte Woche angesehen und kann sie grundsätzlich empfehlen. Zumindest für Leute, die sich mit den Themen Influencing/Nudging auf derartigen Plattformen noch nicht so beschäftigt haben und wissen wollen, warum im Bereich Webdesign die Kenntnis der menschlichen Psychologie oft wichtiger ist, als das richtige Platzieren eines Werbebanners.’ – steifen einige eher negativ ab, das Webdesign meint übrigens nicht direkt Agitation, sondern dient meist eher der sog. Ergonomie – und vor allem auch Moden, gar farblicher und ansonsten anders beeinflussender Art, die Form unterliegt aber dem Inhalt.

    So wird zwar a bisserl manipuliert zwar, so können Formen aber nie den Inhalt überschreiben.

    Genau deshalb mag Dr. Webbaer auch gerade Sozialingenieure (oder “mag”, vgl. mit “Rattenfuss” Kommentatorenfreund ‘Knusperkopp’) und ihre Arbeit, insbesondere auch : ihre öffentliches Hervorkommen.

    Sicherlich will Dr. W mit seinen kleinen Einschätzungen nicht der möglichen Manipulation der Menge als eben möglich gegenreden.

    Mit freundlichen Grüßen
    Dr. Webbaer (Nice1, Kommentatorenfreund ‘Knusperkopp’, da war jemand vom Fach dabei, kommentarisch und hier, in diesem kleinen Feedback-Bereich)

    [1]

    Der Ökologismus ist genau so definiert, dass der Natur ein intrinsischer Wert zugesprochen wird, das gegnerische Konzept ist das biblische Dominium Terrae, dem u.a. auch Old Webbaer zuspricht.

  16. #16 Beobachter
    21. September 2020

    Also, jeder kriegt im Internet die Manipulationen untergejubelt, die er verdient bzw. auch “will” – er weiß es bloß noch nicht ?!
    Und freuen tun sich immer die gleichen, nämlich die wenigen globalen IT-Konzerne, die dahinterstecken und sich dumm und dämlich dran verdienen?!

    Frei nach Steve Jobs:
    Es werden Produkte entwickelt und hergestellt, von denen der Nutzer/Kunde noch gar nicht weiß, dass er sie brauchen wird.

    Nun warnen viele Pioniere von damals ihren Nachwuchs vor den “Geistern”, die sie selbst riefen –
    und auch heutige IT-Manager “halten ihre Kinder von den eigenen Produkten fern” :

    https://www.swr.de/swr2/wissen/suechtig-im-netz-kampf-gegen-die-droge-facebook-swr2-wissen-2020-08-12-102.html

    Lesenswert !

  17. #17 Wilhelm Leonhard Schuster
    Ansbach
    22. September 2020

    Blase (n) bekommt man an Händen oder Füßen,
    wenn diese, eine starke, ungewohnte, urplötzliche Belastung ertragen müssen.

    Eine (lustig schillernde) Seifenblase, kann aus dem “Odem voller Brust” erzeugt und in die Umgebung abgegeben werden, wissend, daß sie sicherlich alsobald zerplatzen wird.

    (0hne Schaden anzurichten?- Ist allerdings in “Corona Zeiten” fraglich.)

    Brand Blasen, tun arg weh und können tödlich sein.

    Hier geht es um “Filterblasen im Internet” in die /man/ “geschupst” werden kann oder auch wird.

    Der Schupser gibt es in der Tat viele.
    Hier z. B. H. Kuhn oder H. Freist. oder den Flo., bei Berger “Schupsbeauftragter”.
    Diesen Herren ist es unbenommen, “IHREN ” Blog sauber zuhalten und den “lästigen Schuster” einfach “demokratisch” zu sperren.

    Hier geht es jedoch um Grundlegendes :

    Ein (e) unbekannte (hinterhältige?) Menschengruppe
    will mich, den Schuster, a la Stasi, Gestapo, Verfassungsschutz , Rom, Mekka, Wall Street, Moskau oder Peking ct., manipulieren.

    Ich bin mir bewußt, im “Malstrom der Geschichte und Gegenwartsgeschichte” (lol, was ist DIE schon gegen die Unendlichkeit!) wie wir alle , befangen zu sein.

    Dennoch: Das Internet bietet Information aus allen Ecken und ich kann frei wählen, Umschalten und Ausschalten.

    Königsberg und Breslau , Danzig, Eger und Kolberg
    Siebenbürgen und Straßburg , Prag ct.
    sie alle sind Geschichte, aber mahnen! ( auch Europa.)

    Daß ich selbiges hier bemerken darf , läßt hoffen:

    Noch ist Hopfen und Malz nicht verloren-,
    obwohl das große “Säuferfest”, die Wies´n
    Im Jahre Domini 2020 total ausfällt.

  18. #18 Prof. Dr. Müller-Lüdenscheidt
    16. November 2020

    Die Dokumentation weisst auf einige valide Punkte hin. Die Story zur Verdeutlichung ist teilweise an den Haaren herbeigeschleift, aber man muss das Thema Privtasphäre und big five auch der breiten Bevölkerung zugänglich machen: Wenn man den Leuten eine Stunde lang nur Tabellen und Zahlen um die Ohren haut, hört keiner mehr zu.

    Die einfache Unterscheidung zwischen Verschwörungsmysterien und Dokumentationen ist die stringente Beweisbarkeit: Für jeden überprüfbare Fakten und nachvollziehbare Quellen. Das dürfte bei Flacherdlern, den Q-Fans mit pedophilien Kinder-Kannibalen-Eliten schwierig sein.

    Das Phänomen der Filterblase wird durchaus von sozialen Netzwerken und Internetforen gefördert. Beipiel Flacherdler. Im Alltag wahrscheinlich wenig positive Resonanz und Solidarität und teilwiese sogar Spoot und Häme (nicht zu unrecht). Wenn die sich im Internet treffen und tausende weltweit sich die Bälle zuspielen fühlen die sich in ihrem Wahn bestätigt.

    Einer wollte sich sogar schon mit selbstgebastelten Rakete ins All schiessen, um die Scheibenerde zu beweisen: https://www.popularmechanics.com/space/rockets/a31077307/mad-mike-hughes-death-flat-earth-rocket-crash/

    So führt eines zum anderen,Chemtrails, Harp, Andreochrom, der tiefe Staat, die netten Russen, die lieben Chinesen, die bösen Amerikaner, Corona-Diktatur etc pp.

    Wir sind immer sehr amüsiert über Illeismus bei gleichzeitiger Selbstbeweihräucherung.
    Prof. Dr. ML glaubt fest an die Aufklärung und an die Freiheit des Willens.