“Ich persönlich bin auch der Meinung, dass Algorithmen transparenter sein müssen, sodass interessierten Bürgern auch bewusst ist, was eigentlich mit ihrem Medienverhalten und dem anderer passiert”

meint die Kanzlerin und

“Die Kanzlerin meint sicher nicht, dass die Firmen ihre Geschäftsgeheimnisse offenlegen sollen. Aber wir brauchen mehr Informationen von Betreibern wie Facebook darüber, wie ihr Algorithmus im Großen und Ganzen funktioniert.”

rudert ein Parteifreund sofort zurück. (Spiegel Online)

Wie Googles Suchalgorithmus PageRank funktioniert, das ist im Großen und Ganzen bekannt: das Gewicht einer Seite berechnet sich aus den Gewichten der auf diese verweisenden Seiten, welches sich wieder aus den Gewichten der auf sie verweisenden Seiten berechnet usw. Das dabei zu lösende Gleichungssystem führt auf ein Eigenwertproblem. In dem seit 2013 verwendeten Algorithmus Google Hummingbird gehen neben dem PageRank noch weitere Parameter ein, Stichwort semantische Suche.

Aber es ging hier natürlich nicht nur um den Suchalgorithmus, sondern vor allem darum, wie die erhobenen Daten verwendet werden, um personalisierte Werbung zu steuern. Warum ich zum Beispiel Angebote für Flüge nach Warschau angezeigt bekomme, wenn ich am Vortag einem polnischen Kollegen eine e-Mail (nicht mit googlemail) geschickt habe. Oder warum manche scienceblogs-Leser Homöopathiewerbung angezeigt bekommen und andere nicht.

Like gods, these mathematical models were opaque, their workings invisible to all but the highest priests in their domain: mathematicians and computer scientists.

ist eine der Thesen in Cathy O’Neils neuem Buch “Mathevernichtungswaffen”. Mathematiker und ihre Algorithmen seien die neuen Herrscher.

Oder sind vielleicht die Verfahren schon so komplex, dass sie ohnehin von niemandem mehr durchschaut werden können? Wie beim Go-Spiel?

Kommentare (26)

  1. #1 tomtoo
    27. Oktober 2016

    Nur zur Theorie so als Frage.
    Wie sollte das Funtionieren beim Einsatz von immer Komplexeren neuronalen Netzwerken, bei denen der enstehende “Algorithmus” als solches ja garnicht direkt bzw einfach einzusehen ist. Also dein Beispiel “go”. Der entstehende Algo also sozusagen eine Art Blackbox ist die nach ihrer Funktion bewertet wird. Keiner der Programierer spielt so gut “go” wir der entstandene “algo”.
    ??????

  2. #2 tomtoo
    27. Oktober 2016

    @tomtoo #1
    letzten Satz bitte streichen der ist verwirrend.

  3. #3 Thilo
    27. Oktober 2016

    Das sehe ich ähnlich; deshalb meinte ich, dass man die “Algorithmen” inzwischen auch als Mathematiker vielleicht gar nicht mehr durchschauen könnte.

  4. #4 tomtoo
    27. Oktober 2016

    @Thilo
    Ich finde das ist spannend, weil das ganze ja so komplex wird, das es ja sozusagen den “Deternimismus” langsam verlässt. Ist kein Zufall aber vorhersagbar für den Einzelnen(Gruppe?) auch nicht direkt. Echt spannendes Thema. “Der Geist in der Machine” ?
    Also anders als ein Schach Algo der ja mit Suchbäumen arbeitet. Beim Schach würde der Algo bei gleicher Stellung gleich antworten aber bei einem trainierten Netzwerk nicht unbedingt. Könnte sich der “Algo” ja in der zwichenzeit durch training verändert haben.

  5. #5 Tim
    27. Oktober 2016

    Alberner Quatsch von Merkel, die es als Wissenschaftlerin eigentlich besser wissen müßte.

  6. #6 Thilo
    27. Oktober 2016

    Es gibt also keine Alternativen?

  7. #7 tomtoo
    27. Oktober 2016

    @Thilo #6
    Entschuldigung ??
    Was meinst du mit keine Alternativen ?

  8. #8 Arno
    28. Oktober 2016

    Für sehr viele kleine Betriebe oder sogar Ein-Mann/Frau Betriebe ist das Google Ranking lebenswichtig zum Überleben.

    Rutschen diese kleinen Betriebe auf die zweite oder dritte Google Seite, dann ist es oft ein Umsatzverlust von weit über 50%.

    Oft wissen diese kleinen Betriebe gar nicht, wieso sie auf einmal runterrutschen und versuchen dann verzweifelt alles zu machen um wieder im Ranking nach oben zu kommen.

    Ein transparenter Algorithmus könnte diese geschäftliche Katastrophe oft verhindern.

  9. #9 tomtoo
    28. Oktober 2016

    @arno
    Aber das Thema war ja das der “algo” evtl. garnicht transparent darstellbar ist.

  10. #10 Rene F.
    28. Oktober 2016

    @Thilo
    “Es gibt also keine Alternativen?”
    –>

    Politisch gesehen gibt es genau eine Alternative

  11. #11 Arno
    28. Oktober 2016

    > tomtoo
    > Aber das Thema war ja das der “algo” evtl. garnicht transparent darstellbar ist.

    Das stimmt so nicht, jeder Quellcode der veröffentlicht wird ist transparent für qualifizierte SW-Entwicklker.
    Auch der Google Alg ist, sofern man qualifiziert ist durchschaubar. Noch wird der Quellcode von Menschen geschrieben, die wissen müssen was sie da machen 🙂

    Sollte es aber einmal gar nicht mehr möglich sein die SW zu verstehen, dann kann man eine Simulation starten mit veränderlichen Parametern.

    Aber die erste Voraussetzung ist, sie muß öffentlich einsehbar sein und genau das ist bei z.B. Google nicht der Fall.

  12. #12 tomtoo
    28. Oktober 2016

    @arno
    Nö der Gedanke war ja das Google evtl. trainierte künstliche neuronale Netzwerke wie bei “go” einsetzt. Da ist der Algo also das Programm ,das du siehst, nur wie ein leeres Gerüst. Der “Algo” ensteht erst durchs training. Das Programm zur Erzeugung des “Gerüsts” können sie dir schenken oder open source machen.Algo und “Algo” meint da nicht das Selbe.

  13. #13 Rene F.
    28. Oktober 2016

    Der Algo. den Google einsetzt, ist weitestgehend offengelegt und transparent. Nicht offengelegt hingegen ist dessen Parametrisierung (z.B. Gewichtungen), da das Google als Geschäftsgeheimnis ansieht.

    Insgesamt ein äußerst durchschaubarer (aber gleichzeitig zum Scheitern verurteilter) Versuch seitens des Merkels, Kontrolle über die Meinungsbildung in sozialen Netzwerken zu gewinnen.

  14. #14 tomtoo
    28. Oktober 2016

    Was hat die Google Suchmaschine mit der Meinungsbildung in sozialen Netzwerken zu tun ?

  15. #15 Rene F.
    28. Oktober 2016

    @tomtoo

    Wenn mir der Algo komplett offenliegt, kann ich quasi perfekte SEO betreiben und von mir gewünschte Inhalte pushen, die natürlich meinungsbildend in eine bestimmte Richtung sein können.

  16. #16 rolak
    28. Oktober 2016

    nicht das Selbe

    Doch, ganz dasselbe, tomtoo, genau wie beim Menschen. Da kann ja auch schon am Geburtszeitpunkt exakt bestimmt werden, wie der Mensch genau werden wird.
    Behaupten zumindest Astrologen.

    Nee, im Ernst, bei Kommentaren gibts ja (grob) zwei wesentliche Gesichtspunkte. Doch diesmal stört nurmehr die etwas eigenwillige Form. Und inhalt¹lich stimme ich völlig mit dem Geschriebenen überein. Auch wenn so ein Gebilde kein in Stein gemeißelter Algorithmus ist, die Gleichung eher Algo≠aAlgo bzw Algo≠Algo´(t) lauten sollte, im Sinne von aktueller Algorithmus zur Zeit t. Genau wie beim Menschen, mit dem Denken bewerten wir Geschenisse und analysieren Zusammenhänge ja auch fast nie auf identische Weise. Das Grundprinzip des Dazulernens.

    weitestgehend offengelegt und transparent

    ‘Offengelegt’ und ‘weitestgehend offengelegt’ ist nicht dasselbe, verhält sich zueinander wie ‘schwanger’ und ‘fast schwanger’. ‘Offengelegt’ und ‘transparent’ hat nicht einmal etwas miteinander zu tun, Rene. Solange es nicht die exakte Vorschrift des Ablaufes ist, ist bestenfalls die Klasse von Algorithmen offengelegt, solange eine korrekte Umsetzung nicht dieselben Ergebnisse erbringt, ist es nicht ‘Algorithmus xy’.
    ‘Transparenz’ bedeutet hier nur die Übersicht ‘welche generellen Daten fließen ein’ (und ggfs ‘wie werden sie ermittelt’), ‘wie lange werden sie gespeichert’ und ‘wer bekommt Daten/Ergebnisse noch alles?’

    Kontrolle über die Meinungsbildung

    Wie Dir vielleicht entgangen ist, dreht es sich in Merkels Satz primär nicht um irgendwelche Firmen-Algorithmen, sondern um das Denken der Bürger. Um solche VollpfostenFehlinterpretationen der unterstellendsten Art zu unterbinden, meinte Jarzombek wohl, die Bedeutung des Gesagten auf kleinerem Niveau erklären zu müssen.

    seitens des Merkels

    Und wie an Deiner auch noch menschenverachtenden Auslassung erkennbar wird, hat er das Niveau bei weitem noch nicht weit genug heruntergeschraubt.

    _____
    ¹ halb© Bullet

  17. #17 Rene F.
    28. Oktober 2016

    @rolak

    “…, dreht es sich in Merkels Satz primär nicht um irgendwelche Firmen-Algorithmen, sondern um das Denken der Bürger”

    Das hast Du doch perfekt erkannt. Selbstverständlich geht es der Regierung nicht darum, dafür zu sorgen, dass die Bürger breite Informationen bekommen, sondern darum, nur gewünschte und gefilterte.
    Nachdem sich Öttinger schon bei den Verlegern beschwert hatte, dass die Online-Redaktionen im Gegensatz zu den Print-Redaktionen nicht regierungskonform berichten (https://youtu.be/vYt_7BVD1QQ), war abzusehen, dass die Regierung mehr Einfluss auf den Online-Bereich nehmen wird.

  18. #18 Rene F.
    28. Oktober 2016

    @rolak

    “Und wie an Deiner auch noch menschenverachtenden Auslassung erkennbar wird, hat er das Niveau bei weitem noch nicht weit genug heruntergeschraubt.”

    Sorry, ich bin Migrant und der deutschen Sprache nicht 100% mächteig. Was meinst Du damit?

  19. #19 shader
    28. Oktober 2016

    @Arno: “Oft wissen diese kleinen Betriebe gar nicht, wieso sie auf einmal runterrutschen und versuchen dann verzweifelt alles zu machen um wieder im Ranking nach oben zu kommen.

    Ein transparenter Algorithmus könnte diese geschäftliche Katastrophe oft verhindern.”

    Wenn der Algorithmus transparent wäre und der kleine Betrieb richtet sich danach, dann kommen wieder andere auf die zweite Seite, sprich ins Hintertreffen. Es wird immer so sein, auf die erste Seite passen stets nur 10 Treffer drauf, egal ob der Algo durchsichtig ist oder nicht.

  20. #20 shader
    28. Oktober 2016

    Das wäre übrigens alles weit weniger ein Problem, wenn die Europäer eine leistungsstarke Alternative zu Google aufstellen würden und das Monopol brechen.

  21. #21 shader
    28. Oktober 2016

    Vor 20 Jahren saß ich an der TU und hörte mir Vorlesungen zu Robotik und Neuroinformatik an. Dort wurde u.a. vermittelt, welche Voraussetzungen Programme haben müssen, um komplexes Verhalten nachbilden zu können. Weg von der Vorstellung, ein Programmierer überlegt sich für alle Konstellationen die passende Reaktion, die er der Maschine einprogrammiert. Hin zu Algorithmen, die der Maschine eine interne Repräsentation der Umwelt ermöglicht und intern Aktionen simulieren kann. Mit dem Effekt, dass der menschliche Programmierer diese maschineninterne Repräsentation nicht mehr verstehen wird. Aber das ist notwendig, weil man für komplexe System nicht mehr eine vollständige if…then…-Liste aufstellen kann. Ähnlich wie meine Vorredner denke ich, wird es immer schwerer komplexe Algorithmen wie die von Google vollends zu verstehen, das schaffen selbst die hauseigenen Programmierer nicht mehr.

    Es gibt aber Algorithmen, die weit weniger komplex sind, und dessen Abläufe man gut verstehen könnte, aber aus Wirtschaftsinteressen nicht veröffentlicht werden. Stichwort, Computerprogramme, die über die Vergabe von Bankdarlehen mitentscheiden. Kurz Kreditscoring. Wenn beispielsweise in Deiner Straße drei Deppen wohnen, die ihren Kredit nicht rechtzeitig zurückbezahlt haben, kann allein Deine Postadresse dazu führen, dass Du ein stückweit als kreditunwürdig eingestuft wirst. Teilweise arbeiten solche Systeme mit linearen Gewichten. Man hat auch herausgefunden, dass viele Wohnungswechsel auch zu Kreditunwürdigkeit führen. Ich frage mich nun, warum Frau Merkel nicht öffentlich für die Transparenz solche Bank-Algorithmen eintritt? Kann es vielleicht sein, dass diese Banken eine größere Lobby haben, als die noch jungen Industrien wie Google und Facebook? ich finde aber, es wäre ein Extra-Thema wert.

  22. #22 tomtoo
    30. Oktober 2016

    Noch etwas spielerisches bzgl. deep learning.
    https://www.cmu.edu/news/stories/archives/2016/september/AI-agent-survives-doom.html
    Ein Schelm dem jetzt das DOD in den Sinn kommt. 😉

  23. #23 tomtoo
    2. November 2016
  24. #24 Thilo
    2. November 2016

    Wie im letzten Tatort?

  25. #25 tomtoo
    2. November 2016

    Uhpss sry bin nicht so der Tatortfän.
    Hab nur kurz gelesen dass es wohl um eine KI ging.
    Ich meine NN’s waren mal eine ganze Zeit lang nicht stark in den Medien vertreten. Ich glaube selbst in den Computerwissenschaften gabs da eine ziemliche Durststrecke.