StartseiteMathlog

Physik-Nobelpreis für neuronale Netze

Von / 8. Oktober 2024 / 15 Kommentare
Mehr

Der Physik-Nobelpreis geht in diesem Jahr an John Hopfield und Geoffrey Hinton für die Entdeckung der Boltzmann-Maschine, die Hinton aufbauend auf den Hopfield-Netzen entwickelte.

Trotz der Herkunft aus der Physik handelt es sich dabei eigentlich um rein mathematische Konzepte. Eine Erklärung in 6 Minuten gibt das folgende Video.

Stichworte: ,
Mehr

Kommentare (15)

  1. #1 Fluffy
    8. Oktober 2024

    Schon erstaunlich, dass man den Nobelpreis für etwas bekommt, das man in 6 Minuten erklären kann, und nicht 6 Jahre studieren muss.

  2. #2 N
    6
    8. Oktober 2024

    zu #1
    Das Geniale an dem Hopfield Netz ist seine Einfachheit und gleichzeitig die Schwierigkeit es statistisch auszunutzen.
    Und wenn man dann noch vorher rekapitulieren muss, was Boltzmann damit zu tun hat, dann reichen 6 Minuten nicht , weder zum Erklären noch zum Verstehen.

  3. #3 Robert
    8. Oktober 2024

    Irgendwie ist ja letztlich alles Mathematik.. https://www.xkcd.com/435/

  4. #4 N
    9. Oktober 2024

    zu #3
    Nicht alles ist letztlich mathematisch beschreibbar. Z.B. dieser Witz:

    Warum haben Ostfriesen so gelbe Bäuche?
    Weil sie immer gegen den Wind pinkeln.

  6. #6 N
    9. Oktober 2024

    Thilo
    Ihr link liegt hinter der Bezahlschranke.
    Dass gerade ein Tischlerlehrling auf die Idee kommt rückwärts zu analysieren ist naheliegend.
    Wenn ich es richtig verstanden habe, geht es um das Verhältnis von den Bauteilen zum Ganzen und wieder umgekehrt sollen aus dem Ganzen die einzelnen Bauteile gefunden werden ohne den Schrank z.B. zerlegen zu müssen.
    In der Elektronik gibt es ähnliche Aufgaben. Der Schaltplan ist verloren gegangen und die Funktion der Schaltung ist nicht vollständig verstanden.
    Der Output einer Logikschaltung ist bekannt, der Input nicht, kann aber rekonstruiert werden. Und da es verschiedene Möglichkeiten gibt, hilft die Wahrscheinlichkeit weiter.
    Sollte ich ganz falsch liegen, dann bitte einen Fingerzeig !

  7. #7 rolak
    9. Oktober 2024

    imho besonders hübsche Reaktion auf die Preisvergabe: Sabine Hossenfelders KurzClip

  8. #8 Frank Wappler
    9. Oktober 2024

    Thilo schrieb (8. Oktober 2024):
    > https://i1.wp.com/scienceblogs.de/mathlog/files/2024/10/IMG_1684.png?resize=590%2C287&ssl=1 […]

    {\color{red}{ b^h_j }} := \Sum_k \, {\color{black}{ w^h_v }} \, {\color{red}{ b^v_k }},

    {\color{red}{ \mathbf b^h }} := {\color{black}{ \mathbf{ W^h_v } }} \, {\color{red}{ \mathbf b^v }} ,

    {\color{red}{ \mathbf b }} := {\color{black}{ \mathbf{ W^a_b } }} \, {\color{red}{ \mathbf a }} ,

    {\color{red}{ \mathbf b }} := {\color{black}{ \mathbf{ W^a_b } }} \, {\color{red}{ \mathbf a }} ,

    {\color{red}{ b_j }} := \Sum_k \, {\color{black}{ w^k_j }} \, {\color{red}{ a_k }}.

    Ist eine Notations-Sandbox denn letztlich nur angewandte Soziologie ?: https://www.xkcd.com/435/ …

  9. #9 Frank Wappler
    https://scienceblogs.de/mathlog/2024/10/08/physik-nobelpreis-fuer-neuronale-netze#SandBox
    9. Oktober 2024

    {\color{red}{ \mathbf b }} := {\color{black}{ \mathbf{ W^a_b } }} \, {\color{red}{ \mathbf a }} ,

    {\red{ \mathbf b }} := {\black{ \mathbf{ W^a_b } }} \, {\red{ \mathbf a }} ,

    \mathbf b := {\mathbf{ W^a_b }} \, \mathbf a .

  10. #10 Naaja
    Magdeburg
    10. Oktober 2024

    Der Youtube-Beitrag ist wirr!

  11. #11 Fluffy
    11. Oktober 2024

    Natürlich allen Respekt vor der Entwicklung der Neuronalen Netze.
    Aber der Physik-Nobelpreis ist wohl auch nicht mehr das, was er mal war. Oder er war noch nie das, was er sein sollte? Siehe auch
    Lise Meitner
    Sollte man die Leistung zur Erfindung der Neuronalen Netze nicht lieber der Biologie zuordnen? Schließlich gelten sie ja als “Mimic of the Brain”.
    Wer sind eigentlich John Hopfield und Geoffrey Hinton?
    Das Durchforsten der Wikipedia () ergibt u.a. folgendes.
    Hopfield:Physiker, Molekularbiologe und Neurowissenschaftler
    Professuren für Physik, Chemie und Biologie, Neurobiologie
    Hinton: Informatiker und Kognitionspsychologe

    Von 1998 bis 2001 entstand unter seiner Leitung die Gatsby Computational Neuroscience Unit am University College London, seitdem arbeitet er weiter als Professor an der Universität Toronto, seit 2014 als University Professor Emeritus. Im Jahr 2012 verkaufte Hinton sein damaliges Start-up und seine eigene Arbeitskraft für 44 Millionen US-Dollar an Google

    Wozu dienen die sogenannten Boltzmann-Netze?

    Restricted Boltzmann Machines wurden zum kollaborativen Filtern auf Netflix eingesetzt.

    Des weiteren dienen Boltzmann Machines zur Muster-(wieder)-Erkennung. Also, finde alle Kätzchen im Bild, aber eben auch zur Gesichtserkennung.
    Natürlich gibt es gewisse Parallelen zur Physik, wie die Boltzmannfunktion, in der Mathematik auch Logistische Funktion genannt, die Minimierung einer Energiefunktion, in der Mathematik allgemeiner quadratisches Funktional genannt.
    Wie schon gesagt, nichts gegen die überragenden wissenschaftlichen Leistungen, aber die Anwendungen von Boltzmann-Maschinen liegen auch auf den Gebieten der Kundenanalyse und Muster-(Gesichts)-Erkennung.

  12. #12 hto
    12. Oktober 2024

    Tja, das Universum ist ein Gehirn – Finde ich sehr gut, passt hervorragend zur Berechnung des holographischen Universums.
    🙂

  13. #13 Kai
    Jena
    14. Oktober 2024

    Sollte man die Leistung zur Erfindung der Neuronalen Netze nicht lieber der Biologie zuordnen? Schließlich gelten sie ja als “Mimic of the Brain”.

    Bitte nicht! Mit Biologie haben die noch weniger zu tun als Physik 🙁
    Ich kriege jedes Mal die Krise wenn jemand behauptet, künstliche neuronale Netze würden echte Neuronen imitieren. Dabei gibt es nahezu keinerlei Zusammenhang zwischen künstlichen neuronalen Netzen und echten neuronalen Netzen.

    Wer sind eigentlich John Hopfield und Geoffrey Hinton?

    Hinton war ein Pionier des Deep Learnings und war nahezu an allen Entwicklungen in diesem Gebiet beteiligt. Seine bedeutende Rolle in der Wissenschaft steht meiner Meinung nach außer Frage. Aber natürlich ist er kein Physiker 😉

    Die Auszeichnung für Hopfield-Netzwerke und Boltzman-Maschinen… naja, man kann behaupten es handle sich hier um die Vorläufer heutiger neuronaler Netze, man kann aber auch genauso gut behaupten dies sind veraltete Methoden die man heute nicht mehr verwendet. Ich glaube der Grund, warum man diese Methoden für den Physik-Nobelpreis vorschlägt, war eher dass man eine Begründung brauchte warum ein Physik-Nobelpreis an KI Forschung geht.

  14. #14 hto
    wo Netzwerke gleichermaßen gebildeter Suppenkaspermentalität ...
    14. Oktober 2024

    Die Evolution, die seit Mensch erstem und bisher einzigen GEISTIGEN Evolutionssprung in wettbewerbsbedingter Konfusion stattfindet, bewirkt zwei Revolutionen:

    1. Die ideologische (R)evolution
    2. Die technokratische (R)evolution

    Ideologisch, also Philosophie und Religion, haben Menschen die fusionierende Entwicklung von der gleichermaßen unverarbeitet-instinktiven Bewusstseinsschwäche, zum ganzheitlich-ebenbildlichen Wesen Mensch, nachhaltig in alle Richtungen verkackt – Dafür scheint ein Geist/Zentralbewusstsein das Programm für das holographische Universum geschrieben/gedingsbumst zu haben, um …

    Technokratisch, also entmenschlichend im Sinne der materialistischen “Absicherung” bis Mensch nicht einmal mehr atmen muss, im stumpf-, blöd- und wahnsinnigen Siegeszug zur finalen Idiotie des “tragischen” Todes!?

  15. #15 Bernd Nowotnick
    4. November 2024

    #13
    Zu: „Ich glaube der Grund, warum man diese Methoden für den Physik-Nobelpreis vorschlägt, war eher dass man eine Begründung brauchte warum ein Physik-Nobelpreis an KI Forschung geht.“ Das denke ich aus folgendem Grund nicht:
    Durch gezielte optische Manipulationen kann ein einzelnes Photon nicht nur Informationen transportieren, es kann auch Rechenoperationen durchführen. Mithilfe kommerziell erhältlicher elektrooptischer Modulatoren ist es nach https://www.scinexx.de/news/physik/kleinsten-quantencomputer-der-welt-entwickelt/ möglich, einem Photon mehr als 5000 „Zeitbehälter“ also Dimensionen aufzuprägen, verglichen mit einem Zug der nun 5000 Personen statt einer, bspw. auf einem Fahrrad, transportieren kann, denn KI ist die Mathematik bzw. Technologie des Transportes von Informationen.