Vor einigen Jahren habe ich beschlossen, die Vision des intelligenten Kühlschranks nicht mehr ernst zu nehmen. Und nun bringt sie Vinton Cerf, einer der Väter und Vordenker des Internets, wieder auf. Was soll man davon halten?
Als Vinton Cerf mit seinem Kollegen Robert Kahn in den 70er-Jahren das Verfahren TCP/IP entwickelte, mit dem im Internet Daten verschickt werden, haben die beiden den Bedarf an Computeradressen deutlich unterschätzt. Sie rechneten mit 128 Ländern, je zwei Netzwerken pro Land und 16 Millionen Rechnern pro Netzwerk. 2011 waren dann alle möglichen Adressen vergeben, und man musste sich etwas Neues ausdenken. Heute gibt es genügend Adressen, um auch allen Objekten im Haushalt und allen Produkten in den Warenlagern eine zuzuteilen. Billige Funkchips ermöglichen den Dingen Kontakt zum nächsten Onlinerechner. So könnte der Kühlschrank zum Beispiel tagsüber recherchieren, was man mit den Lebensmitteln in seinen Fächern anstellen kann, sagt Vinton Cerf, und ein paar Rezepte vorschlagen, wenn der Besitzer abends nach Hause kommt. Er könnte auch vorher anrufen und bitten, auf dem Heimweg noch etwas einzukaufen.
Heute leider kein Bier für Dich!
Ich habe Cerf diese Woche in Lindau am Bodensee gehört, auf dem jährlichen Treffen der Nobelpreisträger. Er hat zwar keinen Nobelpreis bekommen, dafür aber den Turing-Preis, die höchste Auszeichnung in der Informatik, und arbeitet heute bei Google. (Falls jemand bei der Bezeichnung „Vater des Internets“ stutzig werden sollte, weil man mit „Internet“ heute irgendwie alles meint: Sir Tim Berners-Lee, ein weiterer Vater, hat die Sprache HTML entwickelt, in der Websites erstellt werden.) Cerf gehört zu den wenigen der Branche, die einen Anzug tragen, und er redet humorvoll und klar. Aber ein paar Mal bin ich beim Zuhören stutzig geworden – und dazu gehört die Sache mit dem intelligenten Kühlschrank. Genügt für die Küchen-Inventur und mögliche Rezepte nicht eine Einkaufs-App auf dem Smartphone? Muss man dafür wirklich alle Produkte aus dem Supermarkt mit einem RFID-Chip versehen?
Ich glaube aber, dass es Cerf um etwas anderes geht. In seinem Vortrag betonte er mehrfach, wie sehr es sich gelohnt habe, den Onlineversand von den Inhalten zu entkoppeln. Das System verpackt die Dateien bloß in kleine Pakete und achtet darauf, dass die Pakete ein zweites Mal verschickt werden, falls sie nicht ankommen sollten. Die Netzbetreiber können die Datenpakete zwar öffnen und den Inhalt lesen, wenn er nicht verschlüsselt ist, aber das müssen sie nicht, um ihre Aufgabe zu erfüllen. Diese Standardisierung erleichtere es, neue Anwendungen zu entwickeln, sagt Cerf, und habe deshalb zum Erfolg des Internets beigetragen. Die Programmierer müssen sich nicht darum kümmern, auf welche Weise ihre Daten zu den Kunden oder Nutzern gelangen. Und so, glaube ich, kann man das „Internet der Dinge“ auch sehen: Man stellt eine Technologie zur Verfügung und überlässt es den Leuten, etwas daraus zu machen. Ob sich der intelligente Kühlschrank durchsetzen wird oder doch etwas anderes, wird man dann sehen.
Was macht man aber, wenn sich der Kühlschrank nicht mehr öffnen lässt, weil er von der Waage im Badezimmer alarmierende Werte über den Besitzer erhalten hat? Oder wenn ein persönlicher Ernährungsassistent auf dem Smartphone zum Schluss kommt, dass sonst nichts mehr hilft, um seinen Schützling wieder auf die richtige Spur zu bringen. Joachim Müller-Jung von der FAZ wollte bei einem Pressegespräch in Lindau von Vinton Cerf wissen, ob man vor einer wild gewordenen künstlichen Intelligenz Angst haben müsse. Wenn die besserwisserischen Geräte mit modernen Methoden lernen, kann man deren Entscheidung womöglich nicht einmal nachvollziehen: Das psychologische Wissen des Smartphone-Assistenten über seinen Besitzer steckt womöglich in einem Muster irgendwelcher Verbindungen eines neuronalen Netzes. (Im Blog „Bioinfowelten“ gibt es mehr zum Thema Machine Learning.)
Debugging im Weinkeller
Cerf findet nicht, dass man Angst haben sollte, und begründete das in Lindau gleich mehrfach. Im ersten Anlauf sagte er, dass man ja auch keine Angst vor Strom habe, bloß weil man nicht wisse, wie er in die Steckdose komme. Ich finde, das ist ein schwacher Vergleich, denn in diesem Fall gibt es Elektrotechniker, die Bescheid wissen und eine eventuelle Panne aufklären können. Im zweiten Anlauf sagte Cerf, dass Maschinen nach eigentlich ganz schlichten Regeln lernen. Entweder sammeln sie Daten und ziehen daraus nach einem vorgegebenen Algorithmus ihre Schlüsse. Facebook schaltet beispielsweise die Werbung für Dating-Apps und Fitness-Studios ab, wenn man 50 wird, berichtete Joachim Müller-Jung einmal aus gegebenem Anlass. Oder die Maschinen optimieren ihr neuronales Netzwerk und nähern sich dadurch dem gewünschten Ergebnis immer weiter an. Sie können zum Beispiel nach und nach lernen, die Gesichter meiner Freunde zu erkennen. Hier scheint Cerfs Argument zu sein, dass die im Grunde simplen Lernmethoden nicht dazu führen, dass Maschinen wirklich eigenständige, kreative und möglicherweise bedrohliche Entscheidungen treffen. Dieses Argument ist stärker als das erste, hat aber aus meiner Sicht einen Haken, weil es die schiere Menge der Daten oder die Größe des neuronalen Netzwerks vernachlässigt: Big Data erlaubt womöglich tiefe Einblicke in den Menschen, und große neuronale Netze kommen vielleicht auch auf unvorhergesehene Ergebnisse.
Mit seinem dritten Argument macht Vinton Cerf jedoch einen Punkt: Er sorge sich mehr um Bugs in der Software als um eine wild gewordene KI, und er fordert daher Systeme, die es einem Programmierer erleichtern, Fehler im Code zu erkennen. Die Programme sollen nicht nur funktionieren, sondern in allen möglichen Situationen zuverlässig arbeiten – und sich obendrein nicht manipulieren lassen. Auf einen Bug in der Überwachung seines Weinkellers habe ihn ein Freund aufmerksam gemacht, erzählte Cerf dann abends in seinem Vortrag. Er hat dort einen Sensor installiert, der Temperatur und Luftfeuchtigkeit misst, und er kann bei Bedarf die Klimaanlage von unterwegs neu starten. Weil auch registriert wird, wenn man das Licht einschaltet, glaubte Cerf, im Blick zu haben, ob sich jemand heimlich an einer seiner 2000 Flaschen zu schaffen macht. Doch er hat nicht an den Fall gedacht, dass jemand die Flasche gleich im Weinkeller leert.
Man könnte also sagen, dass Vinton Cerf mehr Angst davor hat, dass eine Maschine in einer unvorhergesehenen Situation nicht weiß, was sie tun soll, als dass eine Maschine in einer absehbaren Situation von der Absicht der Programmierer abweicht und auf neue Ideen kommt. Im Film „I, Robot“ beklagt sich der Polizist Del Spooner zum Beispiel darüber, dass ein Roboter bei einem Autounfall ihn rettete anstelle des Mädchens, das auch im Wagen saß. Der Roboter hatte für das Mädchen eine deutlich kleinere Überlebenswahrscheinlichkeit berechnet als für ihn, aber Spooner findet, dass die Chance für das Mädchen hoch genug war, um es zu versuchen. „Ein Mensch hätte das gewusst“, sagt er. Mit Vinton Cerf müsste man aber sagen, dass der Programmierer dem Roboter offenbar eine andere Ethik mitgegeben hat, als sie sich Spooner gewünscht hätte – und Spooner das mit ihm ausdiskutieren sollte. Mir gefällt es, in dieser Weise den Menschen als Verantwortlichen in den Vordergrund zu stellen (wie es auch Arthur C. Clark bei HAL 9000 getan hat, der widersprüchliche Anweisungen erhält). Warum Skynet und die Computer der Matrix so menschenfeindlich eingestellt sind, habe ich ohnehin nicht verstanden.
One more thing . . .
Das Blogbanner hat übrigens einer meiner beiden Brüder gestaltet; hier geht’s zu seiner Homepage. Es greift die Symbolik meines alten Heureka-Blogs bei der Stuttgarter Zeitung auf, wo die Klötzchen im ursprünglichen Design wie am Fließband aus einer Fabrik purzelten.
Kommentare (21)