Mit seinem dritten Argument macht Vinton Cerf jedoch einen Punkt: Er sorge sich mehr um Bugs in der Software als um eine wild gewordene KI, und er fordert daher Systeme, die es einem Programmierer erleichtern, Fehler im Code zu erkennen. Die Programme sollen nicht nur funktionieren, sondern in allen möglichen Situationen zuverlässig arbeiten – und sich obendrein nicht manipulieren lassen. Auf einen Bug in der Überwachung seines Weinkellers habe ihn ein Freund aufmerksam gemacht, erzählte Cerf dann abends in seinem Vortrag. Er hat dort einen Sensor installiert, der Temperatur und Luftfeuchtigkeit misst, und er kann bei Bedarf die Klimaanlage von unterwegs neu starten. Weil auch registriert wird, wenn man das Licht einschaltet, glaubte Cerf, im Blick zu haben, ob sich jemand heimlich an einer seiner 2000 Flaschen zu schaffen macht. Doch er hat nicht an den Fall gedacht, dass jemand die Flasche gleich im Weinkeller leert.
Man könnte also sagen, dass Vinton Cerf mehr Angst davor hat, dass eine Maschine in einer unvorhergesehenen Situation nicht weiß, was sie tun soll, als dass eine Maschine in einer absehbaren Situation von der Absicht der Programmierer abweicht und auf neue Ideen kommt. Im Film „I, Robot“ beklagt sich der Polizist Del Spooner zum Beispiel darüber, dass ein Roboter bei einem Autounfall ihn rettete anstelle des Mädchens, das auch im Wagen saß. Der Roboter hatte für das Mädchen eine deutlich kleinere Überlebenswahrscheinlichkeit berechnet als für ihn, aber Spooner findet, dass die Chance für das Mädchen hoch genug war, um es zu versuchen. „Ein Mensch hätte das gewusst“, sagt er. Mit Vinton Cerf müsste man aber sagen, dass der Programmierer dem Roboter offenbar eine andere Ethik mitgegeben hat, als sie sich Spooner gewünscht hätte – und Spooner das mit ihm ausdiskutieren sollte. Mir gefällt es, in dieser Weise den Menschen als Verantwortlichen in den Vordergrund zu stellen (wie es auch Arthur C. Clark bei HAL 9000 getan hat, der widersprüchliche Anweisungen erhält). Warum Skynet und die Computer der Matrix so menschenfeindlich eingestellt sind, habe ich ohnehin nicht verstanden.
One more thing . . .
Das Blogbanner hat übrigens einer meiner beiden Brüder gestaltet; hier geht’s zu seiner Homepage. Es greift die Symbolik meines alten Heureka-Blogs bei der Stuttgarter Zeitung auf, wo die Klötzchen im ursprünglichen Design wie am Fließband aus einer Fabrik purzelten.
Kommentare (21)