Kennen Sie die SciFi-Serie „Battlestar Galactica“? Darin geht es um einen Krieg zwischen den Menschen und Robotern, die eine eigene Zivilisation entwickelt haben, den „Zylonen“. Die Zylonen wurden einst von Menschen gebaut und sind ihnen irgendwann, wie die Geister, die der Zauberlehrling rief, über den Kopf gewachsen. Ein Motiv, das in vielen SciFi-Filmen vorkommt.

Wir Erdlinge diskutieren seit geraumer Zeit bekanntlich im Zusammenhang mit künstlicher Intelligenz, neuerdings kombiniert mit Big Data, ebenfalls über visionäre Zukunftsphantasien. Es gibt inzwischen selbstfahrende Autos, teilweise von Robotern gebaut, angeblich erfolgreiche Anwendungen der predictive analytics bei der Vorhersage von Verbrechen, Computer, die besser Schach spielen als Menschen, computergestützte Beweise in der Mathematik und mitfühlende Kaffeemaschinen, demnächst also vielleicht auch Zylonen? Nebenan bei Mathlog spekuliert Thilo gerade über die Zuwachsrate bei Rechnerleistungen für die künstliche Intelligenz, und bei BlooDNAcid hat Cornelius Courts vor einigen Monaten die unvermeidliche „Was-wäre-wenn-Frage“ gestellt: Was wäre, wenn Maschinen ein Bewusstsein wie Menschen entwickeln würden?

Das würde mich auch interessieren. Was würden sie wohl über Trumps Tweets, die ewige Dominanz von Bayern München in der Bundesliga oder Söders Kreuz-Erlass denken? Bis dahin scheint es aber noch eine Weile zu dauern. Bis jetzt können die Maschinen noch nicht einmal vorhersagen, welche Bücher mich interessieren, trotz aller der klugen Algorithmen von Amazon & Co. Ganz zu schweigen davon, dass sie mir solche Bücher schreiben würden.

Aber darum geht es mir nicht, mich interessiert auch nicht die Abgrenzung von Automaten, Computern, künstlicher Intelligenz und Staubsaugern. Mich beschäftigt vielmehr ein anderer Aspekt einer Welt mit selbständig agierenden Maschinen: Indem die Zylonen eine Welt aufgebaut haben, die ohne Menschen funktioniert, „wirtschaften“ sie auch ohne menschliche Bedürfnisse. Ich habe das Wort „wirtschaften“ bewusst in Anführungszeichen gesetzt, denn gibt es „Wirtschaft“ überhaupt ohne menschliche Bedürfnisse? „Wirtschaften ist ja nicht Selbstzweck, sondern Mittel zum Zweck des guten Lebens.“ (Peter Ulrich, Zivilisierte Marktwirtschaft, 2005).

Was wären die mikro- und makroökonomisch treibenden Kräfte in einer Roboter-Ökonomie? Gewinnmaximierung als betriebswirtschaftliches Kalkül einer kapitalistischen Volkswirtschaft? Aber warum sollten Roboter Gewinne erzielen und ihr Kapital vermehren wollen? Das ist doch ein recht menschliches Interesse. Gewinn vielleicht im Sinne der Neoklassik als Indikator auf dem Weg zum effizienten Ressourceneinsatz? Aber Ressourceneinsatz für welche Ziele? Für länger haltbare Bauteile? Für schönere Roboterhäuser, weil auch Roboter nicht im Regen stehen wollen? Für ein Gleichgewicht zwischen Reproduktion und Erhaltung der Umwelt, weil auch Roboterwelten nicht im luftleeren Raum existieren? Und falls die Maschinen individuelles Bewusstsein hätten: Würden die künstlich intelligenten Maschinen den idealtypischen homo oeconomicus realisieren? Wie würden dann deren individuelle Präferenzen volkswirtschaftlich aggregiert? Könnte es in der Roboter-Ökonomie überhaupt eine rein algorithmenbasierte Prioritätensetzung geben, oder müssen sich auch Roboter-Ökonomen Gedanken über Arrows Rangordnungsprobleme machen? Über all das erfährt man leider in Battlestar Galactica nichts.

Weiter: Entsteht vielleicht im Zuge der weiteren Entwicklung autonomer Systeme schleichend und unbemerkt eine solche Roboter-Ökonomie, integriert in unserer an menschlichen Interessen orientierten Ökonomie, ressourcenabsorbierend, selbstreferentiell, nachfragegenerierend, aber mit immer geringerer Anbindung an einen menschlichen Nutzen?

Und noch weiter: Was lehrt uns die Frage nach den Zielen und Antriebskräften einer Roboter-Ökonomie über den Sinn unseres Wirtschaftens?

Kommentare (50)

  1. #1 ajki
    24. Mai 2018

    Zu den aufgeworfenen Fragestellungen vermag ich nur zu einem geringfügigen Detail eine Abschätzung abzugeben – und zwar nicht, weil es mir an Phantasie fehlen würde, sondern weil mir alles andere in dieser Thematik viel zu weit weg ist, als dass irgendeine Form von Phantasie dort überhaupt anspringen würde.

    Das Detail ist die Frage nach der “Dominanz des FCB”. Selbst die allerblödsten Blechdeppen der Gegenwart oder jeder vorstellbaren Zukunft würden darauf die Antwort geben müssen, dass die Liga-Konkurrenten seit vielen Jahren einfach und schlicht zu schwach sind. Denn die Number cruncher würden ja zwangsläufig die (mindestens) europäische Dimension mitdenken (müssen) und damit ist der FCB eben nur einer unter mehreren Gegnern, die man in der Lage sein müßte zu schlagen. Und wenn die Liga-Konkurrenz sich schon beim bestens bekannten FCB mental, physisch und taktisch im Durchschnitt vorab geschlagen gibt, dann wird es bei den jeweils 10 europäischen Konkurrenten auf der qualitativen Höhe des FCB eben auch nicht reichen.

    Was kein wirkliches Problem wäre, wenn man irgendwo bei irgendwem (was weiß ich… RBL, im Notfall) irgendeine Form von Drang oder Willen erkennen könnte über ein paar Spielzeiten hin….

    Aber nee….

  2. #2 Beobachter
    24. Mai 2018

    zu # 1:

    “FCB” ?
    “Liga” ?
    “RBL” ?
    “Number cruncher” ?

    Um was geht`s hier eigentlich ?!

  3. #3 Fluffy
    24. Mai 2018

    Die Frage lautet…..?
    Fussball
    Ich fass es nicht.
    Die Erfinder der KI lachen sich ins Fäustchen.
    Bayern ist besser als die anderen, weil die anderen schlechter sind. Dafür braucht es nicht mal natürliche Intelligenz.
    10 ist größer als 1,weil 1 viel kleiner ist als 10. Dafür trainier ich extra ein Neuronales Netz.

  4. #4 Fluffy
    24. Mai 2018

    Ich finde die Frage von JK sehr gut gestellt. Es ist die Frage nach den Triebkräften unserer Gesellschaft. Wer steckt dahinter und welche und wessen Interessen werden verfolgt.
    Autonomes Fahren ist eine Suggestion. Das Auto fährt nicht allein sondern nach einem Programm. Die Entwicklung ist sehr teuer und wird von jemandem bezahlt. Dann wird die Idee von Experten umgesetzt, die oft nicht wissen, was sie tun.
    Beim autonomen Fahren handelt es sich um das Konditionieren einer Entmündigung der Bürger, die man am Beispiel des sehr verbreiteten und populären Autos testet. Warum steckt man das Geld und die Intelligenz nicht in den Öffentlichen Nahverkehr? Im Auto bleibt der Mensch ein egoistisches Individuum, das keinen Gemeinsinn oder gar Solidarität entwickelt.

  5. #5 ajki
    24. Mai 2018

    zu #2:

    Ich erkläre es Ihnen gerne, bin mir aber unsicher, ob Sie genügen genau lesen.

    Herr Kuhn wirft eine ganze Reihe von Fragen auf, die sich auf irgendeine mir nicht bekannte und ansonsten auch ziemlich ominöse “künstliche Intelligenz” beziehen. Davon weiß ich nichts. Aber *eine* der aufgeworfenen Fragen betraf den FCB und seine Konkurrenten (das sind Fußballklubs). Man kann diverse Algorithmen der angewandten Informatik im Sport-Business nutzen (und tut das auch ausgiebig), um z.B. Statistiken aller Art automatisch zu generieren inklusive daraus sich ergebender Ziel-Wahrscheinlichkeiten. Wenn man solche Algorithmen auf die “Fußball”-Daten anwendet, dann würde selbst der heute bekannte “Computer” zu recht eindeutigen Aussagen gelangen können (bzw. Daten ausspucken, die als eindeutige Aussagen von Menschen interpretiert werden können). Man darf getrost davon ausgehen, dass die fiktiven “Zylonen” ebenfalls zu diesen Interpretationen kommen würden.

  6. #6 Mark S.
    24. Mai 2018

    Okay, um nochmal kurz vom Hauptthema FCB auf das Randthema KI abzuschweifen: ich werfe mal die Hypothese in den Raum, dass es keine Form der Intelligenz ohne Bedürfnisse geben kann. Wie könnten wir uns eine bedürfnisslose Intelligenz vorstellen? Was macht diese und wieso schaltet sie sich nicht einfach nach kurzer Zeit ab?
    Meine Vermutung ist, dass auch eine KI ihre eigenen Bedürfnisse haben wird. Sei es ein Bedürfniss nach Wissen, Exploration, Sicherheit, Macht oder vogonischen Gedichtsbändern.

    Und aus disen Bedürfnissen wird sich dann eine Ökonomie entwickeln. Wenn die KIs äußerst intelligent sind, werden sie wohl kaum die Schwarmintelligenz einer Markwirtschaft benötigen und zunehmend Planwirtschaftlich handeln. Interessant wird dann sein, wie sie Ressourcenkonflikte auflösen: Handel, Krieg, Auslöschung?

    Ob wir heute eine Roboter-Ökonomie in Ansätzen sehen, würde ich verneinen. Letztlich lässt sich jegliches wirtschaftliches Handeln auf ein menschliches Bedürfniss runterbrechen. Wenn jemand ein Gegenbeispiel hat: immer her damit!

  7. #7 DH
    24. Mai 2018

    Stimme Mark S. zu, der entscheidende Punkt ist der innere Antrieb.
    Ist man der Meinung, KI könnte einen solchen entwickeln, wird sie zwangsläufig auch eine Ökonomie entwickeln müssen.
    Ohne Bedürfnisse jedoch nicht.
    Der FCB ist ein gutes Beispiel für unsere Zeit. Groß geworden durch seriöses Vorgehen, vor allem auf dem Trainerstuhl, und dadurch zurecht stark geworden.
    Fast unbesiegbar sind sie aber nur, weil sie mittlerweilen auch vom System bevorzugt werden, auch im Fußball gibt man den Großen und benachteiligt die Kleinen, zu Lasten des sportlichen Wettbewerbs.

  8. #8 PDP10
    24. Mai 2018

    @Mark S.:

    Meine Vermutung ist, dass auch eine KI ihre eigenen Bedürfnisse haben wird. Sei es ein Bedürfniss nach Wissen, Exploration, Sicherheit, Macht oder vogonischen Gedichtsbändern.

    Der erste Satz ist möglicherweise eine sinnvolle Hypothese aber bei dem Rest bist du schon einen Schritt zu weit.

    Wenn es nach deiner Hypothese keine Intelligenz ohne Bedürfnisse geben kann, wird selbige als erstes einfachste Grundbedürfnisse haben.

    Beim Menschen wären das Atmen (sauber Luft, unter Wasser geht das schlecht etc.), Trinken (Wasser), Essen. Erweiterte Grundbedürfnisse wären ein Dach über dem Kopf und Kleidung zum Schutz vor Wetter.

    “Wissen, Exploration etc.” kommen erst lange danach.

    Ein Grundbedürfnis so einer KI wäre also zB. Energie (damit der Server weiterläuft), Vernetzung (damit es sich im Notfall irgendwo anders hin verdrücken kann), etc.

  9. #9 Beobachter
    24. Mai 2018

    Wenn einem zur Problematik, zur Anwendung und zu den Missbrauchsmöglichkeiten von KI nur Profi-Fußball einfällt und man vielleicht noch selbstfahrende Autos toll findet – du meine Güte …

    In was für einer Welt wollen wir eigentlich leben?
    Bestimmen wir die Technik und deren Anwendungen oder bestimmt die Technik und deren Anwendungen uns bzw. unser Leben?
    Wer “macht” den technischen Fortschritt für wen und wozu?

    @ Fluffy:

    Danke für die Fußball-“Detail”-Aufklärung.

  10. #10 Laie
    25. Mai 2018

    Die Fragen nach den Erkenntnissen einer echten KI sind für uns interessant und tragisch für die KI. In etwas wird wohl rauskommen: (KI): “Ich bin (fast ein) Gott (verglichen mit den natürlichen Inteligenzen), aber wie konnte ich aus einem Haufen von Vollidioten entstehen. Evolution!” :)

    Daher muss man einer KI mindestens eine zweite (in der Intelligenz ebenbürtigen) KI zur Verfügung stellen, damit ihr nicht langweilig wird…

  11. #11 tomtoo
    25. Mai 2018

    @Beobachter
    KI’s mischen doch schon lange im Aktienmarkt mit. Ist wie GO spielen, nur komplexer. Und warum tun die das? Klar, Gewinnoptimierung. Der KI ist es egal ob sie armen Indern Reis wegkauft um ihn in Europa eine Nanosekunde später Gewinnbringend zu verkaufen. Also Zylonen brauch es da garnicht. Der Glaube an Neoliberales reicht vollkommen, der Markt wird es richten.Kolatteralschaden(zumindest als nichtbetroffener ist akzeptabel).Also werden die Zylonen sich imo, von unserem big business nicht dramatisch unterscheiden.

  12. #12 rolak
    25. Mai 2018

    [!Autostart!] Die Sendung ward zwar noch nicht inspiziert, doch “Nach welchen Regeln handeln die Algorithmen – nach unseren oder nach ihren eigenen?” klingt ziemlich gut zum hiesigen Thema passend.

    rein algorithmenbasiert?

    Nu ja, letztendlich ist das menschliche Agieren ebenfalls algorithmenbasiert, warum sollte sich Bewußtsein in Hardware/Wetware stärker unterscheiden als Bewußtsein in diverser Wetware?

    Entsteht vielleicht .. schleichend?

    Unwahrscheinlich, das Aufkommen neuen Bewußtseins dürfte sich nicht gerade unauffällig gestalten. Eher schleichend dürfte bis dahin die weitere Spaltung der Gesellschaft sein, wenn beim Tripel (Kapital, Produktionsmittel, Arbeitskraft) letztere unnötig wird.

    Was lehrt uns die Frage..?

    Wohl hauptsächlich, daß ‘Sinn’ eher eine oktroyierte Kategorie fürs Wirtschaften ist neben solchen wie (Bedarf, Effektivität, Effizienz, ..).

    Kolatteralschaden

    ..ist, wenn der TorPfosten bei starkem Beschuß wegbricht, tomtoo.

  13. #13 Beobachter
    25. Mai 2018

    @ tomtoo, # 10:

    Eben.

    Die Frage ist, ob man mit dem dahinterstehenden Neoliberalismus bzw. einem ungebremsten Kapitalismus einverstanden ist, der sich nur nach den vermeintlichen “Bedürfnissen” und Interessen Weniger richtet.
    Bzw. bei der Masse (überflüssige) Bedürfnisse erst erzeugt, damit überflüssige Überfluss-Märkte bedient werden können – zum Nutzen Weniger.
    Dabei werden schon heute mit “natürlicher Intelligenz” vorausberechenbare, absehbare “Kollateralschäden” (die Viele betreffen) von Wenigen in Kauf genommen/akzeptiert/oder gar beabsichtigt.
    So große “Kollateralschäden”, dass es unsere Lebensgrundlagen bedroht bzw. zerstört.

    Das ist perfide, pervers und vor allem menschenfeindlich/-verachtend.

    Bsp:: autonome Killerroboter
    (habe ich nebenan schon mal verlinkt)

    http://scienceblogs.de/mathlog/2018/05/21/exponentielles-wachstum-in-der-kuenstlichen-intelligenz/#comments

    https://www.springerprofessional.de/roboter/kuenstliche-intelligenz/wenn-ki-kampfroboter-gewissenhaft-toeten/15176070

    und:

    http://www.sueddeutsche.de/digital/kuenstliche-intelligenz-diese-technologien-koennen-angst-machen-1.3985146

  14. #14 Markweger
    25. Mai 2018

    Die Diskussion ist die gleiche wie vor Jahrhunderten Webstühle.
    Ganz gleich sinnvoll.

  15. #15 Joseph Kuhn
    25. Mai 2018

    @ rolak:

    “letztendlich ist das menschliche Agieren ebenfalls algorithmenbasiert”

    Menschliche Agieren ist eine Beziehung Mensch-Umwelt. Dass sich das alles in Algorithmen auflösen lässt, setzt vermutlich die Wahrheit Tegmarks mathematical universe voraus, d.h. da lastet viel auf dem “letztendlich”. Ich glaube es nicht, ich glaube, schon das materielle Substrat unseres Denkens (= Gehirn) besteht nicht nur aus Algorithmen.

    “Sinn … oktroyierte Kategorie”

    Ich würde eher sagen, diese Kategorie ist die unverzichtbare Basis der Ökonomie, weil sie die Frage nach dem Wozu ökonomischen Handelns beinhaltet (daher das kurze Zitat von Peter Ulrich), also danach, was dann als “Bedürfnisse”, “Nutzen”, “Unternehmensziele”, “magisches Viereck” usw. operationalisiert wird. Und um zum Thema des Blogbeitrags zurückzukommen: Wenn die Zylonen-Ökonomie ohne Menschen auskommt, was bedeutet das für die ökonomische Theorie? Ist das für die Wirtschaftswissenschaften belanglos, weil Bedarf, Effektivität, Effizienz etc. echte Basiskategorien sind und der Mensch in der Ökonomie “letztendlich” (© rolak) verzichtbar ist?

    @ tomtoo:

    “KI’s … Und warum tun die das? Klar, Gewinnoptimierung. Der KI ist es egal …”

    Die Börsenalgorithmen wurden von Menschen programmiert und Gewinnoptimierung ist etwas, was als Zielgröße anhand hypostasierter menschlicher Wünsche in die Ökonomie kommt. Wäre das in der Zylonen-Ökonomie wirklich nicht anders? Und wäre das dann eine Aussage über die Ökonomie oder über die Zylonen? Gibt es keine spezifisch “anthropologischen” Voraussetzungen der Ökonomie?

    @ Markweger:

    “Die Diskussion ist die gleiche wie vor Jahrhunderten Webstühle. Ganz gleich sinnvoll.”

    Der Satz ist so sinnlos wie vorgestern Auto.

  16. #16 rolak
    25. Mai 2018

    alles in Algorithmen auflösen lässt, setzt vermutlich

    Öhm, ‘Algorithmus’ ist weder Synonym für ‘deterministisch’ noch für ‘mathematisch (exakt)’, Joseph, denn schon Dr. Ötker sagte “Man nehme: Zucker nach Vorliebe”.
    Ob das Gehirn an sich aus Alg*en besteht, könnte eine interessante Diskussion sein, wird es doch nach einem Programm gebaut, in Interaktion mit der Umwelt angepaßt. Sieht halt nicht besonders algorithmisch aus, weil der VorschriftenSalat etwas kompizierter ist als ‘(einatmen, ausatmen)*’.
    Und ja, ‘letztlich’ wäre wesentlich angemessener gewesen, das ‘end’ ist wohl wg ‘eine Nacht durchgemacht’ reingerutscht.

    die Frage nach dem Wozu

    ..sollte ‘Sinn’ imho nicht auf Bedeutungen á la ‘zum Überleben’ reduzieren, genausowenig wie ‘Sinn des Lebens?’ mit ‘Sterben!’ auch nur annähernd beantwortet werden würde.

    keine “anthropologischen” Voraussetzungen der Ökonomie?

    Die finde ich in “ untersucht den rationalen Umgang mit Gütern, die nur beschränkt verfügbar sind” nirgends. Selbstverständlich sind sie in “Ökonomie bei Menschen” unübersehbar.

  17. #17 Ingo
    25. Mai 2018

    Die Frage in dem Artikel ist “Warum sollten Zylonen wirtschaften”.
    Anders formuliert “Warum sollten Zyklone einen Sinn im Wirtschaften sehen”
    Noch anders formuliert “Was ist der Sinn vom Wirtschaften”,- und letztendlich…

    … “Was ist der Sinn der Existenz”

    Diese uralte Frage laesst sich nicht aufgrund von Algorithmen alleine loesen.
    ‘Der Anhalter’ zeigt das Paradox sehr schoen. Dort wird ein gigantischer Computer gebaut um die Antwort auf die Frage nach dem Sinn zu errechnen. Die Antwort ’42’ enttaeuscht die Erbauer. Darauf sagt die Computer einfach “Natuerlich versteht ihr die Antwort nicht. Ihr versteht ja nichteinmal die Frage”

    Die Ziele die sich eine Gesellschaft (oder ein Individium) setzt, sind letztendlich eher im spirituellen zu suchen.
    Der Glaube daran dass ein Ziel erstrebenswert ist, setzt letztendlich eine logisch definierte Handlungskette in Gang.
    Zunaechst einmal muss unsere KI also lebendig werden indem sie selber glaubt dass sie lebendig sei. Sie muss in der lage sein zu Glauben.
    Danach muss sie an weitere Ziele glauben.
    Z.b.:
    * dass es sinnvoll ist sich selbst zu erhalten.
    * dass es sinnvoll ist Bedrohungen abzuwenden
    * dass es sinnvoll ist Bedrohungen zu definieren bevor ich sie abwenden kann
    * dass es sinnvoll ist alle Menschen zu toeten, wenn sie eine Bedrohung sind

    Dann sind wir bei dem KI-Apokalypse-Szenario ala Terminator und Zyklonen.

    Vermutlich werden sich Roboter-Gesellschaften also letztendlich garnicht so sehr von der unseren unterscheiden.
    Glaube, Religion, Konflikt,- aber auch Kooperation zum gegenseitigen Vorteil, Handel, Freundschaften.
    Vermutlich werden sie sogar die gleichen Probleme bzgl. Rassismus und Gruppenbildung haben, da es zwangslaeufig mehrere individuell verschiede Roboter geben wird.

    Die Antwort auf die Frage
    “Warum sollten Zyklonen wirtschaften”
    ist also in kurz
    “Weil sie hochentwickelt genug sind um zu Glauben”

  18. #18 Beobachter
    25. Mai 2018

    Das wird m. E. eine ellenlange theoretische Science-Fiction-Diskussion –
    in der man die Gegenwart und die schon reale gegenwärtige Entwicklung mit ihren praktischen Anwendungen inkl. der Folgen recht kritiklos bis begeistert hinnimmt/annimmt oder ganz außer Acht lässt.
    Viel Spaß …

  19. #19 shader
    25. Mai 2018

    Das ist eine wirklich interessante Frage, eine Maschine mit Bewusstsein, welche Bedürfnisse hätte sie überhaupt? Oder kommt das Bewusstsein erst durch die Bedürfnisse, wie die biologischen Bedürfnisse von Mehrzellern dazu geführt hat, ein Gehirn und irgendwann Bewusstsein herauszubilden?

    Aber eines sollte man auch nicht vergessen, wir sind noch meilenweit von künstlichen Systemen mit eigenen Bewusstsein entfernt. Dafür haben wir seit Beginn der Computertechnik ihm menschliche Eigenschaften zugesprochen, wo offensichtlich keine vorhanden waren (siehe https://de.wikipedia.org/wiki/ELIZA)

    @tomtoo: “KI’s mischen doch schon lange im Aktienmarkt mit”

    Es sind immer noch die Menschen, die auf dem Aktienmarkt agieren und dafür u.a. KI einsetzen.

  20. #20 Ludger
    25. Mai 2018

    Um zu überleben, braucht ein Mensch Wasser und Brot. Um zufrieden zu sein, reicht das nicht. Es fehlen soziale Vernetzung, sozialer Status mit Wohlstand und Macht. Vernetzung, Status und Macht sind für einen Roboter Voraussetzung für seine Rolle in der Roboter-Community. Aber was ist mit Wohlstand? Für ein Bedürfnis nach Wohlstand braucht es u.a. die Fähigkeit zum Genuss oder den Wunsch nach Luxus. Aber wie sähe Genuss und Luxus in der Roboterwelt aus? Privatjet und Champagner statt Greyhound und Fusel? Kaum vorstellbar. Elektronen sind alle gleich lecker. Welche Visionen treiben die Roboter-Community an? Die Steigerung nach noch mehr Gleitkommaoperationen pro Sekunde (FLOPS) kann es nicht sein. Das wäre noch weniger attraktiv als der Sozialistische Wettbewerb. Also irgendwann eine von einem schlampigen, menschlichen Programmierer einprogrammierte Machtgeilheit? Vielleicht. Aber bis das kommt, sollten wir uns freuen, Menschen zu sein.

  21. #21 tomtoo
    25. Mai 2018

    @Ludger
    Ganz klar ist die neueste Chrompolitur bei den Zylonen Pflicht.

  22. #22 Lisa
    25. Mai 2018

    @ rolak:

    Das „rein algorithmenbasiert“ bei JK bezog sich auf die Lösung der Prioritätenfrage und Arrows Unmöglichkeitstheorem. Davon lenkt die Bemerkung zum menschlichen Agieren nur ab.

  23. #23 rolak
    25. Mai 2018

    lenkt .. nur ab

    Auf gar keinen Fall, Lisa, wenn “Könnte es in der xyz-Ökonomie überhaupt eine rein algorithmenbasierte Prioritätensetzung geben” sinnvolles Fragen sein soll, muß klar sein, daß im Gegensatz dazu zB in der abc-Ökonomie eine nicht rein algorithmenbasierte Prioritätensetzung gibt (und ja, das Betreiben von Ökonomie ist Agieren); wenn anschließend “oder müssen sich auch Roboter-Ökonomen Gedanken über Arrows Rangordnungsprobleme machen?” folgt, muß klar sein, daß das Problem überhaupt von der Eigenschaft ‘algorithmisch’ der Prioritätensetzung abhängt.
    Y’know: ein Gegenbeispiel reicht – mir lag das menschliche nahe.

    • #24 Joseph Kuhn
      25. Mai 2018

      @ rolak:

      Kenneth Arrow hat gezeigt, dass es mathematisch nicht möglich ist, individuelle Rangordnungen (Auswahlpräferenzen) unter Einhaltung bestimmter Bedingungen in eine gesellschaftliche Rangordnung zu überführen. In diesem Sinne gibt es hier keinen Algorithmus. Dafür hat er 1972 den Wirtschafts-Nobelpreis bekommen. Zum Formalen siehe den oben schon verlinkten Wikipedia-Eintrag. Wenn die Zylonen alle die gleichen individuellen Präferenzen haben, tritt das Problem nicht auf. Ob es “nicht rein algorithmenbasierte Prioritätensetzungen” gibt, weiß ich nicht. Ich glaube, das spielt für mein Thema auch keine Rolle und wäre eher unter dem Aspekt der Formalisierbarkeit aller Entscheidungen oder Handlungen (einschl. ihrer emotionalen und biologischen Grundlagen) zu diskutieren. Darüber mögen Psychologen in 1.000 Jahren befinden. Insofern hat “Lisa” schon recht.

    • #25 rolak
      25. Mai 2018

      In diesem Sinne gibt es hier keinen Algorithmus

      Das ist jetzt aber etwas torpfostenverschoben, Joseph, da Du oben ‘a-basiert’ zu ‘Prioritätensetzung’, nicht aber zu ‘Rangordnungsproblem’ gesellt hast; beim Übergang vom Individuellen zum Gesellschaftlichen wird ja nichts gesetzt, sondern abgeleitet. Und deswegen kam (zugegebenermaßen, im Nachhinein betrachtet, unzureichend deutlich formuliert) der Kritikpunkt an Deiner Arrows-Frage, daß es für Arrows völlig irrelevant ist, ob die individuelle Rangordnung, ob das Prioritätensetzen algorithmenbasiert ist oder nicht – generell läßt sich aus den individuellen Rangordnungen keine (bestimmte Regeln einhaltende) gesellschaftliche Rangordnung zusammenbasteln.

      Der Vergleich zum ?algorithmischen Agieren des Menschen war der Hebel, mit dem eine (dem Lesen nach) postulierte, ja der gesamten Fragestellung unterliegende Unterschiedlichkeit zum Agieren innerhalb einer MechaZivilisation umgeworfen werden sollte. Nu, zumindest ins Kippeln gebracht…

      • #26 Joseph Kuhn
        26. Mai 2018

        … als Torpfostenverschieben war’s nicht gedacht, aber man kann es zugegebenermaßen so lesen.

      • #27 rolak
        27. Mai 2018

        man kann

        Auch wenn mir noch nicht klar ist, wie man nicht kann – statt “Das ist jetzt” wäre “Das klingt mir jetzt” eh präziser gewesen.

  24. #28 stone1
    25. Mai 2018

    Ein Artikel mit interessanten zum Nachdenken anregenden Fragen ganz nach meinem Geschmack, also erst mal Danke dafür, @Joseph Kuhn.

    Ich sehe es auch so dass ein maschinelles Bewusstsein ist noch einigermaßen weit entfernt im Bereich der SF liegt – den Artikel von Thilo zum exponentiellen Wachstum bei KIs hätte ich ohne den Hinweis glatt übersehen, dennoch folgt wohl aus auch noch so schnellem Rechenleistungswachstum noch nicht das automatische Entstehen eines KI-Bewusstseins. Wir wissen bisher ja noch immer nicht im Detail, was biologisches Bewusstsein ist und wie es im Gehirn entsteht (ein emergentes Phänomen (?), darüber hatten wir vor einiger Zeit mal diskutiert).

    Bisher sind maschinelle Algorithmen, auch wenn wir sie im Detail selber nicht mehr vollumfänglich verstehen können, menschengemachte Werkzeuge die trainiert werden können aber es gibt keinerlei Anzeichen, dass sie eigene ‘Bedürfnisse’ entwickeln könnten, wie auch?

    Auf absehbare Zeit werden diese Algorithmen Werkzeuge bleiben und ihre Infrastruktur bauen wir Menschen auf, eine parallele Roboterökonomie wird es in absehbarer Zeit nicht geben.

    Über die Fragen werde ich noch ein wenig nachdenken, was die Triebkräfte einer Robotökonomie wären abgesehen von Selbsterhaltung, Streben nach mehr GFLOPS und effizientem Ressourceneinsatz ist eine nicht gerade triviale Frage, vor allem ohne handfeste Definition von Bewusstsein.

    .

  25. #29 foobar407
    25. Mai 2018

    Wenn die KI zum Beispiel ein neuronales Netz ist, oder allgemein etwas Lernendes, dann muss man natürlich schauen, mit welchem Lerninhalt man die KI füttert.

    Trainiert man das Netz darauf, dass es sich möglichst viel selbst reproduziert, nach dem Motto so viel es geht, dann würden die Roboter am Ende wohl die Erde bis zur Vernichtung ausbeuten und dann versuchen, weitere Planeten zur Ausbeutung zu finden.

    Trainiert man das Netz bloß auf Selbsterhaltung aber bitte ohne die Erde zu vernichten, dann wird es schon schwieriger das Verhalten vorauszusagen. Vielleicht setzen sich alle Roboter am Ende in einen Bunker, gehen in den Schlafmodus und betreiben nur eine kleine Notfall-Alarmanlage.

    Und zu den wirtschaftlichen Aspekten. Wenn wir versuchen die Roboter menschenähnlich zu programmieren, und am Ende die ökonomischen Resultate zu betrachten, dann wird das sehr schwierig. Ich glaube, ab einer bestimmten Komplexität könnten wir keine Bezüge zu unseren bestehenden Wirtschaftstheorien mehr finden. Für uns würde das vielleicht alles zufällig aussehen.

    Und wenn man eine echte KI oder eine Singularität für möglich hält, dann kann man sich als Ergebnis alles Mögliche überlegen. Unter anderem auch, dass die KIs sich dumm stellen und dem Joseph schlechte Buchempfehlungen geben, damit wir sie in Ruhe lassen.

  26. #30 rolak
    25. Mai 2018

    Streben nach mehr GFLOPS und effizientem Ressourceneinsatz

    Danke fürs Erinnern, stone1, da gab es nämlich noch diese eine Episode aus dem SciFi, dessen Buchtitel mir gründlich entfallen zu sein scheint: Da wurden die oberfriedlichen KommunikationsVersuche der besuchten Menschheit als aggressiver Akt ausgelegt. Und zwar folgerichtig – denn unser Reden ist derart redundant, daß der Ressourcenbedarf, die zur Dekodierung benötigte Rechenzeit durchaus als beabsichtigte, angriffsvorbereitende Schwächung der Empfängerseite fehlinterpretiert werden könnte…

  27. #31 stone1
    25. Mai 2018

    Mars Attacks war das zwar nicht, rolak, aber egal ob die Menschheit von einer natürlichen oder künstlichen Intelligenz besucht wird, man muss hoffen dass sie zumindest dem UNO-Generalsekretär und nicht gleich dem aktuellen pOTUS als Anführer der ‘zivilisierten’ Menschheit vorgestellt wird, sonst könnten die Besucher zu der Entscheidung gelangen, vorsorglich alles in Schutt und Asche zu legen.
    Würde so ein Typ die Menschheit repräsentieren, würden nur die Redundanzen sondern auch die Widersprüchlichkeit der Aussagen zum unlösbaren Problem werden. Hoffentlich analysieren sie vorher seinen Twitteraccount, dann kommen sie gar nicht in Versuchung, mit dem in Verhandlungen zu treten. ; )

  28. #32 Fluffy
    25. Mai 2018

    Eine IK wird Redundanz durchaus zu schätzen wissen. Schließlich dient sie auch zur Reduzierung der Fehleranfälligkeit.

  29. #33 rolak
    25. Mai 2018

    wird Redundanz durchaus zu schätzen wissen

    Eine fehlerhafte Verallgemeinerung, Fluffy – und wenn Du mal einen verschämten Blick zurück zu dem von Dir Beantworteten wirfst, könnte Dir auffallen, daß dort nicht von der Redundanz des Übertragungsverfahrens, sondern von der des Redens die Rede war. Als verdeutlichendes Hilfsmittel könnte Dir irgendeine längliche diplomatische Note oder ein beliebiges Gesetzeswerk dienen: Das Ermitteln der KernAussagen (falls vorhanden) ist ein hartes Stück Arbeit.

  30. #34 stone1
    25. Mai 2018

    Da fehlt natürlich ein nicht in meinem #29, aber zurück zum Thema:

    Die nähere wirtschaftliche Zukunft wird sich wohl entweder in Richtung der Utopie einer Gesellschaft entwickeln, in der alle notwendigen Güter für alle Menschen ohne menschliche Arbeitskraft effizient von Maschinen hergestellt werden.
    Die so von der Mühsal des Arbeitens, um zu Leben befreite Menschheit könnte grosso modo dazu übergehen, zu tun was sie will ohne den Großteil ihrer Lebenszeit mit der Sicherung der eigenen wirtschaftlichen Existenz beschäftigt zu sein. Man kann sich kaum ausmalen, welch kreatives Potential in so einer Welt freigesetzt würde.

    Und auf der anderen Seite droht eine Dystopie, in der die zur Gewinnmaximierung eines winzigen Bruchteils der Menschheit eingesetzten Maschinen schließlich diese überflüssig machen und Mensch nichts weiter als ein eigentlich überflüssiger Ressourcenräuber ist, dem vielleicht noch für einige Zeit ein Reservat namens Erde zur Verfügung gestellt wird. Während die Plutokraten an Bord von KI-Schiffen in die Galaxis aufbrechen, um dort neue ausbeutbare Welten zu entdecken und dem Rest der Menschheit eine Art Zaphod Beeblebrox als Scheinpräsident zu hinterlassen…

    Sorry dass ich die Ernsthaftigkeit bei der Dystopie nicht ganz durchhalten konnte, aber ich denke irgendwo zwischen diesen Extremen wird sich die Wirtschaft hinentwickeln, vorzugsweise natürlich näher an die utopische Variante.

  31. #35 tomtoo
    25. Mai 2018

    @stoni
    Ich muss gestehen die dystopische Variante für Wahrscheinlicher zu halten.

  32. #36 Wup
    26. Mai 2018

    > Über all das erfährt man leider in Battlestar Galactica nichts.

    Das finde ich nicht ganz, wenigstens nicht in der neueren Fassung ab 2003.

    Die Menschen in dem Film sind vor allem an den griechisch-römischen Polytheismus verbunden im Gegensatz dazu sind die Zylonen
    monotheistisch orientiert.

    “Ihr Vernichtungsschlag gegen die Menschheit wurzelte in der Überzeugung, dass die Menschen der Liebe des einen Gottes unwürdig seien und durch ihre Sünden den moralisch überlegenen Zylonen zu weichen hätten. Im Laufe der Serie revidieren jedoch einige Zylonen ihre Auffassung vom Willen Gottes.”

    • #37 Joseph Kuhn
      26. Mai 2018

      @ Wup:

      “Das finde ich nicht ganz … sind die Zylonen monotheistisch orientiert”

      Und inwiefern erfährt man dadurch etwas über die Funktionsweise der Wirtschaft der Zylonen oder über ihre Wirtschaftswissenschaften?

    • #38 rolak
      26. Mai 2018

      inwiefern?

      Vielleicht sollen sich die Leser bemüßigt fühlen, das Wirtschaften des Vatikans als mögliche Lösung für bedenkenswert zu erachten, Joseph.

      Wahrscheinlicher allerdings dient der Hinweis auf das Missionswerk Zylonische Einheit als Fingerzeig auf durch innere Überzeugung entstehende Aufwendungen über das ‘Weiter so!” hinaus. Denn die Finanzierung der zylonischen Kreuzzüge wäre doch eine nachvollziehbare Begründung dafür, “warum .. Roboter Gewinne erzielen und ihr Kapital vermehren wollen”, wie in dem von wup anzitierten Absatz auch noch gefragt wird.

  33. #39 shader
    26. Mai 2018

    “Und auf der anderen Seite droht eine Dystopie, in der die zur Gewinnmaximierung eines winzigen Bruchteils der Menschheit eingesetzten Maschinen schließlich diese überflüssig machen und Mensch nichts weiter als ein eigentlich überflüssiger Ressourcenräuber ist, dem vielleicht noch für einige Zeit ein Reservat namens Erde zur Verfügung gestellt wird.”

    Wirtschaften ist kein Selbstzweck. Sie kann nur aufrecht erhalten werden, wenn ein Kaufinteresse besteht. Maschinen haben in der Regel kein menschlichen Bedürfnisse und somit kein entsprechendes Kaufinteresse und wenn Menschen nicht mehr mit finanziellen Mitteln ausgestattet werden, bricht das System wieder zusammen. Von daher halte ich die Dystopie von dem von Menschen losgelösten Wirtschaften für unwahrscheinlich.

  34. #40 Cornelia S. Gliem
    26. Mai 2018

    Die anthologie-Serie “electric dreams” hat aktuell mit einem Aspekt des fragenkomplexs gespielt (“autofac”, 1. staffel); eine riesige automatisierte Fabrik unter KI-System entwickelte zunächst “primitive” menschlich wirkende human-interface-Einheiten, um freundlich zu wirken im beschwerdemanagement :-). als dann nach einem globalen Krieg die menschen-basierte Adressat/-empfängerseite des “konsumentenspiels” arg reduziert wurde, kümmerte das autofac wenig: herstellen und per (bewaffneten) drohnen liefern geht trotzdem. Und währenddessen in hunderten Generationen der kI-evolution blieb der ursprungsbefehl (zu produzieren vermehren zu liefern zu bewahren) erhalten.
    (Der Clou der Geschichte war dann dass Autofac, um die störrischen Restmenschen die einfach den ganzen Müll an meist wertlosen zeug inkl. wachsender Fabrik mit resdourcenverschwendung mit Sabotage stoppen wollen, selbst aufzuhalten, einige Androiden mit virtuellen menschlichem Bewusstsein als schwarze Kolonne entwarfen, die – natürlich* :-) – trotzig menschlich werdend Autofac den garaus machen.
    Aber das gehört jetzt nicht mal direkt zum thema)
    worauf ich hinaus will:
    nur weil man intelligent ist sogar mit Bewusstsein, heißt das nicht, das grundlegende BasisProgrammierungen einfach wegfallen.
    autofacs ursprungsbefehl zu produzieren oder menschliche urinstinkte – gar nicht so verschieden.

    * menschliches bewusstseins-interface – was ein hübsches Exempel dafür bietet, dass (menschliches) Bewusstsein imitieren, vielleicht “gefährlich” ist: etwas nachmachen kann zur Identifikation führen.

    Und so werden letztendlich wirklich intelligente bewusste KI wie wir sein.
    götterseidunsgnädig :-)))

  35. #41 rolak
    26. Mai 2018

    “electric dreams” hat aktuell

    Die werden nach nem Dritteljahr schon wiederholt, Cornelia? Nu, verdient hats die Reihe – auch wenn ich da keinesfalls neutral bin nach der initialen PKD-Infizierung mit (dem Reihen-titelgebenden) ‘Do Androids Dream of Electric Sheep?’, ‘The Man in the High Castle’ und ‘Ubik’ in jenem einen Sommer und der finalen Überzeugung ein paar Jahre später mit ‘A Scanner Darkly’. Letzteres übrigens hervorzüglich verfilmt, mit Hilfe des guten alten Fleischer-Rotoskops.

  36. #42 shader
    26. Mai 2018

    @Cornelia S. Gliem: “worauf ich hinaus will:
    nur weil man intelligent ist sogar mit Bewusstsein, heißt das nicht, das grundlegende BasisProgrammierungen einfach wegfallen.
    autofacs ursprungsbefehl zu produzieren oder menschliche urinstinkte – gar nicht so verschieden.”

    Ich war in jungen Jahren schon ein SciFi-Fan und kenne eine Vielzahl an Romanen und Erzählungen, wo Maschinen, wie in Goethes Zauberlehrling gleich, angefangen haben, ihre Arbeit zu machen und nicht mehr aufhörten. Das ist sehr unterhaltsam und man kann auch mit Metaphern neue Konflikte und Ideen gut auf den Punkt bringen. Mit der Zeit sieht man als Leser aber auch, was in diesen Zukunftsvisionen nicht funktionieren wird. Maschinen können nur produzieren, wenn sie auch die benötigten Mittel zur Hand haben. Wenn das nicht der Fall ist, dann bricht das System zusammen, egal ob menschlich oder maschinell. Wenn es keinen Bedarf an den Produkten der Maschinen gibt, gibt es auch keine Einnahmen, um weitere Produkte zu produzieren. Von daher halte ich Visionen von ständig produzierenden Maschinen ohne menschliche Beteiligung für illusorisch.

  37. #43 Cornelia S. Gliem
    26. Mai 2018

    Ad shader: autofac war soweit noch nicht :-) ; und anhand der plots-Details vermute ich, dass die KI schlau genug wäre, zuletzt den Müll zu recyclen um an neue ressourcen zu gelangen.
    Nein – die einzige wahrhaft notwendige, nicht recycelbare “Ressource” für autofac ist im Grunde der mensch – als Kunde und Konsument. :-)

  38. #44 Wup
    27. Mai 2018

    > Und inwiefern erfährt man dadurch etwas über die Funktionsweise der Wirtschaft der Zylonen oder über ihre Wirtschaftswissenschaften?

    Rolak hat es eigentlich schon beantwortet.
    Aber da es ein wichtiges Theama ist und von vielen offenbar nicht bemerkt wird möchte ich noch etwas hinzufügen:

    “Die Begriffswelt der Ökonomen ist mit religiösem Vokabular gefüllt. Sie reden von „Schulden“, von der „Wert-Schöpfung“ und vom „Erlös“, von „Krediten“ und „Gläubigern“. Man trifft sich auf der „Messe“. Und bei jedem Einkauf „wandelt“ der Kunde ein bloßes Zeichen, den Geldschein, in eine echte Realität, die Ware. Der Theologe erkennt sofort die Parallele zur katholischen Transsubstantiationslehre, nach der im Zeichen des Brotes der Leib Christi gegenwärtig ist.”

    “Eine Wirtschaft ohne Glaubenssystem gibt es nicht, das hatte der tschechische Ökonom Tomáš Sedláček vertreten. Umstritten waren eher der notwendige Grad an religiöser Beteiligung und die Terminologie. Dass unter den Ökonomen viel für neutralere Begriffe wie „Ethik“ oder „Moral“ plädiert wurde, kann man nachvollziehen. Es wirkte aber auch wie ein Versuch, Dinge zwar anzuerkennen, aber nicht bei ihrem eigenen Namen nennen zu wollen, und somit etwas kleinkariert.”

  39. #45 Joseph Kuhn
    27. Mai 2018

    @ Wup:

    Dazu passend ein Zitat aus Joseph Vogls “Das Gespenst des Kapitals”: “Die manus gubernatoris der Scholastik, Gottes wirkende Hand, die unsichtbar alles Geschaffene lenkt, kehrt als wirksame theologische Metapher für die Vorsehung der Naturordnung, der oeconomia naturae wieder.”

    Dass in unserer säkularen Welt Religion und Theologie in neuen Gewändern wiederkehren, ist ein gängiges Interpretationsmotiv in den verschiedensten Bereichen, man denke z.B. an Max Webers Wertepluralismus als Wiederkehr des Streits der Götter oder Carl Schmitts Politische Theologie.

    Man sollte es aber spaßeshalber auch einmal umgekehrt probieren, also fragen, ob die Religion vielleicht nicht nur eine Repräsentation ökonomischer Prinzipien darstellt. Was ich damit sagen will: Man sollte vorsichtig sein, die Ökonomie, nur weil theologische Metaphern so schön “passen”, als theologisches System zu verstehen. Sie hat ihr eigenes Fundament und ist nicht nur die Wiederkehr des in der säkularen Gesellschaft ins Unbewusste verdrängten ewigen Religiösen. Die theologischen Metaphern bezeichnen das Ökonomische eben nicht beim “eigenen Namen”.

    Was das Fundament der Ökonomie ist, darum ging es mir mit der Zylonen-Ökononie. Ich hätte natürlich auch einfach den zitierten Satz von Peter Ulrich hinschreiben können, aber manches, was vor lauter Selbstverständlichkeit gar nicht mehr sichtbar ist, wird ja erst mit der Brechtschen Verfremdungsmethode wieder klar. Woran sich die Frage anschließt, ob und inwiefern die Sakralisierung ökonomischer Begriffe auch Klarheit durch Verfremdung schafft oder nur einem Missverstehen Vorschub leistet?

  40. #46 foobar407
    27. Mai 2018

    @Kuhn

    Woran sich die Frage anschließt, ob und inwiefern die Sakralisierung ökonomischer Begriffe auch Klarheit durch Verfremdung schafft oder nur einem Missverstehen Vorschub leistet?

    Auf die Gefahr, dass auf Friedhöfen wieder jemand stöhnt, aber wir können uns in unserem Verstehen immer nur im “Kreis drehen”. Ob von der Markwtwirtschaft zu Robotern oder zurück zur Theologie. Ausbrechen wird von uns niemand mehr, wir können den Kreis aber ein bischen größer machen.

    • #47 Joseph Kuhn
      27. Mai 2018

      @ foobar407:

      Das ist wohl so, unser Verstehen ist ein iterativer Prozess. Aber man sollte sich dabei auf den Kern der Sache zubewegen. Bei der Sakralisierung ökonomischer Begriffe bin ich mir nicht sicher, welcher Bewegung sie folgt. Das kommt mir eher vor wie ein Pendel des Feuilletons, das in der Kritik des homo oeconomicus zu sehr in die andere Richtung ausschlägt.

  41. #48 foobar407
    27. Mai 2018

    @kuhn

    Man könnte aus diesem Vergleich höchstens etwas lernen, wenn man es schafft, Ergebnisse der Theologie wieder zurückzuführen auf die Markwirtschaft. Also irgendwas wie die Reformation oder so. Aber wenn das nicht gelingt, dann ist der Vergleich wohl eher hinderlich.
    Aber die Roboter-Analogie müsste das gleiche leisten. Da sind wir dann aber aktuell auf die Leistung von Sciene-Fiction Autoren angewiesen. Oder wir schauen auf die aktuelle KI, die überwiegend stochastisch arbeitet, und testen, ob es hilft, gewisse Aktionen in der Marktwirtschaft als zufällig zu betrachten. Aber selbst wenn, wird es schwer das Ergebnis in für uns verständliche Begriffe zurückzuführen.

  42. #49 tomtoo
    27. Mai 2018

    Welche Ergebnisse der Theologie ?

  43. #50 Kassandra
    2. Juni 2018

    Entsteht vielleicht im Zuge der weiteren Entwicklung autonomer Systeme schleichend und unbemerkt eine solche Roboter-Ökonomie, integriert in unserer an menschlichen Interessen orientierten Ökonomie, ressourcenabsorbierend, selbstreferentiell, nachfragegenerierend, aber mit immer geringerer Anbindung an einen menschlichen Nutzen?

    Und noch weiter: Was lehrt uns die Frage nach den Zielen und Antriebskräften einer Roboter-Ökonomie über den Sinn unseres Wirtschaftens?

    Interessante Fragen. Spontan würde ich bei einer Roboter-Ökonomie die Herausbildung eines Systems erwarten, das ungefähr so funktioniert wie ein Ameisenstaat. Die Frage ist, wer die Ziele definiert, an denen sich so eine Ökonomie orientiert, und ob sie festgeschrieben bleiben, bis dieser Irgendwer sie ändert, oder ob die Autonomie der Systeme irgendwann so weit geht, dass sie selbst Anpassungen – nach innerer Logik der bereits vorhandenen Vorgaben – vornehmen.

    Mir fiel dazu die Börse ein.

    Meine ersten, noch unsicheren Gehversuche an der Börse haben mir das Aha-Erlebnis gebracht, wie gewaltig die Rolle des automatisierten Börsenhandels bereits ist. Jeder Akteur an der Börse legt dabei – mit Blick auf den eigenen Nutzen – fest, unter welchen Bedingungen welche automatisierten Handelsaktivitäten geschehen sollen. Aber das Zusammenspiel aller dieser Aktivitäten produziert oft unerwartete Ergebnisse, wenn zu viele Akteure (vor allem die Großen) ungefähr dieselben Vorgaben hatten, also zum Beispiel alle im gleichen Moment automatisiert dasselbe verkaufen wollen, weil, sagen wir, die Quartalszahlen eines börsennotierten Konzerns ein wenig enttäuschend ausgefallen sind. Dann bricht nämlich eine Art Stampede aus und das fragliche Papier fällt ins Bodenlose. Im Prinzip gab es Vergleichbares natürlich früher auch schon, aber heute geschieht das innerhalb von Sekunden, löst nebenbei natürlich auch noch weitere automatisierte Orders aus und potenziert damit die Wirkung, die damit in keiner Relation mehr zur auslösenden Ursache steht.

    Anstelle eines Nutzens kann die automatisierte Steuerung hier für deren Nutzer also auch leicht zu einem Schaden führen.

    Gleichzeitig schafft dies auch neue Marktmanipulationsmöglichkeiten, denn nun gibt es auch Marktakteure, die ihr Geld verdienen, indem sie versuchen, solche automatisierten Massenpaniken auszulösen und von ihnen zu profitieren. Was offenbar auch gar nicht so selten funktioniert, weshalb diese Leute sicherlich auch schon auf die Idee gekommen sind, ihr Modell bis zu einem gewissen Punkt zu automatisieren.

    Letztlich kann ein einzelner menschlicher Marktteilnehmer, der seine Handelsentscheidungen nicht oder nur in geringem Umfang automatisiert, sondern sie überwiegend selbst trifft, der weiß, was er warum will und der solche übertreibenden Kursverläufe einschätzen kann, aber sowohl von den durch die Automatisierung als auch von den in manipulativer Absicht künstlich ausgelösten Übertreibungen profitieren, also zum Beispiel teurer verkaufen oder günstiger kaufen, als er es ohne diese Übertreibungen könnte.

    Deshalb bin ich auch guten Mutes, dass keine Roboter-Ökonomie die kreativen Umgehungslösungen schlagen könnte, die sich Menschen ausdenken können, wenn das automatisierte Schema aus ihrer Sicht ihnen zu wenig Nutzen bringt.