Eine Nachricht aus dem Jahre 1949
In der New York Times erschien am 20.05.2013 ein Artikel über ein bis vor kurzem verschollenes Essay Norbert Wieners, des Namensgebers der Kybernetik, in dem er das kommende Maschinenzeitalter beschrieb. Das Essay ist aus dem Jahr 1949, einer Zeit, in der von iPhones, Drohnen, Robotern und dem Internet weit und breit weder die geringste Spur zu sehen, noch zu erahnen war. Norbert Wiener scheint sich dennoch schon damals bewußt gewesen zu sein, dass die Theorien und Ideen, die man damals entwickelte, in der Tragweite ihrer Konsequenzen ein geistiges Äquivalent zur Atombombe darstellten und ungeahnte und grauenvolle Folgen haben könnten, wenn sich die Menschheit nicht besinnen würde. Seine fast 64 Jahre alte Prognose ist faszinierend zutreffend und seine Forderung nach menschlicher Ehrfurcht und Sorge um die inzwischen tagesaktuellen Entwicklungen ist für mich eine der zentralen Triebkräfte des Trialogs.
Weil ich diesen Text für essentiell halte, habe ich den gesamten New York Times Artikel ins Deutsche Übersetzt.
Schlomo im Mai 2013. Keine Angst und keine Schuld.
1949 sah er bereits ein Zeitalter der Roboter voraus
Es war eine Vision, die niemals das Tageslicht erblickte.
Es war im Jahr 1949. Computer und Roboter waren größtenteils der Inhalt von Science Fiction. Nur einige weitsichtige Denker entwickelten Vorstellungen davon, dass sie eines Tages zentral für die menschliche Zivilisation werden würden, mit sowohl befreienden wie auch verheerenden Konsequenzen.
Einer dieser Visionäre war Norbert Wiener (1894-1964), ein amerikanischer Mathematiker am Massechusetts Institute of Technology. 1948 hatte er das Buch „Kybernetik“ [1] veröffentlicht, ein Meilenstein der theoretischen Arbeit, welches die Ankunft von Computern, Robotern und der Automatisierung vorausahnte und beeinflusste. Zwei Jahre später schrieb er „Mensch und Menschmaschine“ [2], eine Popularisierung dieser Ideen und eine Erforschung des Potentials der Automatisierung und der Gefahren der Entmenschlichung durch Maschinen.
1949 wurde Norbert Wiener von der New York Times eingeladen, seine Sicht zusammenzufassen „wie das ulimative Maschinenzeitalter wohl einmal aussehen möge“ [3], wie es der langjährige Redakteur Lester Markel formulierte.
Wiener nahm die Einladung an und schrieb einen Entwurf für einen Artikel. Der legendäre Autokrat Markel war unzufrieden und bat ihn, den Artikel neu zu schreiben, was er tat. Aber durch eine Folge ausgesprochen prä-vernetzter Unaufmerksamkeiten und verpasster Gelegenheiten wurde keine der beiden Versionen je veröffentlicht.
Im August, laut Wieners Aufzeichnungen, die sich in der Bibliothek des MIT befinden, bat die NYT ihn, seinen ersten Entwurf erneut zu schicken, so dass sie ihn mit der zweiten Fassung kombinieren könne. (Unklar ist, warum die Redakteure keine Kopie von der ersten Fassung mehr besassen.) Aber Norbert Wiener, der in Mexiko unterwegs war, antwortete:
„Ich hatte angenommen, dass das Geschäft mit der ersten Version meines Artikels abgeschlossen wäre. An meine Papiere in meinem Büro am MIT heranzukommen, würde erheblichen Schriftverkehr und Verstimmungen bei einigen Leuten beinhalten. Daher denke ich nicht, das dies praktikabel wäre. Ich denke, Unter diesen Umständen ist es das Beste für mich, wenn ich diese Angelegenheit abbreche.“
In der folgenden Woche schickte der NYT Redakteur die zweite Version des Essays an Wiener zurück und so fand es Eingang in den Archiven und ‚Special Collections‘ der Bibliothek am MIT. Dort lag es, bis es im Dezember 2012 von dem unabhängigen Wissenschaftler Anders Fernstedt, der die Arbeiten des Philosophen Karl Popper erforscht, wiederentdeckt wurde.
Fast 64 Jahre nachdem Wiener es schrieb ist dieses Essay noch immer bemerkenswert relevant und stellt Fragen nach den Auswirkungen der klugen Maschinen auf die Gesellschaft, auf die Automation und die menschliche Arbeit. Um ein altes Versäumnis wieder gutzumachen, hier einige Auszüge aus „Das Zeitalter der Maschinen“ [4] courtesy of the MIT Libraries (all rights reserved).
Stellen Sie sich einen Abakus vor
Inzwischen ist es der Öffentlichkeit bewußt, dass uns ein neues Zeitalter der Maschinen bevorsteht, das auf Rechenmaschinen basiert und nicht länger auf Kraftmaschinen. Es ist die Tendenz dieser neuen Maschinen, menschliche Entscheidungen auf allen, ausser einer ziemlich hohen, Ebenen zu ersetzen, anstatt menschliche Energie und Kraft durch maschinelle Energie und Kraft zu ersetzen. Es ist bereits klar, dass dieser neue Ersatz einen tiefgreifenden Einfluß auf unsere Leben haben wird, während es dem Mann auf der Straße noch nicht klar ist, welcherart dieser Einfluß sein wird. …
Um zu verstehen, was eine Rechenmaschine ist, lassen Sie uns mathematische Berechnungen auf einem Papier, einem Chinesischen … Abakus, einem Marchand oder Fridén Dezimalrechner für den Bürogebrauch und einer elektronischen Rechenmaschine vergleichen. Von diesen ist tatsächlich der Abakus am ältesten, allerdings ist dieser dem durchschnittlichen Menschen in der modernen westlichen Welt nicht allzu bekannt.
Lassen Sie uns beginnen mit einer gewöhnlichen Rechnung auf dem Papier. Dabei sind wir von bestimmten Kombinationen ins Gedächtnis eingeprägter Zahlen und Verfahrensregeln abhängig, die uns dazu in die Lage versetzen, die anstehende Rechnung mit den gerade aktuellen Zahlen durchzuführen. Die Multiplikationstabellen und die Regeln der elementaren Arithmetik repräsentieren etwas, das des menschlichen Eingriffs bedarf, um auf Papier durchgeführt zu werden. Doch diese menschlichen Eingriffe folgen bestimmten unmenschlich starren und erlernten Regeln.
Auf dem Abakus führen wir genau dieselbe Art von Eingriffen durch, wie beim Kombinieren von Zahlen auf dem Papier, doch in diesem Fall werden die Zahlen durch die Positionen von Bällen auf Drähten dargestellt, anstatt durch den Füller oder den Bleistiftstrich. Die Notation der Zahlen ist genauso beliebig wie bei einer gewöhnlichen Rechnung auf dem Papier, aber die Rechenoperationen haben eine mechanischere Erscheinung, da sie aus der körperlichen Bewegung bestimmter materieller Teile bestehen. Dennoch besteht nicht der geringste logische Unterschied zwischen der Rechnung mit einem Abakus und der auf einem Papier.
Drittens werden beim Schreibtisch-Rechner die selben Operationen durchgeführt wie auf dem Abakus mit Regeln, die nicht in all ihren Details im Gedächtnis behalten werden müssen, sondern welche der Maschine anvertraut werden und von ihren Eingriffen ausgeführt werden. Die Maschine ersetzt nicht echtes Denken, da die Ebene des Denkens elementarer Prozesse, wie wir sie auf dem Papier ausführen, die eines festgelegten Ablaufes ist. Der Schreibtisch-Rechner ist nicht mehr und nicht weniger als ein mechanisierter Abakus, in welcher unser Gedächtnis ersetzt ist durch bestimmte Verschaltungen in der Maschine.
Schließlich unterscheidet sich die elektronische Hochgeschwindigkeitsrechenmaschine von der Schreibtisch-Rechenmaschine nur in der Geschwindigkeit ihrer Operationen und der wesentlich höheren Verflechtung ihrer Verschaltungen. Darum wird aus einer Operation, die vorher Stunden gedauert hat, eine Sache von Sekunden.
…
Arbeiter aus der Massenprodution
Bis jetzt haben wir von den Ähnlichkeiten zwischen der Rechenmaschine und dem menschlichen Nervensystem gesprochen, anstatt von der Ähnlichkeit zum gesamten menschlichen Organismus. Maschinen von größerer Ähnlichkeit zum menschlichen Organismus sind wohl verstanden und sind kurz davor, gebaut zu werden. Sie werden ganze industrielle Prozesse kontrollieren und werden sogar Fabriken ohne nennenswerte Belegschaft ermöglichen.
In diesen werden ultraschnelle digitale Rechenmaschinen durch Apparaturen ergänzt, welche die Werte von Messgeräten, Thermometern oder Photozellen aufnehmen und sie in eine digitale Eingabe für die Maschine übersetzen. Dieser neue Verbund wird ebenfalls Effektoren enthalten, welche die numerische Ausgabe der zentralen Rechenmaschine in Rotationen von Achsen, die Abgabe von Chemikalien in Tanks, das Heizen eines Boilers oder einen anderen Prozess dieser Art übersetzen.
Darüberhinaus wird die tatsächliche Ausführung dieser Effektor-Organe ebenso wie ihre gewünschte Ausführung, von geeigneten Messgeräten gelesen und als Teil der Informationen, mit denen sie arbeitet, in die Maschine zurückgeführt.
Der generelle Umriss des Prozesses, der ausgeführt werden soll, wird davon bestimmt, was der Rechen-Ingenieur ‚Taping‘ nennt, welches die Reihenfolge der auszuführenden Prozesse festsetzt und bestimmt. Die Möglichkeit zu lernen könnte dadurch eingebaut werden, indem man erlaubt, dass das ‚Taping‘ durch die Ausführungen der Maschine und die eingehenden externen Impulse auf neue Art aufgebaut wird, statt es vorher in einem rigiden und geschlossenen Aufbau festzulegen, der dem Apparat am Anfang übergestülpt wird.
Die Einschränkungen einer solchen Maschine sind schlicht die des Verstehens der zu erreichenden Ziele, die Möglichkeiten jeder Stufe des Prozesses, mit denen sie erreicht werden sollen und unser Vermögen, logisch festgelegte Kombinationen solcher Prozesse anzufertigen, um unsere Ziele zu erreichen. Grob gesagt, wenn wir etwas in einer klaren und verständlichen Art und Weise tun können, können wir es auch mit einer Maschine tun.
Wo die ökonomischen Grenzen liegen werden – nämlich, wie wir bestimmen können, wann es wünschenswert ist, eine Maschine statt eines menschlichen Effektors einzusetzen -, können wir nicht eindeutig festsetzen, bis wir mehr Erfahrung damit haben. Es ist allerdings ziemlich klar, dass abgesehen vom ‚Taping‘, welches eher die Arbeit für einen intelligenten Menschen als einen geschickten Menschen ist, der Apparat, von dem wir im zukünftigen Maschinenzeitalter abhängig sein werden, größtenteils reproduzierbar und dafür geeignet sein wird, durch die Methoden der Massenproduktion hergestellt zu werden.
Der Geist und die Flasche
Diese neuen Maschinen haben eine immense Kapazität, die Grundlagen unserer gegenwärtigen Industrie zu erschüttern und den ökonomischen Wert des normalen Fabrikarbeiters bis zu einem Punkt zu reduzieren, an welchem er es nicht mehr Wert ist, für irgendeinen Preis eingestellt zu werden. Wenn wir unser Maschinenpotential einer Fabrik mit der Bewertung von Menschen verbinden, worauf unser gegenwärtiges Fabriksystem basiert, haben wir eine industrielle Revolution unverminderter Härte zu erwarten.
Wir müssen willens sein, uns mit Fakten statt mit modischen Ideologien zu beschäftigen, wenn wir diese Periode unbeschadet überstehen wollen. Nicht einmal das leuchtentste Bild eines Zeitalters, in dem der Mensch der Meister ist und in der wir alle Zugang zu mechanischen Diensten haben werden, kann die Qualen dieses Überganges aufwiegen, wenn wir nicht sowohl menschlich als auch intelligent sind.
Schließlich werden die Maschinen alles tun, was wir von ihnen verlangen und nicht, was wir von ihnen verlangen sollten. In der Diskussion über das Verhältnis des Menschen zu den von Menschen kontrollierten gewaltigen Kräften hat die gnomische Weisheit der Volkslegenden einen Wert, der weit über die Bücher der Soziologen hinausgeht.
Es gibt eine generelle Übereinstimmung unter den Sagen der Völker vergangener Zeiten, dass es wahrscheinlicher ist, dass wir die unserem Willen übertragene Macht eher falsch als richtig benutzen, dass es wahrscheinlicher ist, dass wir sie dumm verwenden statt intelligent. [W. W. Jacobs’s] schreckliche Geschichte „Die Affenpfote“ ist ein modernes Beispiel hierfür. Der Vater wünscht sich Geld und bekommt es als Entschädigung für den Tod seines Sohnes bei einem Fabrikunfall. Dann wünscht er sich, dass sein Sohn zurückkomme. Der Sohn kehrt als Geist zurück und der Vater wünscht sich, dass er wieder verschwinden möge. Das ist das Ergebnis seiner drei Wünsche.
Wenn wir uns darüber hinaus weiter in die Richtung bewegen, lernende Maschinen zu bauen, deren Verhalten von ihrer Erfahrung modifiziert wird, müssen wir uns darauf gefasst machen, dass jeder Grad der Unabhängigkeit, den wir den Maschinen geben, ein Grad möglicher Mißachtung unserer Wünsche ist. Der Geist aus der Flasche wird weder in die Flasche zurück wollen noch haben wir irgendeinen Grund zu erwarten, dass er uns freundlich gesonnen ist.
Kurz, es ist nur die Menschheit, die zur Ehrfurcht fähig ist und nur sie ist es, die dazu in der Lage sein wird, die neuen Potentiale zu kontrollieren, die sich uns eröffnen. Wir können demütig sein und ein gutes Leben mit Hilfe der Maschinen führen, oder wir können arrogant sein – und sterben.
[1] Cybernetics, or control and communication in the animal and the machine
[2] The human use of human beings. Cybernetics and Society.
[3] “what the ultimate machine age is likely to be” im Original
[4] “The Machine Age” – Originaltitel des Essays
Artikel © New York Times
Essay © M.I.T
Übersetzung ©2013 Schlomo