Gefahr von superintelligenten Computern

Unter ‚Andere statt keine Arbeit durch Roboter‘ bin ich schon einmal auf das Buch „Rise of the Robots: Technology and the Threat of a Jobless Future“ von Martin Ford eingegangen. Dass den Menschen durch Roboter und Computer die Arbeit ausgeht, sehe ich nicht als wirkliche Gefahr an. Es droht jedoch eine ganz andere Gefahr, falls künstliche Intelligenz demnächst (oder auch erst langfristig) der menschlichen stark überlegen sein sollte. In seinem neunten Kapitel „Super-Intelligence and the Singularity“ beschreibt Herr Ford ein solches Szenario.

Die große Gefahr ist, dass eine stark überlegene Intelligenz von den Menschen nicht einfach nur einen Großteil der Arbeit, sondern auch die Herrschaft übernehmen könnte. Was bislang reine Science-Fiction ist, könnte durchaus demnächst oder irgendwann später Wirklichkeit werden. Dabei ist es möglich, dass die Menschen bzw. gewählte Regierungen freiwillig die Macht an Maschinen übergeben, weil diese intelligenter und weniger parteiisch sind. Superintelligente Computer könnten aber auch gegen den Willen der (meisten) Menschen die Macht übernehmen. Es ist weiterhin möglich, dass ein einmal begonnener Prozess der Entscheidungsübertragung sich irgendwann nicht mehr stoppen lässt. Einzelne Menschen oder Regime könnten solche Computer auch gegen den Willen aller anderen entfesseln. Bei einem zukünftigen Krieg könnte es schließlich nötig werden, eigenen überlegenen Computern die wesentlichen Entscheidungen zu übertragen, um nicht von den überlegenen Computern der Gegenseite besiegt zu werden.

Was dann unter der Herrschaft von Supercomputern passiert, lässt sich kaum vorhersehen. Erstens sind sie per definitionem viel schlauer als wir Menschen und das vielleicht auch noch auf eine uns fremde Art. Zweitens könnten sie noch viel intelligentere Computer oder ganz andere Form von Superintelligenz entwerfen. Drittens könnten sie dem Wohle der Menschheit dienen wollen oder sich auch gegen die Menschen als größte Gefahr für sie selbst und den ganzen Planeten richten.

Wichtig ist dabei die Differenzierung von Intelligenz, Willen und Bewusstsein, auch wenn diese drei Eigenschaften bei uns Menschen stark miteinander verknüpft sind. Computer können bereits jetzt durchaus Intelligenz ohne Willen und Bewusstsein aufweisen. Alternativ können ihnen ein bestimmter Wille oder zumindest Entscheidungsregeln einprogrammiert werden. Sie könnten aber auch einen eigenen Willen bzw. eigene Ziele entwickeln oder aus vorgegebenen Zielen für uns überraschende Folgerungen ziehen. Schließlich ist zumindest unklar, wodurch Computer ein Bewusstsein bzw. ein inneres Erleben entwickeln könnten oder wie dies überhaupt feststellbar wäre. Schlimmstenfalls rotten sie uns aus und denken sich gar nichts dabei.

13 Gedanken zu „Gefahr von superintelligenten Computern

  1. Mit dem Mist von Windows 10 habe ich mich genug gequält.
    Ein neues smart phone will ich schon gar nicht mehr.
    Machen Sie mir bitte nicht noch mehr Angst……

    • Davor müssen Sie keine Angst haben. Superintelligente Computer wären ganz leicht zu bedienen bzw. erledigen alles von selbst. Die Frage ist, ob sie noch tun, was Sie wollen, was bei Windows 10 aber aus anderen Gründen wohl ebenfalls nicht der Fall ist.

  2. Günter Grimm
    Mail: si12g.g.laksame@gmail.com
    Mein Kommentar:
    Die Möglichkeit, daß “ hochintelligente “ Computer ( Roboter-Systeme ) eines schönen
    Tages – wie auch immer ? – die Macht übernehmen könnten, läßt sich aus heutiger
    Sicht – noch – als unwahrscheinlich einordnen.
    ABER … wenn die sog. “ Mächtigen “ ( Politik und Wirtschaft ! ) – egal in welchem Land
    dieses Planeten – eine Möglichkeit sehen, erkennen – und – als umsetzbar einschätzen,
    so werden die sog. “ Mächtigen “ nicht – nicht – zögern, diese hochmoderne, aber na-
    türlich sehr gefährliche Technik, auch einsetzen zu wollen.
    Betrachten wir uns die derzeit heranwachsende Generation(en), so stellt man sehr häufig
    fest, daß diese JUNGEN MENSCHEN schon als abhängig ( Smartphons, App´s, FACE-
    Book, – usw. – ) zu betrachten sind.
    Ein Erlebnis von mir als Beispiel: Mitten in New York in einem Steak-House: Ich nehme
    links von mir einen Tisch mit fünf Menschen war. Vier Herren, eine Dame. Rechts von
    mit ( ca. 6 m Zwischenraum im Lokal ) nehme ich einen Tisch mit drei Menschen war.
    Eine Frau, zwei Männer. Ich beobachte die Frau – links – die eifrig auf ihrem Smart-
    phone “ herum hämmert “ und wischt. Jedes mal, wenn sie etwas beendet hat, nehme
    ich war, daß auf dem rechten Tisch ein Klingelzeichen ertönt. Ich beobachte weiter,
    da ich nicht glauben will, daß diese beiden Menschen tatsächlich im Lokal, auf dieser
    Art und Weise kommunizieren.
    ABER … es zeigt sich mir, daß es Realität ist.
    Beide Menschen bleiben auf Ihrem Allerwertesten sitzen, tippen, wischen, schauen,
    lachen – und – ich glaube bei mir, daß ich irgendwie auf einem anderen Planeten
    sein muß.
    Ich habe mir einen Begriff ( Die Kopf-Runter-Generation ) patentrechtlich schützen
    lassen – und – mal sehen … eventuell kann man mit diesem “ Namen “ in naher Zu-
    kunft – vielleicht – sogar Geld verdienen.
    Es ist einfach schrecklich, wie sich die derzeitigen Generationen entwickeln – und – wie
    unbedarft diese Menschen mit der Tatswache umgehen, daß sie alle – äußerst leicht –
    überwachbar sind.
    Günter Grimm 18.01.2016

    • Es ist besser, Kommentare ohne harte Zeilenumbrüche einzustellen. Manchmal nehme ich diese heraus, meistens ist mir das zu mühsam.

      Was Sie beschreiben, hat eigentlich nichts mit Supercomputern zu tun. Die sozialen Netzwerke sprechen ganz archaische Gefühle von uns an. Die Überwachungsmöglichkeiten sind natürlich ein Problem. Irgendwann kommunizieren wir vielleicht auch lieber mit Computern als mit echten Menschen, zumindest wenn wir nicht wissen, dass es sich um Computer handelt, die besonders nett sind und unsere jeweilige Meinung teilen.

  3. Für die Volkswirtschaft und vor allen Dingen die Arbeitsplätze dürfte die Superintelligenz zunächst weniger wichtig sein.
    Gefährlich erscheinen mir eher künstliche Normalintelligenzen die eben mit einer Vielzahl von Menschen mittlerer Qualifikation; z.B. Entscheidungsvorbereitung im mittleren Management; konkurrieren.
    Auch Arbeitsplätze mit höherem Qualifikationsgrad; z.B. in der Radiologie, Bilderkennung; erscheinen bereits durch heutige Technologien stark gefährdet. Hinsichtlich der superintelligenten Computer frage ich mich, ob wir hier nicht einen Phasenübergang im Sinne des Endes der natürlichen biologischen Evolution nach dem Motto ‚Zufallsmutation und natürlich Selektion‘ erleben, und die weitere Evolution auf einer rein technisch-mathematischen Maschinenebene stattfindet; Stichwort: selbstschreibende, lernende Software.
    Tatsächlich dürfte die Zahl der Menschen die dann hier noch mitkommen mit der Zeit gegen Null gehen, die Maschinen würden letztendlich unkontrollierbar.
    Ob eine künstliche Intelligenz auch ein Bewusstsein entwickeln kann erscheint mir nicht nur irgendwann zwingend sondern auch notwendig; da der sogenannte gesunde Menschenverstand wohl im Gegensatz zur Intelligenz Bewusstsein voraussetzt. Hochintelligente KI-Programme wie z.B. Deep-Blue machen im Schach absolute Anfängerfehler, da ihnen eben dieser gesunde Menschenverstand fehlt, trotz überlegener Schachintelligenz.
    Ein wesentliches biologisches Merkmal des Menschen wie die Libido würde einer KI wohl völlig fehlen, es sei denn es würde künstlich einprogrammiert bzw. spontan entstehen und dann unberechenbar sein.
    Die menschliche Intelligenz ist ja letzten Endes libidinös gesteuert und damit zielgerichtet auf z.B. Geld, Macht, Sex, Nahrung.
    Natürlich wäre es denkbar, dass eine KI, insbesondere wenn von Frau Simone Peters oder Herrn Hofreiter programmiert, zu dem Schluss kommt, der Mensch sei schädlich für die Welt, außer Kontrolle geraten kann.
    Zur Beruhigung: es fehlt diesen grün-linken Menschen sicherlich an der Intelligenz eine Waschmaschine zu programmieren. Andererseits hat Professor Weizenbaum, zuständig für Künstliche Intelligenz am Massachusetts Institute of Technology, aus solchen Gründen empfohlen, solche Forschung nicht weiter zu verfolgen und ein Moratorium einzurichten.
    Als Kriterium für KI und Menschenähnlichkeit hatte er ein Psychotherapieprogramm für Studenten entworfen, bei dem die Studenten nicht in der Lage waren zu erkennen, dass sie in Wechselwirkung mit einem Computer waren; und dies in den 80er Jahren!

    • Wenn man sich einmal auf das Thema einlässt, dann fällt einem beispielsweise im Justizwesen zuerst der Nutzen auf. Hier würde ein Computer sicher fairer beurteilen, ob ein Tatbestand verwirklicht oder ein Beweis erbracht ist.Normen würden dem Wortlaut entsprechend korrekt angewendet. Menschliche Willkür und Befangenheit wären nahezu ausgeschlossen. Auch im Verfahrensrecht wäre ein Computer der bessere Richter. Garantiert würde ein korrekt programmierter PC weder einen Negativbeweis verlangen noch einen Ausforschungsbeweis zulassen. Für Rhetorik wäre ein Computer ebenfalls nicht empfänglich.

  4. Quatsch!

    Ist doch längst schon Realität.

    Börsenhandel findet schon längst so statt.
    Computerprogramme kaufen oder verkaufen gemäß festgelegten Signifikanzen.
    “Kleinere” Crashs haben meist ihre Ursachen in dieser Tatsache.

    Anderes Beispiel: Sog. individualisiertes Massenmarketing (ecommerce) läuft völlig automatisch ab. Computerprogramme entscheiden, wer wie angeschrieben wird.

    JKn

    • Der Börsenhandel wird nicht von superintelligenten Computern betrieben, sonst käme es doch nicht zu diesen Minicrashs. Die betreffenden Computer können nicht einmal von sich aus exogene Nachrichten verarbeiten und werden auch gar nicht aus Gründen höherer Intelligenz eingesetzt, sondern wegen der Schnelligkeit. Das Massenmarketing ist auch noch nicht sehr intelligent. Die Algorithmen und Textbausteine sind vorgeben.

  5. Es ist doch eigentlich egal, wer die Arbeit erledigt. Oder was spricht volkswirtschaftlich dagegen, wenn statt Menschen Maschinen die Grundlage der Wertschöpfung sind?

    • Die Verteilungsprobleme würden sich verschärfen, weil dann nur noch die Besitzer der Maschinen ein eigenständiges Einkommen erzielen könnten. Doch in gewisser Weise werden sie auch nicht mehr gebraucht, weshalb man alles verstaatlichen oder gleich den Computern überlassen könnte.

  6. Also erst mal vorangestellt, ich habe Lakierroboter bei VW Emden und Handlings-Roboter u.a. bei UDL in Hamburg installiert, in Betrieb genommen und repariert. Daher kann ich mir auch ein Urteil über den Einsatz von Robotern jetzt und zukünftig erlauben. Erst mal, das Märchen des Facharbeitermangels seiten der Industrie ist reiner Oportunismus. Hier ergeben sich vielseitige Einsatzmöglichkeiten für Handlings-Roboter, die den angeblichen Mangel beseitigen könnten und evtl. freiwerdende Mitarbeiter können weitergebildet für die Roboterwartung und Reparatur eingesetzt werden. Künstliche Inteligenzen können nur auf das ihnen einprogrammierte Wissen zurück greifen, nicht aber auf Urgene wie sie der Mensch besitzt. Auch können sie nicht selbständig unterscheiden ob ein Ereignis ein Eingreifen erfordert oder nicht. Alles Andere ist reine Fiktion.

    • Wieso meinen Sie, von aktuellen Spezialrobotern auf das langfristige Potential von künstlicher Intelligenz generell schließen zu können? Selbst wenn es keine qualitativen Durchbrüche mehr geben sollte, wird einfach der quantitative Zuwachs an Rechenleistung und Daten immer komplexeres „Verhalten“ erlauben. Es gibt auch schon Programme, die selbst aus Fehlern lernen und sich in der Folge optimieren können. Das ursprüngliche Programm und dessen Zielfunktion wurden natürlich von Menschen (ggf. mit der Hilfe weiterer Computer) programmiert, doch spätere Programmversionen können sich davon deutlich unterscheiden.

  7. Pingback: Künstliche Intelligenz bedroht Millionen Arbeitsplätze | Alexander Dilger

Kommentar verfassen

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden / Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden / Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden / Ändern )

Google+ Foto

Du kommentierst mit Deinem Google+-Konto. Abmelden / Ändern )

Verbinde mit %s