Garry Kasparov sagt, ai kann uns "menschlicher" machen

Garry Kasparov war eines der ersten Opfer der KI-Automatisierungsrevolution. Sein Verlust gegen IBMs Deep Blue machte ihn zum ersten menschlichen Schachmeister, der ein Match gegen einen Computer verlor. Aber Kasparov ist nicht erschöpft. In seinem Buch Deep Thinking geht es darum, wie KI uns dabei helfen kann, menschlicher zu werden.

Die wahre Herausforderung, sagte Kasparov mir diesen Monat bei SXSW in Austin, ist es, diese Werkzeuge vor den Menschen zu bewahren, die sie verwenden wollen, um Schaden zuzufügen. Und in dieser Hinsicht können wir bereits zu spät sein.

Dan Costa: Nach einer Karriere als Schachspieler und dem Kampf gegen Deep Blue sind Sie seitdem eine Art Schach-KI-Experte geworden. Wie sollen die Menschen künstliche Intelligenz verstehen?

Garry Kasparov: Ich muss gestehen, dass ich die Grenzen meiner Ignoranz kenne. Aus diesem Grund freue ich mich, über Dinge zu sprechen, bei denen ich mir meiner eigenen Expertise sicher bin, und ich denke, dass ich über bestimmte Kenntnisse der Mensch-Maschine-Beziehungen verfüge und mit einer gewissen Autorität über die zukünftigen Ergebnisse sprechen kann.

Außerdem glaube ich, dass wir noch in einem sehr frühen Alter von AI sind und wir sollten sogar einige Begriffe diskutieren. Es geht um Semantik, es geht um Philosophie und ich sage immer, dass die Leute denken, wir befinden uns in der Windows 10-Ära, während wir noch alle unter MS-DOS arbeiten.

In diesem Moment ist es sehr wichtig zu verstehen: "Was ist AI? Wenn wir AI sagen, was meinen wir damit?" Wenn Sie 10 Experten nach AI fragen, erhalten Sie 11 oder 12 Antworten. Es gibt immer noch eine ziemliche Meinungsverschiedenheit.

Es gibt noch Details, aber ich denke im Allgemeinen, wir erkennen, dass es eine Gruppe von Menschen gibt, die wir Optimisten nennen werden, die sich der großen Menge der Weltuntergangsjäger gegenübersehen. Irgendwie ist die Öffentlichkeit eher bereit, Doomsayer-Szenarien zu akzeptieren. Ich denke, es ist unser Instinkt, die Zukunft zu fürchten, was auch interessant ist, weil das Science-Fiction in den 50er und 60er Jahren sehr optimistisch war. Es ging uns nur darum, mit Maschinen zu arbeiten.

Wenn Sie jetzt die 70er, 80er, 90er Jahre betrachten, verlagert sich dies auf dystopisches Sehen. Es geht um Terminatoren. Es geht um die Matrix, und jetzt ist das Science-Fiction-Genre fast tot, weil es mehr um Fantasie geht, es geht um Magie. Die Leute haben große Angst, über die Zukunft zu sprechen, weil wir nicht sicher sind, was dort passieren wird. Ich denke, wir sollten einfach erkennen, dass AI kein Zauberstab ist, aber kein Terminator. Es ist kein Vorbote von Utopie oder Dystopie. Es ist ein Werkzeug. Wir sollten einen Weg finden, damit umzugehen.

Es öffnet keine Pforten der Hölle, aber es ist kein Paradies. Es ist nicht für alles eine Lösung. Es ist keine Erlösung. Schauen wir uns die Probleme der Erde an, und meine größte Sorge gilt heute nicht Killerrobotern oder einer Art virtueller Realität, die unseren Realitätssinn ruinieren könnte, sondern schlechten Schauspielern. Es geht um Terroristen. Es geht um den Rock Space, der diese Technologie einsetzt, um uns zu schaden. Ich sage immer, dass die Leute… ein böses Monopol haben. Hier sollten wir uns konzentrieren, aber es sollte auch erkannt werden, dass KI so viele großartige Dinge für uns tun kann, denn was die Leute sagen werden: "Oh, KI schafft neue Herausforderungen. KI könnte viele Arbeitsplätze wegnehmen." Genau. Das ist, was mit Jobs in der Landwirtschaft, Jobs im verarbeitenden Gewerbe passiert ist. Disruptive Technologien zerstören immer Industrien und schaffen gleichzeitig neue Arbeitsplätze.

Ich sage, Technologie ist der Hauptgrund, warum so viele Menschen noch am Leben sind, um sich über Technologie zu beschweren, weil wir einfach nicht erkennen, dass die durchschnittliche Lebensdauer dank Technologie von 45, 47, Anfang des 20. Jahrhunderts auf jetzt 75 gestiegen ist. Wir wollen Vorteile, wir wollen Bequemlichkeit und wir schauen nicht auf den Preis. Die Leute kaufen Alexa oder laden eine Gesichtserkennungs-App herunter und beschweren sich dann über den Datenschutz. Es ist an der Zeit zu verstehen, was wir von diesen Technologien erwarten und wie wir damit umgehen wollen. Wie sie unser Leben verbessern und gleichzeitig erkennen können, dass wir nicht über verschüttete Milch diskutieren sollten. Es wird passieren.

Wir sollten nicht fragen, ob wir es wollen oder nicht, es passiert. Jeder Versuch, die Qual in die Länge zu ziehen und den Prozess zu verlangsamen, ist meiner Meinung nach nur kontraproduktiv, da Jobs, die zum Scheitern verurteilt sind, nicht gerettet werden können. Aber wir müssen über neue Branchen nachdenken. Wie können wir neue Arbeitsplätze schaffen, die uns helfen,… ein Finanzpolster für diejenigen zu schaffen, die zurückgelassen wurden?

Dan Costa: Das war einer der Punkte, die Sie in Deep Thinking ansprechen . Die KI bietet uns die Möglichkeit, menschlicher zu sein. Ich denke, wir müssen das konkretisieren und die Menschen fühlen und verstehen lassen.

Garry Kasparov: Der McKinsey-Bericht über den US-Arbeitsmarkt im Jahr 2016 war eine klare Demonstration. Wie wenig Kreativität wurde eingesetzt?

Bei vielen Jobs machen wir repetitive Jobs, Rohjobs. Intellektuelle Berufe können sich auch wiederholen. Sie lassen sich auch von den Maschinen einfacher und weitaus effektiver ausführen. Hier kommen Sie zum Punkt, was wir aus den Partien gelernt haben… Schach, Golf, aus jeder anderen Partie, solange wir die Rahmenbedingungen haben, die von Menschen geschaffen wurden, und wir wissen, was wir tun Maschinen werden es besser machen.

Wir sollten nur erkennen, dass Maschinen in jedem geschlossenen System überlegen sind. Übrigens müssen wir nicht verstehen, wie sie das machen. Das ist ein weiterer Fehler. Wir wollen Erklärbarkeit. Maschinen könnten es auf eine sehr umständliche Weise von unseren Standards aus machen. Die Flugzeuge flogen schnell, und der Vogel schlug mit den Flügeln. Das ist der Grund, warum der Gedanke, dass Maschinen uns selbst bei intellektuellen Fehlern übertreffen, wenn Sie etwas tun, das Sie verstehen, falsch ist. Wir sollten nach den Ergebnissen Ausschau halten, und das ist das andere Problem für Unternehmen, da es so viele Vorschriften gibt, nach denen sie erklären müssen, was sie tun. Die Erklärbarkeit ist jedoch möglicherweise nicht gegeben, wenn Sie nach Effizienz und Produktivität suchen möchten.

Dan Costa: Sie haben den Fall über Go auf die Bühne gebracht, und das, was die Go-KI so viel effektiver gemacht hat, ist, dass sie sich selbst beigebracht hat, wie man das Spiel spielt. Es gab keine vom Menschen auferlegten Regeln.

Garry Kasparov: Es ist jetzt dasselbe wie Schach. Wiederum wird die Zukunft der menschlichen Missionsbeziehungen in hohem Maße von den eigenen Menschen abhängen, die sich wie Hirten verhalten, denn wir müssen einen Weg finden, diese coolen Systeme, die Bereiche enger Intelligenz, zu schaffen, in denen Maschinen die Arbeit viel besser machen als jeder Mensch. Dann, um zu sehen, wie sie sich verbinden. Diese Bereiche der engen Intelligenz zum allgemeinen Feld, zum offenen System. Auch das hört sich einfach an, aber ich denke, das ist eine große Herausforderung, da der Raum für Menschen und ihre Beziehung zu Maschinen immer kleiner werden könnte. Sogar die letzten paar Dezimalstellen, aber das spielt keine Rolle. Es könnte viel effektiver sein, weil es so viel Kraft gibt. Das Kanalisieren oder Ändern der Richtung für 0, 1 Prozent eines Winkels dieses Grades könnte einen massiven, massiven Unterschied haben, ein Ziel, das eine Meile entfernt ist.

Dan Costa: Eines der Dinge, die mir an der KI Sorgen machen, ist, dass gute KI-Systeme von vielen, vielen Daten und wirklich großartigen Algorithmen angetrieben werden. Wenn Sie sich ansehen, wer gerade die meisten Daten in diesem Bereich hat, dann ist das eine große Technologie, es sind die Regierungen der Bundesstaaten. Wie sehen Sie die Rolle des Einzelnen in dieser KI-Revolution? Weil es eine gewisse Asymmetrie beim Zugang zu diesen neuen Technologien und unterschiedliche Motivationen zu geben scheint.

Garry Kasparov: Ja. Ich konnte nicht mehr zustimmen. Wir haben dieses Problem, und ich denke, die Öffentlichkeit erkennt dieses Problem, aber es ist immer noch nicht genug Druck der Regierungen, den Unternehmen, die die Privatsphäre verletzen, wirklich sehr strenge Regeln und sehr strafrechtliche Maßnahmen aufzuerlegen.

Eines meiner Anliegen als Vorsitzender der Human Rights Foundation ist, dass sich die Regeln von einer demokratischen Welt zu einer unfreien Welt unterscheiden. Ich finde es sehr beunruhigend, dass diese multinationalen Giganten - wie Google, Apple, Microsoft, Facebook - ihren Kunden in Amerika oder Europa und denen, die nicht das Glück hatten, in der freien Welt geboren zu sein und dort zu leben, sehr unterschiedliche Regeln auferlegen China, Russland, die Türkei - wo die Freigabe der Daten aus den sozialen Aktivitäten buchstäblich eine Frage von Leben und Tod sein könnte. Ich denke, das ist Schritt Nummer eins, aber wir sollten auch erkennen, ob Daten produziert werden, die gesammelt werden.

Ich bin sicher, es gibt viele Möglichkeiten, wie die Regierungen die Verwendung dieser Daten einschränken könnten. Außerdem denke ich, dass es der Bonus der öffentlichen Seite ist, denn nach dem Zeugnis von Mark Zuckerberg im US-Senat, das ich fand, war es eine erstaunliche Demonstration der Ignoranz der US-Gesetzgeber. Sie konnten fünf Stunden lang keine guten Fragen stellen; Sie hatten ihn auf einem heißen Platz und es war eine Verschwendung. Ich habe keine öffentliche Empörung gesehen. Eine so große Chance wurde verpasst.

Der einfache Rat: "Teilen wir sie auf." Es ist kein Standardöl. Wenn Sie anfangen, sich zu teilen - und ich hasse Monopole -, dann haben Sie viele, viele Googles mit verteilten Daten. Wir sollten einen Weg finden, den Einzelnen zu stärken. Ich kenne keine Blockchain-Technologien, aber wahrscheinlich ist dies der Weg, den Menschen tatsächlich zu helfen, ihre eigenen Daten und ihre eigene Zukunft zu kontrollieren. Ich denke, es gibt noch einen Moment, in dem es sich um das ursprüngliche Konzept von Internet und sozialem Netzwerk handelt. Jetzt ist es plötzlich Social Media. Die Leute erkennen es einfach nicht. Es ist kein semantischer Unterschied.

Dan Costa: Es wird auf ganz andere Weise monetarisiert.

Garry Kasparov: Es geht darum, Menschen zu verbinden. Es ging um die ganze Idee, uns zusammenzubringen. Wie man den Einzelnen verpfändet, Zugang zu Daten erhält und etwas hervorbringt, von dem er oder sie profitieren könnte und das nur Teil dieses globalen Systems ist. Social Media ist anders, Sie sind das Ziel. Sie sind jetzt… das Ziel für große Unternehmen. Wie kehren wir zu diesem Konzept für soziale Netzwerke zurück? Ich habe keine Lösungen, ich gestehe hier meine Unkenntnis über technische Lösungen, aber ich weiß, dass genau diese Philosophie die richtige Frage ist. Ich denke, die Öffentlichkeit versteht die Ernsthaftigkeit dieser Herausforderung nicht.

Dan Costa: Du bist russischer Staatsbürger...

Garry Kasparov: Auch ein kroatischer Staatsbürger, ich habe einen E-Pass, so reise ich.

Dan Costa:… in den Vereinigten Staaten leben, aber Sie haben viel über Propaganda und ihre Auswirkungen und Befugnisse geschrieben und darüber, wie sie von der russischen Regierung eingesetzt wird. Hier in den USA haben wir jetzt ein Facebook-, Twitter- und Google-Medienuniversum, das fast wie eine private Propagandamaschine ist, auf die Regierungen und einzelne Unternehmen zugreifen können. Welchen Rat haben Sie als jemand, der sich mit diesen Themen befasst hat und sie versteht, für die Vereinigten Staaten? Während wir uns in dieses System begeben, können wir nicht glauben, was wir online sehen.

Garry Kasparov: Sehen Sie, ich habe seit Beginn dieses Jahrhunderts mit dem Aufstieg der gefälschten Nachrichtenindustrie und Trollfabriken in Putins Russland zu kämpfen. Ungefähr zwischen 2004 und 2005 trafen Putins Propagandaexperten, die KGB-Leute, die treue Entscheidung, China nicht durch Firewalls zu folgen. Sondern die Herstellung von gefälschten Internet-Websites, die eine Menge echter Informationen über diese giftigen Stücke enthalten. Anstatt die Titelseite einer richtigen Zeitung zu haben, die Geschichte, der jeder folgen muss, die Parteilinie, könnte man sie in vielen Stücken, in Dutzenden von Stücken, verbreiten. Packen Sie es in ein Paket mit vielen wahren Begebenheiten.

Es ist nicht so einfach zu sagen, dass Garry Kasparov ein Staatsfeind ist. Nein, jemand sagt, dass Garry Kasparov ein Feind des Staates ist, aber dann hat jemand anderes Nein gesagt, aber er war ein großartiger Schachspieler, aber wahrscheinlich wurde er jetzt von Stimme und Propaganda unterwandert. Jemand wird sagen, nein, nein, nein, er ist ein guter Kerl. Die ganze Seite der Kommentare könnte also falsch sein.

Dan Costa: Die Bots streiten sich mit Bots.

Garry Kasparov: Bots und sie sind sehr gut darin. Deshalb hatte Putin eines Tages, als er die amerikanischen US-Wahlen angriff, wirklich mehr als 10 Jahre Erfahrung in diesen Branchen. Arbeiten in Russland, in Nachbarländern mit großen russischen Gemeinden in Osteuropa, in Westeuropa.

In meinem Buch "Der Winter kommt": Warum Wladimir Putin und die Feinde der freien Welt aufgehalten werden müssen, sagte ich 2015, es sei nur eine Frage der Zeit. Es ist nicht ob, sondern wann und wo er angreifen würde. Weil sie diese Maschine schon gebaut haben und sie relativ billig ist. Es ist immer noch eine Investition in Milliardenhöhe, aber im Vergleich zu offener militärischer Intervention, Konfrontation… es ist relativ billig. Und es passte auch zu Putins KGB-Mentalität, seinem KGB-Hintergrund und seinem Spionage-Hintergrund. Anstatt offener Konfrontation sucht er immer nach einer Möglichkeit, sich einzuschleichen. Das ist klassische Judo-Methode, du nutzt die Stärken deines Gegners gegen ihn. Für Putin war es brillant, weil es sich um westliche Technologie und die freie Welt handelte und man damit das Fundament der freien Welt untergraben konnte.

Dan Costa: Haben Sie einen Rat, wie Sie aus dieser Situation herauskommen können? Weil es so aussieht, als ob es passiert, hat es nicht wirklich aufgehört.

Garry Kasparov: Nein, und es wird nicht aufhören. Für alle, die uneingeschränktes Fachwissen haben, liegt die Antwort auf der Hand. Verteidigung ist ein Verlustgeschäft. In der Cybersicherheit können Sie die Verteidigung aufbauen, aber am Ende des Tages ist die einzige Antwort die Abschreckung. Es ist wie im Kalten Krieg, mag es oder mag es nicht, es ist ein Cyber-Kalter Krieg. Wir werden ständig von Putin oder anderen Feinden der freien Welt angegriffen. Ob es sich um Staaten wie den Iran oder Nordkorea oder China handelt oder um staatsähnliche Organisationen, die ebenfalls die gleichen Methoden anwenden.

Nur durch Abschreckung können diese Angriffe tatsächlich gestoppt oder begrenzt werden. Weil sie die Konsequenzen von Überaggressivität verstehen. Um unsere Schwachstellen hier und da zu schützen, ist es wichtig, dass wir einige Abwehrkräfte aufbauen. Es ist wichtig, dass wir die Öffentlichkeit für Bedrohungen sensibilisieren, aber es wird nicht funktionieren. Was die Branche der gefälschten Nachrichten anbelangt, so gibt es in unserer freien Gesellschaft viele Herausforderungen, die die Branche der gefälschten Nachrichten befähigten. Es geht um die Angst vor Parteilichkeit, es geht um das Fehlen eines Dialogs zwischen Menschen mit unterschiedlichen ideologischen Ansichten, der Putin und anderen Feinden der freien Welt geholfen hat, die falschen Nachrichten zu nutzen, um diese Lücke zu schließen.

Dan Costa: Sie arbeiten jetzt mit Avast zusammen, einem Unternehmen, mit dem PCMag-Leser sehr vertraut sind. Welchen Rat geben Sie den Verbrauchern, wie sie ihr Verteidigungsniveau erhöhen können?

Garry Kasparov: Was die individuelle Verteidigung angeht, ist das sehr einfach. Die erste Nachricht geht an die Besitzer von Smart Homes. Ich war ein wenig schockiert, weil ich selbst in diesem Süden von Südwesten mit vielen Menschen gesprochen habe, die über gute Fachkenntnisse verfügen und nicht verstehen, wie anfällig die Smart Homes heute sind.

In den USA haben 39 Millionen mindestens ein gefährdetes Gerät. Die Leute verstehen nicht, dass ein anfälliges Gerät das gesamte Smart Home anfällig macht. Denn die Stärken Ihrer Verteidigungspyramide hängen vom schwächsten Glied ab. Ein schlechter Apfel macht die ganze Packung verrotten.

Die meisten Probleme werden von Herstellern traditioneller Haushaltsgeräte - Waschmaschinen, Kaffeemaschinen - verursacht, da es keine Erfahrung beim Aufbau digitaler Systeme gibt. Aber sie müssen es jetzt tun. Zu sehr geringen Kosten, weil es ein Preiswettbewerb ist, aber sie wollen Teil des Systems sein. Die meisten Systeme haben einfach keine ausreichende Verteidigung. Ich denke, wir brauchen… Regierungsaufsicht, wir müssen Druck ausüben, um bestimmte Standards zu erfüllen.

Aber auch separate Handbücher vorlegen müssen, denn niemand liest ein 100-seitiges Handbuch. Auf Seite 85 lesen Sie etwas über dieses digitale Zeug, die Leute lesen es nicht. Die meisten von ihnen verwenden den Standardmodus, bei dem es sich natürlich um eine offene Einladung für einen Hacker handelt. Ich denke, es ist sehr wichtig, dass die Leute anfangen, was ich digitale Hygiene nenne, weil wir uns die Hände waschen, uns die Zähne putzen und es automatisch tun. Es rettet uns nicht vor einigen schweren Krankheiten, aber 90 Prozent der Probleme können vermieden werden. Genauso wie bei unseren mobilen Geräten sollten wir uns immer noch vor Viren schützen, aber viele Dinge könnten getan werden, indem gezeigt wird, dass wir uns darum kümmern, weil es genauso wichtig ist wie unsere Gesundheit.

Dan Costa: Also möchte ich Ihnen die drei Fragen stellen, die ich allen in der Serie stelle. Gibt es einen Technologietrend, der Sie beschäftigt und der Sie nachts wach hält?

Garry Kasparov: Nein, ich bin ein unverbesserlicher Optimist. Ich mache mir Sorgen um schlechte Leute, nicht um schlechte Technologie, weil jede Technologie einen doppelten Nutzen hat. Du kannst einen Atomreaktor bauen, aber vorher baust du leider eine Atombombe. Es ist sehr bedauerlich, dass die Zerstörung einfacher ist als das Bauen. Aus diesem Grund wissen wir in der Geschichte immer, dass eine neue, disruptive Technologie auf irgendeine Art von Schaden getestet wurde.

Dan Costa: Fürchten Sie nicht, dass der KI dasselbe passieren wird? Ich werde verwendet, um zu zerstören, bevor es zum Erstellen verwendet wird?

Garry Kasparov: Auch hier geht es nicht um Killerroboter. Es geht um böse Jungs, böse Schauspieler dahinter. Die Leute werden sagen, oh, wir sollten über ethische KI nachdenken. KI könnte nicht ethischer sein als ihre Schöpfer. Ich verstehe nicht, was es bedeutet, wie ethische Elektrizität. Wenn wir Voreingenommenheit in unserer Gesellschaft haben, folgt AI ihr. Es sieht eine Disparität, sei es rassistisch, geschlechtsspezifisch oder ein Einkommensgefälle. Es berücksichtigt es; AI ist ein Algorithmus, der auf Quoten basiert. Sich über ethische KI zu beschweren ist also wie sich über einen Spiegel zu beschweren, weil uns das, was wir dort sehen, nicht gefällt.

Dan Costa: Gibt es eine Technologie, die Sie jeden Tag einsetzen und die immer noch zum Staunen anregt?

Garry Kasparov: Nein. Für mich ist der Zugang zu Informationen das wahre Wunder der Welt. Da ich Daten sammeln kann, wird es einfacher. Ich bin in der Sowjetunion aufgewachsen, und die Informationen waren knapp, es gab nicht viele Bücher. Tatsache ist, dass ich Kindle kann… ich fühle mich einfach gut. Es gibt so viel Technologie, die uns jetzt umgibt und uns hilft, besser zu werden. Was ist auch erstaunlich, die Leute beschweren sich immer wieder, oh, was können wir tun? Es gibt nichts Neues, das erfunden werden kann… und ich sage, warte eine Sekunde. Schauen Sie sich dieses Gerät in Ihrer Tasche an, lassen Sie uns 1976 oder 1977 rückwärts gehen, der Cray-Supercomputer war wie ein Wunder. Dieses Gerät ist was? Zehntausendmal mächtiger?

• AI ist (auch) eine Kraft für das Gute AI ist (auch) eine Kraft für das Gute
• Diese KI ist zu mächtig, um für die Öffentlichkeit freigegeben zu werden. Diese KI ist zu mächtig, um für die Öffentlichkeit freigegeben zu werden
• Diese KI sagt Online-Trolling voraus, bevor es passiert Diese KI sagt Online-Trolling voraus, bevor es passiert

Dan Costa: Stärker als das Space Shuttle.

Garry Kasparov: Genau. Wir haben so viel Kraft und… ich möchte, dass wir wieder groß anfangen zu träumen. Weil wir diese Möglichkeiten jetzt haben. Das Weltraumrennen tut mir so leid, dass wir die Erforschung des Weltraums und der Tiefsee gestoppt haben. Gehen wir zurück, versuchen wir große Dinge zu tun. Vor vier Jahren hielt ich eine Eröffnungsrede an der Saint Louis University in Missouri. An die Studenten, die ich angesprochen habe, muss man den Geist der Erforschung wiederbeleben, vor allem, weil St. Louis das Tor zum Westen ist und es heute sicherer ist, zum Mars zu fliegen, als dass Columbus den Atlantik überquert. Zumindest kennen wir die Entfernung und haben die Karte. Ich hoffe, unsere Kinder, unsere Enkelkinder… werden in ihren Träumen aggressiver sein, wenn sie diese phänomenale Technologie einsetzen, um uns voranzutreiben, denn ich denke, wir müssen gestehen, wir müssen diese wichtige Tatsache zugeben. Unsere Generation hat sich auf der Suche nach den Wundern der Welt, des Weltraums oder der Ozeane verlangsamt.