Lawrence Lessig ist über Korruption im Wahlkampf und die Gefahren von Ai beunruhigt

Mein Gast für diese Episode von Fast Forward ist Lawrence Lessig, Professor für Recht und Führung an der Harvard University, wo wir die Show aufgenommen haben.

1999 schrieb er Code and Other Laws of Cyberspace ; Seitdem hat er dieses Buch aktualisiert und viele andere verfasst. Er ist außerdem Mitbegründer von Creative Commons und hat 2016 eine Präsidentschaftswahl erzielt, die er leider nicht gewonnen hat.

Er ist auch der Schöpfer der Lessig-Präsentationsmethode. Ich empfehle Ihnen, es zu googeln und sich die YouTube-Videos anzusehen. Es wird die Art und Weise ändern, wie Sie Präsentationen halten. Ich weiß, es hat meine Art zu geben verändert.

Dan Costa: Wir werden über das Gesetz reden, wir werden über das Internet reden, wir werden über diesen chaotischen Ort reden, an dem die beiden kollidieren. Ich möchte schon 1999 damit anfangen, als Sie dieses Buch geschrieben haben, und eines der Dinge, die Sie darin geschrieben haben, ist, dass "der Code das Gesetz ist". Und Sie haben vorgeschlagen, dass sich das Internet zu einer regulierbareren Form entwickeln wird. Das war vor 18 Jahren. Haben wir uns in die richtige oder die falsche Richtung bewegt?

Lawrence Lessig: Nun, ich denke leider, ich hatte recht. Ich erinnere mich, als ich das Buch schrieb, gab es tiefe Skepsis, weil das Argument des Buches war, dass das Internet uns im Moment viel Freiheit gibt, aber das liegt nur an seiner Architektur. Und es wird viele Anreize sowohl in der Wirtschaft als auch in der Regierung und in der Zusammenarbeit mit der Regierung geben, um sie in einen viel regulierbareren Raum zu verwandeln. Und genau das ist passiert.

Ganz gleich, ob es sich nur um Unternehmen handelt, die versuchen, das Nachverfolgen und Überwachen von Aktivitäten im Internet zu vereinfachen, um den Verkauf von Dingen zu vereinfachen, oder um Unternehmen und Behörden, bei denen die Regierung mit Unternehmen zusammengearbeitet hat, um Hintertüren in Software zu bauen oder um Produkte herzustellen Damit Sie leichter berichten können, was passiert ist. Ich denke, wir haben einen ziemlich starken Trend in Richtung Regulierbarkeit gesehen.

Und dann ein sehr interessanter Punkt des Widerstands. Als Apple ankündigte, standardmäßig zu verschlüsseln, war dies ein wirklich wichtiger Schritt in die andere Richtung. Aber auffallend ist, dass es wirklich das erste große Unternehmen ist, das sich der zunehmenden Regulierbarkeit des Netzes widersetzt, und ich denke, dass es das erste ist, was mich wirklich beschäftigt.

Sie haben auch darauf hingewiesen, dass es diesen Trend zur Konsolidierung geben wird. Dass es eine Menge Kräfte gab, die dies vorantreiben würden. Zu diesem Zeitpunkt waren es offene Medien, niemand betrachtete es wirklich als Geschäftsplattform, sie betrachteten es als offene Kommunikationsplattform. Aber wir haben eine unglaubliche Konsolidierung in diesem Bereich gesehen.

Ja, und darüber habe ich eigentlich gar nicht nachgedacht, aber es war im Nachhinein so offensichtlich. Es ist nur die Tatsache, dass Daten unendlich viel wertvoller sind als der Besitz der Plattform und mit Sicherheit der Infrastruktur. Denn was Daten bewirken, ist die Nutzung aller Arten von Fähigkeiten und Potenzialen für Kontrolle und Handel. Und die Konsolidierung, die wir gesehen haben, ist, dass Daten für diese Plattformen eine Art Gewinndynamik hervorrufen und Sie es sich nicht leisten können, die Nummer zwei zu sein, aber wenn Sie die Nummer eins sind, sind Sie wirklich, wirklich unglaublich erfolgreich. Und ich denke, niemand hat ein klares Gefühl dafür, wie traditionelle Kartellgrundsätze im Kontext dieser Art von wirklich beherrschender Stellung, die diese Unternehmen einnehmen, anzuwenden sind. Und es ist sicherlich zu schwer für mich. Ich bin froh, dass ich jetzt weit von dieser Debatte entfernt bin.

Also bist du für den Präsidenten gerannt. Sie haben alle Prozesse durchlaufen und alle Kontrollkästchen aktiviert. Und Sie haben zum Teil versucht, die Demokratie zu reparieren, aber auch das Geld aus der Politik herauszuholen. Während dies geschah, wissen wir jetzt, dass all dieses Geld in Facebook und in Targeting s geflossen ist. Hatten Sie das Gefühl, als Sie Ihre Kampagne betrieben haben?

Das eigentliche Ziel des Laufens war es, die Chance zu bekommen, an den Debatten teilzunehmen und die Debatten so zu gestalten, dass es der Demokratischen Partei zumindest unmöglich wurde, den zutiefst korrumpierenden Einfluss des Geldes innerhalb unserer Politik zu ignorieren. Und nicht nur Geld, sondern auch die Art und Weise, wie Gerrymandering uns ungleich macht, die Art und Weise, wie die Unterdrückung von Stimmen uns ungleich macht. Damals war es kein Fokus, aber jetzt ist es ein Fokus. Die Art und Weise, wie das Wahlkollegium uns ungleich macht. Alle Arten und Weisen, in denen das einfachste Bekenntnis einer Demokratie, in der jeder die gleiche politische Freiheit hat, in unserer Demokratie und am groteskesten durch die Art und Weise, wie Geld das System infiziert, geleugnet wird.

Um meine Kampagne glaubwürdig zu machen, sagten wir: "Okay, wir werden in einem Monat eine Million Dollar sammeln." Und wir haben es in weniger als einem Monat angehoben. Und zu diesem Zeitpunkt hatte ich mehr als die Hälfte der Demokraten und Republikaner zusammengebracht. Es ist eine erhebliche Menge Geld. Die Regeln für die Debatte erwiesen sich jedoch als flexibler, als ich erwartet hatte, denn gerade als wir uns für die Debatte qualifizierten, entwickelte die Demokratische Partei die Regeln, um mich von der Debatte auszuschließen. Ich hatte also nie die Gelegenheit, diesen Fall zu klären. Und deshalb musste ich natürlich zur Seite treten.

Die Facebook-Dynamik ist wirklich beunruhigend, aber sie unterscheidet sich von der Sache, die mich wirklich beschäftigt. Ich war nicht so besorgt - ich bin jetzt mehr besorgt. Aber ich war nicht so besorgt darüber, wie Sprache die Öffentlichkeit beeinflusst. Was mich an dem Geld im System beunruhigt, ist die Art und Weise, wie es beschafft wird und der korrumpierende Einfluss, den es hat, wenn es beschafft wird.

Wenn Sie an ein Mitglied des Kongresses denken, verbringt das durchschnittliche Mitglied 30 bis 70 Prozent seiner Zeit damit, Geld zu sammeln, um wieder in den Kongress einzutreten, oder um seine Partei wieder an die Macht zu bringen. Und sie sammeln das Geld nicht von einem durchschnittlichen Amerikaner. Sie sammeln das Geld aus dem kleinsten Teil des 1-Prozent-Betrags. Wahrscheinlich qualifizieren sich nicht mehr als 100.000 Amerikaner für die Ehre, von einem Kongressmitglied angerufen zu werden, das sie auffordert, Geld für eine Kampagne zu geben. Und wenn Sie über das Leben nachdenken, müssen Sie sehr menschlich denken. Wenn Sie daran denken, Ihre ganze Zeit mit Geld zu verbringen, ist es wirklich schwer zu überlegen, wie Sie eine Führungspersönlichkeit sein können, nachdem Sie dies für die Hälfte Ihrer Zeit als Kongressabgeordneter getan haben.

Solange wir die Art und Weise, wie wir Kampagnen finanzieren, nicht ändern, werden wir niemals eine Regierung bekommen, die uns vertreten kann. Sie werden die Geldgeber ihrer Kampagnen vertreten. Und es geht nicht wirklich darum, wofür das Geld ausgegeben wird, es geht wirklich nur um die korrumpierende Dynamik, dieses Geld sammeln zu müssen. Und wir haben in der Öffentlichkeit immer noch keine Fortschritte erzielt, was die Art und Weise des Problems und wie es gelöst werden kann.

Die Obama-Kampagnen brachten online viel Geld ein. Sie waren für kleinere Spender. Bernie Sanders hat sich mit kleineren Spendern sehr gut geschlagen. Aber im Zusammenhang mit all dem Geld, das für diese Kampagnen aufgewendet wird, kompensieren diese kleinen Spender einfach nicht die Tatsache, dass Unternehmen Millionen von Dollar in sie stecken.

Nun, das stimmt. Und was mich so frustriert, ist die verpasste Gelegenheit sowohl der Obama-Administration als auch der Bernie-Sanders-Kampagne, denn Bernie hat großartige Arbeit geleistet, um die Menschen für den korrumpierenden Einfluss des Geldes zu gewinnen, und wie schrecklich es war. Aber er benutzte diese Botschaft, um Hillary Clinton zu verprügeln. Wann immer er gefragt wurde, wie wir Kongresskampagnen finanzieren, sagte er: "Oh ja, das ist auf lange Sicht etwas."

Und es ist wie, was meinst du auf lange Sicht? Was werden Sie kurzfristig tun, während sich der Kongress nach hinten beugt, um viel Geld für die Durchführung der Kampagnen aufzusaugen? Was mich also frustrierte, war, dass er nicht die Gelegenheit nutzte, dem amerikanischen Volk auf dieser riesigen öffentlichen Bühne etwas zu erklären, sondern die Arbeitsweise unserer Regierung veränderte. Er nutzte das Problem, um alle davon zu überzeugen, dass Hillary Clinton das Zitat "Crooked" trug Hillary." Was Donald Trump natürlich sehr gerne erbte, als er ihr Gegner wurde.

Glauben Sie, dass Facebook-Werbung und das Mikro-Targeting einzelner Konsumenten etwas Einzigartiges sind und ihre Ängste ausnutzen und ihre Schwächen ausnutzen, damit Plattformen wie Facebook und sogar Google und Twitter das ermöglichen, was es in der Vergangenheit noch nicht gab?

Absolut. Ich denke, die KI-Komponente dieser Maschinen ist erschreckend. Weißt du, es gibt diesen großartigen Film, vielleicht in den 60ern, vielleicht in den frühen 70ern, The Forbin Project . Kennst du diesen Film?

In The Forbin Project hat Dr. Forbin einen Computer erfunden, der intelligent genug ist, um die Verteidigung der Vereinigten Staaten zu leiten. Und so übergibt der Präsident dieser Computersteuerung die Entscheidung, ob Atomwaffen abgefeuert werden sollen. Wie, was könnte möglicherweise schief gehen?

An diesem Punkt scheint es eine Verbesserung zu sein.

Es könnte sein. Ich würde Dr. Forbins Computer übernehmen, was wir haben.

Der Computer sagt beim Einschalten sofort: "Es gibt einen russischen Computer."

Und sie sagen: "Was meinst du?"

"Die Sowjets haben einen Computer."

Es stellt sich also heraus, dass die Sowjets einen Computer haben, und dann sagt er: "Ich möchte mit dem sowjetischen Computer sprechen." Und so verbinden sie die beiden. Und sie sprechen zuerst Englisch und Russisch und entwickeln sich schließlich zu einer Sprache, die niemand verstehen kann. Und irgendwann, nach ein paar Tagen, stellen sie einige Anforderungen, die Computer. Und die Anforderungen sind im Grunde genommen, dass die Computer die Welt erobern und sich widersetzen und sagen: "Nein, du arbeitest für uns." Und dann sind die letzten Szenen des Films diese Atombomben, die in verschiedenen Teilen der Welt abgeworfen werden, weil die Computer ihre Kontrolle behauptet haben und sie Kontrolle haben.

Diese Dynamik führt dazu, dass Menschen die Kontrolle über ihre Technologie verlieren. Sie verstehen nicht, wohin es gehen wird. Und es gibt wirklich katastrophale Konsequenzen, die daraus resultieren können, und ich befürchte, dass dies in vielen verschiedenen Zusammenhängen geschieht. Wie sich herausstellte, verkaufte Facebook Anzeigen an die Kategorie "Judenhasser". Wissen Sie, es gab keinen Facebook-Mitarbeiter, der die Kategorie "Judenhasser" erstellte. Dies wird generiert, indem erkannt wird, was die Leute auf Facebook wollten, um Anzeigen zu verkaufen. Und so ist es eine perfekt effiziente Technologie, um Menschen das zu geben, was sie wollen, aber die Angst ist, dass Dynamik alle Arten von Hässlichkeit hervorrufen kann, die wir eigentlich nicht wollen.

Die Daten kamen heraus. Ich war in einem Panel mit dem CTO von Cambridge Analytica, der CTO des RNC gewesen war, und er sagte: "Ja, während der Trump-Kampagne haben wir diese Dinge niemals alleine laufen lassen, weil wir Angst hatten, wo sie wären gehen." Und man bekommt ein Gefühl dafür, wie gefährlich es ist, wenn selbst die Trump-Kampagne Angst davor hatte, wohin sie führen könnte. Und das hält mich wach, wenn ich über diese Dynamik nachdenke. Weil Sie nicht den Anreiz abstellen, Produkte so effizient wie möglich an gewerbliche Kunden zu liefern. Die Gefahr besteht darin, dass dieselbe Dynamik, wenn sie auf die demokratische Seite verlagert wird, alle Arten von Hässlichkeit hervorrufen kann, die wir meiner Meinung nach nicht gut lösen können.

Ich weiß nicht, dass dem etwas entgegensteht. Facebook ist die Art und Weise, wie die Mehrheit der Amerikaner heutzutage ihre Nachrichten erhält, und es wird von Engines für künstliche Intelligenz geschrieben, die auswählen, was die Leute automatisch lesen möchten. Es ist ein Handelsunternehmen. Sie informiert jedoch über ihre Abstimmungsmuster. Es informiert darüber, wie sie über die gesamte Körperpolitik denken. Es scheint also keine Alternative zu geben, die nicht von kommerziellen Kräften bestimmt wird.

Stimmt. Ich habe an einigen Kampagnen teilgenommen, in denen Menschen Mühe hatten, herauszufinden, wie Sie über Facebook sprechen. Und wenn Sie feststellen, dass sich dieser Editor in der Mitte befindet - nicht eine Person, sondern ein KI-Editor, bei dem Sie herausfinden müssen, wie Sie durchkommen müssen, um kommunizieren zu können. Sie erkennen, wir haben einen großen Teil unseres Diskurses auf eine Maschine übertragen, die wir nicht wirklich verstehen.

In anderen schlechten Nachrichten hat Equifax die privaten Informationen veröffentlicht oder die privaten Informationen von 143 Millionen Menschen durchgesickert. Dies sind die Equifax-Profile, die alle Informationen aus unseren Sozialversicherungsnummern, unserer Beschäftigungshistorie, unserer Historie aller Orte, an denen wir jemals gelebt haben, enthalten. Es war die Aufgabe von Equifax, diese Informationen zu sammeln und an Unternehmen zu verkaufen. Die Menschen hatten keine Wahl, sich dafür zu entscheiden. Daher wissen wir nicht einmal, welche Konsequenzen dies für die einzelnen Verbraucher haben wird. Aber was sollte die Konsequenz für Equifax sein?

Nun, sprechen Sie von einer völlig gescheiterten und durchgeknallten Krise. Zumindest bisher ist klar, dass sie, nachdem sie das Problem entdeckt hatten, zunächst ausgegangen sind und ein Unternehmen engagiert haben, das ihnen helfen würde, von der Lösung des Problems zu profitieren. Dann kündigten sie ihren Kunden eine Lösung an, bei der die Betroffenen nach einem Jahr im Wesentlichen ein automatisches Schutzsystem einführen würden. Und so sagen die Leute sehr schnell: "Moment mal, du nimmst diesen absolut ungeschickten Fehler deines Unternehmens und verwandelst ihn in eine Möglichkeit, Geld zu verdienen. Und das sollte einfach nicht erlaubt sein."

Das Schlimmste an diesem ursprünglichen Geschäft war, dass Sie, um sich für Ihren Schutz anzumelden, auf Ihr Recht verzichten mussten, sich zu beschweren und Equifax zu verklagen. Und ich kann nicht glauben, dass es auch mitten in dieser Entscheidung Lebewesen gibt. Es ist so, als würde AI Equifax und Facebook Ads betreiben.

Ich denke, was passieren muss, und vielleicht wird dies dazu führen, dass wir erkennen müssen, wie wichtig das Gesetz für die Disziplinierung dieser mächtigen Unternehmen ist. Ich meine, wir haben einen Trend gesehen, der von beiden Parteien, vor allem aber von der Republikanischen Partei, vorangetrieben wurde, Unternehmen vor dem Gesetz zu schützen und es ihnen zu ermöglichen, ihre Leute automatisch für das so genannte Schiedsverfahren anzumelden Geld für entstandene Schäden zurückzufordern. Und im Grunde genommen werden diese Unternehmen aus dem öffentlichen Prozess- oder Justizsystem entfernt, und es wird ihnen ermöglicht, in ein vollständig privates Prozess- und Justizsystem überzugehen, in dem sich herausstellt, dass sie überraschen, überraschen und gegenüber dem Verbraucher profitieren.

Und wenn wir nicht in der Lage sind, ihre Füße an das Feuer zu halten, wenn sie etwas so dramatisch Schreckliches tun, dann haben wir keine Chance, uns diesen Unternehmen in Zukunft zu widersetzen, weil es immer weniger geben wird von ihnen, und sie werden mehr und mehr Macht haben, und wir werden immer weniger Gelegenheit haben, zurückzureden. Und vor allem in einem Kontext, in dem die Politik so stark korrumpiert ist, kann ich Ihnen sagen, dass die von Equifax in diesem nächsten Zyklus geleisteten Kampagnenbeiträge um Größenordnungen höher sein werden als alles zuvor, was sehr schnell den Rückstoß aus der EU bedeutet Vertretungsgremien werden anfangen zu dimmen.

Ich hoffe, wir nehmen dies als Lehre, dass wir aus einem bestimmten Grund ein Gesetz haben. Und Sie wissen, Anwälte, ich verdiene meinen Lebensunterhalt mit Anwälten, deshalb bin ich vielleicht ein bisschen voreingenommen, aber die Idee des Gesetzes ist, Menschen, die Schaden anrichten, zu zwingen, die Kosten für ihren Schaden zu bezahlen. Und ich würde gerne sehen, wie Equifax die Kosten für den Schaden übernimmt, den sie hier angerichtet haben.

Es scheint, als gäbe es zwei Teile. Viele Menschen bemühen sich um eine proaktive Gesetzgebung und Kontrolle darüber, wie Unternehmen personenbezogene Daten verwenden können. Das kann sehr kompliziert und schwierig sein, wenn man bedenkt, wie schnell sich die Technologie ändert. Aber wenn sie Fehler machen, sollten wir uns alle einig sein, sie zur Rechenschaft zu ziehen. Vielleicht hatten Sie ein großartiges Geschäft, vielleicht war Equifax ein großartiges Geschäft, solange es bestand, aber diese Art von Fehlverhalten muss eine Konsequenz haben.

Ja, und es hört nicht auf. Ich bin, wie viele andere auch, gegangen, um nachzusehen, ob Sie betroffen waren. Und ich war betroffen. Dann hieß es: "Komm in drei Tagen zurück und du kannst dich für diesen Service anmelden." Also bin ich in drei Tagen zurückgekommen und habe mich für den Service angemeldet und sie sagten: "Wir senden Ihnen schließlich den Link, um Ihre Anmeldung abzuschließen."

Es ist eine Woche her und ich habe nichts von ihnen gehört. Es ist also nicht nur die ex-ante-Fahrlässigkeit, sondern auch die ex-post-Fahrlässigkeit. Und Sie denken, wann werden sie jemals zu Unternehmen, die diese Menge an persönlichen Daten speichern sollten? Das andere, was uns zwingen sollte, zu erkennen, ist nur die Gefahr, diese Art von Unternehmen zu ermutigen, so zu existieren. Die Idee, diese Datenmenge als Ziel an einem bestimmten Ort zusammenzuführen, ist für die Architektensicherheit ein alberner Weg. Und ich denke, es gibt viele Unternehmen, die mit Methoden experimentieren, um das gleiche Vertrauen und die gleiche Intelligenz zu erlangen, die Sie benötigen, um in der Geschäftswelt Handel treiben zu können, ohne eine solche Datenbank mit Daten zu erstellen, die ein konstantes Risiko für die Gefährdung dieser Art darstellt Angriffe, die offensichtlich die Missetaten sind, wissen Sie, gibt es bei Black Hat Crackern da draußen, die eifrig versuchen, zu erleichtern.

Gibt es irgendetwas an den Daten selbst, von dem sich Einzelpersonen und Verbraucher fühlen sollten, dass sie Eigentum von ihnen sein sollten? Ich meine, Equifax hat diese Profile in Ihre Bonitätshistorie aufgenommen. Sie verkaufen das an Dritte. Sie können sie bitten, Fehler zu korrigieren. Aber Sie können nichts tun, um sie davon abzuhalten, diese Datei für Sie zu kompilieren. Und es scheint mir in vielerlei Hinsicht analog zu dem, was alle Tech-Unternehmen tun. Facebook hat all Ihre Vorlieben, all Ihr Klickverhalten, all Ihre Likes und nicht Likes. Google hat ein ähnliches Profil bei Ihnen und nutzt dieses natürlich, um Werbung zu verkaufen, aber sie können es wirklich für eine Reihe von verschiedenen Dingen verwenden. Gibt es ein rechtliches Recht, dass Verbraucher nur diese Daten haben? Ihre eigenen persönlichen Daten?

Derzeit sind die einzigen Rechte, die sie haben, durch Gesetze oder Vereinbarungen festgelegt, mit denen sie sich bei der Anmeldung auf einer Website anmelden. Sie wissen, dass ich im Code gesagt habe: "Wir sollten den Datenschutz als eine Art Eigentumsrecht betrachten. Ich habe ein Recht auf meine Daten, und wenn Sie sie übernehmen möchten, müssen Sie eine Erlaubnis einholen. Genau wie die Inhaber von Urheberrechten sagen, Wenn Sie eine Kopie meines urheberrechtlich geschützten Materials nehmen möchten, müssen Sie meine Erlaubnis einholen. " Und wenn Sie die Last auf die andere Seite verlagerten und im Grunde gesagt haben: "Es ist vermutlich meine. Verhandeln Sie mit mir, um es von mir zu bekommen." Dann würden Sie natürlich den Schutz für den Einzelnen erhöhen, da Sie ihn weiter verbessern würden. Dies würde die Verpflichtung auf der anderen Seite erhöhen, diese Daten zu erfassen.

Es wäre also interessant zu sehen, wie sich das entwickelt. Ich denke, wir müssen jedoch ein besseres Verständnis dafür entwickeln, wie diese Daten geschützt werden. Ich denke, der Fokus muss auf der Nutzung von Daten liegen. Und nicht die eigentlichen Daten. Denn das eigentliche Problem ist, ob die Daten auf eine Weise verwendet werden, die mich bedroht oder mir gegen meinen Willen Schaden zufügt. Weißt du, ich habe eigentlich keine Probleme mit Google, wenn ich sehe, wie ich fahre und feststelle, dass diese Straße am Freitagnachmittag um 5 Uhr besser ist, weil sich herausstellt, dass dort weniger Verkehr herrscht. Das ist großartig.

Ich habe ein Problem mit Google, und sie tun dies nicht, aber ich sage, wenn sie es tun, nimmt Google Daten über mein Fahren und ruft die örtliche Polizei an und sagt: "Weißt du, dieser Kerl beschleunigt jedes Mal, wenn er es tut geht um diese Ecke. Warum hängst du nicht ab und schaust ihm zu? " Oder eine Firma, die Informationen über meine DNA nimmt und diese dann an eine Versicherungsgesellschaft weiterleitet, damit die Versicherungsgesellschaft sagt: "Wir werden Ihnen keine Lebensversicherung geben, weil Sie bla, bla, bla haben."

Es gibt Möglichkeiten, wie wir verstehen, dass Daten nicht ohne unsere Erlaubnis verwendet werden dürfen. Und auf welche Weise es eigentlich egal ist, wie es verwendet wird, weil es uns nicht auf persönliche Weise betrifft. Und ich denke, wenn wir die Analyse der Privatsphäre mehr auf die Nutzung und die Regulierung der Nutzung verlagern, können wir eine bessere Schutzinfrastruktur für die Dinge erhalten, die uns wirklich wichtig sind.

Ich denke, dass die meisten Verbraucher diese gesamte Datenwirtschaft und ihre Funktionsweise nicht wirklich schätzen. Und es gibt eine Art von inhärenten Asymmetrien zwischen den Unternehmen und der Regierung, die diese Daten nutzen und analysieren, Entscheidungen treffen und Personen, die nur verstehen, dass sie sich ein Paar Schuhe bei Amazon angesehen haben, und jetzt auch diese von Schuhen folgen ihnen im Web. Was gruselig ist, aber auch jetzt sind alle daran gewöhnt.

Ich denke nicht, dass Menschen, Verbraucher, genug über diese nächste Generation von Anwendungen nachgedacht haben. Sie wissen, dass Allstate diese ODB-Datenports verkauft, die Ihre Versicherungstarife senken, wenn Sie ein guter Fahrer sind, und Ihre Versicherungstarife erhöhen, wenn Sie ein schlechter Fahrer sind. Die meisten Leute wissen nicht, dass das passiert, wenn sie es in ihr Auto stecken.

Ich denke auch, dass es bestimmte Kontexte gibt, in denen es wirklich großartig ist, dass die Daten das, was ich will, effizienter identifizieren. Ich möchte nämlich nicht, dass sie mir für Turnschuhe werben. Ich weiß, welche Turnschuhe ich will. Ich bin froh zu sehen, dass die Turnschuhe, die ich als 18-Jähriger gewählt habe, jetzt als coole Turnschuhe für die Leute zurückkommen, die sie tragen.

Sind das Converse All Stars?

Eigentlich Stan Smith.

Okay, nur eine Vermutung.

Aber der Punkt ist, dass nicht jeder Kontext eindeutig so gut ist. Und ich denke, wir müssen herausfinden, wie die Daten verwendet werden und welche Ethik oder welche Werte dahinter stehen. Und wir müssen in der Lage sein, uns darüber und über den Fluss dieser Daten und den Fluss des Einflusses sicher zu sein. Dies ist eines der Dinge, die ich tun muss, um eine Überprüfung durchzuführen oder herauszufinden, was ich kaufen sollte. Ich überprüfe die redaktionellen Berichte von Google PCMag, weil ich ein Vertrauen in die Art und Weise habe, wie die Urteile gefällt werden nicht gemacht werden. Sie erhalten von Intuit keine zusätzlichen 1.000 US-Dollar, um etwas Gutes über die neueste Version von QuickBooks zu sagen. Und das Verständnis dieser Wirtschaft ist wirklich wichtig, um das Vertrauen zu entwickeln, das Sie in Institutionen und Dinge im Web brauchen. Und wir haben so ein kleines, so unvollkommenes Verständnis dafür, wie diese Ströme im Moment ablaufen, dass diese allgemeine Unsicherheit darüber entsteht, was passiert.

Zu diesem Zeitpunkt kehren die Leute zu gefälschten Nachrichten zurück und glauben nichts, was sie online lesen.

Genau.

Und das hilft niemandem. Ich möchte mit Ihnen ein wenig über die nationale Sicherheit sprechen, Edward Snowden. Sie sind einer der wenigen, die tatsächlich mit Ed Snowden gesprochen haben, und ich möchte nur sagen, wie geht es ihm? Was macht er zu diesem Zeitpunkt?

Ich habe ihn getroffen… um das letzte Weihnachten in Moskau. Es gibt einen Film namens Meeting Snowden , in dem ich mitgewirkt habe . Und der Titel des Films ist wirklich angemessen, denn der Edward Snowden, der in diesem Film herauskommt, unterscheidet sich grundlegend von dem Edward Snowden, den Sie kennen, wenn Sie sich Citizen Four oder einen der anderen Filme ansehen, die über Snowden gedreht wurden.

Denn was Sie sehen, ist, dass er ein zutiefst nachdenkliches, ernstes, brillantes, wirklich brillantes Kind ist. Und er setzte sich bewusst dem Risiko aus, das zu tun, was er für das Interesse des Landes hielt. Er dachte, er würde sein ganzes Leben im Gefängnis verbringen. Seine Flucht nach Russland stand nicht auf dem Plan. Aber er tat, was er erwartete, dass er den Rest des Lebens im Gefängnis verbringen würde - sich vorstellend, dass einige Leute seine Hinrichtung forderten -, aber sein Leben im Gefängnis verbringen würden. Aber er entschied, dass es sich lohnte, die Alarmglocke zu läuten. Und die Alarmglocken, die er läutete, waren sicherlich diejenigen, über die wir Bescheid wissen mussten.

Und was wichtiger ist, denke ich, um ihn zu verstehen, ist die genaue Art und Weise, wie er es getan hat, richtig? Im Gegensatz zu Julian Assange hat er diese Informationen nicht einfach genommen und ausgegeben. Er achtete sehr darauf, dass die Informationen, die er veröffentlichte, niemanden gefährdeten und nicht mehr enthüllten, als zur Erreichung seines Ziels erforderlich war, nämlich das amerikanische Volk davon zu überzeugen, dass es von seinen eigenen Regierungen belogen wurde geschah für Cyber-Infrastruktur und Sicherheit. Das war eine enorm wichtige Sache für uns zu lernen und wirkte sich in vielerlei Hinsicht aus.

Aber die Folge ist, dass er in Russland gestrandet ist. Und so sah ich ihn gerade in dem Moment, als Donald Trump als unser Präsident bestätigt wurde. Und es gab echte Angst, weil jeder sehen konnte, dass Donald Trump und Putin viel näher waren als Obama und Putin oder sicherlich Hillary und Putin. Es war also ziemlich klar, dass Snowden zurück in Amerika sein würde, wenn Donald Trump Putin anrief und sagte: "Wir wollen Snowden". Oder Putin würde sagen: "Sieh mal, du willst nicht die Mühe machen, warum lässt du mich nicht auf Snowden aufpassen." Und dann würde Snowden nirgendwo sein.

Ich muss also sagen, dass es sehr wenige Menschen gibt, die mich so bewegt haben wie Snowden. Und weißt du, ich war der einzige Kandidat bei dieser letzten Wahl, der um Verzeihung gebeten hat. Und ich würde über Verzeihung hinausgehen, ich würde sagen, wir müssen anfangen, über Snowden als Helden in Amerika zu sprechen. Nicht, weil Sie seiner Politik unbedingt zustimmen müssen, sondern weil wir die Idee, dass sich jemand so sehr für das opfern würde, was er für das Gemeinwohl hält, mehr fördern müssen, und nicht weniger.

Ich wollte Sie nach dem Vergleich mit WikiLeaks fragen, und die Art und Weise, wie die Informationen verteilt wurden, war sehr, sehr unterschiedlich. Und die Konsequenzen waren sehr unterschiedlich. Und ich denke, die Leute wissen das nicht immer zu schätzen. Sie fassen die beiden irgendwie zusammen und sind sehr unterschiedliche Herangehensweisen an Transparenz.

Ich denke, Julian Assange versucht weiterhin, sich in die Mitte dieser Probleme zu stellen, und was er bei der Wahl von Donald Trump getan hat, ist wirklich unentschuldbar. Aber für Julian Assange könnte man vielleicht zu Recht sagen, dass momentan kein Donald Trump im Weißen Haus sitzt, und das ist eine unglaubliche Sache, für die man Verantwortung übernehmen muss.

Und wahrscheinlich nicht das, was er vorhatte. Wahrscheinlich nicht so, wie er sich erinnern möchte.

Weißt du, es ist interessant. Manchmal denke ich, dass das wahr sein muss. Aber manchmal höre ich ihm zu und ich denke, dieser Typ will es nur in die Luft jagen. Und weißt du, ich habe den romantischen Instinkt eines 15-Jährigen… "Ja, lass es uns einfach in die Luft jagen." Aber Donald Trump als Präsident zu haben, hat echte Konsequenzen. Und ich bin nicht jemand, der sich gerne darauf konzentriert. Ich denke, wir haben wirklich wichtige Probleme mit der politischen Korruption des Systems, von der einige von Donald Trump sprechen, und ich denke, dass er eine Ablenkung ist. Solange er keine Bombe auf Nordkorea abwirft, werden wir es schaffen.

Aber es ist wirklich außerordentlich schädlich für das Potenzial der Vereinigten Staaten. Und wenn er eines dieser verrückten Dinge tut, könnte dies sofort den Charakter dessen verändern, wer wir auf der Welt sind. Weißt du, du wirfst eine Bombe auf Korea, der Austausch tötet wahrscheinlich 10 Millionen Menschen. Wir werden das nationalsozialistische Deutschland des 21. Jahrhunderts, ganz zu schweigen von den 10 Millionen Menschen. Sie erkennen also, wie viel durch das Verhalten, das dazu geführt hat, dass dieser Mann Präsident wurde, gefährdet wurde, und ich denke, jeder in dieser Kette muss Verantwortung übernehmen.

Eine schnelle und leichte Wendung, bevor wir mit den abschließenden Fragen beginnen. Sprechen Sie mit mir ein wenig über Ihr Engagement bei Seed. Es klingt, als würden Sie eine Regierung für eine virtuelle Welt aufbauen.

Seed ist dieses wirklich, wirklich außergewöhnliche Spiel, das von einer Firma namens Klang Games entwickelt wird. Ich habe den Gründer von Klang Games auf einer Party getroffen und er hat es mir beschrieben. Was sie bauen, ist ein Spiel, in dem es sich um das größte, beständigste virtuelle KI-Spiel auf dem Markt handelt. Und so haben Sie als Spieler eine beliebige Anzahl von Charakteren, die AIs sind, und Sie landen in einer Kapsel an einem bestimmten Ort und beginnen, an diesem Ort eine Gemeinschaft aufzubauen. Und was wichtig ist, ist, dass Ihre KIs nach dem Abmelden weiterhin leben und ihre Arbeit erledigen und dass Sie ihr Leben definieren müssen. Also sagst du: "Du wirst 10 Stunden am Tag arbeiten." Und wenn Sie sie zu hart trainieren, können sie depressiv werden und anfangen zu trinken und dann Schaden anrichten. Es ist also wie die ganze Welt, die Sie erzeugen, aber auf völlig unvorhersehbare Weise, weil es um die Interaktion zwischen diesen AIs und anderen AIs geht, über die Sie nachdenken werden.

Als er mir das beschrieb, sagte ich: "Wie gehen Sie mit Governance um?" Und natürlich hatten sie überhaupt nicht an Governance gedacht. Wir haben jedoch schnell erkannt, dass Sie, wenn Sie über Strukturen und Governance verfügen, Gemeinschaften aufbauen können, die größer sind als die World of Warcraft-Clans. Sie könnten Gemeinschaften mit Tausenden von Menschen aufbauen, weil Sie eine Struktur haben könnten, um sie tatsächlich zu aktivieren.

Wir haben uns also dazu entschlossen, vier Arten von Governance zu verspotten, die Sie in der ersten Version auswählen können. Man ist im Grunde eine Monarchie, in der es eine Person gibt, die das Sagen hat. Eine ist im Grunde eine direkte Demokratie, in der jede Entscheidung von jedem getroffen werden muss, der abstimmt. Und dann gibt es zwei Arten von repräsentativer Demokratie. Eines ist wie in der realen Welt, in der Vertreter gewählt werden. Und der andere ist eine Art Hack der realen Welt, bei dem Vertreter zufällig ausgewählt werden. Sie sind zu Geschworenen berufen, Sie sind zu Repräsentanten berufen, Sie haben einen Zeitraum, in dem Sie Entscheidungen für die Kolonie treffen müssen.

Mein wirkliches Interesse ist, wenn wir diese unterschiedlichen Strukturen ermöglichen und es eine Million Gemeinden gibt, die diese Strukturen auswählen. und wir können beobachten, welche Gemeinschaften gedeihen und welche nicht, in welchem ​​Verhältnis stehen die gedeihenden Gemeinschaften zu den von ihnen gewählten Regierungsformen? Wir in der realen Welt können anfangen, etwas darüber zu lernen, wie diese Gemeinschaften am besten funktionieren, unter welcher Form von Governance.

Ich habe den Monat Juli in Berlin verbracht, um meine Arbeit in ihrem Büro zu erledigen. Dann habe ich mit ihnen jeden Tag etwa eine oder zwei Stunden Brainstorming gemacht und es war der coolste Monat, den ich je hatte, nicht nur, weil es Berlin war. Wenn dieses Spiel herauskommt, wird es meines Erachtens eines der aufregendsten Spieleprodukte sein, die es gibt.

Wann ist es zur Veröffentlichung freigegeben?

Wahrscheinlich Ende 2018, vielleicht Anfang 2019. Sie stehen noch ganz am Anfang. Aber sie haben die Finanzierung abgeschlossen. Sie befinden sich auf Improbable, der unglaublichen virtuellen Maschine, die eine enorme Menge an Unterstützung von Softbank bietet. Ich bin also sehr aufgeregt. Es wird etwas zu sehen sein.

Ziemlich cool. Nun, wenn es herauskommt, wird PCMag definitiv in die Beta-Runde einsteigen wollen.

Ich bin sicher, wir können das schaffen.

Lassen Sie mich Ihnen die Fragen stellen, die ich allen in der Serie stelle. Welcher technologische Trend beschäftigt Sie am meisten? Gibt es irgendetwas, das dich nachts wach hält?

Wir haben das irgendwie beantwortet, oder? Es ist also die KI, die mich am meisten beschäftigt. Und nicht, weil ich gegen AI bin, in dem Sinne, dass ich es loswerden will. Tatsächlich möchte ich wirklich, dass es Teil unserer Welt ist, weil ich es lieben würde, alle möglichen Menschen von der Arbeit zu befreien. Aber ich denke, wir sind noch nicht schlau genug, um zu verstehen, wie man damit umgeht, und um sicherzustellen, dass es uns nicht übernimmt. Ich bin also sehr am Ende dieses Kontinuums der Angst.

Gibt es eine bestimmte Technologie, die Sie täglich verwenden und die Sie zum Staunen bringt?

Reddit. Ich meine, du bist im 20. Jahrhundert aufgewachsen und hast diesen Blick auf die Welt, in der die Menschen an der Spitze großartig sind und alle, die den ganzen Weg hinunter sind, Günstlinge. Dann lebst du in Reddit und siehst überall das außergewöhnliche Talent und die Kreativität. Weißt du, du beschäftigst dich mit diesen verschiedenen Sub-Reddits und denkst, mit dem Talent und der Kreativität, um diese Studien und diese verschiedenen Arten des Zusammenführens von Dingen zu produzieren, oder mit den History-Sub-Reddits oder den Philosophie-Sub-Reddits. Die juristischen sind nicht so interessant, aber der Punkt ist, dass dies die reiche Vielfalt der Welt demonstriert und sie auf eine Weise sichtbar macht, wie es bisher keine Technologie wirklich gut gemacht hat. Also ja, das ist die Sache, von der ich speise.

Es gibt viele Ähnlichkeiten mit dem Internet von 1999 und Reddit, in dem Sinne, dass es ein bisschen schwer zu folgen ist, sehr textbasiert, aber das Engagement ist da und die Leidenschaft ist da. Es überrascht auf eine Weise, die Sie auf einer Mainstream-Website nicht finden würden.

Sie würden es nie finden. Und natürlich sind sie immer weit voraus. Aber ein bisschen anders als im Internet von 1999, weil es viel effizienter ist, diese außergewöhnliche Schönheit zusammenzufassen, denn die Vielfalt und Tiefe ist nirgendwo anders zu sehen.

Wenn die Leute verfolgen möchten, was Sie tun - vielleicht einen Beitrag zu Ihrer nächsten Präsidentschaftskampagne leisten - wie sollten sie Ihnen online folgen?

Am einfachsten auf Twitter ist nur @lessig. Und das Projekt, an dem ich gerade arbeite, ist, dass wir eine Kampagne gestartet haben, um das Wahlkollegium und die Arbeitsweise des Wahlkollegiums herauszufordern. Und wir haben erst in dieser Woche herausgefunden, dass David Boies, der große Anwalt im Microsoft-Fall und der Anwalt, der Al Gore vor dem Obersten Gerichtshof verteidigt hat, der Anwalt in unserem Fall sein wird. Wir versuchen also, die Mittel aufzubringen, um diesen Fall zu ermöglichen, und Sie können auf equalvotes.us nachsehen, was wir tun. Ich hoffe, wir folgen Ihnen.

Dies ist ein wirklich guter Endpunkt. Bei dieser letzten Wahl war es, anders als bei jeder anderen Wahl, das erste Mal, dass Leute buchstäblich sagten, dass ihre Stimme keine Rolle spielt. Weil sie in New York leben und ihre Stimme in New York keine Rolle spielt. Es wird für Hillary gehen und deshalb werden sie sich nicht einmal die Mühe machen zu wählen. Und ich habe gehört, dass diese Wahlen mehr waren als jemals zuvor, und natürlich war das Ergebnis für viele Leute eine kleine Überraschung.

Ja, und 52 Millionen Menschen gaben einen Stimmzettel ab, der keine Rolle spielte, weil sie in Staaten lebten, die die Ergebnisse nicht beeinflussen konnten. Neunundneunzig Prozent der Kampagnenausgaben entfielen auf nur 14 Bundesstaaten. Und diese 14 Staaten sind älter und weißer und konzentrieren sich auf die Industrie des 19. Jahrhunderts. Ich denke, sie sollten wie alle anderen vertreten sein. Aber genauso wie alle anderen. Wir sollten ein Präsidentschaftswahlsystem haben, bei dem sich der Präsident genauso für Kalifornien, Texas und New York interessiert wie für Pennsylvania oder Florida.

Sehr gut. Herr Professor Lessig, vielen Dank, dass Sie heute mit mir gesprochen haben.

Ich danke Ihnen für die Einladung.