Ellen ullman über Code, Gewissen und das Museum von mir

Für diese Episode von Fast Forward sprach ich mit Ellen Ullman, Autorin von Life in Code, einer Reihe von Aufsätzen, die 1994 als Programmiererin im Silicon Valley begann. Mittlerweile lebt sie davon, hauptsächlich Romane zu schreiben, aber Ullman ist weiterhin ein aufmerksamer Beobachter der Region, der Tech-Industrie und der Art und Weise, wie die Werkzeuge, die wir herstellen, uns täglich verändern.

Dan Costa: Ihre Programmierwurzeln reichen ziemlich weit zurück. 1978 waren Sie ein englischer Major, der sich entschied, auf Programmieren umzusteigen. Warum würdest du so etwas tun?

Ellen Ullman: Nun, ich habe mich mit einer Gruppe beschäftigt, die Videos macht. Das Sony Portapak war eine dieser Maschinen wie der PC. Diese Dinge, die von riesigen Konzernen kontrolliert wurden, waren plötzlich in Ihren eigenen Händen. Sie könnten Ihre eigenen Videos machen, Ihre eigenen Geschichten. Du könntest herumgehen und es ihnen zeigen. Es gab keine Einschränkungen. Du könntest Pornos machen usw. und es war eine sehr aufregende Zeit. Ich habe gelernt, dass ich gerne mit Maschinen arbeite. Die Möglichkeit, mit diesen Maschinen zu arbeiten, um gesellschaftlichen Wandel und Kunst zu bewirken, war faszinierend. Schließlich verließ ich Ithaca, um nach San Francisco zu gehen.

Man muss die Universitätsstadt verlassen oder erbärmlich werden. Und eines Tages ging ich auf der Market Street spazieren und dort, im Fenster des liebevoll verstorbenen Radio Shack, stand der TRS-80 - liebevoll als Trash-80 bekannt - und dachte: "Oh, ist das so etwas wie ein Portapak? Was kann das? Machst du mit dieser Sache? Kannst du Kunst machen, sozialen Aktivismus?

Also kaufte ich es spontan. Und dann war da noch die Frage der Programmierung. Es ist etwas schwieriger, als mit einem Portapak zu beginnen. Drücken Sie den Knopf. Ich fand es schwierig, aber das Gute schwierig. Ich denke, dass jeder, der in die Softwareentwicklung einsteigen möchte, das Gefühl haben muss: "Ja, das ist hart, aber auch das Vergnügen der Jagd." Wenn es kein Gefühl der Verführung gibt, Probleme zu lösen, wird es eine sehr unglückliche Erfahrung sein.

Und die Leute von heute verstehen das nicht ganz. Damals, als Sie bei Radio Shack einen TRS-80 gekauft haben, hat das nicht viel gebracht. Sie müssen es dazu bringen, Dinge zu tun. Sie müssen lernen, wie man es benutzt, und das ist eine Art Einladung, die Sie angenommen haben?

Ja, es gab einen leeren Bildschirm. Es war zu dieser Zeit bereits ein veralteter Fernseher. Es hatte eine Tastatur, und Sie haben Programme auf einer Kassette aufgezeichnet. Und ich denke, es hielt vielleicht 4K. Das war die maximale Programmgröße. Und es hatte die BASIC-Sprache. Und ich weiß nicht, ob die Leute den Unterschied zwischen interpretierter und kompilierter Sprache kennen. Interpretiert bedeutet, dass es nur direkt vor Ihnen ausgeführt wird. Sie geben also zwei Punkte ein, zwei plus zwei, und es zeigt Ihnen vier. Es ist ganz einfach, die ersten kleinen Dinge in Gang zu bringen. Es war sehr schwierig, etwas Wesentliches zu tun, zumal die frühen BASIC-Versionen viele Fallen hatten. Wie man sagen könnte "Gehe zu", aber es ging nicht automatisch zurück. So konnte man sich im Gewirr verirren, und es wurde als Geddy-Code bekannt. Wieder war es frustrierend und faszinierend.

Als ich das Buch durchgesehen habe und Sie über diese frühen Jahre gesprochen haben, fallen mir die Menschen auf, mit denen Sie zusammengearbeitet haben. Es scheint fast eher eine unkonventionelle Sammlung von Künstlern zu sein als Ingenieure und Hardcore-Programmierer. Können Sie ein wenig über den Esprit de Corps oder die Leute sprechen, mit denen Sie gearbeitet haben?

Ja. Wenn Sie zurückblicken und wissen, wer Stewart Brand ist, der Lectronic Catalogue von Whole Earth, The Well, dann war dies eine der ersten Online-Communities. Und die Menschen fühlten sich davon angezogen. Du kennst John Markoffs Buch " What the Dormouse Said" ( Was die Siebenschläfer sagten) ?

Sicher.

Weißt du, Stoner und Dropouts und Leute, die einfach nur verrückt waren und Spaß haben wollten. Das war die Atmosphäre, die mich angezogen hat, wie das Portapak. Diese Leute hatten Spaß und erforschten. Und die ersten Leute, mit denen ich zusammengearbeitet habe, als ich einen Job annehmen und meinen Lebensunterhalt verdienen musste, waren auch so. Eine ehemalige Sufi-Tänzerin, eine Doktorandin und Kunsthistorikerin, ein Mann aus Frankreich, der Gauloises geraucht hat, obwohl das Rauchen verboten war. Und er sagte: "Ein Computer hat mir nie gesagt, ich soll mit dem Rauchen aufhören." Und mit diesen Leuten haben wir zusammengearbeitet.

Irgendwo zwischen '83 und '86 hat sich das geändert. Informatik wurde ein allgemeiner Abschluss, Software Engineering. Zu uns gesellte sich eine stark männliche, selbstgewählte Gruppe, die Informatik als Grundstudium absolviert hatte. Und die Atmosphäre hat sich komplett verändert. Es war schwieriger, mit Leuten zu reden. Nach meiner Erfahrung waren die nicht so gut abgerundet. Das ist eine sehr breite Verallgemeinerung.

Ich habe mit Männern gearbeitet, die sehr gut abgerundet waren. Sie könnten Shakespeare mit den Besten zitieren. Aber diese ganze Atmosphäre veränderte sich. Ich denke, das liegt daran, dass der Beruf seine Unschuld verlieren musste.

Wie wurdest du zum Programmieren inspiriert?

Nun, wieder war es: "Wow, was ist das?" Wissen Sie, als ich mein erstes richtiges Programm zum Laufen brachte, gab es einen Ansturm von Vergnügen. "Wow, es funktioniert. Das habe ich getan." Es ging von nichts zu etwas. Und es war, als hätte ich zum ersten Mal einen Vergaser repariert. Sie nehmen die Dinge auseinander. Sie setzen sie wieder zusammen und das Auto startet, richtig? Das ist also ein seltenes Vergnügen und schwer zu erreichen. Sobald ich dieses Gefühl hatte, war es ein bisschen wie eine Droge, wissen Sie. Du bist so hoch und dann verlierst du es, und dann bekommst du es zurück, oder du versuchst es.

Darüber sprichst du in dem Buch viel. Sie sagen, jeder sollte lernen, wie man programmiert, weil es schwierig ist. Und diese Schwierigkeit wird letztendlich das Gefühl der Befriedigung sein, das Sie daraus ziehen.

Ich sage nicht jedem, dass er lernen soll, zu programmieren. Wie ich schon sagte, müssen die Leute dem ausgesetzt sein. Der Punkt ist, Code zu entmystifizieren. Wir sind von Algorithmen umgeben, die uns steuern, und dies ist zum Beispiel für niemanden neu, der gerade von Equifax gehackt wurde. Ein Drittel der erwachsenen Bevölkerung der Vereinigten Staaten. Es geht also darum zu wissen, dass es von Menschen geschrieben wurde und von Menschen geändert werden kann.

In der Bronx gibt es einen Stadtrat, der dort eine Gesetzesvorlage vorschlägt, in der die Gemeinde alle von ihnen verwendeten Algorithmen untersucht, und sie gehen von Polizeieinsätzen über Müllabfuhrpläne zu der Schule, in die die Kinder gehen, und suchen nach Vorurteilen in ihnen. Dies ist der Prozess, auf den ich hoffe, dass die Menschen in der Öffentlichkeit erkennen, dass diese Dinge geändert werden können. Sie haben Voreingenommenheit und diese Voreingenommenheit kann angegangen werden.

Das bringt uns zu einem Ihrer wichtigsten Punkte, nämlich dass der Code selbst inhaltliche Verzerrungen enthält. Und ich denke, mit Algorithmen geht es auf eine ganz andere Ebene. Aber je nachdem, wer den Code geschrieben hat, spiegelt er bestimmte politische Vorurteile, kulturelle Vorurteile wider. Können Sie ein wenig darüber sprechen, wie das in den Code selbst eingebettet wird?

Nun, Softwareentwickler bestimmen nicht, welcher Code geschrieben wird. Das kommt von oben. Und die Leute an der Spitze sind sehr reiche, überwiegend weiße Männer, und sie halten es für wünschenswert, was sie für die Gesellschaft gut finden oder welche Aufgaben sie erfüllen.

Beispielsweise wählte eine einfache Zustell-App Postleitzahlen aus. Was bedeutet das? Dass wir mit Menschen mit geringem Einkommen kein Geld verdienen können? Oder wollen wir keine Autos dorthin schicken? Es ist ein einfaches Beispiel. Es geht in, ist alles einkaufen? Brauchen die Leute das? Welche Art von sozialem Standpunkt drückt das aus?

Es geht nur noch um Algorithmen und noch tiefer. Ich habe gerade eine Zeitung von Phillip Rogaway gelesen. Er lieferte es im Jahr 2015 und es geht um die moralischen Implikationen der Kryptographie. Und er spricht von Kryptographie als Macht. Für wen schreibst du es? Wofür benutzen sie es? Und so können Sie von der einfachsten App bis zum Ende dessen, was als mathematisch angesehen wird, sehen, dass die Verzerrung eingebaut ist.

Ich denke, Sie haben es mit Ihren Fingern angesprochen, wenn Sie über das Thema "Ist alles einkaufen?" Sprechen. Das liegt sicher daran, dass der Handel die Motivation hat und Sie bestimmte Postleitzahlen als Ziel festlegen, weil Sie mit diesen Postleitzahlen Geld verdienen können. Und das formt das Produkt und wird dann zu diesem Verstärkungszyklus. Das gleiche passiert mit jedem Institut. Das ist der Grund, warum Amazon Whole Foods und nicht Stop & Shop gekauft hat. Es ist wegen dieser demografischen Vorurteile, und das ist nur der Markt am Werk. Aber diese Marktkräfte bestimmen auch die technologische Entwicklung.

Ich habe ein Beispiel für etwas, das ich für wunderbar halte. Eine Gruppe sprach über "Dies ist von Grund auf codierend." Nein, die Leute sitzen nicht in ihren verglasten Räumen, in denen wir arbeiten, und beschließen, "ich bin ein gemeinnütziger Verein, und dies wird der Gesellschaft zugute kommen und die Welt verändern." Dies ist eine Gruppe, die mit undokumentierten Arbeitern vor Ort arbeitet.

Jetzt stehen diese Typen an der Straßenecke und werden von jemandem in einem Pickup oder Van abgeholt und später wieder abgesetzt. Einige von ihnen werden nicht bezahlt. Also fragen sie: "Wie können wir uns gegenseitig ein Zeichen setzen? Komm nicht rein. Das ist ein böser Kerl." Es ist so etwas wie die Zeit der Depression. Hobos, die diese Zeichen setzten und sagten: "Hier wohnt ein schlechter Mann. Hier wohnt eine nette Frau."

Und so näherten sie sich einer Gruppe. Wieder kam es zu den Codierern vom Boden. Und sie sagten: "Kannst du uns etwas bauen?" Die meisten dieser Leute haben mobile Apps - die App bewahrt natürlich die Anonymität - und sie können dieses Nummernschild einstecken. "Sie suchen danach und nehmen den Job nicht an." Sie könnten fragen, verdient jemand Geld? Letztendlich ja, weil diese Leute, die verzweifelt nach Arbeit sind, nicht so oft betrogen werden.

Es ist wie ein Reputationssystem. Dieselbe Art von Reputation, die gleiche, die in Uber eingebaut ist, wo Fahrer bewertet und Fahrer bewertet werden, und im Idealfall werden die besten Fahrer und die besten Fahrer in irgendeiner Weise belohnt. Es ist ein faszinierendes Beispiel. Haben Sie einen Rat für Leute, die noch nicht mit dem Programmieren vertraut sind oder es als Karriereoption ausprobieren möchten?

Ratschläge für Leute, die es erkunden möchten? Erstens gibt es überall Treffen. Nein, ich sollte nicht überall sagen. Sie sind auch in ausgewählten Postleitzahlen enthalten. Es gibt Tausende und Abertausende in der Bay Area, wo Sie sich anmelden und andere Leute treffen können, die Ihnen das Codieren beibringen. Es gibt einige speziell für Frauen. Das ist sehr hilfreich.

Ich habe nach anderen Orten im Land gesucht. Büffel, New York, Utica, New York. Und da war nichts. Also, was machen wir damit? Daher scheinen massiv Online-Kurse eine Möglichkeit zu sein. Und eines der Dinge, über die ich schrieb und was ich tat, war, mich einzuschreiben, um es zu prüfen. Und bei den Lehrern sah ich die gleiche Voreingenommenheit.

Sie machten Annahmen über die amerikanische Kultur. Und nun, Sie wollen eine Milliarde Dollar verdienen. Eine Million wäre nicht genug für dich. Alles das selbe. Ich denke, die Leute können diese Videos herunterladen und eine Gruppe zusammenstellen. Du streckst dem Typen die Zunge raus, der dir sozialen Unsinn erzählt. Und einander helfen und lernen, zu programmieren.

Es gibt auch Code-Akademien, die Tausende von Dollar kosten und tatsächlich geschlossen werden. Sie garantieren Menschen, Sie verdienen drei Zahlen innerhalb von acht Monaten. Ich denke nicht, dass das eine gute Route ist. Im Idealfall würden die Schulen es unterrichten. Und ich meine nicht, dass sich das Codieren als Grundkompetenz mit den Geisteswissenschaften verbindet. Ich denke, dass Menschen mit geisteswissenschaftlichen Kenntnissen sich mit Codierung befassen müssen, um das Wissen der Menschen, die Geschichte, Soziologie und Fremdsprachen studiert haben, über das Leben anderer Menschen auf der Welt zu vermitteln. Bring das in die Codier-Arena.

Ich möchte mit Ihnen ein wenig über soziale Medien sprechen. Sie haben 1998 einen Aufsatz mit dem Titel "Das Museum von mir" geschrieben, und ich höre, wie über diesen Satz geredet wird, als wäre er brandneu. Aber Sie haben zum ersten Mal 1998 geschrieben und gesagt, dass das Internet es uns ermöglichen würde, "eine private Gedankenblase" zu erstellen, indem wir nur die Websites lesen, die seine oder ihre gewünschten Überzeugungen bekräftigen, und genau dort scheinen wir heute zu sein.

Sie nannten es sozusagen, Sie haben das Internet allgemein beschrieben, aber die sozialen Medien scheinen dies gerade auf eine ganz neue Ebene gebracht zu haben. Es tut mir so leid, dass ich damit recht habe. Es gab Dinge, die ich passieren sah, ich schätze in meinem Herzen, dass es Warnungen geben würde. Aber ich habe gerade für eine kleine Veröffentlichung geschrieben.

Ich denke, das war wahrscheinlich bei Harper . Irgendwie hat die Selfie-Generation diesen Harper- Artikel leider verpasst.

Nun, was lesen sie? Sie lesen Feeds, wissen Sie. Die Feeds sagen ihnen also, was heute passiert. Übrigens ist es heute sehr schwierig, mit Ihnen über Technologie zu sprechen, einen Tag nachdem wir dieses schreckliche Gemetzel in Las Vegas haben. Und mehr als 50 Menschen wurden getötet und Hunderte verletzt. Wir kennen das Ausmaß wirklich nicht.

Und Sie wissen, Waffen sind Technologie. Industriedesign ist Technologie. Sie wissen, wir neigen dazu, es nur als coole Telefone und Laptops und KI, Server und Algorithmen zu betrachten. Aber die Leute konstruieren diesen Apparat, mit dem eine Waffe Hunderte von Kugeln mit einem Schuss abschießen kann. Und das hält mich wirklich auf. Weißt du, in solchen Tagen ist es schwer, fröhlich zu werden. Ich meine, ich bin der Vertreter der Finsternis im Allgemeinen, aber dieser hielt mich besonders auf.

An solchen Tagen fällt es jedem schwer, den Tag zu überstehen. Aber einer der Punkte, die Sie immer wieder ansprechen, ist, dass alle Technologien diese impliziten Effekte haben und dass sie nicht neutral sind, und dass viele der ethischen Gespräche, die alle möglichen anderen Debatten über Politik, über Politik und soziale Themen betreffen, dazu neigen, dies nicht zu tun passieren im technologischen Raum, weil Ingenieure es bauen, fragt der Markt danach. Die Designer bauen es, sie versenden es und dann leben wir mit den Konsequenzen.

Aber es scheint auf Schritt und Tritt, ob es sich um Waffentechnologie, Softwarecode oder Zugang zu Diensten handelt, wir müssen uns über die Konsequenzen unterhalten.

Das wäre meine Hoffnung. Deshalb habe ich dieses Buch geschrieben, in der Hoffnung, ein Gespräch auf verschiedenen Ebenen zu initiieren. Nicht was ist das Ziel der Zukunft. Die Zukunft ist das, was Sie jetzt daraus machen und ein Gespräch führen. Das menschliche Verlangen treibt die Zukunft an. Das ist unser Vorrecht. Auch in die Vergangenheit schauen. Ein weiterer Grund, warum ich in die Mitte der 90er Jahre zurückkehren wollte, ist, dass wir aus der Vergangenheit gelernt haben.

Nur nach vorne zu schauen bringt dir sehr wenig bei, denn das ist alles Fantasie. Aber wenn wir zurückgehen und sehen, wie wir dahin gekommen sind, wo wir sind, und welche Trends uns hierher gebracht haben, welche Erfolge die Menschen in der Vergangenheit hatten, was wir gelernt haben. Es gibt Leute, die vor uns gelebt haben, und sie haben mehr an der Computertechnologie gearbeitet als wir. Wir werden in 100 Jahre gehen, ich glaube, Sie wissen, irgendwann mit den Ideen darüber zu beginnen. Ich hoffe also, dass die Leute aufhören und sich weiterbilden. Um zurückzublicken und zu sehen, wie sie dahin gekommen sind, wo sie sind.

Was halten Sie von der Natur der Tech-Industrie in Bezug auf die Größe der Führungskräfte? Mit Google und Amazon sowie Apple und Microsoft sprechen Sie von vier Unternehmen, die ganze Branchen absolut beherrschen. Die Web-Industrie, der Einzelhandel, die Unterhaltungsindustrie. Gibt es diese Unternehmen, gibt es etwas daran, einfach zu groß zu sein, das sein eigenes Problem schafft?

Das ist eine gute Frage. Ja, sie sind zu groß. Wir müssen alle sehr lange mit ihnen leben. Und ein Unternehmen wie Apple zeigt sich als sozial fortschrittlich. Diese Unternehmen sind jedoch zutiefst libertär. Sie wollen nicht, dass die Regierung sie kontrolliert, es sei denn, sie möchten, dass die Regierung ihnen nachgibt.

Schauen Sie, was mit all diesen Städten passiert, die Amazon in ihre Mitte drängen. "Oh, Sie müssen 20 Jahre lang keine Steuern zahlen." Die Regierung hilft ihnen also. Das ist es, was diese Unternehmen wollen. Sie wollen keine Regulierung. Ich sehe in dieser politischen Atmosphäre nicht, wie wir das machen werden. Wir haben keinen Obersten Gerichtshof, der sagen würde: "Das sind Monopole. Wir werden sie auflösen."

Das ist die richtige Frage. Ja, sie sind zu groß. Viele Menschen müssen ansprechen, was wir von hier aus tun.

Was ist das Problem mit ihnen? Da es Unternehmen gibt, habe ich noch nie ein privates Unternehmen gesehen, das mehr Regulierung gefordert hat. Was ist das Risiko, diese großen Riesenfirmen zu haben? Werden sie ihre Marktmacht nutzen, um die Verbraucher auszubeuten? Werden sie nicht innovativ sein, weil sie in all diesen verschiedenen Branchen im Wesentlichen Monopole haben?

Nun, sie werden die Verbraucher ausbeuten. Wir werden mehr Überwachung haben. Es gibt mehr Wettbewerb. Ich denke, sie können sich nicht einfach zurücklehnen und sagen: "Ich mache keine F & E. Ich greife nicht nach etwas." Aber ich fürchte, ein Großteil davon kommt vom Kauf anderer Unternehmen. Startups haben diese Ideen, und dann werden sie gekauft. Und dann lösen sie ihre aufregenden Kräfte, wenn sie welche haben, in diesen größeren Konzernen auf.

Aber diese Unternehmen können sich nicht zurücklehnen und nichts tun. Schauen Sie, was mit Microsoft passiert ist. Es ist wirklich zurückgefallen. Schauen Sie sich Intel an. Intel war einer der Giganten. Jetzt ist es hinterher. Menschen, die keine großen Computer und Laptops mehr benutzen, haben unterschiedliche Chips und tragen überhaupt nicht zum mobilen Leben bei. Sie müssen also innovativ sein. Ich hoffe, dass sie es nicht tun, indem sie einfach die Unternehmen anderer kaufen und dann die Auswirkungen dieser Unternehmen abschwächen, was zu passieren scheint.

Sie haben einen Aufsatz über den Millennium Bug, den die meisten Leute bei Google haben werden, um herauszufinden, was es war. Bevor wir auf Sendung gingen, erzählte ich Ihnen, dass ich 1999 tatsächlich in einer Nachrichtenredaktion an Silvester war und niemand wirklich wusste, was passieren würde. Wir wussten, dass PCs wahrscheinlich in Ordnung sein würden, aber alle machten sich Sorgen darüber, was im Kraftwerk mit dem Computer im Hinterzimmer passiert, den in 10 Jahren niemand überprüft hat. Aber können Sie ein wenig darüber sprechen, was damals passiert ist und welche Lektionen uns heute erwarten.

Eines der wundervollen Dinge dabei ist, dass ich Programmierer getroffen habe, die diesen Code in den 60er Jahren geschrieben hatten und sagten: "Ich hätte nie gedacht, dass dieser Code so lange leben wird." Das Unternehmen Texaco war das einzige große Unternehmen, das bereit war, an die Börse zu gehen und zu sagen: "Dies ist kein Scherz. Dies ist, was wir tun. Dies sind die Probleme, mit denen wir konfrontiert sind."

Und ihre Bemühungen waren heroisch. Und es gab kleine lokale Dinge, die nicht veröffentlicht wurden. Aber ich wusste in meinem Herzen im Gespräch mit diesen engagierten Programmierern und Projektleitern, dass es in Ordnung sein würde, weil sie wirklich planten. Die Lektion für uns ist jetzt, dass wir immer noch all diesen alten Code verwenden. Wir haben diese auffälligen Frontends und dann haben wir das Internet, das wirklich unter Stress steht. Und das ist sehr alter Code.

Der Grund, warum wir all diese Hacks haben, ist, dass das Internet niemals auf Privatsphäre und Anonymität ausgelegt war. Es sollte kollegial und offen sein. Niemand glaubte daran, dass es diese donnernden Horden geben würde. Wir haben dort also eine Schwachstelle. Wir kehren zu den Servern zurück, die Algorithmen ausführen, und zwar auf dem Betriebssystem namens Linux. Linux geht weit zurück.

Wenn Sie tiefer und tiefer in das eindringen, was hinter dem hübschen Zeug steckt, finden Sie alten Code, alten Code, alten Code. Und Programmierer schreiben Dinge, die auf dem anderen Code aufbauen, und verstehen nicht immer - oft nicht - die Details der Dinge, mit denen sie interagieren. Die Lektion lebt also weiter.

Ausgezeichnet. Ich möchte mit Ihnen ein bisschen über AI sprechen. Es scheint, als wären wir in dieser Position mit dem Internet, das all diese unbeabsichtigten Konsequenzen hat, die wir immer noch zu klären versuchen, und jetzt bringen wir diese völlig neue Technologie hervor, die all diese Implikationen hat. Viele Unternehmen arbeiten mit KI-Systemen zusammen, die geschäftliche Entscheidungen treffen und Empfehlungen aussprechen, und sie können buchstäblich nicht herausfinden, wie sie dahin gekommen sind. Sie können den Prozess, der zu dem Schluss gekommen ist, nicht identifizieren. Sie wissen einfach, dass es funktioniert. Können Sie ein wenig darüber sprechen, was das bedeuten könnte?

Sie denken, dass es funktioniert. Der derzeitige Trend in der KI, die ganze Idee eines humanoiden Roboters, die wir von einem Menschen nicht unterscheiden können, ist wirklich auf der Strecke geblieben. Es zeigt, dass es sehr, sehr schwer zu verstehen ist, wie Menschen so funktionieren, wie sie es tun. Es ist jetzt maschinelles Lernen. Die Idee ist, dass Sie einen Algorithmus schreiben. Es schaut sich die Ergebnisse an und ändert sich selbst, und dann schaut es sich die Ergebnisse an und lernt.

Was nun passiert, ist, dass die Leute, die diesen ursprünglichen Algorithmus geschrieben haben, wirklich nicht wissen, was nach mehreren Iterationen passiert. Und der Code entfernt sich immer weiter von den Menschen, die ihn verstehen. Es ist also eine Art Monster, in dem Sinne, dass es von alleine funktioniert. Und ja, es funktioniert, aber was fehlt?

Es funktioniert mit Daten, die Vorurteile haben. Es hat in erster Linie eine Tendenz in der Vergangenheit. Es liegen Fehler vor. Daher ist das, woraus es lernt, auch voreingenommen und fehleranfällig. Ich mache mir diesbezüglich Sorgen um die KI, insbesondere um die Idee selbstfahrender Autos. Und dass wir über wirklichen menschlichen Schaden sprechen. Und ich könnte zu lange darüber reden, also höre ich besser auf.

Die meisten Prognosen besagen, dass selbstfahrende Autos sicherer sind als menschliche Fahrer, was meiner Meinung nach einen großen Teil des heutigen Straßenproblems ausmacht.

Menschliche Fahrer fahren seit 100 Jahren Autos. Die Menschen können also Folgendes tun: Sie sehen sich nicht nur die Umgebung an. Sie wissen, wann Sie fahren, auch wenn Sie unaufmerksam sind, wenn Sie etwas Erfahrung haben, können Sie vor sich sehen, eine Viertelmeile, eine halbe Meile einen Hügel hinauf, auf dem alles überlastet ist, und Sie müssen sich darauf vorbereiten, anzuhalten.

Sie können die Persönlichkeit von Autos lesen. Jemand kommt dort drüben auf die entfernte Gasse. Sie sehen die Marke, das Modell, die Aggressivität des Fahrers. Wenn sich das Auto bewegt, weißt du, dass es dich abschneiden wird. Sie warten nicht auf einen Annäherungsalarm. Die Menschen wissen auf eine Art und Weise, dass ich entweder einen Unfall haben werde oder mit diesem Auto in einen Straßenrummel geraten werde. Oder ich werde sagen: "Okay, mach weiter."

Gehen wir nun zu den Möglichkeiten, wie selbstfahrende Autos abstürzen können. Auch hier setzen sie auf Maschinen-zu-Maschinen-Schnittstellen. Und es wird Bugs in diesem Code geben, Punkt. Sie werden also über das Internet oder ein drahtloses Netzwerk kommunizieren. Große Verwundbarkeit dort. Wir haben gesehen, dass Autos, die drahtlos betrieben werden, bereits von weißen Hype-Hackern gehackt wurden, um zu zeigen: "Schau, ich kann dein Auto von der Straße fahren lassen."

Wie ist das geschützt? Und dann gibt es die Schnittstelle zwischen verschiedenen Marken und Modellen. Denken Sie jetzt, dass jeder einen Prius fahren wird? Nein, Menschen wollen eine andere Art von Leistung. Es wird also wieder Konkurrenz geben, wie Autos funktionieren, wie sich der Fahrer oder die Insassen fühlen wollen, wenn sie auf der Straße sind.

Es wird eine Art Standard-API geben, Application Interface, die bekanntermaßen fehleranfällig ist. Aber es gibt viele, viele Fehlerquellen, die dort auftreten können. Sie können auch nicht im Schnee fahren.

Da ist das.

Da ist das. Ich meine, sehen Sie, Sie wären nutzlos?

Glauben Sie, dass wir selbstfahrende Autos haben werden, die sehr fehleranfällig sind und Sicherheitsrisiken unterliegen? Oder glauben Sie nicht, dass wir ein sicheres selbstfahrendes Auto bauen können und dass die Technologie viel länger dauern wird, als die Leute denken?

Ich denke es wird passieren. Ich denke, auf Straßen mit eingeschränkter Zufahrt wie Autobahnen wird es gut funktionieren. Es sei denn, es schneit oder es regnet stark. Es muss die Linien sehen. Und dann muss es die Bremslichter und die Lichter der Autos um ihn herum sehen. Und so fügen sie mit eingeschränkten Gesichtspunkten andere LIDAR und so weiter hinzu.

Irgendwann wird es klappen. Es wird etwas länger dauern. Momentan glaube ich, dass es einige Städte gibt, die im Stadtzentrum eine Infrastruktur für die Autos aufbauen. Aber wir sind hier in Manhattan und haben Probleme, unsere U-Bahnen am Laufen zu halten. Glauben Sie, wir werden Milliarden von Dollar benötigen, um Manhattan in einen Ort mit Sensoren für selbstfahrende Autos zu verwandeln? Ich weiß nicht, ob Manhattan in Hunderten von Jahren nicht von den aufkommenden Meeren überflutet wurde.

Es wird da sein. Aber ich denke, dass die Euphorie - und wie immer bin ich der düstere Repräsentant - ich das Gefühl habe, auf der Wippe zu stehen, und es gibt alle anderen, die wirklich wissen, was sie tun, und ich bin wie ein Floh, der auf dem anderen herumspringt Ende, versuchen, ein wenig nach unten zu drücken und die Standpunkte auszugleichen. Mildern Sie die Erwartungen. Jeder sollte die harte Arbeit kennen, die wir leisten müssen, bevor diese wunderbare Erwartung erfüllt werden kann.

Ich werde Ihnen ein paar Fragen stellen, die ich allen in der Serie stelle. Und dieses sollte für Sie einfach sein. Welcher technologische Trend beschäftigt Sie am meisten? Gibt es irgendetwas, das dich nachts wach hält? Wir können eine ganze andere Show machen.

Alles oben. Es hält mich nachts nicht auf. Ich verbringe genug Zeit damit, tagsüber darüber nachzudenken. Ich weiß, eine der Fragen, die Sie sich stellen wollten, war, wissen Sie, sollten die Leute eine Pause von all diesen Fragen machen? Ja.

Heute wurde ich von jemandem, der mit einem Roller vorbeikam, fast auf die Straße geworfen.

Und ein Telefon?

Mit Ohrhörer und Telefon. Das geht mich also wirklich etwas an. Leute könnten wirklich verletzt werden.

In New York City werden jeden Tag Menschen verletzt, weil alle auf ihr Handy schauen und laufen.

Ja, ich wohne in der Gegend von South of Market. Ich wohne in San Francisco in der Startup Alleys, Second Street. Nun, es ist eine Sache zu sagen, dass jeder auf sein Handy schaut, aber wenn Sie versuchen, die Straße in nördlicher Richtung entlang zu gehen, wenn jeder in südlicher Richtung fährt und 100 Leute in ihr Handy schauen, ist es wirklich so, als ob ich Ich lebe in einer fremden Welt.