Video: Yann LeCun: "Energy-Based Self-Supervised Learning" (November 2024)
Bei einem Workshop über KI und die Zukunft der Arbeit Anfang dieses Monats sprach Yann LeCun, Direktor der KI-Forschung bei Facebook und Gründungsdirektor des NYU Center for Data Science, über "Macht und die Grenzen des tiefen Lernens". LeCun, der Pionier der Faltungs-Neuronalen Netze war, die das Herzstück vieler der jüngsten Fortschritte in der KI bilden, war sowohl von den Fortschritten, die das Feld in den letzten Jahren gemacht hat, begeistert als auch realistisch, was solche Systeme können und was nicht.
Laut LeCun hat es mehrere KI-Wellen gegeben, und es wurde festgestellt, dass die aktuelle Welle sich auf tiefes Lernen konzentriert hat, aber "Wahrnehmung" ist, wobei die größten Beispiele Anwendungen wie medizinische Bildgebung und selbstfahrende Autos sind. Nahezu alle dieser Anwendungen verwenden überwachtes Lernen und die meisten verwenden neuronale Faltungsnetze, die LeCun erstmals 1989 beschrieben und 1995 erstmals für die Zeichenerkennung in Geldautomaten eingesetzt hat. LeCun erklärte, das Patent für solche Netze sei 2007 abgelaufen.
Es sind die großen Datenmengen mit großen Stichproben sowie die enormen Steigerungen der Rechenleistung (unterstützt von Geoffrey Hintons Arbeit bei der Ermittlung der Verwendung von GPUs für die Bilderkennung), die in den letzten Jahren zu den größten Änderungen geführt haben. Selbst für LeCun waren die Fortschritte bei der Bilderkennung "nicht weniger als erstaunlich". Obwohl die Wahrnehmung "wirklich funktioniert", fehlt immer noch das Denken.
LeCun sprach über drei verschiedene Ansätze und deren Grenzen. Das Reinforcement-Lernen erfordert eine große Anzahl von Stichproben. Es ist großartig für Spiele, da das System Millionen von Tests ausführen kann und immer besser wird, aber es ist in der realen Welt schwierig zu verwenden, da Sie zum Beispiel kein Auto 50 Millionen Mal von einer Klippe fahren möchten und Echtzeit ist ein Faktor in der realen Welt.
Überwachtes Lernen, was das meiste ist, was wir derzeit sehen, erfordert ein mittleres Maß an Feedback und funktioniert gut. Überwachtes maschinelles Lernen weist jedoch einige Probleme auf. LeCun sagte, solche Systeme spiegeln Vorurteile in Daten wider, obwohl er optimistisch ist, dass dieses Problem überwunden werden kann, und glaubt, dass es einfacher ist, Vorurteile von Maschinen zu entfernen als von Menschen. Es ist jedoch auch schwierig, solche Systeme auf Zuverlässigkeit zu überprüfen und Entscheidungen zu erklären, die auf den Ergebnissen solcher Systeme basieren, und LeCun sprach als Beispiel über Kreditanträge.
Unüberwachtes oder vorausschauendes Lernen, das derzeit untersucht wird, um beispielsweise zukünftige Frames in einem Video vorherzusagen, erfordert viel Feedback. Unbeaufsichtigtes Lernen beinhaltet die Vorhersage der Vergangenheit, Gegenwart oder Zukunft aus den verfügbaren Informationen, oder mit anderen Worten, die Fähigkeit, die Lücken auszufüllen, wie LeCun sagte, ist effektiv das, was wir als gesunden Menschenverstand bezeichnen. Er merkte an, dass Babys dies tun können, dass es jedoch sehr schwierig ist, Maschinen dazu zu bringen, und sprach darüber, wie Forscher an Techniken wie generativen gegnerischen Netzwerken (GANs) für Vorhersagen unter unsicheren Bedingungen arbeiten. Wir sind weit davon entfernt, eine vollständige Lösung zu haben, sagte er.
LeCun sprach davon, dass die drei Arten des Lernens wie Teile eines Kuchens sind: Das Lernen der Stärkung ist das A und O, das überwachte Lernen des Zuckergusses und das vorausschauende Lernen der Hauptbestandteil des Kuchens.
LeCun prognostizierte, dass KI die Wertschätzung der Dinge ändern wird, wobei Waren, die von Robotern gebaut wurden, weniger kosten und authentische menschliche Erfahrungen mehr kosten. Dies könnte bedeuten, dass es "eine glänzende Zukunft für Jazzmusiker und -handwerker" gibt.
Insgesamt sagte LeCun, AI sei eine Allzwecktechnologie (GPT) wie die Dampfmaschine, Elektrizität oder der Computer. Als solches wird es viele Bereiche der Wirtschaft betreffen, aber es wird 10 oder 20 Jahre dauern, bis wir einen Effekt auf die Produktivität sehen. Laut LeCun wird die KI zu einer Ersetzung des Arbeitsplatzes führen, es wird jedoch darauf hingewiesen, dass der Einsatz der Technologie durch die Geschwindigkeit, mit der die Mitarbeiter sich darauf vorbereiten können, begrenzt ist.
Was eine "wahre KI-Revolution" anbelangt, sagte LeCun, dass dies erst geschehen wird, wenn die Maschinen den gesunden Menschenverstand erlangt haben, und die Festlegung der Prinzipien, nach denen dies aufgebaut werden soll, zwei, fünf, zwanzig oder mehr Jahre dauern kann. Darüber hinaus wird es Jahre dauern, um praktische KI-Technologien zu entwickeln, die auf diesen Prinzipien basieren. Schließlich dauerte es zwanzig Jahre, bis Faltungsnetze wichtig wurden. Und das alles basiert auf der Annahme, dass die Prinzipien einfach sind; Es wird viel komplizierter, wenn "Intelligenz ein Trick ist".
