Warum der „Pate“ der künstlichen Intelligenz, Jeffrey Hinton, Google verlassen hat, um über die Einsätze zu sprechen

Als Jeffrey Hinton 2018 einen moralischen Einwand gegen die Zusammenarbeit von Google mit dem US-Militär hatte, beteiligte er sich nicht an öffentlichen Protesten oder setzte seinen Namen auf den offenen Beschwerdebrief, der von mehr als 4.000 seiner Kollegen unterzeichnet wurde.

Stattdessen sprach er einfach mit Sergey Brin, dem Mitbegründer von Google. Er sagte, er sei auch ein wenig verärgert darüber, sagte Hinton damals in einem Interview.

Der Vorfall ist sinnbildlich für Hintons stillen Einfluss in der Welt der künstlichen Intelligenz. Der 75-jährige Professor wird aufgrund seiner prägenden Arbeit im Deep Learning als einer der „Godfathers“ der künstlichen Intelligenz verehrt – ein Bereich der künstlichen Intelligenz, der die enormen Fortschritte in der Branche vorangetrieben hat.

Aber die Geschichte spiegelt laut denen, die ihn am besten kennen, auch Hintons Loyalität wider. Grundsätzlich hat er nie irgendwelche institutionellen Beschwerden, ethische oder andere, öffentlich geäußert.

Es war diese Überzeugung, die ihn letzte Woche dazu veranlasste, als Vice President und Engineering Fellow bei Google zurückzutreten, damit er freier über seine wachsende Besorgnis über die Gefahren der künstlichen Intelligenz für die Menschheit sprechen konnte.

Sein langjähriger Mitarbeiter und Freund Yoshua Bengio, der 2018 zusammen mit Hinton und Yan-Locun den Turing-Preis gewann, sagte, er habe den Rücktritt kommen sehen. „Er hätte bei Google bleiben und reden können, aber sein Gefühl der Loyalität war es nicht“, sagte Bengio.

Hintons Rücktritt folgt auf eine Reihe bahnbrechender KI-Starts in den letzten sechs Monaten, beginnend mit dem von Microsoft betriebenen ChatGPT im November und dem Chatbot von Google, Bard, im März.

Hinton äußerte Bedenken, dass das Rennen zwischen Microsoft und Google die Entwicklung künstlicher Intelligenz ohne angemessene Barrieren und Regeln vorantreiben würde.

„Ich denke, Google war am Anfang sehr verantwortungsbewusst“, sagte er am Mittwoch in einer Rede bei einer Veranstaltung von EmTech Digital, nachdem er seinen Rücktritt angekündigt hatte. „Einmal hatte OpenAI ähnliche Dinge mit .

Seit den 1970er Jahren leistet Hinton Pionierarbeit bei der Entwicklung „neuronaler Netze“, einer Technologie, die versucht, die Funktionsweise des Gehirns nachzuahmen. Es unterstützt jetzt die meisten KI-Tools und -Produkte, die wir heute verwenden, von Google Translate und Bard bis hin zu ChatGPT und selbstfahrenden Autos.

Aber diese Woche gab er Bedenken hinsichtlich seiner schnellen Entwicklung zu, die dazu führen könnte, dass Fehlinformationen die Öffentlichkeit überschwemmen und künstliche Intelligenz mehr menschliche Arbeitsplätze als erwartet an sich reißt.

„Was mich beunruhigt, ist, dass das passieren wird [make] Die Reichen sind reicher und die Armen ärmer. wie du es tust. . . „Die Gesellschaft wird immer gewalttätiger“, sagte Hinton. „Diese Technologie muss großartig sein … wird in einer Gesellschaft entwickelt, die nicht darauf ausgelegt ist, zum Nutzen aller eingesetzt zu werden.“

Hinton schlug auch Alarm wegen der langfristigen Bedrohungen, die KI-Systeme für den Menschen darstellen, wenn der Technologie zu viel Autonomie eingeräumt wird. Er hatte diese existenzielle Gefahr immer für unerreichbar gehalten, aber er hat kürzlich seine Gedanken über ihre Dringlichkeit neu überdacht.

„Es ist ziemlich plausibel“, sagte er, „dass die Menschheit eine vorübergehende Stufe in der Evolution der Intelligenz ist.“ Er fügte hinzu, dass Hintons Entscheidung, Google nach einem Jahrzehnt zu verlassen, von einem akademischen Kollegen veranlasst wurde, der ihn überredete, darüber zu sprechen.

Hinton wurde in London geboren und entstammte einer berühmten Gelehrtenlinie. Er ist der Urenkel der britischen Mathematiker Mary und George Boole, von denen letzterer die boolesche Logik erfand, die Theorie, die der modernen Computertechnik zugrunde liegt.

Als kognitiver Psychologe zielte Hintons Arbeit auf dem Gebiet der künstlichen Intelligenz darauf ab, sich der menschlichen Intelligenz anzunähern – nicht nur, um KI-Technologie zu entwickeln, sondern um Licht in die Funktionsweise unseres Gehirns zu bringen.

Sein Hintergrund bedeutet, dass er „nicht die mathematischste Person ist, die Sie in der Gemeinschaft des maschinellen Lernens finden werden“, sagte Stuart Russell, Professor für künstliche Intelligenz an der University of California, Berkeley und akademischer Mitarbeiter an der Hinton School.

Er wies auf Hintons Durchbruch im Jahr 1986 hin, als er eine Arbeit über eine Technik namens „Backpropagation“ veröffentlichte, die zeigte, wie Computerprogramme im Laufe der Zeit lernen können.

„Es ist eindeutig eine Schlüsselkarte“, sagte Russell. „Aber er leitete die … Kontrolle nicht so ab, wie es ein Mathematiker tun könnte. Er nutzte seine Intuition, um eine Methode zu finden, die funktionieren würde.“

Hinton äußerte sich nicht immer öffentlich zu seinen moralischen Ansichten, aber er machte sie privat deutlich.

1987, als er außerordentlicher Professor an der Carnegie Mellon University in den Vereinigten Staaten war, beschloss er, seine Position aufzugeben und nach Kanada auszuwandern.

Einer der Gründe, die er laut Bengio anführte, war moralischer Natur – er war besorgt über den Einsatz von Technologie, insbesondere künstlicher Intelligenz, in der Kriegsführung, und ein Großteil seiner Finanzierung kam vom US-Militär.

„Er wollte sich mit der Finanzierung und der Arbeit, die er leistete, wohlfühlen“, sagte Bengio. „Er und ich teilen Werte über die Gesellschaft. Dass Menschen wichtig sind, dass die Würde aller Menschen wesentlich ist. Und alle sollten von den Fortschritten profitieren, die die Wissenschaft macht.“

Im Jahr 2012 gelang Hinton und seinen Doktoranden an der University of Toronto – darunter Ilya Sutskiver, jetzt Mitbegründer von OpenAI – ein Durchbruch auf dem Gebiet der Computer Vision. Sie bauten neuronale Netze, die Objekte in Bildern in präziseren Größen erkennen können, als dies zuvor möglich war. Basierend auf dieser Arbeit gründeten sie ihr erstes Startup, DNNresearch.

Ihr Unternehmen – das keine Produkte herstellte – wurde 2013 für 44 Millionen US-Dollar an Google verkauft, nachdem eine kompetitive Auktion dazu führte, dass die chinesische Firma Baidu, Microsoft und DeepMind für das Know-how des Trios boten.

Seitdem hat Hinton die Hälfte seiner Zeit bei Google und die andere Hälfte als Professor an der University of Toronto verbracht.

Laut Russell hat Hinton ständig neue Ideen und probiert neue Dinge aus. „Jedes Mal, wenn er eine neue Idee hatte, sagte er am Ende seiner Rede: „Und Das Wie funktioniert das Gehirn! „

Als er auf der Bühne gefragt wurde, ob er sein Lebenswerk bereue, da es möglicherweise zu den unzähligen Schäden beigetragen habe, die er skizziert habe, sagte Hinton, er habe darüber nachgedacht.

„Diese Phase [AI] War nicht zu erwarten. Bis vor kurzem hielt ich diese Existenzkrise für weit hergeholt. „Also bereue ich wirklich nicht, was ich tue.“