Das zweite Kommen von Sam Altman löst neue Ängste vor einer KI-Apokalypse aus

Der neue Boss von Open AI sieht genauso aus wie der alte Boss. Aber das Unternehmen und die Branche der künstlichen Intelligenz könnten durch die hochriskante Seifenoper der letzten fünf Tage tiefgreifend verändert worden sein. Der CEO, Mitbegründer und Aushängeschild von OpenAI, Sam Altman, wurde am Freitag vom Vorstand entlassen. Am Dienstagabend, nach einem Massenprotest der meisten Mitarbeiter des Startups, kehrte Altman zurück, und der größte Teil des bestehenden Vorstands war verschwunden. Aber dieser Vorstand, der weitgehend unabhängig von der Geschäftstätigkeit von OpenAI war, war an das Leitbild „zum Wohle der Menschheit“ gebunden und war entscheidend für die Einzigartigkeit des Unternehmens.

Altman bereiste im Jahr 2023 die Welt, warnte die Medien und Regierungen vor den existenziellen Gefahren der von ihm entwickelten Technologie und stellte die gemeinnützige Struktur von OpenAI als einen Funken gegen die rücksichtslose Entwicklung leistungsstarker KI dar. . Was auch immer Altman mit den Milliarden von Microsoft macht, das Team kann ihn und andere Unternehmensführer in Schach halten. Wenn er anfängt, gefährlich oder gegen menschliche Interessen zu handeln, kann der Vorstand ihn nach Ansicht des Vorstands ausschließen. „Der Vorstand kann mich entlassen, und ich denke, das ist wichtig“, sagte Altman im Juni gegenüber Bloomberg.

„Sie konnten ihn nicht feuern, das ist schlimm“, sagt Toby Ort, ein leitender Forscher für Philosophie an der Universität Oxford.

Der Vorstand wurde neu besetzt, um Unternehmensvertreter und den ehemaligen US-Finanzminister Larry Summers einzubeziehen, der sich mit der problematischen Leadership-Reset-Technologie von OpenAI befasst. Zwei mit der Bewegung des „effektiven Altruismus“ verbundene Direktoren, beide Frauen, wurden aus dem Vorstand entfernt. Es hat bestehende Meinungsverschiedenheiten darüber herauskristallisiert, wie die Zukunft der KI geregelt werden sollte. Das Ergebnis wird von Toomers ganz anders gesehen, die befürchten, dass KI die Menschheit zerstören wird; Unmenschen, die glauben, dass Technologie eine utopische Zukunft beschleunigen wird; Anhänger des freien Marktkapitalismus; Und Befürworter einer strengeren Regulierung zur Kontrolle nicht vertrauenswürdiger Technologiegiganten gleichen den potenziellen Schaden einer leistungsstarken, disruptiven Technologie mit dem Wunsch aus, Geld zu verdienen.

„In gewisser Weise handelt es sich um einen Kollisionskurs, der schon seit langem geplant ist“, sagt Art, dem auch die Mitbegründung der Bewegung des effizienten Altruismus zugeschrieben wird, von der Teile von der verhängnisvollen Seite der KI besessen sind Risikospektrum. „Wenn das gemeinnützige Managementteam von OpenAI grundsätzlich machtlos ist, sein Verhalten tatsächlich zu beeinflussen, halte ich es für eine gute Sache, diese Machtlosigkeit aufzudecken.“

Regierungsintervall

Warum sich das OpenAI-Team gegen Altman entschieden hat, bleibt ein Rätsel. In der Ankündigung, dass Altman als CEO zurücktritt, hieß es, er habe „weiterhin unehrlich mit dem Vorstand kommuniziert und ihn so daran gehindert, seinen Aufgaben nachzukommen.“ In einem internen Memo von OpenAI wurde später klargestellt, dass Altmans Sturz „nicht als Reaktion auf ein Fehlverhalten erfolgte“. Emmett Shear, der zweite von zwei Interims-CEOs, die das Unternehmen zwischen Freitagabend und Mittwochmorgen leiteten, schrieb, nachdem er die Rolle übernommen hatte, dass er gefragt habe, warum Altman entlassen worden sei. „Der Vorstand hat Sam nicht wegen einer konkreten Meinungsverschiedenheit über die Sicherheit entlassen“, schrieb er. „Ihre Begründung ist eine völlig andere.“ Er versprach, die Gründe für Altmans Entlassung zu untersuchen.

Das Vakuum ließ Raum für Gerüchte, darunter, dass Altman zu viel Zeit auf Nebenprojekte verwendet oder dass er Microsoft gegenüber einfach zu respektvoll war. Es förderte Verschwörungstheorien wie OpenAI, das künstliche allgemeine Intelligenz (AGI) erschuf, und der Vorstand legte auf Anraten des Chefwissenschaftlers, Mitbegründers und Vorstandsmitglieds Ilya Sutzkever den Notschalter um.

„Ich weiß mit Sicherheit, dass wir keine AGI haben“, sagte David Shrier, Professor für Ausbildung, KI und Innovation an der Imperial College Business School in London.