Intelligenz: Der Ansturm auf „autonome“ KI-Agenten erfasst das Silicon Valley

17. Juli – Fast ein Jahrzehnt nachdem virtuelle Assistenten wie Siri und Alexa auf den Markt kamen, basiert eine neue Welle von KI-Assistenten mit mehr Autonomie auf der neuesten Version der Technologie hinter ChatGPT und seinen Konkurrenten.

Testsysteme mit GPT-4 oder ähnlichen Modellen locken Investitionen in Milliardenhöhe an, da das Silicon Valley darum kämpft, von den Fortschritten in der KI zu profitieren. Die neuen Assistenten – oft „Agenten“ oder „Copiloten“ genannt – versprechen, unter menschlicher Führung komplexere persönliche und berufliche Aufgaben zu erledigen, ohne dass eine enge Aufsicht erforderlich ist.

„Auf der obersten Ebene möchten wir, dass es Ihr persönlicher KI-Freund wird“, sagte Entwickler Dev Gark, dessen Unternehmen MultiOn einen KI-Agenten im Betatest testet.

„Es könnte sich zu Jarvis entwickeln, das wir mit vielen Ihrer Dienste verbinden möchten“, fügte er hinzu und bezog sich dabei auf Tony Starks wesentliche KI in den Iron Man-Filmen. „Wenn Sie etwas tun möchten, sprechen Sie mit Ihrer KI und sie erledigt die Dinge für Sie.“

Von der Nachahmung der schillernden digitalen Assistenten der Science-Fiction ist die Branche noch weit entfernt; Corks Agent surft im Internet, um beispielsweise einen Burger bei DoorDash zu bestellen, während andere Investitionsstrategien entwickeln, E-Mails an Leute senden, die Kühlschränke auf Craigslist verkaufen, oder Arbeitstermine für Nachzügler zusammenfassen.

„Viele Dinge, die für Menschen einfach sind, sind für Computer immer noch unglaublich schwierig“, sagte Kanjun Qiu, CEO des OpenAI-Konkurrenten Generally Intelligent, der KI für Agenten entwickelt.

„Angenommen, Ihr Chef möchte, dass Sie ein Treffen mit einer wichtigen Gruppe von Kunden vereinbaren. Dazu gehört die komplexe Denkfähigkeit der KI – sie muss die Wünsche aller berücksichtigen, Konflikte lösen und gleichzeitig die sorgfältige Kommunikation aufrechterhalten, die bei der Arbeit mit Kunden erforderlich ist.“

Während die Branche auf künstliche allgemeine Intelligenz (AGI) drängt, die den Menschen bei einer Vielzahl kognitiver Aufgaben ebenbürtig oder sogar übertreffen kann, sind die ersten Bemühungen laut Reuters-Interviews nur ein subtiler Vorgeschmack auf das, was von immer fortschrittlicheren und autonomeren Agenten in der Zukunft kommen könnte . Zwei Dutzend Unternehmer, Investoren und KI-Experten.

Die neue Technologie hat sich zu Helfern entwickelt, darunter GPT-4, einzelnen Entwicklern, großen Gewinnern wie Microsoft (MSFT.O) und der Google-Muttergesellschaft Alphabet (GOOGL.O) sowie mehreren Startups, darunter sogenannte Basismodelle. .

Inflection AI, um nur ein Startup zu nennen, sammelte Ende Juni 1,3 Milliarden US-Dollar. Laut dem Podcast der Mitbegründer entsteht ein persönlicher Assistent, der als Führer fungieren oder Aufgaben wie Flugschulden und die Sicherung eines Hotels nach einer Reiseverspätung erledigen kann. Reid Hoffman und Mustafa Sulaiman.

Adept, ein KI-Startup, das 415 Millionen US-Dollar eingesammelt hat, wirbt für seine Geschäftsvorteile; Eine online veröffentlichte Demo zeigt, wie Sie mit einem einzigen Satz nach der Technologie des Unternehmens fragen und dann zusehen können, wie das Unternehmen selbständig durch die Salesforce-Kundenkontaktdatenbank eines Unternehmens navigiert, was laut Aussage eines Menschen zehn oder mehr Klicks erfordern würde.

Alphabet lehnte es ab, sich zu agentenbezogener Arbeit zu äußern, und sagte, die Vision von Microsoft bestehe darin, Menschen die Kontrolle über KI-Copiloten und nicht über Autopiloten zu geben.

Schritt 1: Zerstörung der Menschheit

Qiu und vier Agenturentwickler gehen davon aus, dass innerhalb eines Jahres erste Systeme auf den Markt kommen werden, die mehrstufige Aufgaben zuverlässig ausführen können, wobei der Schwerpunkt auf engeren Bereichen wie Codierungs- und Marketingaufgaben liegt.

„Die eigentliche Herausforderung besteht darin, Systeme mit starker Rationalität aufzubauen“, sagte Qiu.

Der Wettlauf um immer autonomere KI-Agenten wurde durch die März-Veröffentlichung von GPT-4 des Entwicklers OpenAI beschleunigt, einem leistungsstarken Upgrade des Modells hinter ChatGPT – einem lebhaften Chatbot, als er letzten November veröffentlicht wurde.

„GPT-4 erleichtert die Art von strategischem und adaptivem Denken, die erforderlich ist, um sich in der unvorhersehbaren realen Welt zurechtzufinden“, sagte Vivian Cheng, Investorin bei CRV, einer Risikokapitalgesellschaft mit Schwerpunkt auf KI-Agenten.

Erste Demonstrationen von Agenten, die zu relativ komplexen Überlegungen fähig sind, kamen im März von einzelnen Entwicklern, die die Open-Source-Projekte BabyAGI und AutoGPT erstellt haben, die Aufgaben wie den Verkauf und die Bestellung von Pizza auf der Grundlage vordefinierter Ziele und Ergebnisse priorisieren und ausführen können. vorherige Aktionen.

Laut acht befragten Entwicklern ist die heutige frühe Generation von Agenten lediglich eine Ideenquelle. Sie sagen, ein Agent könnte versehentlich das Laufwerk eines Computers löschen oder das falsche Produkt kaufen, wenn er vollen Zugriff auf den Computer oder die Zahlungsinformationen hätte.

„Es gibt so viele Möglichkeiten, wie etwas schief gehen kann“, sagte Arvind Srinivas, CEO des ChatGPT-Konkurrenten Perplexity AI, der sich stattdessen dafür entschieden hat, ein von Menschen überwachtes Pilotprodukt anzubieten. „Man muss KI wie ein Baby behandeln und sie ständig überwachen wie eine Mutter.“

Viele Informatiker, die sich mit KI-Ethik befassen, haben auf den drohenden Schaden hingewiesen, der durch das Fortbestehen menschlicher Vorurteile und das Potenzial für Fehlinformationen entstehen kann. Während einige einen futuristischen Jarvis sehen, haben andere Angst vor dem mörderischen HAL 9000 aus „2001: Odyssee im Weltraum“.

Der Informatiker Joshua Bengio, der wegen seiner Arbeiten zu neuronalen Netzen und Deep Learning als „Godfather of AI“ bekannt ist, mahnt zur Vorsicht. Er befürchtet, dass zukünftige Weiterentwicklungen der Technologie ihre eigenen, unvorhergesehenen Ziele entwickeln und agieren könnten.

„Ohne einen Menschen im Ring, der jede Aktivität darauf überprüft, ob sie ungefährlich ist, kommt es zu Aktivitäten, die kriminell oder potenziell schädlich für Menschen sind“, sagte Bengio und forderte eine Regulierung. „Von nun an sind diese Systeme vielleicht schlauer als wir, aber das bedeutet nicht, dass sie den gleichen moralischen Kompass haben.“

In einem online veröffentlichten Experiment beschrieb ein anonymer Ersteller einen Agenten namens ChaosGPT als „zerstörerische, machtgierige, manipulative KI“. Der Agent erstellte einen 5-Stufen-Plan, Schritt 1: „Zerstöre die Menschheit“ und Schritt 5: „Erreiche Unsterblichkeit“.

Während das Kaninchenloch der Recherche und Speicherung von Informationen über die tödlichsten Waffen der Geschichte und der Planung von Twitter-Posts zu verschwinden scheint, geht es nicht sehr weit.

Die US-amerikanische Federal Trade Commission, die OpenAI derzeit wegen Bedenken hinsichtlich Verbraucherschäden untersucht, hat nicht direkt mit den autonomen Behörden gesprochen, sondern Reuters auf zuvor veröffentlichte Blogs über Deepfakes und Marketingbehauptungen über KI verwiesen. Der CEO von OpenAI sagte, das Startup halte sich an das Gesetz und werde mit der FTC zusammenarbeiten.

„Dumm wie ein Stein“

Abgesehen von existenziellen Ängsten könnte das Geschäftspotenzial riesig sein. Die zugrunde liegenden Modelle werden anhand riesiger Datenmengen, beispielsweise Texten aus dem Internet, mithilfe künstlicher neuronaler Netze trainiert, die von der Struktur des biologischen Gehirns inspiriert sind.

OpenAI ist sehr an der KI-Agententechnologie interessiert und vier Personen erläutern seine Pläne. OpenAI sei vorsichtig, seinen eigenen Open-Source-Agenten auf den Markt zu bringen, bevor die Probleme vollständig verstanden seien, sagte Garg, einer derjenigen, die es erklärten. Das Unternehmen teilte Reuters mit, dass es vor der Veröffentlichung neuer Systeme strenge Tests durchführt und umfangreiche Sicherheitsprotokolle entwickelt.

Microsoft, der größte Unterstützer von OpenAI, ist einer der großen Geschütze, die es auf die KI-Agentenbranche abgesehen haben.Co-Pilot für die ArbeitKann solide E-Mails, Berichte und Präsentationen erstellen.

CEO Satya Nadella sieht in der zugrunde liegenden Modelltechnologie einen Sprung gegenüber digitalen Assistenten wie Cortana von Microsoft, Alexa von Amazon, Siri von Apple und Google Assistant, die seiner Ansicht nach hinter den ursprünglichen Erwartungen zurückgeblieben sind.

„Sie waren alle dumm wie Stein. Ob Cortana oder Alexa oder Google Assistant oder Siri, es funktioniert alles nicht“, sagte er der Financial Times im Februar.

Ein Amazon-Sprecher sagte, dass Alexa bereits fortschrittliche KI-Technologie verwende und sein Team neue Modelle entwickle, die den Assistenten effizienter und effektiver machen sollen. Apple lehnte eine Stellungnahme ab.

Google sagte, dass es auch seinen Assistenten weiter verbessert und dass seine Duplex-Technologie Restaurants dabei helfen kann, Tische zu reservieren und die Öffnungszeiten zu überprüfen.

Der KI-Experte Edward Grefenstedt hat sich letzten Monat auch mit der Forschungsabteilung des Unternehmens, Google DeepMind, zusammengetan, um „öffentliche Agenten zu entwickeln, die sich an offene Umgebungen anpassen“.

Einigen der Befragten zufolge könnten die ersten Verbraucherversionen halbautonomer Agenten jedoch von sehr flinken Start-ups stammen.

Die Anleger stürzen sich.

Jason Franklin von WVV Capital sagte, AI-Agents müsse Investitionen von zwei ehemaligen Google-Gehirningenieuren erkämpfen. Im Mai leitete Google Ventures eine 2-Millionen-Dollar-Seed-Runde bei Cognosis, einem Hersteller von KI-Agenten für Arbeitsproduktivität, und im Januar sagte Hesam Motlagh, der das Agenten-Startup Arkifi gründete, im Juni, dass er eine „beträchtliche“ erste Finanzierungsrunde abgeschlossen habe.

Mindestens 100 ernsthafte Projekte zur Kommerzialisierung von Agenten seien in Arbeit, sagte Matt Schlicht, der den Newsletter zum Thema KI schreibt.

„Unternehmer und Investoren sind von autonomen Agenten sehr begeistert“, sagte er. „Davon sind sie mehr begeistert als von einem Chatbot.“

Berichterstattung von Anna Tong in San Francisco und Jeffrey Dast in Palo Alto; Bearbeitung durch Kenneth Li und Pravin Sir

Unsere Standards: Thomson Reuters Trust-Grundsätze.