Wie Dario Amodei mit Anthropic die KI-Welt verändert

Zwischen den "KI-Supermächten"

Diese Zeit ist vielleicht wie die Geschichte "Die drei Reiche". Es gibt verschiedene Herrscher und große KI-Mächte kämpfen um Einfluss. Google und OpenAI sind die großen alten Mächte. Sie haben schon ein großes Reich gebaut. Dario Amodei baut später Anthropic auf. Anthropic ist spät gekommen, aber es wird schnell eine neue starke Macht zwischen den zwei Giganten Google und OpenAI.

Am Ende der letzten Folge geht Dario Amodei zu Baidu. Dort hat das KI-Team von Baidu einen wichtigen Erfolg. Das Team ist erfolgreich bei Gesichtserkennung und bei KI-Chatbots für die Medizin und bei vielen anderen Technologien. Damit ist die KI von Baidu zu dieser Zeit besser als die KI von Google. Aber niemand denkt, dass dieser frühe Erfolg zum Zusammenbruch führt. Im Team gibt es Streit um Macht. Alle wollen das Wissen und die Computer-Leistung kontrollieren. Am Ende greifen verschiedene Kräfte ein, auch die chinesische Regierung. Das führt dazu, dass viele Talente die Firma verlassen. Das Labor geht kaputt.

Als das KI-Team von Baidu in den USA auseinandergeht, lädt Elon Musk im Dezember 2015 Amodei und einige der besten KI-Forscher zu einem Abendessen ein. Danach gründen Sam Altman (heute CEO von OpenAI), Greg Brockman (heute Präsident von OpenAI) und Ilya Sutskever (damals CTO von OpenAI - heute hat er OpenAI verlassen) zusammen mit Musk OpenAI. Am Anfang ist OpenAI nur eine Non-Profit-Organisation ohne Gewinn. Erst 2019 wird OpenAI ein richtiges Unternehmen. Zu dieser Zeit vertraut Amodei OpenAI noch nicht wirklich. Deshalb geht er zu Google Brain.

Amodei hat bei Baidu, Google und OpenAI gearbeitet, bevor er Ende 2020 Anthropic gegründet hat. Foto: CBS News

Aber nach 10 Monaten bei dem sehr großen Konzern Google will Amodei Google wieder verlassen. Im Jahr 2016 geht er zu OpenAI. Dort forscht er vor allem zur Sicherheit von KI. Das ist ein Thema, bei dem er schon bei Google wichtige Arbeit gemacht hat. OpenAI beginnt, große Sprachmodelle zu bauen und bringt 2018 das erste Modell "GPT" heraus. Dieses Modell schreibt am Anfang noch Texte mit vielen Fehlern. Aber es ist schon viel besser als ältere Methoden, um Sprache zu erzeugen. OpenAI gibt Amodei die Leitung für das Projekt GPT-3. Er bekommt 50 bis 60 Prozent der gesamten Computer-Leistung der ganzen Firma. Damit soll er ein damals riesiges Modell bauen. Der Sprung von GPT zu GPT-2 ist schon sehr groß - die Computer-Leistung wird zehnmal größer. Aber der Sprung von GPT-2 zu GPT-3 ist noch viel größer - die Größe wird 100-mal größer. Das Ergebnis ist wirklich erstaunlich. Viele unabhängige Forscher sind überrascht. Sie sehen, wie gut GPT-3 programmieren, Texte zusammenfassen und übersetzen kann. Amodei denkt über die Zukunft dieser Technologie nach. Von da an interessiert er sich noch mehr für die Sicherheit von KI.

Aber in OpenAI gibt es langsam immer mehr Konflikte. Die Konflikte zeigen sich bei vielen Themen: bei Personal-Entscheidungen, bei der Frage, wie die Firma Technologie einsetzt, wie sie Modelle veröffentlicht und wie sie mit der Öffentlichkeit spricht. Amodei hat sehr andere Ideen als die Führung von OpenAI, wie man diese Dinge machen soll.

In OpenAI denken einige Leute: Amodei spricht so viel über Sicherheit, weil er die Kontrolle über die Firma bekommen will. Mit der Zeit werden die Konflikte zwischen der Gruppe von Amodei und der Führung von OpenAI so stark, dass man sie nicht mehr lösen kann.

Im Park die Strategie für die neue KI-Welt planen

Deshalb verlassen Amodei, seine Schwester Daniela und ein paar andere Personen im Dezember 2020 OpenAI. Sie wollen eine neue Firma bauen.

Anthropic wird mitten in der Covid-19-Pandemie gegründet. Alle Mitglieder treffen sich nur über Zoom, weil die zweite Welle der Pandemie sehr stark ist. Nach und nach beginnt die Gruppe mit 15 bis 20 Personen, jede Woche ein Mittagessen im Precita Park in San Francisco zu machen. Jede Person bringt ihren eigenen Stuhl mit. Sie essen zusammen zu Mittag und sprechen über die Arbeit.

In der ganzen Geschichte der Technologie gibt es noch nie ein Start-up mit so einem schnellen Wachstum wie Anthropic. Die Gründer von Anthropic, darunter Präsidentin Daniela Amodei (dritte von links) und CEO Dario Amodei (zweiter von rechts). Quelle: Anthropic.

Die erste Mission der Firma ist einfach: Die Firma will die besten großen Sprachmodelle bauen. Sie will sichere Regeln benutzen und damit Druck auf andere Firmen machen, das Gleiche zu tun. Sie will ihre Erfahrungen veröffentlichen - aber nicht die wichtigsten technischen Details der Modelle selbst.

Es klingt vielleicht komisch, dass eine kleine Gruppe mit weniger als zwanzig Personen, die ihre eigenen Stühle in einen Park mitbringt, eine so große Vision hat. Es ist noch schwerer zu glauben, dass sie dafür Milliarden von Dollar brauchen. Aber genau so ist die Stimmung bei Anthropic in den ersten Tagen.

Amodei wählt für Anthropic einen eigenen Weg. Er will nicht den gleichen Weg wie OpenAI mit ChatGPT gehen. ChatGPT ist vor allem ein Produkt für viele normale Nutzer. Anthropic will einen anderen Fokus haben.