Yang Zhilin: Das Genie hinter dem KI-Modell Kimi K3

In den letzten zwei Wochen diskutierten Wissenschaftler weltweit über die Größe und die Fähigkeiten von Kimi K3. Das ist das neueste große Sprachmodell aus China. Laut der Zeitschrift Nature hat es 2,8 Billionen Parameter und einen Kontextspeicher von bis zu 1 Million Token. Token sind Textteile, die die KI verarbeitet. K3 ist das größte offene Modell der Welt. Die Parameter sind öffentlich. Forscher können sie herunterladen, ändern und kostenlos nutzen. Aber die Details zum Training sind geheim.

Seit DeepSeek kam, hat kein chinesisches KI-Modell so viel Aufmerksamkeit bekommen, schreibt Nature. Interne Tests zeigen: K3 kann mit den besten amerikanischen Modellen mithalten oder sie übertreffen, zum Beispiel beim Programmieren und bei Tabellen. Man kann K3 auch über eine API nutzen. Das ist billiger als bei den Modellen von Google, Anthropic oder OpenAI.

Das neue Modell macht auch den Gründer Yang Zhilin bekannt. Er ist einer der neuen Stars in der KI-Welt.

Besonders unter den Besonderen

Yang Zhilin wurde 1992 in Shantou in der Provinz Guangdong geboren. Er studierte Informatik an der Tsinghua-Universität und war dort sehr gut. Sein Professor war Tang Jie, ein Mitgründer von Zhipu AI. 2019 machte Yang seinen Doktor an der Carnegie Mellon University in den USA. Seine Doktorväter waren die berühmten KI-Forscher Ruslan Salakhutdinov und William Cohen.

Professor Salakhutdinov sagt: Die erfolgreichsten KI-Forscher, die er ausgebildet hat, sind heute Mitgründer von KI-Firmen oder Professoren an Top-Universitäten. Aber auch unter diesen Talenten ist Yang besonders, sagt er zu Business Insider.

Yang hat vier Eigenschaften, die ihn besonders machen: Er kann sehr gut alleine arbeiten, er denkt kreativ, er hat ein breites technisches Wissen und er ist ehrgeizig und risikobereit.

Salakhutdinov erzählt: Yang kam direkt nach dem Studium in das Doktorprogramm in Carnegie Mellon. Er war sehr selbstständig. Am meisten beeindruckte den Professor, dass Yang immer bereit war, alte Ideen zu hinterfragen. Schon um 2019 – drei Jahre bevor ChatGPT bekannt wurde – dachte Yang: Wenn ein KI-Modell groß genug ist, kann es viele verschiedene Aufgaben machen, wenn man ihm Anweisungen in normaler Sprache gibt. Man muss nicht für jede Aufgabe ein eigenes Modell bauen.

Salakhutdinov erinnert sich: „Ich dachte: Was für eine Idee? Das wird nie funktionieren. Das klingt verrückt.“ Aber Yang antwortete: „Nein, ich glaube, wenn wir die Modelle weiter vergrößern, werden sie funktionieren.“

Yang entwickelte diese Ideen während eines Praktikums bei Google Brain. Sein Mentor war Dr. Lê Viết Quốc. Yang war Mitautor von zwei wichtigen KI-Forschungen: Transformer-XL, das hilft, dass KI längere Texte verarbeiten kann, und XLNet, das das Sprachverständnis von KI verbessert.

Laut Channel News Asia wollte Apple Yang einstellen. Aber er ging zurück nach China, um dort zu arbeiten.

Bevor Yang Moonshot AI gründete, arbeitete er an großen KI-Projekten mit, zum Beispiel an PanGu von Huawei und an Wu Dao, einem großen KI-Modell des Beijing Institute of Artificial Intelligence (BAAI). Er war auch Mitgründer von Recurrent AI, einer Firma, die KI nutzt, um Verkaufsgespräche zu analysieren.

Anfang 2023 gründete Yang mit Kollegen Moonshot AI. Diese Firma macht Kimi. Das Team hat wichtige KI-Technologien entwickelt, wie Transformer-XL, RoPE, Group Normalization, ShuffleNet, MuonClip und Mooncake, so Business Insider.

Durchhalten im harten Wettbewerb

Nach dem großen Erfolg des Modells R1 von DeepSeek Anfang letzten Jahres, musste Yang zeigen, ob seine Firma Moonshot AI überleben kann.

Der 34-jährige Gründer, der oft eine Brille trägt, konnte den ersten Erfolg von Kimi nicht nutzen. Laut Financial Times hatte Kimi oft Probleme mit Überlastung. Größere Konkurrenten waren schnell besser. Außerdem gab es einen Rechtsstreit mit einem Investor aus einem früheren Projekt. Es gab auch Gerüchte, dass Yang und ein Mitgründer Aktien von Moonshot in einer frühen Finanzierungsrunde verkauft hatten. Yang hat das bestritten, aber Moonshot hatte viel negative Aufmerksamkeit.

Viele in der chinesischen KI-Branche fragten sich: Kann Moonshot im teuren Wettbewerb um große Sprachmodelle bestehen? Ein Investor, der die Finanzen der Firma kennt, sagt: 2024 machte Moonshot nur 2,4 Millionen US-Dollar Umsatz, aber die Kosten für Training und Forscher stiegen stark. Einige Konkurrenten...