heise+ | Inkling: starkes Open-Weight-Modell aus den USA jagt Konkurrenz

Ein neuer Akteur auf dem KI-Markt

Das US-amerikanische Start-up Thinking Machines Lab hat mit der Veröffentlichung von Inkling ein bemerkenswertes Signal im Bereich der Künstlichen Intelligenz gesetzt. Als erstes bedeutendes Open-Weight-Modell aus den Vereinigten Staaten, das sich in seiner Dimension mit den bisher dominierenden chinesischen Entwicklungen messen kann, markiert Inkling einen wichtigen Wendepunkt. Während die US-Regierung derzeit intensiv über mögliche Regulierungen oder gar Verbote für Modelle mit offenen Gewichten diskutiert, die aus dem Ausland stammen, schlägt Thinking Machines Lab einen anderen Weg ein. Das Unternehmen hat sich entschieden, die Gewichte seines Modells öffentlich zugänglich zu machen. Dies geschieht in einer Zeit, in der die technologische Souveränität und die Offenheit von KI-Systemen weltweit heiß debattiert werden. Inkling tritt an, um die Lücke zu den führenden chinesischen Modellen zu schließen, auch wenn diese in standardisierten Benchmarks aktuell noch leichte Vorsprünge aufweisen. Die Veröffentlichung unterstreicht den Anspruch des Start-ups, eine ernsthafte Alternative im Bereich der hochperformanten, offenen Sprachmodelle zu etablieren und die Innovationskraft der US-amerikanischen KI-Szene zu demonstrieren.

Technische Spezifikationen und Architektur

Inkling basiert auf einer hochkomplexen Mixture-of-Experts-Architektur (MoE), die auf eine beeindruckende Gesamtzahl von 975 Milliarden Parametern kommt. Von dieser massiven Gesamtzahl sind pro Vorhersage jeweils 41 Milliarden Parameter aktiv. Das Modell ist in 66 Layer unterteilt, innerhalb derer insgesamt 256 Experten operieren. Bei jeder Berechnung werden stets sechs dieser Experten sowie zwei zusätzliche „geteilte“ Experten hinzugezogen, was die Effizienz der Vorhersage steigert. Um die hohen Anforderungen an die Hardware zu bewältigen, stellt Thinking Machines Lab die Gewichte in zwei Formaten zur Verfügung: im klassischen bfloat16-Format sowie in der deutlich platzsparenderen NVFP4-Quantisierung. Trotz dieser Optimierung bleibt der Hardwarebedarf enorm. Für den Betrieb im bfloat16-Format sind etwa 2 Terabyte Arbeitsspeicher erforderlich, während selbst die quantisierte Version noch rund 600 Gigabyte RAM beansprucht. Dies schließt den lokalen Betrieb auf Standard-Hardware für die meisten Nutzer aus. Ergänzt wird die Architektur durch eine innovative Multi-Token-Prediction-Funktion, die es dem Modell ermöglicht, in einem einzigen Schritt vorhergesagte Token zu verifizieren und gleichzeitig neue zu generieren, was die Ausgabegeschwindigkeit signifikant erhöht.

Der Weg zur Entwicklung von Inkling

Die Entstehung von Inkling ist eng mit der Expertise der Gründerin Mira Murati verbunden, die zuvor als Technikchefin bei OpenAI tätig war. Thinking Machines Lab hat sich bewusst für einen Ansatz entschieden, der nicht nur auf schiere Größe setzt, sondern auch innovative Trainings- und Post-Trainingsverfahren integriert. Dazu gehören modulare Mannigfaltigkeiten sowie ein aufwendiges Reinforcement-Learning-Bewertungssystem, das die Qualität der Modellausgaben sicherstellen soll. Die Entwicklung verlief in einem Umfeld, das zunehmend von geopolitischen Spannungen im KI-Sektor geprägt ist. Die Entscheidung, Inkling als Open-Weight-Modell zu veröffentlichen, steht im Kontrast zu den Bestrebungen der US-Regierung, den Zugriff auf offene Gewichte bei KI-Modellen stärker zu kontrollieren. Das Start-up positioniert sich damit als Vorreiter, der technologische Offenheit als Wettbewerbsvorteil begreift. Die Integration von Multi-Token-Prediction zeigt zudem, dass das Unternehmen aktiv an der Lösung der klassischen Probleme von Sprachmodellen arbeitet, nämlich der hohen Latenz bei der Textgenerierung und dem enormen Rechenaufwand pro generiertem Token.

Die Akteure hinter dem Modell

Im Zentrum der Entwicklung steht das Start-up Thinking Machines Lab, dessen Gründung durch Mira Murati maßgeblich die strategische Ausrichtung bestimmt hat. Murati bringt ihre umfassende Erfahrung aus der Führungsebene von OpenAI ein, was dem Projekt von Beginn an eine hohe Aufmerksamkeit in der Fachwelt sicherte. Das Team hinter Thinking Machines Lab hat sich auf die Fahnen geschrieben, die Grenzen des technisch Machbaren bei Open-Weight-Modellen zu verschieben. Neben den Entwicklern bei Thinking Machines Lab sind auch akademische Experten involviert, die die wissenschaftliche Einordnung unterstützen. Prof. Dr. Christian Winkler, der als Professor an der TH Nürnberg lehrt und sich auf die automatisierte Analyse natürlichsprachiger Texte spezialisiert hat, ordnet die Bedeutung solcher Modelle ein. Er betont, dass die Entwicklung von Inkling nicht nur ein technisches Unterfangen ist, sondern auch tiefgreifende Auswirkungen auf die Forschung im Bereich der Künstlichen Intelligenz hat. Die Zusammenarbeit zwischen hochspezialisierten Start-ups und der akademischen Forschungsgemeinschaft bildet dabei das Fundament für die kontinuierliche Verbesserung der Modelle und deren Anwendungsmöglichkeiten in verschiedenen Bereichen der IT-Sicherheit und Datenanalyse.

Einordnung der Marktsituation

Einzuordnen ist das Erscheinen von Inkling als direkter Angriff auf die Vormachtstellung chinesischer Open-Weight-Modelle. Den Berichten zufolge ist es das erste Mal seit längerer Zeit, dass ein US-Unternehmen ein Modell dieser Größenordnung derart offen zugänglich macht. Die strategische Bedeutung liegt in der Kombination aus extrem hoher Parameterzahl und der Multimodalität, die Text, Bild und Audio gleichermaßen verarbeitet. Experten sehen darin einen Versuch, die technologische Dominanz der USA in der KI-Entwicklung zu festigen, während gleichzeitig die Debatte über Sicherheit und Offenheit befeuert wird. Die Entscheidung, das Modell multimodal zu gestalten und für langen Kontext zu optimieren, zeigt, dass Thinking Machines Lab den Fokus auf komplexe Anwendungen legt, die über einfache Chat-Funktionen hinausgehen. Dennoch bleibt festzuhalten, dass die schiere Größe des Modells eine Hürde für die breite Adaption darstellt. Die Hardware-Anforderungen sind so hoch, dass nur spezialisierte Rechenzentren oder sehr gut ausgestattete Forschungseinrichtungen in der Lage sind, das Modell lokal zu betreiben, was die Nutzung in der Praxis vorerst einschränkt.

Offene Fragen zur Zukunft der Technologie

Trotz der detaillierten technischen Dokumentation bleiben einige Fragen offen, die für die langfristige Relevanz von Inkling entscheidend sein könnten. Unklar ist beispielsweise, wie sich die geplante US-Regulierung für Open-Weight-Modelle konkret auf die zukünftige Bereitstellung von Updates oder weiteren Modellvarianten durch Thinking Machines Lab auswirken wird. Ebenso wenig ist bekannt, wie das Unternehmen die langfristige Finanzierung der hohen Trainingskosten plant, die mit einem Modell dieser Größenordnung einhergehen. Die Frage, inwieweit die angekündigte Feintuning-Plattform „Tinker“ für externe Nutzer zugänglich sein wird und welche Kosten damit verbunden sind, wird im Quelltext nicht beantwortet. Auch die genaue Performance in spezifischen, nicht-öffentlichen Benchmarks bleibt Gegenstand von Spekulationen. Es fehlt zudem an Informationen darüber, welche Sicherheitsmechanismen genau implementiert wurden, um einen Missbrauch des Modells zu verhindern, insbesondere angesichts der Offenheit der Gewichte. Diese Lücken in der Informationslage lassen Raum für Spekulationen über die tatsächliche Marktdurchdringung und die regulatorische Zukunft des Projekts.

Der weitere Ausblick

Wie es mit Inkling weitergeht, hängt maßgeblich von der Akzeptanz in der Entwickler-Community und der weiteren Entwicklung der regulatorischen Rahmenbedingungen in den USA ab. Thinking Machines Lab hat mit der Plattform „Tinker“ bereits eine Infrastruktur geschaffen, die es Nutzern ermöglichen soll, das Modell mit eigenen Daten nachzutrainieren. Dies ist ein entscheidender Schritt, um das Modell für spezifische industrielle Anwendungen attraktiv zu machen. Es ist zu erwarten, dass in den kommenden Monaten weitere Optimierungen an der Architektur vorgenommen werden, um den Hardwarebedarf bei gleichbleibender Qualität weiter zu senken. Die Branche wird genau beobachten, ob das Modell tatsächlich in der Lage ist, die chinesische Konkurrenz in den Benchmarks einzuholen oder gar zu überholen. Zudem steht die Entscheidung aus, wie die US-Regierung auf die Veröffentlichung von Inkling reagieren wird – ob sie den eingeschlagenen Weg der Offenheit toleriert oder durch restriktive Maßnahmen einschränkt. Die nächsten Monate werden zeigen, ob Inkling als Standard für Open-Weight-Modelle bestehen kann oder ob die hohen Betriebskosten eine breitere Verbreitung verhindern.