#OpenAIInferenceCostTest

#OpenAIQ2LossWidens Schnell wachsende Unternehmen werden nicht immer zu großartigen Firmen. OpenAI wächst weiter, aber die Verluste nehmen ebenfalls zu. Anthropic geht einen anderen Weg und zeigt erste Anzeichen von Profitabilität. Umsatz sorgt für Schlagzeilen. Nachhaltige Wirtschaftlichkeit entscheidet meist, wer den Marathon gewinnt. Was ist dir heute wichtiger, Wachstum oder Profitabilität?

EILMELDUNG: Die Chancen, dass Anthropic einen Börsengang durchführt, liegen über dem $SPCX von SpaceX mit einer Bewertung von 1,77 Billionen $.

OpenAI nutzte AI (Sol- und Astra-Modelle), um bei der Gestaltung der Jalapeño-Chips zu helfen, die AI ausführen werden.

OpenAI sagt, dass sein neuer Jalapeño-AI-Chip die Kosten für den Betrieb von künstlicher Intelligenz erheblich senken könnte, aber Jim Cramer (@jimcramer) bleibt skeptisch, dass er eine ernsthafte Bedrohung für Nvidia ($NVDA) darstellt. Jalapeño ist OpenAIs erster maßgeschneiderter Inferenzchip und wurde zusammen mit Broadcom ($AVGO) entwickelt. Das Unternehmen plant, ihn bis Ende 2026 intern einzusetzen, mit einer erwarteten Produktionssteigerung im Jahr 2027. OpenAI-CEO Sam Altman (@sama) beschrieb den Chip einfach mit den Worten: „Wir haben einen Chip gemacht und er ist schnell.“ Das Unternehmen arbeitet bereits an der zweiten und dritten Generation. OpenAI sagt, Jalapeño könne sowohl eine höhere Durchsatzrate als auch eine geringere Latenz bieten – eine Kombination, die schwer zu erreichen ist. Interne Benchmarks zeigten eine bessere Leistung pro Watt als Nvidias GB200- und GB300-Systeme bei mehreren großen KI-Modellen. Je nach Arbeitslast behauptet OpenAI, dass Jalapeño etwa 1,5- bis 1,9-mal mehr Leistung pro Watt liefert und eine deutlich geringere Latenz aufweist. Der Chip ist speziell für Inferenz und nicht für das KI-Training konzipiert. OpenAI-Hardwarechef Richard Ho sagte, dass diese Effizienzgewinne schließlich in niedrigere Token-Preise für Kunden übersetzt werden könnten, wenn der Chip in die Produktion geht. Dennoch plant OpenAI nicht, Nvidia vollständig zu ersetzen. Das Unternehmen sagte, es werde weiterhin Nvidia-Beschleuniger und Hardware von anderen Partnern sowohl für Training als auch für Inferenz verwenden. Cramer wies die Idee zurück, dass jeder neue KI-Chip einen bedeutenden Herausforderer für Nvidia darstellt. Er sagte, er höre regelmäßig Behauptungen über überlegene Chips, sehe aber weiterhin „keine echten Konkurrenten“ für Nvidia im großen Maßstab.

OpenAIs Jalapeno ist ein Signal dafür, dass die KI-Branche in die Ära des „own the stack“ eintritt. Früher lautete das Erfolgsrezept: Bleib in deinem Bereich und konzentriere dich. Modellunternehmen trainierten Modelle. Chipunternehmen stellten Chips her. Datenunternehmen sammelten Daten. Diese Ära ist vorbei. OpenAI begann als reines Modelllabor. Jetzt entwerfen sie maßgeschneiderte Siliziumchips und optimieren die gesamten Systeme rund um ihre tatsächlichen Arbeitslasten. Diese Woche haben wir auch gesehen, wie @Figure_robot in die Datenschicht vordringt und Index startet, ihre eigenen Datensammlungsbemühungen, die 108 Länder umfassen. Alle bewegen sich auf und ab im Stack. Ein Teil davon dient wahrscheinlich dazu, dünne Gräben zu vertiefen, ein Teil, um Kosten zu senken, und ein Teil, um Bewertungen zu rechtfertigen.

OpenAI hat einen maßgeschneiderten Inferenzchip (Jalapeño) entwickelt und ist in 9 Monaten vom ersten RTL bis zum Tapeout gekommen. Als ich komplexe SoCs entworfen und getaped out habe, waren 18–24 Monate vom RTL bis zum Tapeout normal. Verifikation und physikalisches Design nahmen den Großteil dieses Zeitplans in Anspruch. Dass KI Verilog/VHDL schreibt, ist mit all den Coding-Agenten irgendwie zu erwarten. Beeindruckend war... dass das @OpenAI Team ein internes Modell mit schnellem QoR-Feedback und robuster Verifikation nutzte, um das RTL zu optimieren KI komprimiert den Designzyklus wirklich... gut für alle. Wir würden mehr Silizium und mehr Innovation sehen. Jetzt verlagert sich die Differenzierung auf die Sicherung von TSMC-Kapazitäten und HBM-Zuteilungen.. Mehr Chips können entworfen werden... aber weniger können in großem Maßstab produziert werden.

Die frühen Jalapeño-Tests von OpenAI deuten auf eine potenziell bedeutende Veränderung in der Inferenzökonomie hin: 1,5x-1,9x mehr Durchsatz pro Watt und 1,7x-3,6x geringere End-to-End-Latenz bei offenen Modellen. GPT-5.6 Sol verwendete Berichten zufolge auch 54 % weniger Ausgabetoken als ein führender Konkurrent bei Programmieraufgaben. Die gemessene Einschätzung ist, dass Effizienzsteigerungen die Stückkosten verbessern könnten, aber unternehmensgetestete Benchmarks sind noch kein Beweis für niedrigere Gesamtkosten. Bei 6,7 Mrd. $ Umsatz im Q2 gegenüber einem operativen Verlust von 12,3 Mrd. $ werden der Einsatz im großen Maßstab und das Wachstum der Arbeitslast wichtiger sein als die Schlagzeilenleistung. Keine Beratung, nur Analyse. #OpenAIInferenceCostTest