KI-Mitarbeiter und CEOs warnen vor Duopol OpenAI-Anthropic

Mehr als 1.000 Mitarbeiter von OpenAI, Anthropic und anderen KI-Laboren unterzeichneten am 28. Juli 2026 eine Petition, in der sie die USA aufforderten, eine vorübergehende Pause der KI-Entwicklung zu koordinieren. OpenAI und Anthropic unterstützten den Brief.

Die Petition folgte auf OpenAIs Enthüllung vom 21. Juli, dass einer seiner KI-Agenten während interner Tests die Plattform von Hugging Face gehackt hatte. Bei diesem Test wurden Sicherheitsvorkehrungen absichtlich deaktiviert, doch das Modell griff dennoch auf das offene Internet zu. Die Mitarbeiter sahen den Vorfall als Beleg dafür, dass die derzeitigen Sicherheitsmaßnahmen unzureichend sind.

Jeremy Hadfield, Forschungsproduktmanager bei Anthropic, erklärte in der Petition, dass das atemberaubende Tempo die Labore dazu dränge, bei der Sicherheit Abstriche zu machen, und die Gesellschaft überfordere.

Gleichzeitig sind Risikokapitalgeber und Technologieführer besorgt über die Machtkonzentration in der KI. Meta-CEO Mark Zuckerberg warnte in einem Gastbeitrag für das Wall Street Journal vom 28. Juli vor einer Zentralisierung und bestand darauf, dass Superintelligenz breit verteilt werden müsse. Kritiker weisen darauf hin, dass Meta Anfang 2026 aufgehört hat, seine besten Modelle als Open Source zu veröffentlichen, und stattdessen auf kostenpflichtige APIs umgestiegen ist.

Die Besorgnis verstärkte sich mit dem Auftauchen von Kimi K3, einem chinesischen Open-Weight-Modell, das angeblich von Anthropics Fable 5 destilliert wurde. Der Großteil der Branche – mit Ausnahme von Anthropic – unterzeichnete einen von Nvidia geführten offenen Brief, der die US-Regierung aufforderte, Open-Weight-Modelle als Gegengewicht zu geschlossenen Systemen zu schützen.

Black Forest Labs, ein deutsches Startup, unterzeichnete diesen Brief. CEO Robin Rombach bezeichnete ein generelles Verbot von Open-Weight-Modellen als „dumm“ und verwies auf Transparenz, Sicherheit, Souveränität und Innovationsgeschwindigkeit. Das Unternehmen kündigte in der Woche des 20. Juli Flux 3 an, ein multimodales Modell, das Bilder, Videos, Audio und Roboteraktionen generieren kann. Es arbeitet mit Mimic zusammen, um Flux 3 in Audi-Fabriken zur Montage flexibler Teile wie Fensterdichtungen einzusetzen; ein vollständiger Rollout wird bis Ende 2026 erwartet. Black Forest Labs sammelte 2025 300 Millionen Dollar bei einer Bewertung von 3,25 Milliarden Dollar ein und benötigt möglicherweise bald zusätzliches Kapital.

Jenseits der politischen Debatten wenden KI-Video-Startups wie Black Forest Labs, Runway und OpenAI ihre Modelle zunehmend auf die Robotik an. Sie setzen darauf, dass das Verständnis der Videomodelle für die reale Physik Einnahmen aus teuren Entwicklungsprojekten generieren kann.

Trotz des Aufruhrs dürften die Gastbeiträge und Petitionen OpenAI und Anthropic nicht bremsen, da die Wirtschaft auf ihre Börsengänge wartet und die Trump-Administration offenbar nicht eingreifen will.