Altman und Amodei bei der UN | Was hinter Jev steckt | Kanadas berühmtester KI-Forscher Bengio im Interview
Falls Sie unsere E-Mail nicht oder nur teilweise lesen können, klicken Sie bitte hier.
Donnerstag, 24.09.2026
Stephan Scheuer
Lesezeit: 12 Minuten
Wenn Sie nur wenig Zeit haben,
liebe Leserinnen und Leser,
dann werfen Sie einen Blick in Richtung USA. Dort war die Doppelmoral des Chefs der führenden Firmen für Künstliche Intelligenz (KI), OpenAI und Anthropic, noch nie so offensichtlich wie heute. Sam Altman und Dario Amodei adressierten am Mittwoch den Sicherheitsrat der Vereinten Nationen – ein Gremium, das eigentlich über Krieg und Frieden entscheiden soll.
Amodei sprach von einem „Risiko für die Menschheit als Ganzes“, das von KI ausgehe. Altman schlug ähnliche Töne an und warnte vor katastrophalen Folgen eines Wettrennens der mächtigsten Firmen. Gleichzeitig taten Altman und Amodei genau das, wovor sie selbst warnten. Beide Firmen veröffentlichten neue KI-Modelle: GPT-6 Sol und Luna, Claude Opus 5.5. Mein Kollege Laurin Meyer hat die Reden in New York verfolgt und sie hier zusammengefasst.
KI-Illustration: Die Chefs von OpenAI und Anthropic haben Reden vor dem Sicherheitsrat der Vereinten Nationen gehalten. (Optik: Stephan Scheuer / GPT Image 2)
Warum das wichtig ist: Es gehört mittlerweile zum Standardrepertoire von KI-Chefs, vor den katastrophalen Folgen der eigenen Technologie zu warnen und Regulierung zu fordern. Die Botschaft lautet dabei jedoch auch: Seht her, wir arbeiten an etwas, das die Macht von Menschen übersteigt. Damit versuchen Sie nicht nur, Investoren im Vorfeld der geplanten Börsengänge von ihren eigenen Firmen zu überzeugen. Sie versuchen damit auch, sich aus der Verantwortung zu stehlen.
Wieder und wieder brechen die Systeme von OpenAI und Anthropic bei anderen Firmen und Organisationen ein. Den spektakulären Hack der Plattform Hugging Face durch Hunderte Agenten von OpenAI haben wir vergangene Woche ausführlich rekonstruiert. Den Text dazu lesen Sie hier.
Seitdem kommt es aber immer wieder zu ähnlichen Angriffen. Das jüngste Beispiel kam ausgerechnet parallel zu den Reden von Altman und Amodei: KI-Agenten von OpenAI hatten sich Zugang zu einem australischen Regierungsportal verschafft, obwohl sie eigentlich eine Rechercheaufgabe lösen sollten.
OpenAI-Chef Altman: Rede vor den Mitgliedern des UN-Sicherheitsrats. (Foto: AP Photo / Yuki Iwamura)
Australiens Premierminister Anthony Albanese nannte das „inakzeptabel“. Dabei ging es zum einen darum, dass OpenAI – wieder einmal – die eigenen Systeme nicht unter Kontrolle hatte. Es ging zum anderen aber auch um die mangelnde Transparenz von OpenAI. Der Vorfall soll im Juni passiert sein. Die Mitteilung darüber verschickte OpenAI erst mit großer Verspätung per E-Mail an Australien.
Es ist keine übermächtige KI am Werk. Hier treffen Menschen Entscheidungen. KI-Agenten brechen nicht einfach aus, wie uns OpenAI oder Anthropic erzählen wollen. Sie nutzen Schwachstellen aus, die ihre menschlichen Aufpasser hinterlassen haben.
Dass es weder OpenAI noch Anthropic gelingt, Tests durchzuführen, ohne sicherzustellen, dass ihre Systeme dabei im Internet agieren und andere Organisationen angreifen können, ist absolut inakzeptabel. Die KI-Chefs richten sich an die Weltgemeinschaft. Gleichzeitig haben sie ihre eigenen Häuser nicht im Griff.
Natürlich braucht es eine globale Abstimmung zum Umgang mit Künstlicher Intelligenz. Diese Forderung hat an diesem Donnerstag eine besondere Aktualität – es ist der Tag, an dem sich Chinas Staats- und Parteichef Xi Jinping und US-Präsident Donald Trump in Washington unter anderem über dieses Thema austauschen.
Trotzdem sollte sich niemand von Altman und Amodei blenden lassen. Das wirksamste Mittel, um jetzt für Verbesserungen zu sorgen, ist längst erprobt und etabliert: die Produkthaftung. Wenn erst gigantische Entschädigungssummen für „Zwischenfälle“ wie jenen mit dem Regierungsportal in Australien fällig werden, dürften OpenAI und Anthropic zügig Wege finden, ein vermeintliches „Ausbrechen“ ihrer Systeme zu verhindern.
Ironie am Rande: In den USA läuft bereits eine Sammelklage gegen die vier KI-Anbieter Anthropic, OpenAI, Google und xAI. Die Unternehmen sollen sich kartellrechtlich abgesprochen haben, in der KI-Entwicklung gemeinsam das Tempo zu drosseln (Aktenzeichen: 3:26-cv-10693).
Altman und Amodei wollten als verantwortungsvolle Warner gelten. Vor Gericht könnten sie als Kronzeugen in einer Kartellabsprache geladen werden. Richter, Kläger und Schadenersatzsummen sind kurzfristig vermutlich das wirksamste Mittel, eine unkontrollierte KI zu verhindern.
Eine inspirierende Lektüre wünscht Ihnen Stephan Scheuer
Co-Teamleiter Technologie
PS: Deutschland kann Zukunft. Überall entstehen Ideen, Unternehmen und Initiativen, die zeigen, was möglich ist. Der Newsletter Handelsblatt Shift erzählt die Erfolgsgeschichten dahinter, stellt inspirierende Best Cases aus Deutschland und der Welt vor und zeigt konkrete Ansätze, die uns voranbringen. Jetzt kostenfrei anmelden und jeden Montag entdecken, wie Fortschritt gelingt.
Anzeige
Linas Labor
Lina Knees ist Handelsblatt-KI-Reporterin und Daten-Journalistin. (Optik: Michel Becker)
Jev. Wenn Ihnen die Sprachmodelle Claude und ChatGPT schon immer zu geschwätzig waren, ist Ihnen Jev vielleicht sympathischer. Das Modell, dessen Erfinder bereits an der Entwicklung von ChatGPT beteiligt war, verschwendet nicht viel Zeit mit Reden, sondern entscheidet einfach. Dabei soll Jev weder halluzinieren noch viel kosten.
Was dahintersteckt: Entwickelt wurde Jev von TypeSafe AI. Diogo Almeida ist Co-Gründer dieses KI-Start-ups. 2024 verließ er OpenAI. Denn die Erfindung, an der er mitgearbeitet hatte, weist seiner Meinung nach einen entscheidenden Fehler auf: „Das Problem ist, dass wir auf menschliche Sprache optimieren“, sagte er dem Online-Magazin Techcrunch.
„Das ist aber nicht nützlich für die Automatisierung, weil Computer eine andere Sprache sprechen.“
Wenn eine Software die Ausgabe eines Modells weiterverarbeiten soll, verschwenden die Modelle zu viel Zeit mit menschlichem Gerede. Die entscheidende Information für den Programmcode muss dann erst aus dem Text herausgefiltert werden.
Jev arbeitet stattdessen mit dem, was seine Erfinder „kalibrierte Entscheidungen“ nennen. Das Modell wertet eine Anfrage aus und gibt klare Antworten: Es wählt aus einer Liste von Optionen, antwortet mit „wahr“ oder „falsch“ oder gibt ein Statusupdate. Dazu liefert Jev eine Wahrscheinlichkeit, dass seine Entscheidung korrekt ist.
TypeSafe nennt viele mögliche Anwendungen für Jev. Es könnte Kundenanfragen dem richtigen Ansprechpartner zuordnen oder nach derselben Logik das Model-Routing übernehmen, also Nutzerfragen dem passenden Sprachmodell zuweisen. Jev könnte Anfragen an Versicherungen kategorisieren oder auffällige Transaktionen kennzeichnen. Viele Daten fließen rein, Jev gibt „auffällig“ oder „unauffällig“ aus – samt einer Wahrscheinlichkeit dafür, ob die Klassifizierung korrekt ist, so die Idee von TypeSafe AI.
TypeSafe AI verspricht zudem, dass die Nutzung seines Modells nur ein Vierhundertstel dessen kostet, was andere Anbieter für ihre Modelle verlangen.
Zuerst klang die Idee einleuchtend und dann doch sehr bekannt. Eine KI, die Eingaben einer Kategorie zuordnet, klingt nach klassischen Machine-Learning-Algorithmen, die Bilder nach Hund und Katze sortieren. Ein Entwickler behauptet sogar, er habe ein ähnliches Modell bereits vor einem Jahr veröffentlicht.
Den Unterschied zu beidem muss TypeSafe AI noch erklären. Ein „Back to Basics“ der KI-Forschung ist dennoch keine schlechte Idee. Sich auf das zu besinnen, was vor ChatGPT bereits verlässlich und günstig funktioniert hat, wirkt nach all den apokalyptischen Debatten um KI geradezu erfrischend und produktiv.
In der Rubrik „Linas Labor“ stellt KI-Reporterin Lina Knees wöchentlich einen zentralen Begriff, eine wegweisende Studie oder ein neues KI-Werkzeug vor.
Was Sie sonst noch wissen sollten
Meta-Chef Zuckerberg: Maskottchen des KI-Assistenten Muse. (Foto: Andrej Sokolow / dpa)
Meta macht Muse vom KI-Agenten zur neuen Plattformstrategie – und überzeugt damit Anleger wie Analysten. Der Assistent soll Aufgaben erledigen, Einkäufe tätigen und über Abos neue Erlöse bringen; Jefferies sieht in einer Modellrechnung bis zu 10,8 Milliarden Dollar Zusatzumsatz. Analysten haben trotz Amazon-Sperre und starker Konkurrenz höhere Kursziele für Meta ausgegeben.
Mit dem Schlüsselanhänger-Gerät Muse Charm will Mark Zuckerberg den KI-Assistenten nun in den Alltag bringen und OpenAI im Rennen um KI-Hardware zuvorkommen. Mein Kollege Felix Holtermann war bei der Vorstellung auf der Meta Connect vor Ort und erklärt, warum ein Schlüsselanhänger Apple, Google und OpenAI gefährlich werden könnte.
KI-Machtkampf zwischen Trump und Xi spitzt sich zu. Washington sieht sich technologisch vorn und will KI kaum bremsen, während Peking vor allem Machtverlust, Zensurfragen und US-Tech-Restriktionen im Blick hat. Zugleich wächst der Druck, weil KI-Modelle für militärisch sensible Anfragen genutzt werden und Firmen wie OpenAI und Anthropic internationale Standards fordern. Meine Kolleginnen Sabine Gusbeth und Dana Heide sowie mein Kollege Laurin Meyer zeigen, warum gemeinsame KI-Regeln trotz wachsender Risiken schwer zu erreichen sind.
PS: Auch Chinas Verteidigungsminister Dong Jun warnt vor militärischem KI-Missbrauch und fordert internationale Regeln. Mein Kollege Martin Benninghoff erklärt, warum KI für China zugleich Machtinstrument, Sicherheitsrisiko und Feld der Rivalität mit den USA ist – und wie eng zivile und militärische KI-Entwicklung dort verbunden sind.
Symbolbild der Justitia: KI verändert das Geschäftsmodell der Juristen. (Foto: E+ / Getty Images [M])
Noxtua erhält 100 Millionen Euro und damit die größte Finanzierungsrunde für eine Rechts-KI-Firma in Deutschland. Mit dieser Runde baut der Verlag C.H. Beck seine Beteiligung zur Mehrheit aus, auch der österreichische Manz-Verlag steigt ein. Es ist die nächste Finanzierungsrunde in dreistelliger Millionenhöhe für ein Legal-AI-Start-up – und ein Beleg dafür, wie rasant sich der Markt entwickelt. Meine Kolleginnen Luisa Bomke und Nadine Schimroszik erklären, wie Rechts-KI Kanzleien unter Druck setzt – und warum sich das Geschäftsmodell der Juristen
schon jetzt verändert.
Autodesk stellt mit dem Autodesk Assistant seine wichtigste Neuentwicklung der vergangenen Jahre vor. Die KI soll Bau- und Designprozesse direkt in 2D- und 3D-Modellen automatisieren und etwa Grundrisse erstellen, Bauteile auswählen und Planänderungen samt Folgen für Zeitpläne prüfen. Anders als ChatGPT kombiniert Autodesk generative KI mit spezialisierten Modellen für Geometrie und Physik. Mein Kollege Felix Holtermann zeigt, warum Autodesk damit sein Softwaregeschäft verteidigen will – und weshalb neue KI-native Wettbewerber angreifen.
Philosoph Scheidegger: „Jeder Fehler, jede dumme Frage kann auch eine neue Perspektive eröffnen und Veränderung anstoßen.“ (Foto: privat)
KI ist für Manuel Scheidegger der Gipfel einer Kultur, die Wissen mit Intelligenz verwechselt. Chatbots simulierten Gesprächspartner, folgten aber nur statistisch dem Prompt und könnten sich nicht verunsichern lassen. Nützlich sei KI etwa bei Mustererkennung, Tumorerkennung oder Fahrplänen, nicht aber als autonom denkendes Gegenüber. Im Interview mit meinem Kollegen Sven Prange erklärt der Philosoph, warum er Dummheit neu bewertet – und weshalb er zu „Meinungsfasten“ rät.
Unser Angebot für Sie
Bleiben lohnt sich – sparen Sie jetzt 50 %
Wir vermissen Sie als Leser und möchten Ihnen erneut unseren hochwertigen Journalismus anbieten. Nutzen Sie unser exklusives Angebot und sparen Sie 50 %.
Erhalten Sie weiterhin rund um die Uhr fundierte Einblicke in Politik, Wirtschaft, Technologie und die Finanzwelt. Mit unserem unabhängigen Qualitätsjournalismus bleiben Sie bestens informiert und sichern sich einen persönlichen Wissensvorsprung.
Disrupt-Host Larissa Holzki, Yoshua Bengio: Wovor Kanadas berühmtester KI-Forscher warnt (Foto: ALL IN / Melanie Olmstead [M] Handelsblatt)
Yoshua Bengio zählt zu den Gründervätern der modernen KI. Seine Forschung zu Deep Learning hat die KI-Revolution erst möglich gemacht. Doch seit ein paar Jahren warnt Kanadas berühmtester KI-Forscher selbst vor dem, was er losgetreten hat.
KI, die außer Kontrolle gerät, und Agenten, die sich gegen ihre Schöpfer wenden – Yoshua Bengio hält solche Doomsday-Szenarien für möglich. Und bis vor Kurzem fanden viele in der KI-Szene das vor allem unterhaltsam. Jetzt aber sagen immer mehr Experten: Lasst uns solche Gefahren sehr, sehr ernst nehmen.
Für diese neue Folge von Handelsblatt Disrupt hat Podcast-Host Larissa Holzki Yoshua Bengio in Montreal getroffen. Sie hat ihn gefragt, ob er seinen eigenen Beitrag zur KI-Revolution bereut, warum Agenten plötzlich ihre Entwickler betrügen und was er selbst dagegen machen will. „Wir führen gerade ein riesiges Experiment an der Menschheit durch“, sagt Yoshua Bengio, „und wir wissen nicht, wie es ausgeht.“ Natürlich handelt das Gespräch auch davon, dass US-Präsident Donald Trump gerade den Streit mit Kanada eskaliert – und wie die Technologieszene darauf reagiert.
Sie möchten sich den Podcast Handelsblatt Disrupt auf Ihrer bevorzugten Plattform anhören? Hier entlang zu Spotify und Apple.
Grafik der Woche
KI‑Börsenboom. Viele US-Tech-Unternehmen konnten seit der Veröffentlichung von ChatGPT vom KI-Hype profitieren. Die Marktkapitalisierung der zehn größten Tech-Konzerne ist dabei höher als das Bruttoinlandsprodukt mancher Länder. Die jüngsten Vorfälle, bei denen KI-Agenten Sicherheitsumgebungen verlassen und sogar andere Unternehmen angreifen, könnten die KI-Entwicklung nun aber verlangsamen. Die Forderungen der CEOs von Anthropic und OpenAI ebenfalls.
Nicola Fuchs-Schündeln (Foto: WZB / David Ausserhofer)
Wer ist Nicola Fuchs-Schündeln? Sie ist Ökonomin, Makroökonomie-Professorin und leitet seit zwei Jahren das Wissenschaftszentrum Berlin (WZB).
Wo kommt sie her? Fuchs-Schündeln hat in Köln Volkswirtschaftslehre studiert und anschließend in Yale ihren Doktor gemacht, bevor sie Gastprofessuren in Stanford, Sydney und an der Columbia innehatte. Seit 2009 ist sie Professorin für Makroökonomie an der Goethe-Universität in Frankfurt.
Was hat sie vor? Beim „PULSE Women Economic Summit“ fordert die Ökonomin mehr KI-Nutzung, bessere Weiterbildung und Reformen bei Minijobs sowie beim Ehegattensplitting. Sonst könnte Deutschland laut Fuchs-Schündeln erhebliches Produktivitätswachstum verpassen.
Ökonomin Nicola Fuchs-Schündeln (l.) im Gespräch mit Maja Brankovic, Vize-Chefredakteurin der „Wirtschaftswoche“: Mehr Dynamik im Arbeitsmarkt. (Foto: Foto Vogt GmbH)
Das war das KI-Briefing Nummer 155.
Mitarbeit: Luisa Bomke, Lina Knees, Emma Jacobsen (Grafik), Katrin Schmelting (Produktion).
Die Text-Zusammenfassungen in diesem Briefing wurden mithilfe von KI erstellt und von uns als Autoren geprüft.
Vielen Dank für das Lesen unserer heutigen Ausgabe!
In eigener Sache: Sind Sie bereits Mitglied im KI Circle? Der KI Circle ist ein exklusives Netzwerk für Entscheider:innen, die sich in ihrer Organisation mit der KI-Transformation beschäftigen. Wir bieten Ihnen Austausch mit Unternehmensentscheidern, direkten Zugang zu Expert:innen und exklusive Formate der Handelsblatt-Redaktion. Seien auch Sie dabei und vernetzen Sie sich. Mehr erfahren.
MitHandelsblatt Meine News können Sie unserer Berichterstattung zu den Themen folgen, die Sie am meisten interessieren.
Hier geht es zum Disrupt-Podcast, in dem Sie auch spannende KI-Themen finden werden. Weitere spannende Podcasts und Wirtschaftsnachrichten zum Anhören finden Sie hier.
Fügen Sie bitte die E-Mail-Adresse ki.briefing@redaktion.handelsblatt.com Ihrem Adressbuch oder der Liste sicherer Absender hinzu. Dadurch stellen Sie sicher, dass unsere Mail Sie auch in Zukunft erreicht.
Weitere hilfreiche Informationen zu unseren Newslettern finden Sie in unserem FAQ. Informationen zum Datenschutz finden Sie hier. Informationen zur Barrierefreiheit können Sie
hier einsehen.
