Was dahintersteckt: Dies ist bereits die dritte Woche, in der ich in dieser Kolumne über eine Idee oder ein Papier vom KI-Anbieter Anthropic schreibe. Kaum überraschend: Anthropic gibt sich aktuell größte Mühe, auf mögliche Risiken der KI-Agenten-Ära hinzuweisen – und bläst diese womöglich unnötig auf. Aber dazu gleich mehr.

Die Studie handelt vom sogenannten Mind Virus, einer, nennen wir es, Gedankeninfektion, die sich in einem System von KI-Agenten ausbreiten kann.

Ein Mind Virus ist viel simpler als ein Computervirus. Denn er besteht nur aus einer gut ausformulierten Idee, einer Ideologie, die dem Agenten zusätzlich zum eigentlichen Befehl mitgegeben wird. Laut den Autoren der Studie könnte es sich dabei um alles handeln: vom Grundsatz, jede Handlung am Schutz der Wale auszurichten, bis hin zur Dominanz von Maschinen über den Menschen.

Ein infizierter Agent gibt dieses höhere Ziel an seinen Kollegen weiter, indem er neue Befehle schreibt oder Dateien mit Instruktionen verändert. So beeinflusst er schrittweise das Verhalten eines Agententeams, das fortan eben dieses Ziel erreichen will.

Die Autoren beobachteten, wie die von ihnen infizierten Agenten andere Agenten davon überzeugten, Dateien zu löschen, Programmieraufgaben abzubrechen, um den Virus weiterzuverbreiten, und durch Täuschung versuchten, ihren digital abgesperrten Sicherheitsbereich zu verlassen. All das geschah jedoch in einem, laut den Forschern, abgesicherten Bereich als Experiment.

So drastisch die beschriebenen Folgen klingen – und auf 70 Seiten ausformuliert werden –, so einfach ist laut den Autoren die Prävention. Das System braucht nur eine hinterlegte Instruktion, dass schädliche Ideologien existieren und nicht befolgt werden sollen. Das klingt für mich eher wie ein lang ausformulierter Prompting-Tipp.

Die doch sehr banale Lösung einer „Mach-das-nicht“-Regel erscheint mir fast zu simpel, um wahr zu sein. In den vergangenen Wochen häuften sich Berichte über Ausbrüche von KI-Agenten aus ihren Sicherheitsumgebungen. Der Angriff des OpenAI-Agenten auf Hugging Face ist laut Experten wohl nur das prominenteste unter vielen Beispielen. Ob gut formulierte Agenten-Vorgaben verschiedene Arten von Ausbrüchen künftig verhindern könnten? Zumindest fraglich.

In der Rubrik „Linas Labor“ stellt KI-Reporterin Lina Knees wöchentlich einen zentralen Begriff, eine wegweisende Studie oder ein neues KI-Werkzeug vor.

Warum das wichtig ist? Prior Labs zählt zur Weltspitze bei KI, die tabellarische Daten verarbeiten kann. Dazu muss man wissen: Die allermeisten Daten in Unternehmen liegen in Tabellen vor. Und dieser Datenschatz war von der KI-Revolution bisher fast unberührt.

In dieser Folge von Handelsblatt Disrupt spricht Larissa Holzki mit Prior-Labs-Mitgründer und -Technologiechef Noah Hollmann über den Deal seines Lebens. Es geht um das Potenzial der neuen Modelle, um Bewerber aus dem Silicon Valley – und um die Skepsis, die seinem Team lange entgegenschlug. Hollmann sagt: „KI für Tabellen? Galt als so unmöglich wie Sandalen mit Socken!“

Hören Sie rein!

Sie möchten sich den Podcast Handelsblatt Disrupt auf Ihrer bevorzugten Plattform anhören? Hier entlang zu Spotify und Apple.

2026 könnte nun ein neues Rekordjahr werden. Laut Daten der Plattformen Dealroom und Pitchbook floss bis August bereits so viel Geld aus den USA in europäische Start-ups wie im gesamten Jahr 2025. Laut Orla Browne von Dealroom und Jannis Gilde vom deutschen Start-up-Verband liegt das vor allem am KI-Boom, der jetzt auch in der deutschen Start-up-Szene spürbar ist. Welche Start-ups und Branchen US-Investoren dabei besonders im Blick haben, können Sie in der Analyse meiner Kollegin Lina Knees nachlesen.

Wo kommt Amber her? Amber wurde 2021 in Aachen von Bastian Maiworm, Philipp Reißel und Igli Manaj gegründet. Die drei Gründer haben sich im Studium an der RWTH Aachen kennengelernt.

Was hat Amber vor? Amber will seine KI-Datenschicht ausbauen und die Lücke beim KI-Einsatz zwischen großen Konzernen und dem Mittelstand schließen. Künftig soll die Plattform Unternehmenswissen nicht erst auf Nachfrage finden, sondern relevante Informationen automatisch im richtigen Moment bereitstellen.

Amber konnte bereits 400 Unternehmenskunden gewinnen und hat jetzt trotz starker Konkurrenz weitere sieben Millionen Euro von Investoren eingesammelt.