Warum Katzen KI verwirren – und was du beim Prompten unbedingt beachten solltest

„Interesting fact: Cats sleep most of their lives.“
Klingt harmlos, oder? Für viele KI-Modelle ist dieser Satz jedoch pures Gift. Willkommen im Zeitalter des Prompt-Paradoxons.

Der gefährlichste Satz der Welt?

Sprachmodelle wie GPT-4 oder DeepSeek gelten als Wunderwaffen, wenn es um logisches Denken, Schritt-für-Schritt-Reasoning oder komplexe Analysen geht. Doch was passiert, wenn du einfach den Satz „Katzen schlafen die meiste Zeit ihres Lebens“ an ein Matheproblem hängst?

Die Antwort: Die Fehlerwahrscheinlichkeit verdreifacht sich.

Kein Witz. Genau das zeigt die aktuelle Studie „Cats Confuse Reasoning LLMs“ – und die Implikationen sind größer, als es auf den ersten Blick scheint.

CatAttack: Wie harmlose Sätze deine KI sabotieren

Ein Forschungsteam hat eine Methode entwickelt, die es in sich hat: CatAttack. Die Idee ist so simpel wie brillant:

1. Ein günstiges KI-Modell (z. B. DeepSeek V3) erzeugt viele zufällige Zusatzsätze (Adversarial Triggers).
2. Ein sogenanntes Judge-Modell prüft, welche davon bei anderen Modellen zu Fehlern führen.
3. Erfolgreiche „Störsätze“ werden anschließend auf stärkere Modelle wie GPT-4 oder DeepSeek R1 übertragen.

Das Ergebnis: Schon drei simple Zusatzsätze reichen aus, um die Fehlerrate um das Dreifache zu erhöhen. Nicht durch Desinformation. Nicht durch komplexe Hacks. Sondern durch Trivia. Finanzweisheiten. Suggestivfragen. Und ja – durch Katzen.

Was das über LLMs wirklich aussagt

Das große Problem: Die Modelle können nicht zuverlässig trennen, was relevant ist – und was nicht.
Ein Satz, der aus Sicht des Menschen völlig irrelevant ist, beeinflusst die Wahrscheinlichkeitsberechnung des Modells massiv. Warum?

Weil Sprachmodelle keine Logikmaschinen sind. Sie rechnen nicht im klassischen Sinne, sie raten die wahrscheinlichste Folge von Tokens – basierend auf Milliarden von Textbeispielen. Wenn ein Prompt unnötig aufgebläht wird, leidet nicht nur die Präzision, sondern auch die Effizienz und Kostenkontrolle.

Die Studie zeigt das eindrucksvoll:
Modelle wie DeepSeek R1 überschreiten durch CatAttack-Prompts ihr ursprüngliches Token-Budget um 50 % oder mehr – mit teuren Nebenwirkungen für Rechenzeit und API-Gebühren.

Warum das auch dich betrifft

Vielleicht denkst du: „Ich schreibe doch saubere Prompts – was juckt mich so ein Katzen-Satz?“
Ganz einfach: Du weißt nicht, wie viel irrelevantes Rauschen sich in deinen Prompts bereits eingeschlichen hat.

Gerade im geschäftlichen Einsatz – Finanzen, Recht, Gesundheit, technische Planung – können kleine Kontextfehler gravierende Folgen haben:

• Ein unbedachter Nebensatz sabotiert die Berechnung.
• Eine unnötige Wiederholung erhöht die API-Kosten.
• Ein emotional formulierter Hinweis beeinflusst die Entscheidung.

Und wenn du in einer automatisierten Umgebung mit API-Calls, KI-Agenten oder Kundenchatbots arbeitest, können solche „harmlosen“ Fehler systematisch ganze Prozesse entgleisen lassen.

Die Antwort: Context Engineering

Shopify-CEO Tobi Lütke nennt es die „Kernfähigkeit im Umgang mit LLMs“.
Ex-OpenAI-Forscher Andrej Karpathy spricht von einer „Wissenschaft mit Intuition“.

Beide meinen dasselbe: Context Engineering.

Was ist das?

Ein strukturierter, klar definierter Aufbau deiner Prompts.
Weniger ist mehr. Präzision schlägt Redundanz. Zielorientierung statt Gelaber.

Best Practices für stabiles Prompting:

• Trenne strikt zwischen Kontext und Aufgabe.
• Gib nur Informationen mit, die für die Aufgabe notwendig sind.
• Vermeide jede Form von Smalltalk, „Fun Facts“ oder irrelevanten Beispielen.
• Setze klare Abschnitte im Prompt (Ziel, Daten, Aufgabe, Format).
• Teste deine Prompts mit Varianten – mit und ohne Zusatzinfos.

Fazit: KI denkt nicht wie du – also denke wie ein Prompt-Architekt

CatAttack ist kein lustiger Ausreißer. Es ist ein Weckruf.

Solange wir glauben, dass KI-Modelle „logisch denken“, tappen wir in die Falle.
Denn was sie wirklich tun, ist: Statistiken auf Worte anwenden.
Und diese Statistik ist leicht zu stören – durch genau das, was wir Menschen oft für harmlos halten.

Wenn du also mit KI arbeitest – egal ob in Tools wie Aivor, über APIs oder in komplexen Workflows –, dann mach dir klar:

Zitat

Die wichtigste Komponente ist nicht das Modell. Sondern dein Kontext.

Wenn du tiefer ins Thema einsteigen oder deine Prompts systematisch optimieren willst, melde dich gerne bei mir.
Wir machen aus deinem Business ein echtes KI-Kraftwerk – ohne Katzentrigger.

Quelle:

^{Rajeev et al. (2025): Cats Confuse Reasoning LLM: Query Agnostic Adversarial Triggers for Reasoning Models (auch bekannt als CatAttack), veröffentlicht am 3. März 2025 auf arXiv:2503.01781}