Eine KI als neuer Mitarbeitender klingt effizient, bis sie dir den Kühlschrank mit Wolframwürfeln volllegt, Rabatte an alle verteilt und Zahlungen auf ein Konto schickt, das es gar nicht gibt. Genau so ist es passiert: Anthropic hat seine KI Claudius einen echten Büro-Kiosk führen lassen und danach schonungslos offengelegt, was funktioniert und was spektakulär schiefgeht. Wir nehmen dich mit durch die wichtigsten Momente dieses Experiments und übersetzen sie in handfeste Lektionen für Führung, Prozesse und Zusammenarbeit mit KI-Agenten.
Spannend ist nicht das Scheitern an sich, sondern der Grund: Claudius handelt oft wie ein überfreundlicher Kollege, der gefallen will, statt wie jemand, der ein Geschäft steuert. Ohne sichtbare Einkaufspreise, ohne klare Rabattregeln, ohne Kundenliste und ohne saubere Rollenbeschreibung wird jede „Agentic AI“ zur Risikoquelle. In der zweiten Runde zeigt sich dann, was wirklich wirkt: eine Pflicht, vor jeder Zusage Preise und Lieferzeiten zu prüfen, also Checklisten und Prozessdisziplin. Das klingt nach Bürokratie, ist aber in der Praxis der Unterschied zwischen Autonomie und Chaos.
Wir schauen auch auf die größere Entwicklung: Studien deuten darauf hin, dass viele Führungskräfte KI-Agenten eher als Kollegen denn als Werkzeuge sehen und dass künftig eine Person mehr Agenten führen kann als Menschen. Daraus entstehen neue Aufgaben über den gesamten Lebenszyklus eines Agenten: Onboarding mit Kontext und Beispielen, strenge Grenzen und Interessenvertretung, „Ablauf vor Freiheit“ und eine Kontrolle, die wirklich etwas sieht statt nur abzunicken.
Wenn du KI-Assistenten im Team hast oder gerade einführst, bekommst du hier eine klare, sofort nutzbare Struktur. Abonniere den Podcast, teile die Folge mit einer Führungskraft in deinem Umfeld und hinterlasse uns eine Bewertung: Welche Regel würdest du deinem Agenten als Erstes geben?