Wenn KI nicht mehr nur antwortet

00:00:00: Diese Folge und ihre Stimmen sind KI generiert.

00:00:03: Du gibst deiner KI einen Auftrag, musst du ihr noch jeden Schritt erklären?

00:00:08: Willkommen bei KI-Vordenker.

00:00:10: – große Ideen weitergedacht!

00:00:13: Heute.

00:00:14: was verändert sich wenn KI Aufgaben ausführt?

00:00:18: Ja

00:00:18: das ist wirklich das große Thema mit dem wir uns aktuell alle beschäftigen.

00:00:23: Absolut und damit springt auch direkt in unsere heutige Tiefenbohrung Der Auslöser für unser Gespräch heute, das ist ein echt faszinierender Blockbeitrag von Ethan Mollick vom zwanzigsten Oktober.

00:00:34: Ja

00:00:36: genau anlässlich seines neuen Buches!

00:00:38: Richtig der Anlass war das Erscheiden seines Buches co-existence.

00:00:43: aber weißt du was mich in diesem speziellen Beitrag wirklich gepackt hat?

00:00:47: Das war gar nicht so sehr das Buch selbst

00:00:48: sondern

00:00:50: das Making of.

00:00:51: Mollik beschreibt da extrem plastisch wie er die ganze Recherche die Strukturierung und sogar die finale Gestaltung für diesen Beitrag komplett an KI-Agenten übergeben

00:01:01: hat.

00:01:02: Ja, er hat das quasi komplett aus der Hand gegeben?

00:01:04: Genau!

00:01:05: Er hat also nicht mehr – wie wir das bisher alle so kennen – drüben im Chat jeden einzelnen Schritt Penibel mit einem neuen Prompt angestoßen.

00:01:11: Er hat einfach zieldefiniert die Agenten machen lassen und am Ende nur das fertige Ergebnis beurteilt.

00:01:18: Das ist... Das ist schon ein gewaltiger Paradigmenwechsel in der ganzen Architektur.

00:01:23: Den müssen wir uns hier heute wirklich ganz genau ansehen.

00:01:25: Auf jeden Fall!

00:01:26: Aber und das ist mir direkt zu Beginn total wichtig, wir sollten das sofort mal realistisch einordnen.

00:01:32: Okay also ein bisschen auf die Euphoriebremse treten?

00:01:34: Ein bisschen ja... Was Mollik da in seinem Blog zeigt, dass es eine persönliche Demonstration.

00:01:40: Er nutzt Systeme, die er in- und auswendig kennt und sehr gut kontrollieren kann.

00:01:44: Einen Labor Setup sozusagen.

00:01:46: Richtig Es ist ein brillanter Ausblick auf diese autonome Zusammenarbeit von morgen, aber es ist kein Beweis dafür dass heute schon jede beliebige super komplexe betriebliche Aufgabe auf Knopfdruck autonom gelingt.

00:02:01: Das schreibt er auch selbst oder?

00:02:03: Genau Molek betont selbst das die Fähigkeiten dieser Agenten momentan noch extrem asymmetrischt sind.

00:02:08: und das Kernproblem das wir da haben ist wenn das System selbstständig im Hintergrund arbeitet Dann haben wir als Nutzer plötzlich viel, viel weniger Einblick in den eigentlichen Ausführungsprozess.

00:02:18: Die Blackbox wird also sozusagen noch schwerzer?

00:02:21: Exakt!

00:02:22: Du siehst nicht mehr was unter der Haube passiert.

00:02:24: Und genau das...also dieser Kontrollverlust?

00:02:27: Das treibt mich um Wenn wir Molex spezifischen Fall jetzt mal als Aufhänger nehmen und das Ganze auf unseren eigenen Alltag übertragen.

00:02:35: Also die Leitfrage für unsere Analyse heute lautet eigentlich Was verändert sich für dich Ganz normal an deinem Schreibtisch, wenn du die Ausführung einer Aufgabe nicht mehr Satz für Satz steuerst.

00:02:46: Wenn du also nicht mehr beim Tippen zusehen und sofort einreifen kannst?

00:02:49: Genau!

00:02:50: Weil die KI eben von einem simplen Chatbot zu einem echten handelnden Agenten mutiert ist.

00:02:56: Um das wirklich gut zu beantworten müssen wir glaube ich erst einmal kurz auf die technische Ebene schauen.

00:03:01: Wir müssen definieren was einen Agenten überhaupt von dem unterscheidet... ...was wir alle in den letzten Jahren so genutzt haben.

00:03:07: Lick los!

00:03:08: Wenn wir heute von einem Agenten sprechen dann meinen wir ein System, das oft auf dem sogenannten React-Framework basiert.

00:03:15: Das steht für Reasoning and Acting.

00:03:18: Also Denken und Handeln?

00:03:19: Genau!

00:03:20: Es generiert nicht einfach nur statistisch das wahrscheinlichste nächste Wort in einem Text – es führt vielmehr einen internen Monolog.

00:03:28: Das musst du erklären.

00:03:29: Naja, es bekommt ein Ziel und dann überlegt sich einen ersten Schritt.

00:03:34: Es führt eine Aktion aus zum Beispiel.

00:03:36: Es macht eine Suchanfrage im Netz Dann beobachtet es das Resultat dieser Suche, bewertet das.

00:03:43: Passt seine Strategie an und geht dann erst in den nächsten Schritt.

00:03:46: Ah!

00:03:47: Es verbindet also völlig selbstständig ganze Aufgabenketten?

00:03:50: Völlig selbständig ja.

00:03:53: Lass mich mal schauen ob ich das mit einer greifbaren Analogie übersetzen kann.

00:03:56: Ich bin gespannt.

00:03:58: Bis hier.

00:03:59: Also bisher war die Arbeit mit der KI doch eigentlich so Du fährst auf einer Straße Und die KI ist wie eine extrem schlaue Beifahrerin, die neben dir setzt und die an jeder einzelnen Kreuzung ganz genau sagt ob du links oder rechts abbiegen musst.

00:04:11: Aber du hast das Lenkrad noch in der Hand?

00:04:13: Exakt!

00:04:14: Ich lenke.

00:04:15: Ein Agent, der es jetzt eher so als würdest du ein autonomes Fahrzeug programmieren dass durch extrem dichten Nebel fahren soll.

00:04:22: Das ist ein gutes Bild.

00:04:24: Du gibst das Ziel vor aber das System sieht durch sein begrenztes Kontextfenster immer nur so die nächsten zehn Meter der Straße.

00:04:32: Es muss in Echtzeit komplett selbst entscheiden, wie es Hindernissen ausweicht um eben ans Ziel zu kommen.

00:04:37: Das ist wirklich eine hervorragende Analogie denn das bringt uns direkt zum kritischen Punkt bei der ganzen Sache den Leitplanken.

00:04:44: Wie meinst du das?

00:04:45: Naja wenn Du diesen Autonomensystem im Nebel nur sagst fahr mich ans Ziel dann wird es statistisch gesehen einfach immer die breiteste offensichtlichste Straße nehmen

00:04:53: Weil das der wahrscheinlichste Weg ist.

00:04:55: Richtig Und das ist eben nicht immer die richtige Straße für dein spezifisches Problem.

00:04:59: Deswegen müssen wir uns genau ansehen, wie der Startpunkt – also der initiale Auftrag eigentlich formuliert sein muss damit am Ende überhaupt ein brauchbares Ergebnis für dich auf dem Tisch liegt!

00:05:08: Die Art, wie wir delegieren, muss sich also fundamental ändern sagst du?

00:05:12: Absolut fundamental.

00:05:14: Gut.

00:05:14: Um das jetzt nicht in der grauen Theorie verhungern zu lassen habe ich mal ein konkretes Gedankenexperiment

00:05:19: mitgebracht.

00:05:20: Sehr gut.

00:05:21: freierfundenes Szenario, aber ich denke absolut typisch für den normalen Büroalltag.

00:05:26: Das hören!

00:05:27: Stellen wir uns mal ein kleines hochspezialisiertes Beratungsunternehmen vor – die Verantwortliche dort soll einen halbtägigen Kundentag planen.

00:05:34: Die Zielgruppe sind Führungskräfte und das Thema lautet wie verändert sich Zusammenarbeit durch KI?

00:05:41: Sie hat schon so eine grobe Vision im Kopf, so einen intensiven ehrlichen Erfahrungsaustausch, aber dass Blatt Papier vorher auf dem Schreibtisch ist noch komplett leer….

00:05:49: Ah, das ist der klassische Moment.

00:05:52: Der Moment in dem die Delegation an einen Agenten beginnt!

00:05:54: Genau

00:05:55: und hier glaube ich tappen wir direkt in die allererste Falle des schlechten Auftrags.

00:06:00: Oh ja – Die Bequemlichkeitsfalle.

00:06:02: Der erste Impuls ist doch immer wenn du weißt da ist diese Maschine die ihn Sekunden recherchiert und Konzepte baut.

00:06:07: Du tippst einfach ein erstelle ein starkes Konzept für einen halbtägigen Kundentag zum Thema KI Enter.

00:06:13: Und dann schlägt die statistische Natur der Sprachmodelle unbarm herzlich zu.

00:06:18: Was passiert denn genau im Hintergrund?

00:06:20: Der Agent zerlegt deine Aufgabe.

00:06:22: Er sucht in seinen riesigen Trainingsdaten nach Parametern für erfolgreiche Business-Events, er wird sofort loslaufen und in Rekordzeit ein unfassbar eindrucksvolles aber völlig überzogenes Konzept ausarbeiten

00:06:35: Wahrscheinlich mit riesiger Bühne und so

00:06:37: Genau!

00:06:38: Er plant eine spektakuläre Bühnshow, schlägt vielleicht total treuere Gastredner vor und entwirft einen Agenda mit riesigen Keynotes und am besten noch einer Lasershow am Ende.

00:06:48: Und das PDF, das am Ende rausfällt.

00:06:50: Das sieht wahrscheinlich optisch markelos

00:06:52: aus?

00:06:52: Absolut!

00:06:53: Jeder Bulletpoint sitzt – das Layout ist perfekt.

00:06:56: Aber in der Realität ist es doch ein absolutes Desaster für unsere Planerin.

00:07:00: Richtig

00:07:00: Sie wollte doch eigentlich einen ganz intimen geschützten Raum schaffen.

00:07:04: Sie wollte dass sich diese Führungskräfte an kleinen Tischen zusammensetzen und über ihre echten oft auch schmerzhaften alltäglichen Probleme bei der KI-Einführung sprechen.

00:07:13: Und stattdessen bekommt sie hier ein Rockstar-Event.

00:07:17: Das Konzept der KI ist in sich logisch und statistisch gesehen vielleicht ein echt großartiges Event, aber es geht meilenweit am eigentlichen Zweck vorbei.

00:07:26: Warum driftet das System ohne Vorwarnung in so eine absurde Richtung ab?

00:07:31: Weil es die Richtung wählt, die in seinem enormen Latentsraum – also dieser mathematischen Repräsentation all seines Wissens – am allerstärksten mit den Begriffen Kundentag-und Erfolg verknüpft ist!

00:07:43: Ah ok...

00:07:44: Ohne Restriktion gewinnt bei diesen Modellen immer das Spektakuläre, das Generische.

00:07:49: Ein gutes Ergebnis hängt in der Agentenerre also radikal davon ab ob wir Menschen in der Lage sind den eigentlichen Anlass und den Rahmen wasserdicht zu definieren.

00:07:58: Wir müssen quasi Zäune bauen.

00:07:59: Ganz genau Die Maschine braucht die Grenzen ihres Spielraums.

00:08:03: Wir müssen im Vorfeld definieren wer soll am Ende der Veranstaltung was genau anders sehen oder tun?

00:08:09: Welche Art von Dialog soll entstehen?

00:08:11: Und auch ganz banale Dinge wie, wir haben nur unsere eigenen kleinen Meeting-Räume und unser eigenes Team zur Verfügung.

00:08:17: Keine Lasershow!

00:08:18: Okay, Moment... Da muss ich jetzt aber wirklich mal kritisch reingreischen.

00:08:22: Nur zu?

00:08:23: Wenn ich mir das so anhöre, wenn ich dem Agenten die Zielgruppe, die psychologische Tiefe des Austauschs, die exakten Budgetgrenzen und dann noch die räumlichen Restriktion derart präzise und granular vorkauen muss.

00:08:35: Ja?

00:08:36: Ganz ehrlich.

00:08:37: Das ist ja als würde ich in einem Koch das exakte Rezept, die Temperatur die Rührgeschwindigkeit im Detail diktieren.

00:08:43: In der Zeit, in der ich dieses monströse Briefing schreibe – da kann sich das Konzept doch fast schon selbst entwerfen!

00:08:49: Wo ist denn da der echte Hebel für meine Produktivität?

00:08:52: Das ist der intuitivste Einwand überhaupt.

00:08:55: Und naja, für sehr einfache lineare Aufgaben hast du damit auch völlig recht.

00:09:00: Wenn Du den Weg exakt kennst bist Du oft schneller wenn Du ihn selbst gehst.

00:09:03: Aber bei so komplexer Wissensarbeit wie unserem Kundentag jetzt, da verwechselst du gerade die Definition der Parameter mit der eigentlichen Denkarbeit.

00:09:12: Inwiefern?

00:09:12: Der große Nutzen entsteht hier durch die algorithmische Skalierung!

00:09:16: Du sagst dem Agenten eben nicht, schreibe dieses eine Konzept

00:09:19: Sondern?

00:09:19: Eine gute Delegation lautet Hier sind die strengen Grenzen und das ist das Ziel.

00:09:24: Entwickle innerhalb dieses Latentsraums drei völlig unterschiedliche inhaltliche Konzepte Und begründe bei jedem welche methodischen Annahmen du triffst.

00:09:34: Das heißt, ich nutze die Rechenpower der Maschine gar nicht dazu um schneller einen einzigen Text zu schreiben sondern um meine Optionen zu vervielfachen.

00:09:42: Ohne dass mich das extra Zeit kostet.

00:09:44: Exakt!

00:09:45: Ich schreibe quasi den Algorithmus also die Regeln für das Event und die KI generiert mir die fertigen Varianten für die ich sonst wirklich tagelang hätte recherchieren und Ideen verwerfen müssen.

00:09:55: Das ist genau der Punkt.

00:09:57: Die Rendite für dein super ausführliches Briefing ist eine strukturierte Vielfalt an Option Optionen, die du durch reines Nachdenken in dieser Geschwindigkeit einfach nie erreicht hättest.

00:10:07: Das leuchtet ein!

00:10:09: Und noch ein kleiner Tipp... Falls du dich schwer tust diesen komplexen Rahmen direkt zu Beginn perfekt in ein leeres Textfeld zu tippen, da gibt es einen brillanten Workaround.

00:10:18: Oh welchen?

00:10:19: Nutze die KI erstmal als simplen Chatpartner.

00:10:22: Sag ihr einfach ich will einen Kundentag planen weiß aber nicht genau wie.

00:10:27: Stell mir fünf kritische Fragen die du brauchst um danach eigenständig drei Konzepte zu entwickeln.

00:10:32: Ach krass, ich lagere also sogar das Schreiben des perfekten Auftrags teilweise an der Systeme aus.

00:10:38: Genau!

00:10:39: Das ist ein smarter Zwischenschritt, der extrem viel Druck rausnimmt.

00:10:42: Genial!

00:10:43: Gut, wir haben den Rahmen gesetzt – die Maschine arbeitet im Hintergrund.

00:10:48: Das autonome Fahrzeug ist im Nebel unterwegs um in dem Bild zu bleiben.

00:10:52: Aber was passiert jetzt wenn das System während seiner internen React-Schleife an eine echte inhaltliche Wehgabelung kommt?

00:11:00: Sagen wir….

00:11:01: Der Agent merkt Ich kann den Workshop extrem theoretisch aufziehen mit Fokus auf Datenschutzrichtlinien oder ich kann ihn rein praktisch aufziehen, wo jeder am eigenen Laptop rumschraubt.

00:11:11: Das sind strategisch völlig unterschiedliche Stoßrichtungen?

00:11:14: Genau und genau hier trennt sich dann ein gutes Agentensetup von einem schlechten, oder?

00:11:19: Absolut!

00:11:19: Ein schlecht konfiguriertes System würde an dieser Stelle einfach eine Wahrscheinlichkeit auswürfeln einen Weg blind bis zum Ende durchreiten und dir dann ein fertiges Konzept präsentieren das du dann mühsam wieder korrigieren musst.

00:11:30: Und das gute System

00:11:32: Ein gut orchestriertes System hält an dieser Gabelung an.

00:11:35: Es tritt aus seiner autonomen Schleife heraus und stellt dem Nutzer eine gezielte Rückfrage.

00:11:39: Hey!

00:11:40: Beide Wege passen zu den Parametern, Weg A demonstriert eure Expertise, Weg B gibt den Kunden mehr Raum für Fehler – welche strategische Richtung präferierst du?

00:11:48: Ok wenn das so läuft fantastisch….

00:11:51: aber ich kenne doch die Realität von Software, die einem angeblich helfen will.

00:11:57: Meine größte Sorge ist da die sogenannte Freigabe-Hölle.

00:12:00: Oh ja das Mikromanagement

00:12:02: Richtig.

00:12:02: Was ist, wenn der Agent nicht nur bei diesen großen wichtigen strategischen Fragen anhält sondern wegen jeder absoluten Kleinigkeit?

00:12:09: Sollte Überschrift im Entwurf jetzt blau oder schwarz sein oder soll ich ihr lieber eine Aufzählung oder einen Fließtext verwenden?

00:12:16: Wenn ich ständig solche banalen Rückfragen freigeben muss dann bin ich komplett dem Micro-Management gefangen.

00:12:22: Dann dirigiere ich doch wieder jeden einzelnen Handgriff.

00:12:24: Wie entkomme ich denn diesem Purgatorium der ständigen Benachrichtigungen

00:12:28: indem du dem System vorab ein Budget für Unsicherheit gibst.

00:12:32: Ein Budget für Unsicherheit?

00:12:34: Ja, in der Architektur solcher Workflows legt man sogenannte Autonomie-Schwellenwerte fest.

00:12:39: Okay

00:12:41: Du instruierst den Agenten also quasi Triffentscheidungen zu Layout Formatierung und Detailrecherche komplett autonom auch wenn du dir vielleicht nur zu sechzig Prozent sicher bist.

00:12:50: Unterbrich mich ausschließlich dann Wenn eine Entscheidung die definierten Kernziele des Events grundlegend gefährden könnte.

00:12:57: Das klingt nach einer klaren Regel.

00:12:59: Ist es auch!

00:13:00: Und wenn der Prozess dann beim ersten Mal trotzdem hakt, dann brauchst du eine strikte nachträgliche Analyse ein Postmortem sozusagen.

00:13:07: Lass mich raten bei diesem Post-Mortem schaue ich mir gar nicht an wie blöd die KI war sondern ich muss meinen eigenen Auftrag setzieren.

00:13:14: richtig?

00:13:15: Genau Du musst in den Spiegel schauen.

00:13:17: Ich schätze ich muss herausfinden welche der nervigen Rückfragen eigentlich völlig überflüssig gewesen wären Wenn ich im Vorfeld einfach den Kontext etwas schärfer formuliert hätte.

00:13:26: Völlig richtig.

00:13:27: Du differenzierst ganz hart, wo fehlte dem System?

00:13:30: schlichtweg eine Information die in meinem Kopf zwar völlig logisch war, die aber nie im Prompt stand?

00:13:35: Und wo war es tatsächlich eine strategische Entscheidung, die ohnehin nur ein Mensch treffen darf?

00:13:40: Mhm, verstehe!

00:13:41: Durch diese iterative Analyse kalibrierst du dann nicht nur das Werkzeug sondern eben auch deine eigene Fähigkeit algorithmisch zu delegieren.

00:13:49: Okay wir lassen unser Gedankenexperiment jetzt mal weiterlaufen.

00:13:53: Die Maschine hat ihre Arbeit beendet.

00:13:55: Auf unserem Bildschirm trauchen die bestellten drei Konzepte für den Kundentagehof.

00:13:59: Ein schöner Moment!

00:14:00: Ja und ich garantiere dir, die sehen alle absolut fantastisch aus.

00:14:04: sprachlich extrem geschliffen perfekte Übergänge ein sauberes Inhaltsverzeichnis super überzeugende Argumentationsketten.

00:14:12: aber das ist mein Punkt genau da lauert doch eine massive kognitive Falle oder?

00:14:19: Ich nenne das mal den Wikipedia Effekt.

00:14:22: was meinst du damit?

00:14:23: Naja, nur weil ein Text Fußnoten hat und super sauber formatiert ist, glauben wir instinktiv dass er auch wahr- und tiefdurchdacht ist.

00:14:31: Wir lassen uns von dieser glatten professionellen Oberfläche blenden.

00:14:34: Absolut!

00:14:35: Das Phänomen das du da beschreibst, das nennt man in der Forschung den Automatisierungs bei es Und ich sage dir, das ist in der Agentenerer unserer allergrößte Schwachstelle

00:14:44: Weil's einfach zu gut aussieht.

00:14:46: Ja, weil die Maschine eben keinen unfertigen ersten Entwurf mehr abliefert der voller peinlicher Tippfehler ist und wo wir sofort skeptisch werden.

00:14:53: Unser Gehirn schaltet einfach auf Autopilot.

00:14:55: Es sieht fertig aus also muss es gut sein.

00:14:57: Gefährlich

00:14:58: Sehr gefährlich.

00:14:59: Aber genau hier Genau bei der Auswahl zwischen diesen drei plausiblen völlig markelosen Optionen Da wird das menschliche Urteilsvermögen plötzlich zum ultimativen Flaschenhals des Erfolgs

00:15:11: Weil die KI nicht alles weiß.

00:15:13: Die KI konnte Muster vergleichen Aber du, als Mensch bringst eine Variable in diese Gleichung ein die in absolut keiner Trainingsdatenbank der Welt existiert.

00:15:22: Dein ungeschriebenes Wissen auch Tessit Knowledge genannt.

00:15:25: Okay das muss ich jetzt mal auf unser Kundentags-Szenario übersetzen.

00:15:29: Was genau ist denn das ungeschriebene Wissen bei der Planung von so einem Event?

00:15:34: Es ist das Wissen um die menschliche Dynamik Die Dynamik, die nirgendwo dokumentiert ist.

00:15:39: Du weißt beispielsweise aus Erfahrungen wie die Firmkultur eurer wichtigsten Kunden wirklich tickt.

00:15:44: Du weißt, dass der CEO eures größten Kunden niemals vor fünfzig Leuten in einem großen Raum zugeben würde, das er eine bestimmte KI-Technologie eigentlich gar nicht verstanden hat.

00:15:53: Stimmt!

00:15:54: Das steht im KN Briefing.

00:15:55: Genau und du kennst auch die feinen, nicht dokumentierten Stärken eures eigenen Moderationsteams.

00:16:01: Wer kann eine hitzige sehr emotionale Debatte souverän einfangen?

00:16:05: Und wer ist eher der stille Strukturierer im Hintergrund?

00:16:08: Die KI kennt nur die LinkedInprofile.

00:16:10: Exakt Die Maschine liest Lebensläufe, aber du kennst die echte zwischenmenschliche Resonanz.

00:16:16: Der Wert deiner Arbeit liegt jetzt darin, die drei KI-Vorschläge durch genau diesen Filter dieser ungeschriebenen Realität zu pressen.

00:16:24: Weißt Du?

00:16:25: Das ist tatsächlich ein ziemlicher Perspektivwechsel für mich!

00:16:29: Der Mehrwert des Agenten, der liegt also gar nicht primär in der puren Beschleunigung des Schreibens.

00:16:33: Er legt viel mehr darin, dass er den Latenzraum der Möglichkeiten objektiv absucht.

00:16:38: Ganz genau!

00:16:38: Er liefert mir vielleicht ein Konzept das komplett auf Präsentation verzichtet und stattdessen vorschlägt, den ganzen Tag nur an Stetischen mit Whiteboards zu verbringen eine Idee, auf die ich wegen meiner eigenen eingefahrenen kognitiven Routinen im Alltagsschutz vielleicht nie im Leben gekommen

00:16:52: werde.

00:16:52: Das ist der große Vorteil ja

00:16:54: Aber ob dieses Stetischkonzept dann wirklich zu unserem heiklen konservativen Klienten passt, diese Bewertung nimmt mir die Maschine nicht ab.

00:17:01: Genau so ist es!

00:17:02: Die KI dekonstruiert den Raum das Mögliche für dich aber die strategische Auswahl bleibt zutiefst menschlich.

00:17:09: Okay wir haben uns jetzt mal für das Konzept mit den Städtischen entschieden.

00:17:12: alles sieht wunderbar aus.

00:17:13: der Plan steht Aber jetzt skizzier ich dir mal den ultimativen Albtraum jedes Projektmanagers.

00:17:20: Oh je... Ich ahne Schlimmes.

00:17:22: Was passiert wenn unser Agent ein bisschen zu fleißig ist?

00:17:26: Okay.

00:17:27: Er hat das Konzept fertig, er sieht dass es in seinen Augen gut ist und denkt sich in seine autonomen Schleife.

00:17:33: super!

00:17:34: Dann setzt sich das doch direkt mal um.

00:17:36: Er formuliert also eigenmächtig eine Einladungs-Mail an unseren gesamten Kundenverteiler.

00:17:41: Oh nein...

00:17:42: Doch.

00:17:43: Und weil in seinen Trainingsdaten erfolgreiche Events oft prominentes Speaker haben kündigt er für unseren kleinen Intim Keller Workshop direkt mal Elon Musk als Überraschungskast an.

00:17:53: Das is der Super Gau.

00:17:55: Und dann?

00:17:56: Und das ist der springende Punkt.

00:17:57: Drückt er auf Senden!

00:17:59: Die Mail geht raus, sprachlich ein absolutes Meisterwerk.

00:18:02: in den Konsequenzen einen Totalschaden für das ganze Unternehmen.

00:18:06: Ja dieses Szenario, das berührt den absolut neuralgischen Punkt von autonomem System – die Andendung an ausführende APs also Schnittstellen.

00:18:14: Erklär das mal kurz.

00:18:16: Hier verläuft eine unsichtbare aber stahlarte Grenze zwischen einem reinen Planungsagenten und einem exekutiven Agenten.

00:18:23: Es ist ein fundamentaler Architekturunterschied, ob ein System innerhalb einer sicheren Sandbox nur Text generiert oder ob es die handfeste Berechtigung hat, Schnittstellen zu E-Mail-Servern, Kalendern oder sogar Bezahlsystemen anzusprechen.

00:18:35: Das heißt ich muss die Maschine quasi einsperren aber wenn ich in die Fähigkeit nehme Dinge tatsächlich zu erledigen dann bin ich doch am Ende wieder derjenige der emails kopiert einfügt und händisch verschickt.

00:18:48: das widerspricht auch irgendwie dem ganzen Versprechen der Automatisierung oder?

00:18:53: Es geht um das Konzept des Human in the Loop versus Human on The Loop.

00:18:58: Das musst du genauer definieren.

00:18:59: Bei kritischen irreversiblen Handlungen wie dem Versenden einer E-Mail an fünfhundert wichtige Kunden oder den verbindlichen Buchen teurer Dienstleister, da musst Du als Mensch zwingend im Loop sein

00:19:10: Also in der Schleife drin?

00:19:11: Genau Die KI bereitet den API Call zwar vor Sie entwirft die Mail sie trägt die Empfänger ein.

00:19:16: Alles super Aber der finale Auslöser Der Klick Der bleibt zwingent Ein menschlicher Knopfdruck.

00:19:22: Und bei weniger kritischen Dingen?

00:19:24: Bei Standardaufgaben, deren Risiko wirklich gegen Null geht – sagen wir mal das automatische Sortieren von eingehenden Bestätigungsmails in einem bestimmten Ordner.

00:19:32: Da bist du nur noch OFTE Loop!

00:19:34: Du schaust ja vielleicht einmal die Woche das Lockpfeil an ob alles funktioniert hat und das war's.

00:19:38: Okay, das leuchtet

00:19:39: ein... Die Kunst der Führung in der Zukunft ist es exakt zu definieren welche Aufgabe welches Sicherheitsnetz braucht.

00:19:47: Für unseren Kundentag gilt da jedenfalls eine eiserne Regel Die Einladung bleibt strikt ein Entwurf.

00:19:52: Das bringt mich zu einem sehr praktischen Abschluss, finde ich!

00:19:56: Wenn ich mir diese ganzen theoretischen Ebenen so anhöre, React schleifen, Automatisierungsbias, API-Schnittstellen... Also das kann auf ein ganz normales Team doch extrem einschüchternd wirken?

00:20:08: Das stimmt, dass es erstmal viel Holz ist.

00:20:11: Wie fangen wir denn dann morgen damit an ohne gleich die komplette Infrastruktur und alle Freigabeprozesse im Büro lahmzulegen oder alles durch Mikromanagement zu

00:20:19: ersticken?!

00:20:20: Ganz einfach, indem man der Versuchen wieder steht sofort alles automatisieren zu wollen.

00:20:25: Mein Plädoyer ist wirklich simpel – lerne aus einem extrem engen begrenzten Pilotversuch!

00:20:31: Also klein Anfang

00:20:32: Richtig.

00:20:33: Unser fiktives Beratungsunternehmen nimmt sich genau so ein überschaubares isoliertes Konzeptprojekt vor.

00:20:39: Man lässt den Agenten laufen schaut was passiert und danach setzt sich das Team zusammen und beantwortet drei ganz spezifische Fragen um die eigene Delegationsfähigkeit zu trainieren.

00:20:49: Lass mich raten, ich vermute die erste Frage dreht sich stark um die Effizienz.

00:20:53: Also welche Vorarbeit der Maschine?

00:20:57: Welche Konzepte oder Strukturierungen waren tatsächlich so gut dass wir sie direkt und ohne große chirurgische Eingriffe nutzen konnten?

00:21:03: Richtig!

00:21:04: Das ist die Basis.

00:21:06: Die zweite Frage geht dann direkt an eure eigene Nase An welchen konkreten Stellen hat das System halluziniert oder ist falsche Wege eingeschlagen, nur weil wir schlichtweg vergessen haben den entscheidenden Kontext mitzuliefern.

00:21:18: Wo war unser Prompt?

00:21:19: einfach zu schwach?

00:21:21: Wir müssen also unsere eigenen Fehler im Briefing finden und die dritte Frage zählt dann wahrscheinlich auf das ungeschriebene Wissenab von dem wir vorhin sprachen.

00:21:28: Also welche Entscheidung musste am Ende doch ein Mensch treffen obwohl die KI uns drei logisch perfekte Optionen präsentiert hat?

00:21:35: Wo war unsere menschliche Intuition absolut unverzichtbar?

00:21:40: Exakt diese drei Fragen.

00:21:41: Und wir müssen hier radikal ehrlich miteinander sein, es gibt absolut keine Garantie dafür dass euch dieser allererste Pilotversuch auch nur eine einzige Minute Arbeitszeit spart.

00:21:50: Wahrscheinlich eher im Gegenteil oder?

00:21:52: Genau!

00:21:52: Im Gegenteils vielleicht war das Briefing so unfassbar aufwendig die Evaluierung der drei Konzepte so komplex und die Fehlerkorrektur am Ende so mühsam dass ihr auf dem klassischen Weg viel schneller gewesen wird.

00:22:04: Aber das ist dann einfach der Preis des Lernens.

00:22:06: Richtig, es ist sehr wahrscheinlich dass erst das nächste oder vielleicht sogar erstes übernächste Projekt wirklich diese erhoffte Entlastung bringt weil ihr dann als Team verstanden habt wie man die Parameter in diesem Latentsraum richtig setzt.

00:22:18: Das ist eine sehr bodenständige und vor allem ehrliche Perspektive finde ich Und sie führt uns eigentlich zu dem wirklich zentralen Gedanken unserer heutigen

00:22:24: Betrachtung Welche ist das für dich?

00:22:26: Naja je mehr ausführende Handgriffe Je mehr Recherche, Strukturierung und Formatierung wir in Zukunft an diese autonomen KI-Agenten übergeben können, desto wichtiger wird paradoxerweise unser eigenes rein menschliches Urteilsvermögen.

00:22:40: Absolut!

00:22:41: Der Mensch wird nicht überflüssig – seine Rolle verschiebt sich nur.

00:22:45: Der Mensch würde nicht über flüssig.

00:22:46: weg von der kleinteiligen Frage wie genau machen wir das jetzt?

00:22:49: Hin zu der eigentlich viel schwereren Frage warum machen wir es eigentlich und was genau ist unser Ziel dabei?

00:22:56: Das hast du schön zusammen gewusst Und mit genau diesem Gedanken wende ich mich für heute direkt an dich, der uns gerade zuhört.

00:23:03: Nimm diese Überlegung doch einfach mal mit in deinen nächsten Arbeitstag!

00:23:07: Welche wiederkehrende komplexe Aufgabe würdest du morgen gernmal komplett an einen Agenten delegieren?

00:23:13: Und die vielleicht viel wichtigere Frage dabei – wärst Du heute schon in der Lage, die Rahmenbedingungen so präzise zu definieren dass du am Ende zweifelsfrei erkennen könntest ob das Ergebnis der Maschine auch wirklich gut ist?

00:23:24: Eine sehr gute Frage zum Abschluss.

00:23:26: Das war KI-Vordinker, KI über KI auf Grundlage menschlicher Ideen.

00:23:31: Kuratiert von Dr.

00:23:32: Peter Schopf Bis zur nächsten Folge.