Wenn KI-Agenten mehr sind als Mitarbeiter: Das unterschätzte Problem, das Vorstände heute lösen müssen

(SeaPRwire) –   By: Oliver Hawthorne

Viele Unternehmen setzen heute auf agentische KI. Die alte Standard-Regel heißt „Mensch im Loop“. Was aber, wenn das gar nicht mehr möglich ist? Die Anzahl der KI-Agenten übersteigt schnell die Zahl der menschlichen Mitarbeiter. Kein Unternehmen wird je genug Menschen haben, um jeden Schritt zu kontrollieren. Das ist kein theoretisches Zukunftsproblem. Es ist eine Herausforderung, die Führungskräfte heute schon lösen müssen.

Auf der Branchenkonferenz Brainstorm Tech diskutierten mehrere Führungskräfte dieses Problem. Zach Maybury, CTO der Online-Sportwetten-Plattform DraftKings, berichtet von eigenen Erfahrungen. Sein Unternehmen verarbeitet schon Billionen Transaktionen und verteilte Arbeitslasten. Kommen agentische KI-Agenten dazu, die direkt untereinander kommunizieren, wird das Volumen zu groß für klassische Ansätze. Maybury kann keine Menschen mehr in alle Kontrollschleifen einfügen. LaShonda Anderson-Williams, Chief Customer Officer bei Salesforce, weist auf hohe Risiken in Bereichen wie der Gesundheit hin. Anthony Moisant, CISO von Indeed, bestätigt das Problem. Indeed betreut 645 Millionen Jobsuchende und 3,5 Millionen Arbeitgeber. Er rät zu ständigen Tests von KI-Prozessen. Diya Jolly von Xero erklärt den Unterschied zwischen deterministischen Aufgaben und Entscheidungen mit Urteil. Nur bei ersteren kann KI weitgehend selbstständig arbeiten. Alle Teilnehmer sind sich einig: Eine skalierbare Governance ist unentbehrlich. Viele Unternehmen kaufen heute wahllos KI-Tools und bauen sie ohne Regeln an. Ein passendes, aktuelles Regelwerk schützt vor Risiken.

Die kommerzielle Logik der KI-Skalierung zwingt zu einem Umdenken. Kleine Experimente kommen auch ohne klare Governance aus. Sobald die Nutzung groß und risikoreich wird, fehlt es vielen Unternehmen an Struktur. Nur wer heute skalierbare Regeln aufbaut, kann die Vorteile von agentischer KI langfristig nutzen.

Author bio: Oliver Hawthorne, ständiger Korrespondent einer internationalen Technologie-Revue, spezialisiert auf KI-Strategien für Unternehmen.