David Elliman
Global Chief of Software Engineering
KI wird oft als Weg zu besseren Entscheidungen, höherer Effizienz und rationaleren Organisationen verkauft. Aber was, wenn genau das Gegenteil passiert?
In dieser Folge von Tech Tomorrow spricht David Elliman mit Stephanie Antonian, Gründerin und CEO von Aestora, über eine provokante Frage: Verschlechtert irrationale KI unsere Entscheidungsfindung?
Das Gespräch baut auf Stephanies Argument auf, dass vieles von dem, was wir heute KI nennen, im klassischen Sinne gar kein „Denken“ ist, sondern probabilistische Mustererkennung – nützlich im richtigen Kontext, aber riskant, wenn sie missverstanden wird.
Über Stephanie Antonian
Stephanie Antonian ist Gründerin und CEO von Aestora, dem KI-Forschungslabor hinter dem Digital Health Score. Ihre Arbeit beschäftigt sich mit den moralischen, philosophischen und gesellschaftlichen Auswirkungen künstlicher Intelligenz – insbesondere mit menschlicher Würde, Entscheidungsfindung und den Geschichten, die wir über Technologie erzählen.
Bevor sie Aestora gründete, arbeitete Stephanie mit Organisationen wie Google X, DeepMind, NASA, Harvard Innovation Lab und Accenture in den Bereichen Geschäftsstrategie, öffentliche Politik, Data Science und Produktmanagement zusammen.
Ihr jüngster Essay AI is Irrational argumentiert, dass moderne KI oft als intelligent beschrieben wird, obwohl sie eher statistischem Raten als strukturiertem Denken ähnelt.
Zentrale Erkenntnisse aus der Episode
KI ist keine Magie (und sie denkt nicht immer logisch)
Stephanies zentrale Kritik ist ebenso sprachlicher wie technischer Natur. Wenn Organisationen von KI als „intelligent“ sprechen, implizieren sie oft, dass sie logisch denkt, versteht und urteilt. Doch die meisten modernen KI-Systeme basieren auf Machine Learning: Sie erkennen Muster in historischen Daten und erzeugen statistisch wahrscheinliche Ergebnisse.
Das macht sie nicht nutzlos – bedeutet aber, dass sie häufig missverstanden werden.
Für Stephanie ist diese Unterscheidung wichtig, weil Führungskräfte möglicherweise Möglichkeiten von Systemen erwarten, die eigentlich auf Wahrscheinlichkeiten ausgelegt sind. Wie sie in der Episode sagt, warten viele Organisationen „darauf, dass die letzte Zahl von Pi enthüllt wird“ – sie investieren also so, als würden heutige Systeme irgendwann vollständig definierbar, logisch und sicher werden.
Aus ihrer Sicht sollten Führungskräfte aufhören zu fragen: „Was kann KI?“ und stattdessen fragen: „Wo schafft Wahrscheinlichkeit echten Mehrwert in unserer Organisation?“
Das bedeutet, klar abgegrenzte Anwendungsfälle zu identifizieren, in denen Mustererkennung tatsächlich nützlich ist: Nachfrageprognosen, Anomalie Erkennung, Zusammenfassung großer Datensätze, Unterstützung der Softwareentwicklung, Verbesserung operativer Abläufe. Gleichzeitig bedeutet es auch zu erkennen, wo probabilistische Ergebnisse nicht ausreichen – insbesondere bei Entscheidungen mit hohen Auswirkungen auf Sicherheit, Fairness, Verantwortung oder menschliches Wohlergehen.
Der Hype führt zu Entscheidungsunfähigkeit
Eigentlich soll KI Organisationen helfen, schneller zu handeln. Stephanie argumentiert jedoch, dass sie in vielen Fällen genau das Gegenteil bewirkt. Mehr Informationen, mehr Optionen und mehr automatisierte Analysen erschweren es Führungskräften zunehmend, Entscheidungen zu treffen.
Ihre Diagnose ist eindeutig: KI trifft nicht unbedingt schlechte Entscheidungen für uns – sie könnte vielmehr dazu führen, dass wir Entscheidungen ganz vermeiden.
David verbindet dies mit einem bekannten Prinzip aus dem Engineering: Innovation profitiert in der Regel von Fokus, klaren Rahmenbedingungen und einer präzisen Definition dessen, was erreicht werden soll. Zu viel Abstraktion kann Fortschritt verlangsamen. Zu viele Berichte können den Blick auf das Produkt, die Dienstleistung oder das Kundenergebnis verstellen, auf das es eigentlich ankommt.
Genau hier müsse die KI-Debatte bodenständiger werden. Wenn Organisationen Pilotprojekte gestartet, interne Tools entwickelt oder generative KI ausprobiert haben, müsse kritisch hinterfragt werden, ob daraus tatsächlich messbarer Geschäftswert entsteht.
Ein MIT-Project-NANDA-Bericht aus dem Jahr 2025 zeigte, dass trotz erheblicher Unternehmensinvestitionen in generative KI nur eine kleine Minderheit der Initiativen messbaren Mehrwert erzeugte. Diese Erkenntnis hat die Diskussion darüber verschärft, warum so viele KI-Pilotprojekte nicht skalieren.
Dasselbe Problem zeigt sich in vielen KI-Programmen von Unternehmen: Zeitersparnis ist hilfreich, aber nicht gleichbedeutend mit Geschäftswirkung. Der eigentliche Maßstab ist, ob KI Folgendes verbessert: Umsatz, Marge, Risikoreduktion, Qualität, Resilienz, Kundenergebnisse.
Menschliche Verantwortung lässt sich nicht weg-automatisieren
Eines der wichtigsten Themen der Episode ist Rechenschaftspflicht. Stephanie argumentiert, dass echte menschliche Kontrolle unverzichtbar bleibt, weil Menschen weiterhin für die Systeme verantwortlich sind, die sie entwickeln und einsetzen.
Diese Sichtweise deckt sich mit aktuellen Entwicklungen in Regulierung und Governance. Der EU AI Act verfolgt einen risikobasierten Ansatz mit strengeren Anforderungen für Hochrisikosysteme. Frameworks wie das NIST AI Risk Management Framework konzentrieren sich auf Governance, Mapping, Bewertung und Management KI-bezogener Risiken über den gesamten Lebenszyklus hinweg.
David macht dabei eine wichtige Unterscheidung: Organisationen sollten KI-Governance nicht als abstrakte Ethikdebatte betrachten, sondern als Sicherheitsengineering.
Das bedeutet, praktische Fragen zu stellen:
- Wer trägt die Verantwortung für diese KI-gestützte Entscheidung?
- Können wir nachvollziehen, wie das System zu seinem Ergebnis gekommen ist?
- Was darf das System auf keinen Fall tun?
- Testen wir diese Grenzen kontinuierlich?
- Gibt es einen menschlichen Kontrollpunkt, bevor Entscheidungen Auswirkungen auf Menschen, Kunden oder Abläufe haben?
Genau hier wird verantwortungsvolle KI von einer Richtlinie zur praktischen Umsetzung. Governance wird Teil des Delivery-Systems – kein nachträglicher Zusatz. Unser Blogbeitrag über KI-Governance-Rahmenwerke kommt zu dem gleichen Schluss: Eine ausgereifte KI-Governance muss den gesamten Lebenszyklus abdecken, von der ersten Idee über die Implementierung bis hin zur laufenden Überwachung.
KI-Wert beginnt mit Kosten, Fähigkeiten und Kontext
Auf die Frage, was Führungskräfte zuerst tun sollten, empfiehlt Stephanie zunächst eine Kostenanalyse.
Bevor Unternehmen KI im großen Stil einsetzen, müssen sie verstehen:
- Was die Technologie heute kostet
- Was sie künftig kosten dürfte
- Welche Fähigkeiten sie tatsächlich besitzt
- Wo probabilistische Systeme Mehrwert schaffen
- Welche Benchmarks zeigen, ob Experimente skalierungswürdig sind
Das ist eine erfrischend pragmatische Sichtweise. Organisationen müssen nicht „AI-first“ werden, um von KI zu profitieren – wahrscheinlich sollten sie das sogar nicht. Stattdessen sollten sie outcome-first, value-first und evidence-first handeln.
Die Grundlage ist nicht das Modell selbst, sondern das operative Umfeld rund um das Modell: Datenqualität, Integration, Governance, Workflow-Design, Nutzerakzeptanz, messbarer ROI. Ohne diese Grundlagen bleiben selbst beeindruckende Pilotprojekte oft im Proof-of-Concept-Stadium stecken.
Das eigentliche Risiko: KI nutzen, um schwierigen Fragen auszuweichen
Der vielleicht beunruhigendste Aspekt dieser Folge ist, dass Unternehmen KI möglicherweise einsetzen, um sich nicht mit tiefer liegenden geschäftlichen Problemen auseinandersetzen zu müssen.
Wenn Kunden weniger Kaufkraft haben, wird KI die Nachfrage nicht automatisch steigern. Wenn Prozesse übermäßig komplex sind, kann zusätzliche KI sie noch komplizierter machen. Und wenn einer Organisation strategische Klarheit fehlt, produzieren generative Tools möglicherweise nur mehr Inhalte, mehr Analysen – und mehr Rauschen.
David beschreibt dies aus Sicht der Ingenieursdisziplin: Fortschritt entsteht dadurch, dass man genau weiß, was gebaut werden muss, warum es wichtig ist und wie Erfolg gemessen wird. In der Softwareentwicklung entsteht Qualität nicht durch Wunschdenken, sondern durch Architektur, Tests, Feedbackschleifen und operative Verantwortung.
Dasselbe sollte für KI gelten. Die Herausforderung besteht darin, beide Extreme zu vermeiden: blinden Optimismus ebenso wie defensive Untätigkeit. KI ist ein mächtiges Werkzeug – aber Macht ohne Kontext erzeugt leicht Komplexität statt Mehrwert.
Was Führungskräfte jetzt tun sollten
Stephanie rät dazu, sich keinen Illusionen hinzugeben: Führungskräfte sollten mit KI experimentieren, jedoch mit präziseren Fragen und fundierteren Erkenntnissen. Ein praktischer Ansatzpunkt wäre: Ein praktischer Einstieg könnte sein:
1. Definieren, wo Wahrscheinlichkeit sinnvoll ist
Anwendungsfälle identifizieren, bei denen Mustererkennung, Vorhersagen oder Zusammenfassungen bestehende Workflows tatsächlich verbessern.
2. Benchmarks vor dem Pilotprojekt festlegen
Legen Sie vor Beginn des Experiments fest, was Erfolg in finanzieller, betrieblicher, kundenbezogener oder risikobezogener Hinsicht bedeutet.
3. Governance als Delivery-Infrastruktur behandeln
Verantwortung, Nachvollziehbarkeit und menschliche Kontrolle von Anfang an in KI-Systeme integrieren.
4. Geschäftswert statt Aktivität messen
Nicht nur erfassen, ob Menschen KI nutzen oder Zeit sparen – sondern ob Ergebnisse tatsächlich verbessert werden.
5. Der Mensch muss im Mittelpunkt der Entwicklung stehen
KI kann zwar die Entscheidungsfindung unterstützen, sollte jedoch weder Führungsaufgaben noch Verantwortlichkeiten oder strategische Zielsetzungen ersetzen.
Hin zu einer rationaleren KI-Debatte
Die zentrale Frage der Episode – «Verschlechtert irrationale KI unsere Entscheidungsfindung?» – lässt sich nicht einfach mit Ja oder Nein beantworten.
KI kann Entscheidungen verbessern, wenn sie im richtigen Kontext eingesetzt wird: mit klaren Grenzen, messbaren Ergebnissen und menschlicher Verantwortung. Sie kann aber auch Verwirrung stiften, wenn Führungskräfte Sicherheit von probabilistischen Systemen erwarten, Strategie mit Mustererkennung verwechseln oder Transformation von Tools erwarten, die nicht in reale Geschäftsprozesse integriert wurden.
Die Chance besteht nun darin, die KI-Debatte rationaler zu führen: weniger Hype, mehr Evidenz, weniger abstrakte Versprechen, mehr praktisches Engineering, weniger Faszination darüber, was KI vielleicht einmal werden könnte, mehr Disziplin in Bezug darauf, was sie heute tatsächlich leisten kann.
Während Organisationen vom Experimentieren zur Implementierung übergehen, könnte genau diese Disziplin zum entscheidenden Wettbewerbsvorteil werden.
