Zusammenfassung zeigen Zusammenfassung verbergen
Beratungsfirmen, die Unternehmen beim sicheren Umgang mit Künstlicher Intelligenz beraten, stehen selbst wegen fehlerhafter KI-gestützter Inhalte in der Kritik. Aktuelle Rückzüge von Studien zeigen: Wenn Beraterberichte auf «Halluzinationen» basieren, können sie Vertrauen und Geschäftsentscheidungen nachhaltig beschädigen.
Der Australisch-britische Konzern KPMG hat kürzlich einen Bericht über den weltweiten KI-Einsatz in Unternehmen von mehreren Websites entfernt, nachdem Recherchen und betroffene Firmen Ungenauigkeiten bemängelt hatten. Die Financial Times berichtete, dass im Oktober veröffentlichte Fallbeispiele – etwa über die Integration sogenannter KI‑Agenten bei der Schweizer Bank UBS, den Schweizerischen Bundesbahnen (SBB) und dem britischen National Health Service – in Teilen nicht den Tatsachen entsprochen hätten.
Fehlerhafte Fallstudien und die Reaktion der Betroffenen
Amazon-Phishing gefährdet Kundendaten: Nutzer sollten sofort Konten prüfen
PS6, Xbox Helix: Daten zeigen höhere Kosten und Streamingzwang für Spieler
Bei UBS hieß es in dem Dokument, die Bank setze “KI‑Agenten” in Beratung, Risikomanagement und Compliance ein. Ein Sprecher der Bank widersprach dem gegenüber der Financial Times und bezeichnete die Darstellung als sachlich falsch. Nach Hinweisen von UBS zog KPMG die Publikation von verschiedenen Plattformen zurück.
Ähnlich äußerte sich eine Sprecherin der SBB: Die Studie behauptete, die Bahn biete KI‑gestützte Tools an, mit denen Reisende Routen nach Präferenzen, Echtzeitdaten und CO2‑Emissionen planen könnten. Diese Darstellung nannte die SBB gegenüber der FT ebenfalls nicht zutreffend.
KPMG erklärte in einer Stellungnahme, man nehme die Genauigkeit veröffentlichter Inhalte ernst und prüfe die Umstände des Vorfalls. Das Unternehmen betonte die Erwartung, dass Mitarbeitende interne Richtlinien zum verantwortungsvollen KI‑Einsatz einhalten, inklusive menschlicher Prüfung und Quellverifikation.
Kein Einzelfall: Auch EY zog Studie zurück
Der Fall reiht sich in eine Reihe ähnlicher Vorfälle ein. Laut Financial Times musste auch die Beratungsgesellschaft EY im vergangenen Monat eine Studie zurückziehen, weil darin offenbar erfundene Daten, falsch zugeordnete Zitate und die Bezugnahme auf einen nicht existenten McKinsey‑Bericht aufgetaucht waren.
In beiden hier genannten Fällen kamen KI‑Detektor‑Tools wie GPTZero zum Einsatz, die Unstimmigkeiten identifizierten. GPTZero‑Geschäftsführer Edward Tian warnte, dass der Rückgriff glaubwürdiger Beratungsfirmen auf unprüfbare KI‑Outputs das Risiko von weiterverbreiteten, sekundären Halluzinationen erhöhe.
| Bericht | Behauptete Anwendung | Antwort der genannten Organisation |
|---|---|---|
| KPMG (Oktober) | KI‑Agenten in Anlageberatung und Compliance (UBS); Mobilitätsplanung (SBB) | UBS und SBB widersprachen; KPMG zog Bericht zurück |
| EY (vorhergehender Monat) | Studie enthielt falsche Daten und Zitate; Verweis auf nicht existenten Bericht | Studie zurückgezogen; interne Prüfung angekündigt |
Die Debatte trifft einen empfindlichen Nerv: Beratungsfirmen positionieren sich zunehmend als Experten für verantwortungsvolle KI‑Governance. Fehlende Sorgfalt in eigenen Analysen untergräbt dieses Geschäftsmodell und schwächt das Vertrauen bei Kund:innen und der Öffentlichkeit.
Wachsende Probleme in Forschung und Wissenschaft
Das Phänomen beschränkt sich nicht auf die Unternehmenswelt. Forschende der Cornell University und der University of California analysierten 111 Millionen Referenzen aus 2,5 Millionen wissenschaftlichen Artikeln und entdeckten fast 150.000 gefälschte Zitate. Die Autor:innen sehen darin ein Muster: Viele Autor:innen übernehmen offenbar KI‑generierte Referenzen, ohne sie zu überprüfen.
Solche Fehler sind mehr als akademische Ärgernisse. Forschungsergebnisse fließen in klinische Verfahren, Produktentwicklung und politische Entscheidungen ein. Wenn Referenzen falsch sind, drohen ineffektive oder riskante Maßnahmen – mit realen Kosten für Patient:innen, Anwender und Unternehmen.
- Vertrauensverlust: Beratungsfirmen riskieren ihre Glaubwürdigkeit als KI‑Berater.
- Fehlentscheidungen: Unternehmen könnten in ungeeignete Technologien investieren.
- Rechtliche Risiken: Irreführende Studien können Haftungsfragen nach sich ziehen.
- Wissenschaftliche Integrität: Gefälschte Zitate verzerren den Forschungsstand.
Für Unternehmen und Redaktionen bedeutet das: Outputs von KI‑Tools bleiben nützlich, aber humanes Fact‑Checking ist unverzichtbar. Beratende Organisationen, die selbst KI‑Governance anbieten, müssen hier besonders strenge interne Kontrollen nachweisen.
Besonders relevant ist das Thema heute, weil viele Firmen jetzt massenhaft KI‑Projekte anstoßen: Fehlende Qualitätskontrollen in Studien oder Reports können dann zu weitreichenden, kostspieligen Fehltritten führen. Statt Werbeaussagen über schnelle KI‑Bahnbrecher sollten Berater transparente Methoden zur Validierung vorlegen und externe Nachprüfbarkeit sicherstellen.
Die Fälle von KPMG und EY zeigen, dass technische Hilfsmittel Fehler aufdecken können — aber sie machen auch deutlich, dass Technologie allein keine Gewähr für Verlässlichkeit bietet. Entscheidend bleibt die menschliche Verantwortung bei der Überprüfung und Veröffentlichung von Informationen.
