Ein Sachverständiger in einem US-amerikanischen Zivilprozess soll über 80 Prozent seines Explosions-Gutachtens mit ChatGPT verfasst haben. Das werfen Kläger dem Ingenieur Jason Autenrieth von KnightHawk Engineering vor. Autenrieth sollte die Explosion beim Unternehmen Watson Grinding in Houston analysieren, die im Januar 2020 drei Menschen tötete. Laut Bericht von CBS News vom 18. September 2026 präsentierten die Klägeranwälte rund 300 Seiten aufgefundener Prompts als Beleg für die massive KI-Nutzung.
Kurz & knapp
- 80 % des Gutachtens sollen mit ChatGPT erstellt worden sein
- 300 Seiten Prompts als Beweis für KI-Einsatz gefunden
- 61,5 Millionen US-Dollar Schadensersatz gegen 3M bereits zugesprochen
- Über 1.300 Fälle mit KI-Halluzinationen seit 2023 in US-Verfahren dokumentiert
Der Hintergrund: 3M-Prozess und Schadensersatz
Der Fall ist Teil eines größeren Verfahrens gegen den Mischkonzern 3M. Eine Geschworenenjury hatte im Vormonat entschieden, dass 3M bei Sicherheitschecks fahrlässig agierte und sprach den Opfern einen Schadensersatz von 61,5 Millionen US-Dollar zu. Dem Konzern wurde eine Verantwortung von 30 Prozent am Vorfall zugewiesen. 3M kündigte Berufung an.
Zu den Vorwürfen gegen Autenrieth erklärte 3M, der Sachverständige sei ein unabhängiger Dritter gewesen und generative KI sei lediglich als Arbeitswerkzeug eingesetzt worden. Eine gerichtliche Entscheidung, die sich explizit gegen den KI-Einsatz richtet, liegt bislang nicht vor.
Wachsendes Problem: KI-Halluzinationen in der Justiz
Der Houston-Fall ist kein Einzelfall. Nach der Datenbank "AI Hallucination Cases Database" von Damien Charlotin gab es seit 2023 in US-Verfahren bereits über 1.300 Fälle, in denen sogenannte KI-Halluzinationen – also von Algorithmen erfundene Fakten oder Quellen – aktenkundig wurden. Das Medium 404 Media hatte bereits im August über ähnliche Prompts in einem verteidigungsorientierten Gutachten im selben Fall berichtet.
Die Problematik zeigt sich besonders bei technischen Gutachten: Sprachmodelle können plausibel klingende, aber faktisch falsche Informationen generieren – ein Risiko, das in kritischen Infrastruktur-Analysen zu erheblichen Haftungsrisiken führt.
Was das für deutsche Unternehmen bedeutet
Der Fall verdeutlicht ein regulatorisches Versprechen, das auch in Deutschland relevant wird. Während die EU-KI-Verordnung Dokumentationspflichten und Transparenzanforderungen für KI-Systeme vorsieht, zeigt sich in der Praxis: Ohne klare Kontrollmechanismen und Nachweispflichten können KI-Tools in sensiblen Bereichen – Gutachten, Rechtspraxis, kritische Infrastruktur – zu erheblichen Haftungsrisiken führen. Deutsche Unternehmen und ihre Berater sollten prüfen, wie sie KI-Einsatz dokumentieren und welche Qualitätsprüfungen notwendig sind, um nicht in ähnliche Fallstricke zu tappen.
Quellen
Redaktionell verantwortet von Ideal Syka. Quellen und Arbeitsweise: Redaktion & Methode. Hinweise und Korrekturen: ai@i6eal.de.
