Technologische Fehlbarkeit, Künstliche Intelligenz und die Bedeutung von Error Literacy – Zum Vortrag von Prof.in Dr. Martina Heßler
_Am 11. März 2026 war Prof.in Dr. Martina Heßler im Kolloquium des Arbeitsbereichs Digital History an der Universität Bielefeld mit einem Vortrag zum Thema „Nur ein Bug, kein Fehler? Überlegungen zur Geschichte technologischer Fehler und den Möglichkeiten einer Error Literacy“ zu Gast. Martina Heßler ist seit 2019 Professorin für Technikgeschichte an der TU Darmstadt und arbeitet unter anderem zu Technikemotionen, Technikanthropologie und aktuell zur Geschichte technologischer Fehler. Sie gab uns einen Einblick in ihre aktuellen Überlegungen zu Fehlern, Nichtwissen und dem verantwortungsvollen Umgang mit komplexen Systemen, die sich der menschlichen Evaluation zunehmend entziehen._
In den vergangenen Semestern haben sich die Mitglieder des Arbeitsbereichs _Digital History_ aus unterschiedlichen Perspektiven mit den Herausforderungen und Potenzialen Künstlicher Intelligenz (KI) beschäftigt. Dabei standen nicht nur die Möglichkeiten generativer KI für Forschung und Lehre im Mittelpunkt, sondern auch grundlegende Fragen der Mensch-Maschine-Interaktion. Diskutiert wurden etwa die Rolle des „Human in the Loop“, die Bedeutung menschlicher Kontrolle und Bewertung in algorithmisch gestützten Arbeitsprozessen sowie die Frage, wie digitale Tools historische Erkenntnisprozesse verändern (können). Mit dem Kolloquiumsvortrag von Martina Heßler (TU Darmstadt) wurde diese Diskussion um eine weitere wertvolle Perspektive erweitert.
Unter dem Titel „Nur ein Bug, kein Fehler? Überlegungen zur Geschichte technologischer Fehler und den Möglichkeiten einer _Error Literacy_ “ stellte Martina Heßler in ihrem Vortrag ihre bisherigen Überlegungen zu diesem vielschichtigen Phänomen vor. Ihr Ausgangspunkt war dabei die Beobachtung, dass technische Systeme in der Gesellschaft häufig mit Vorstellungen von Präzision, Objektivität und Zuverlässigkeit verbunden seien. Gerade vor dem Hintergrund aktueller KI-Debatten erscheint diese Perspektive besonders relevant: Denn obwohl die Fehlbarkeit von generativer KI inzwischen offenkundig sei, bleibe das Vertrauen in ihre Leistungsfähigkeit bemerkenswert groß. Hausarbeiten und sogar wissenschaftliche Buchpublikationen würden mit Hilfe von KI erstellt, ohne dass dabei die Gefahr von halluzinierten Quellen und nicht existierenden Zitaten ausreichend berücksichtigt werden. Oder es würde durch das gezielte Einbauen von z. B. grammatikalischen Fehlern versucht, den Einsatz der KI zu verschleiern. Es brauche deshalb eine _Error Literacy_ , also ein Bewusstsein und Verständnis dafür, dass auch diese Art von Technologie fehleranfällig ist, wie man die Fehler erkennt und wie man mit ihnen umgeht.
## Geschichte(n) von Fehlern
Die wissenschaftliche Beschäftigung mit Fehlern konzentrierte sich laut Martina Heßler lange vor allem auf Unfälle und Katastrophen, ohne dabei die Leistungsfähigkeit von Systemen grundsätzlich zu hinterfragen. In den letzten rund 15 Jahren habe sich der Fokus jedoch verschoben: In Forschungsansätzen wie den _Failure Studies_ werde der Blick mehr auf Fehler als Teil von Systemen gerichtet und vor allem in Bezug auf digitale Geräte betont, dass diese häufig schlecht funktionieren und fehleranfällig seien. Daneben werde auch die oftmals unsichtbar bleibende Arbeit des Wartens und Reparierens als Forschungsthema aufgenommen.
Martina Heßler plädiert dafür, Fehler aber nicht ausschließlich als Unterbrechungen eines ansonsten einwandfrei funktionierenden Systems zu betrachten. Fehler seien vielmehr ein permanenter Bestandteil technischer Umwelten. Sie prägen Arbeitsweisen, strukturieren gesellschaftliche Praktiken und beeinflussen den Umgang mit Technologien. Aus dieser Perspektive wird die Frage interessant, wie in der Gesellschaft mit Fehlern umgegangen wird, welche Formen des Wissens dadurch entstehen und welche Vorstellungen von Technik sich darin spiegeln.
Historisch zeige sich, so die Vortragende, dass die Idee technischer Perfektion insbesondere seit dem 19. Jahrhundert wirkmächtig geworden ist. Maschinen galten als präziser und zuverlässiger als Menschen. Dieses Narrativ wirke bis heute nach und fände sich auch in gegenwärtigen Vorstellungen von KI wieder. Gleichzeitig mache die Geschichte technologischer Fehler deutlich, dass technische Systeme nie vollständig fehlerfrei waren und es vermutlich auch nie sein werden.
Erst seit den 1970er Jahren wurde der Begriff des „technologischen Fehlers“ eingeführt: Er war – so Martina Heßler – noch ungenau und umriss im Wesentlichen Fehler in technischen Umwelten, die eine Abweichung vom angestrebten Zustand darstellten. Damit seien auch Überlegungen einhergegangen, ob technologische Fehler nicht am Ende auch immer menschliche Fehler seien – eine Frage, die sich so pauschal aber schon damals nicht beantworten lassen habe. Sie habe aber dazu geführt, dass Sorgen über gesellschaftliche Folgen technologischer Fehler aufgekommen seien und es deshalb in den Debatten der 1960er bis 1980er Jahre überhaupt erstmals möglich geworden sei, über Fehler in dieser Form zu sprechen. Mit der Verbreitung von Computersystemen sei zunehmend deutlich geworden, dass Fehlerfreiheit in komplexen Systemen nicht garantiert werden könne. Der Fokus habe sich deshalb von der Frage verschoben, wie Fehler vollständig verhindert werden könnten, wie viele Fehler ein System aushalte und was zu tun sei, wenn man sie identifiziert habe.
Diese Verschiebung erscheint heute bemerkenswert aktuell, denn auch und gerade im KI-Diskurs rücken Fragen nach Sicherheit, Risiken und Kontrollierbarkeit derzeit immer mehr in den Mittelpunkt. So warne beispielsweise der International AI Safety Report vor dem Einsatz von KI in Bereichen mit weitreichenden Konsequenzen, etwa in Medizin, Rechtsprechung oder Militär. Gleichzeitig entstünden umfangreiche Kataloge möglicher Fehler und Risiken, die jedoch eine vollständige Kontrollierbarkeit nicht gewährleisten könnten. KI-Systeme unterschieden sich in einem wesentlichen Punkt von anderen „klassischen“ technischen Entwicklungen: Während Fehler in traditionellen Programmen häufig auf konkrete Programmteile zurückgeführt werden könnten, entstünden Fehler in beispielsweise großen Sprachmodellen oftmals in hochkomplexen statistischen Prozessen. Die Ergebnisse wirkten plausibel, ließen sich jedoch nicht immer nachvollziehen, und nachweisliche Fehler ließen sich nicht immer zurückverfolgen.
## Die Erforschung des _Nichtwissens_
Im Zuge der Debatte um die Fehlerhaftigkeit von Systemen sei seit den 1970er Jahren klar, dass die Komplexität und Größe der Systeme, die wir aufbauten, die menschliche Kompetenz der Evaluierung deutlich überstiegen. Die so entstehenden „Wissenslücken“ adressiere die Agnotology, also die Erforschung von Nichtwissen. Während Forschende im Bereich der Wissenschaftsgeschichte lange vor allem die Produktion von Wissen untersucht hätten, stünden in der Agnotology Fragen danach im Vordergrund, wie Nichtwissen entstehe, organisiert werde und gesellschaftlich wirksam werde. Dieses Nichtwissen erreiche mit der KI in unserer Zeit eine neue Qualität. Die Systeme würden zu Black Boxes, deren interne Prozesse selbst für Expert*innen häufig nur begrenzt nachvollziehbar seien.
Daraus ergebe sich eine epistemologische Verschiebung, in deren Vordergrund nicht mehr das vollständige Verständnis eines Systems stehe, sondern Strategien zum Umgang mit den aus Nichtwissen entstehenden Unsicherheiten. Fehler könnten häufig erst im Nachhinein erkannt werden, Kontrolle werde zunehmend retrospektiv. Martina Heßler beschreibe dies als eine „Strategie der Nachträglichkeit“: Wir lebten mit Systemen, deren Fehlverhalten sich nicht immer antizipieren lasse und die dennoch kontinuierlich genutzt würden.
Gerade für Wissenschaft und Forschung werfe dies grundlegende Fragen auf. Was bedeutet es, wenn Ergebnisse nicht vollständig nachvollziehbar sind? Wie verändert sich wissenschaftliches Arbeiten, wenn Nichtwissen nicht mehr als vorübergehender Zustand erscheint, sondern als dauerhafte Bedingung digitaler Forschung?
## _Error Literacy_ als Antwort auf technologische Fehlbarkeit
Vor diesem Hintergrund schlägt Martina Heßler das Konzept einer _Error Literacy_ vor. Gemeint sei damit mehr als die Fähigkeit, Fehler zu erkennen: _Error Literacy_ umfasse ein Bewusstsein für die grundlegende Fehlbarkeit technischer Systeme sowie die Kompetenz, mit Unsicherheit, Unvollständigkeit und Nichtwissen produktiv umzugehen. Dabei gehe es nicht darum, Fehler vollständig zu beseitigen – vielmehr solle ein reflektierter Umgang mit Fehlern ermöglicht werden. _Error Literacy_ bedeute, Fehler als normalen Bestandteil technologischer Praxis zu begreifen, ihre Ursachen kritisch zu hinterfragen und ihre Konsequenzen einschätzen zu können.
Besonders wichtig erscheint dies im Umgang mit KI. Die Nutzung solcher Systeme setzt voraus, ihre Grenzen zu kennen und ihre Ergebnisse kritisch zu prüfen. _Error Literacy_ fördert damit eine Haltung, die weder von blindem Vertrauen noch von pauschaler Ablehnung geprägt ist, sondern von reflektierter Skepsis.
## Anschlussfähigkeit für die Digital History
Die Fragen, die Martina Heßler in ihrem Vortrag aufgeworfen hat, sind in besonderer Weise anschlussfähig an aktuelle Diskussionen im Arbeitsbereich _Digital History_. Viele der Themen, die uns in den vergangenen Semestern beschäftigt haben, finden hier eine neue Perspektive. Dies betrifft Fragen nach Verantwortung und Agency ebenso wie Überlegungen zu Fehlern als Treiber von wissenschaftlicher oder kreativer Produktivität.
Was bedeutet es für die praktische Herausforderung in der Digital History bzw. in den Digital Humanities als Ganzes, wenn die Tools und Systeme, mit denen wir arbeiten, Fehler machen, die wir nicht mehr nachvollziehen können?
In der Diskussion im Anschluss an den Vortrag wurden darüber hinaus Fragen nach Verantwortung, Transparenz, Reproduzierbarkeit und wissenschaftlichen Standards aufgeworfen: Wer trägt etwa Verantwortung für fehlerhafte Ergebnisse? Wie verändert sich _Agency_ , wenn menschliche und technische Entscheidungen zunehmend miteinander verschränkt sind? Welche Folgen hat es für wissenschaftliche Praxis, wenn Ergebnisse nicht mehr vollständig reproduzierbar oder nachvollziehbar sind?
KI-Systeme sind zu _Black Boxes_ geworden, sodass die Arbeit mit ihnen zunehmend erfordert, dass wir als Wissenschaftler*innen transparent offenlegen, was wir im Zuge unserer Forschung mit generativer KI tun. Von technischer Seite aus können wir nur eingeschränkt Transparenz gewährleisten, da wir nicht immer nachvollziehen können, wie die KI zu ihren Ergebnissen oder ihren Fehlern kommt. Menschliche und technologische Fehler vermischen sich in solchen Prozessen und wirken kontingent zusammen, sofern die KI nicht vollständig autonom ist. In diesen Fällen handelt es sich bei den resultierenden Fehlern dann auch nicht mehr um menschliche Fehler, was wiederum die Frage aufwirft, ob die KI noch ein Tool oder schon ein Akteur an sich ist.
Damit verbunden ist auch die Frage danach, was in Mensch-KI-Konstellationen eigentlich mit Expert*innenwissen passiert. In der Diskussion wurde hierzu unter anderem die „Strategie der Nachträglichkeit“ noch einmal aufgegriffen: Wer habe noch die Expertise, um Fehler zu identifizieren und zu entscheiden, was getan werden solle? – Bei Expert*innen auf dem Gebiet der KI-Systeme bleibt nämlich laut Martina Heßler ein Nichtwissen bestehen, auch wenn sie bei der Identifikation von Fehlern etwa deshalb im Vorteil sind, da sie über Strategien im Umgang mit ihnen verfügen. Es gebe Expert*innen des „Nicht-Funktionierens“ in digitalen Umgebungen, das auch für KI-Systeme so werden könnte: So führt die Integration von KI in Prozesse fast aller Ebenen der Arbeitswelt beispielsweise zur Entwicklung neuer Berufe, die so heute noch gar nicht existieren.
Die Arbeit mit KI-Systemen erfordert vor diesem Hintergrund einen gewissen Pragmatismus. Denn ganz gleich wie detailliert ein Arbeitsprozess dokumentiert wird, bleibt ein durch das System verursachtes Nichtwissen zurück. Es bedarf einer grundsätzlichen Akzeptanz der Fehleranfälligkeit unserer Tools, mit denen wir lediglich Plausibilitäten herstellen und analysieren können. Diese müssen wir adressieren und die Konsequenzen daraus in unserer Arbeit berücksichtigen.
Die _Error Literacy_ soll, so Martina Heßler, nicht nur das Verständnis für die Fehleranfälligkeit unserer Systeme fördern, sondern auch dazu beitragen, dass die daraus resultierenden Konsequenzen ernst genommen werden. Denn auch diejenigen Personen, die um die Fehleranfälligkeit der KI wissen, nutzen sie weitgehend unreflektiert, wenn sich ein „negativer Pragmatismus“ einstellt, bei dem die Bequemlichkeit gegenüber einer reflektierten Arbeitsweise überwiegt. Dem gilt es entgegenzuwirken.
Diese Fragen reichen weit über die Geschichtswissenschaft hinaus. Sie betreffen zahlreiche Disziplinen und machen deutlich, dass die Auseinandersetzung mit KI nicht allein eine technische Herausforderung darstellt, sondern eine grundlegende wissenschaftliche und gesellschaftliche Aufgabe ist.
## _Error Literacy_ und _Digital Literacy_ zusammendenken
Für die Digital History ergibt sich daraus eine weiterführende Perspektive: _Error Literacy_ sollte als unabdingbarer Teil im Kontext der _Digital Literacy_ mitgedacht werden. Digitale Kompetenz umfasst längst mehr als die technische Bedienung von Werkzeugen. Sie beinhaltet die Fähigkeit, digitale Infrastrukturen kritisch zu verstehen, ihre Voraussetzungen zu reflektieren und ihre Ergebnisse einzuordnen.
Gerade im Umgang mit KI wird deutlich, dass digitale Methodenkompetenz auch die Fähigkeit umfassen muss, mit Unsicherheit, Fehlern und Nichtwissen umzugehen. _Error Literacy_ , wie sie von Martina Heßler gefasst wird, erweitert _Digital Literacy_ daher um eine entscheidende Dimension: Sie sensibilisiert für die Grenzen digitaler Werkzeuge und stärkt die Fähigkeit, ihre Ergebnisse kritisch zu bewerten.
Der Vortrag von Martina Heßler hat gezeigt, dass die Geschichte technologischer Fehler einen fruchtbaren Zugang zu diesen Fragen eröffnet. Die Beschäftigung mit Fehlern eröffnet nicht nur neue Perspektiven auf Technikgeschichte und KI, sondern verweist auf grundlegende Fragen wissenschaftlicher Praxis. _Error Literacy_ kann damit als eine Schlüsselkompetenz verstanden werden – für die Digital History ebenso wie für eine Gesellschaft, die zunehmend von digitalen Technologien geprägt ist.
Vera Breitner
Alle Beiträge anzeigen
* * *
OpenEdition schlägt Ihnen vor, diesen Beitrag wie folgt zu zitieren:
Vera Breitner (1. Juli 2026). Technologische Fehlbarkeit, Künstliche Intelligenz und die Bedeutung von Error Literacy – Zum Vortrag von Prof.in Dr. Martina Heßler. _Digital History Bielefeld_. Abgerufen am 2. Juli 2026 von https://doi.org/10.58079/16hs4
* * *
* * * * *
digihistbie.hypotheses.org
