KI-Diagnose überzeugt Hausärzt*innen weniger als ein gleichwertiger Schnelltest

• Experiment mit dänischen Hausärzt*innen vergleicht Einfluss einer KI-Diagnose mit vertrautem Schnelltest bei identischem Informationsgehalt
• Ärzt*innen passen Einschätzung eines Harnwegsinfektionsrisikos nach KI-Diagnose um 41 Prozent weniger stark an als nach Urin-Schnelltest
• Etwa ein Drittel der Ärzt*innen ignoriert KI-Diagnose fast vollständig, aus Skepsis und Unsicherheit über den Nutzen der KI
• Wer KI nutzt, gewichtet negative KI-Ergebnisse zu schwach und überschätzt redundante Testergebnisse; Antibiotikaverschreibungen könnten unnötigerweise zunehmen
• Schulungen und eine nutzerorientierte Gestaltung von KI-Werkzeugen sind entscheidend, damit Hausärzt*innen diagnostisches Potenzial von KI umsetzen

Die verbreitete Anwendung von künstlicher Intelligenz (KI) verspricht spürbare Produktivitätsgewinne: im Kundenservice, beim professionellen Schreiben und in der Softwareentwicklung erhöht KI-Unterstützung die Menge und Qualität von Arbeitsergebnissen, insbesondere bei weniger erfahrenen Beschäftigten. Bei einer breiteren Betrachtung des Arbeitsmarkts über Beschäftigtengruppen hinweg fallen die gemessenen Produktivitäts- und Lohneffekte sowie die Verbreitung von KI dagegen sehr unterschiedlich aus.infoVgl. Shakked Noy und Whitney Zhang (2023): Experimental Evidence on the Productivity Effects of Generative Artificial Intelligence. Science, 381(6654), 187–192; Anders Humlum und Emilie Vestergaard (2025): The Unequal Adoption of ChatGPT Exacerbates Existing Inequalities among Workers. Proceedings of the National Academy of Sciences, 122(1), e2414972121.

Dies gilt vor allem in Sektoren, in denen Fachkräfte über spezifische Expertise und Erfahrung verfügen und Fehlentscheidungen hohe Folgekosten haben können. Hier sind Entscheidungen die Ergebnisse von Abwägungen menschlicher Expert*innen, die verfügbare etablierte, aber auch zunehmend KI-generierte Informationen mit ihrem eigenen kontext-spezifischen Wissen verknüpfen müssen. Der Nutzen einer KI hängt daher nicht nur von überprüfbaren technischen Merkmalen ab, sondern auch davon, ob und wie spezialisierte Fachkräfte KI-Informationen nutzen und mit ihrem Wissen kombinieren.infoErste Evidenz hierzu liefern ein Experiment mit Radiolog*innen, in dem eine Aufteilung von Entscheidungen und nicht die Kombination von Wissen zwischen der KI und Radiolog*innen am produktivsten war, sowie ein Feldexperiment in nigerianischen Praxen, in dem sich klinische Abläufe durch die Nutzung generativer KI zwar verbesserten, aber nicht die eigentlichen Behandlungsergebnisse. Vgl. Nikhil Agarwal et al. (2023): Combining Human Expertise with Artificial Intelligence: Experimental Evidence from Radiology. NBER Working Paper Nr. 31422; und Jason Abaluck et al. (2026): Does LLM Assistance Improve Healthcare Delivery? An Evaluation Using On-Site Physicians and Laboratory Tests. NBER Working Paper Nr. 34660.

Die hausärztliche Versorgung ist ein Paradebeispiel für ein solches Entscheidungsumfeld: Diagnostische Informationen sind knapp und Entscheidungen müssen unter Zeitdruck getroffen werden. Eine am DIW Berlin entstandene Studie untersucht diesen Bereich anhand einer landesweiten Umfrage und eines Experiments mit dänischen Hausärzt*innen.infoVgl. Shan Huang, Renke Schmacker und Hannes Ullrich (2026): AI Adoption by Human Experts: Evidence from Primary Care Physicians. DIW Discussion Paper Nr. 2168 (online verfügbar, abgerufen am 4. September 2026. Dies gilt auch für alle anderen Online-Quellen dieses Berichts, sofern nicht anders vermerkt). An der Untersuchung, durchgeführt im Jahr 2025, nahmen 21,5 Prozent aller dänischen Hausarztpraxen teil, insgesamt 372 Hausärzt*innen. KI wird dort bereits heute genutzt: 48 Prozent der Befragten gaben an, generative KI-Werkzeuge in der Praxis zu nutzen; eine vergleichbare Befragung unter britischen Hausärzt*innen kam ein Jahr zuvor auf einen Anteil von 20 Prozent.infoVgl. Charlotte R. Blease et al. (2024): Generative Artificial Intelligence in Primary Care: An Online Survey of UK General Practitioners. BMJ Health & Care Informatics, 31(1), e101102. Rund 49 Prozent der dänischen Befragten erwarten einen hohen Nutzen von KI bei der Diagnostik. KI wird zwar vermehrt für Diagnosezwecke entwickelt und zugelassen, aber es ist unklar, ob und wie KI bei konkreten diagnostischen Entscheidungen genutzt wird.

Im Experiment der DIW-Studie wird die Qualität der diagnostischen Information konstant gehalten und nur ihre Quelle verändert. So kann untersucht werden, wie Hausärzt*innen eine KI-generierte Diagnose im Vergleich zu einem etablierten Schnelltest in Diagnose- und Verschreibungsentscheidungen einbeziehen. Hierfür werden Behandlungssituationen betrachtet, in denen die Diagnose von Harnwegsinfektionen – eine der am häufigsten behandelten Erkrankungen in dänischen HausarztpraxeninfoVgl. Betsy Foxman (2002): Epidemiology of Urinary Tract Infections: Incidence, Morbidity, and Economic Costs. The American Journal of Medicine, 113 (1, Supplement 1), 5–13.– im Mittelpunkt stehen.

Bakteriell verursachte Harnwegsinfektionen werden hauptsächlich mit Antibiotika behandelt. Um Antibiotikaresistenzen einzudämmen, sollten Antibiotika jedoch nur eingesetzt werden, wenn die Diagnose hinreichend sicher ist. Dies stellt Ärzt*innen vor eine Herausforderung, da typische Symptome einer Harnwegsinfektion auch durch nicht-bakterielle Ursachen hervorgerufen werden können. Beim ersten Kontakt wird in der Regel eine Symptombeschreibung aufgenommen, über mögliche Faktoren, die eine Infektion begünstigen können, gesprochen, und eine Urinprobe abgenommen, die anhand eines ungenauen Schnelltests vor Ort oder in einem Labor sehr viel genauer untersucht werden kann.infoÄrzt*innen stützen sich meist auf eine Reihe von Urin-Schnelltests, die Hinweise auf Leukozyten und Nitrit liefern, aber nur eingeschränkt genau sind. Vgl. Anastasiya Chernaya, Christian Søborg und Mette Midttun (2022): Validity of the Urinary Dipstick Test in the Diagnosis of Urinary Tract Infections in Adults. Danish Medical Journal, 69(1), A07210607. Eine gesicherte Diagnose aus dem Labor liegt häufig erst nach zwei bis vier Tagen vor. Die Entscheidung, ob unmittelbar mit einer Antibiotikabehandlung begonnen oder gewartet wird, fällt jedoch bereits beim ersten Patientenkontakt. Gerade in dieser Situation kann KI einen Mehrwert bieten, indem sie zusätzliche, zum Zeitpunkt der Behandlung verfügbare Informationen (zum Beispiel aus früheren Infektionen, Laborergebnissen, Krankenhausaufenthalten oder Verschreibungen) nutzt, um die Wahrscheinlichkeit einer bakteriellen Infektion vorherzusagen.infoKonkret können Methoden des maschinellen Lernens anhand zahlreicher beobachtbarer Faktoren den Befund der mikrobiologischen Laboranalyse vorhersagen. Vgl. Michael A. Ribers und Hannes Ullrich (2019): Künstliche Intelligenz und Daten können bei der Eindämmung von Antibiotikaresistenzen helfen. DIW Wochenbericht Nr. 19, 335–341 (online verfügbar).

Ärzt*innen reagieren auf KI-Diagnose schwächer als auf den vertrauten Schnelltest

Um den Effekt der Signalquelle (Schnelltest oder KI-Diagnose) von deren inhaltlicher Qualität zu trennen, entwickelt die Studie ein kontrolliertes Experiment: 372 Hausärzt*innen aus 346 Praxen – mehr als ein Fünftel aller dänischen Hausarztpraxen – beurteilen hypothetische Patientenfälle mit typischen Symptomen einer Harnwegsinfektion. Für jeden Fall schätzen sie zunächst die Wahrscheinlichkeit einer bakteriellen Infektion und treffen eine vorläufige Behandlungsentscheidung. Anschließend erhalten sie, zufällig zugeteilt, entweder eine KI-Diagnose oder ein Schnelltest-Ergebnis. Im Fall der KI-Diagnose wird beschrieben, welche Arten von Daten in die Analyse einfließen (einschließlich des Schnelltest-Ergebnisses). Ebenso wird angegeben, dass das verwendete KI-Modell erfolgreich klinische Studien durchlaufen hat. Sowohl Schnelltest als auch KI liefern ein einfaches Ergebnis in Form von „positiv“ oder „negativ“, mit einer identischen statistischen Genauigkeit (80 Prozent Sensitivität, 60 Prozent Spezifität).infoDie Sensitivität ist die Wahrscheinlichkeit, dass der Test positiv ausfällt, wenn eine Infektion vorliegt. Die Spezifität ist die Wahrscheinlichkeit, dass der Test negativ ausfällt, wenn keine Infektion vorliegt. Auf Grundlage der jeweils erhaltenen Informationen können die Ärzt*innen ihre Ersteinschätzung beibehalten oder anpassen. Wer ausschließlich auf den Informationsgehalt reagiert, sollte die Einschätzung unabhängig davon ändern, ob das Ergebnis von der KI oder vom Schnelltest stammt.

Im vorliegenden Experiment weichen die Einschätzungen der Ärzt*innen zwischen den beiden Signalquellen jedoch deutlich voneinander ab. Nach einem Schnelltest-Ergebnis ändern die Ärzt*innen ihre Einschätzung der Infektionswahrscheinlichkeit im Schnitt um 18,5 Prozentpunkte, nach einer KI-Diagnose dagegen nur um 10,9 Prozentpunkte (Abbildung). Das entspricht einer um 41 Prozent schwächeren Reaktion auf die KI. Der Unterschied lässt sich nicht durch eine allgemeine Skepsis gegenüber den mitgeteilten Genauigkeitswerten erklären: Weitere Tests der Studie zeigen, dass Ärzt*innen Angaben zur diagnostischen Güte durchaus ernst nehmen und ihre Einschätzung entsprechend anpassen, wenn ihnen höhere Sensitivitäts- und Spezifizitätswerte mitgeteilt werden, sowohl beim Schnelltest-Signal als auch beim KI-Signal.

Etwa ein Drittel der Ärzt*innen ignoriert die KI nahezu vollständig

Hinter dem Unterschied in der durchschnittlichen Nutzung verbergen sich deutliche Unterschiede zwischen einzelnen Ärzt*innen. Rund ein Drittel (34 Prozent) der Ärzt*innen reagiert so gut wie gar nicht auf das KI-Signal: In den meisten Fällen verändern sie ihre Einschätzung um weniger als drei Prozentpunkte. Die übrigen zwei Drittel beziehen die KI-Information dagegen substanziell in ihre Entscheidung ein und reagieren auf ein positives KI-Signal sogar genauso stark wie auf ein positives Schnelltest-Ergebnis. Auf ein negatives KI-Signal reagieren jedoch auch sie weniger stark.

Wer das KI-Signal nicht nutzt, unterscheidet sich von den Nutzenden kaum in Alter, Geschlecht oder Praxisgröße – auch nicht in Kennzahlen der Verschreibungsqualität wie der Rate leitliniengerechter Antibiotikawahl oder vermeidbarer Krankenhauseinweisungen wegen Harnwegsinfektionen. Auch die allgemeine Vertrautheit mit generativer KI unterscheidet sich nicht zwischen denen, die das KI-Signal nutzen, und denen, die das KI-Signal nicht nutzen. Allerdings arbeiten Ärzt*innen, die die KI im Experiment nutzen, häufiger in Praxen, die bereits digitale Technologien wie Video- oder E-Mail-Sprechstunden verwenden. Auch aufwändigere Diagnose-Werkzeuge wie die Mikroskopie, deren Verwendung spezieller Schulungen bedarf, kommen dort häufiger zum Einsatz. Die Nutzung des KI-Diagnosewerkzeugs scheint damit eher der allgemeinen digitalen und diagnostischen Ausrichtung einer Praxis zu folgen als individuellen Eigenschaften der Ärzt*innen oder ihrer bisherigen Verschreibungspraxis.

In offenen Freitextantworten begründen KI-Nutzende ihre Entscheidung meist damit, dass die KI zusätzliche, sonst nicht verfügbare Informationen verwende und mit einer nachvollziehbaren Genauigkeit arbeite. Ärzt*innen, die die KI im Experiment nicht nutzen, äußern dagegen Skepsis gegenüber dem Werkzeug, empfinden es als intransparent und sind unsicher, wie sie das Ergebnis in ihre Entscheidung einordnen sollen.infoHaftungs- oder Verantwortungsfragen, die in politischen Debatten zu KI im Vordergrund stehen, werden nicht als Grund angegeben. Dies könnte sich durch das dänische Haftungsrecht erklären lassen, in dem einzelne Ärzt*innen bei Behandlungsfehlern kaum persönlich haftbar gemacht werden. Vgl. Patienterstatningen: Oplysningspligt; Styrelsen for Patientsikkerhed (2026): Tilsyn i tal, Mai 2026 (online vergfübar). Aus den Freitextantworten lässt sich die geringere Nutzung der KI damit insbesondere auf Unsicherheiten darüber zurückführen, ob und wie das Werkzeug nützliche Informationen liefert.

Systematische Unterschiede bei Nutzung der KI

Auch unter den Ärzt*innen, die das KI-Signal grundsätzlich nutzen, zeigen sich systematische Verzerrungen. Die Studie identifiziert zwei Muster, nach welchen die Ärzt*innen von einer optimalen, sogenannten bayesianischen Berücksichtigung von Information, abweichen (Kasten 1). Diese Abweichungen spiegeln sich nicht nur in den Einschätzungen von Wahrscheinlichkeiten wider, sondern übertragen sich auch auf die Verschreibungsentscheidungen.

Stärkere Aussagekraft negativer KI-Signale wird ignoriert

Der verwendete, weitläufig bekannte Schnelltest weist eine höhere Sensitivität (80 Prozent) als Spezifität (60 Prozent) auf. Das heißt, er ist besser darin, eine Infektion korrekt auszuschließen, als sie korrekt zu bestätigen. Ein negatives Ergebnis ist deshalb aussagekräftiger als ein positives und sollte die Einschätzung stärker verändern. In der medizinischen Praxis etabliert sich diese Logik häufig über Merkregeln: Ein hochsensitiver Test hilft, eine Erkrankung durch ein negatives Ergebnis auszuschließen.

Im Experiment reagieren Ärzt*innen auf ein negatives Schnelltest-Ergebnis deutlich stärker als auf ein positives. Sie wenden die Regel also korrekt an, auch wenn die über eins liegenden Werte auf eine etwas zu starke Gewichtung hinweisen. Für das KI-Signal gilt dies nicht, obwohl eine mit dem Schnelltest identische Sensitivität und Spezifität kommuniziert wird. Ärzt*innen reagieren nahezu gleich stark auf ein positives und ein negatives KI-Ergebnis, obwohl das negative Signal objektiv fast doppelt so aussagekräftig ist.

Korrelierte Signale werden als unabhängig angesehen

Die Studie untersucht zusätzlich, ob Ärzt*innen ein KI-Signal abhängig davon verwenden, ob es bereits bekannte Informationen beinhaltet oder vollständig auf tatsächlich neuen Informationen beruht, die für die Ärzt*innen nicht direkt zugänglich sind. Vor allem bei der Verwendung von Signalen, die keine neuen Informationen beinhalten, sind Verzerrungen bei der Anpassung von Einschätzungen ein bekanntes Phänomen (Kasten 2).

Um dies zu untersuchen, erhalten die Ärzt*innen in einem zweiten Teil des Experiments sowohl ein KI-Signal als auch ein Schnelltest-Ergebnis. Der zusätzlich gezeigte Schnelltest bietet keine neue Information und ist für eine rational urteilende Person redundant.infoDa das KI-Signal das Schnelltest-Ergebnis enthält, ist dieses vollständig redundant, wenn die KI die Information aus dem Schnelltest optimal verwendet. Ist dies nicht der Fall, nimmt die Redundanz ab. Für eine zufällig gewählte Hälfte wird das KI-Signal jedoch so konstruiert, dass es den Schnelltest, anders als im ersten Teil, nicht beinhaltet. Für diese Hälfte sind beide Signale tatsächlich unabhängig voneinander und liefern gemeinsam mehr Information als jedes einzelne für sich. Eine bayesianisch urteilende Person sollte in dieser Situation deutlich stärker auf das zusätzliche Signal reagieren.

Die Ärzt*innen unterscheiden die beiden Situationen jedoch kaum. Ihre Einschätzung ändert sich nach dem zusätzlichen Schnelltest-Ergebnis nahezu identisch, unabhängig davon, ob dieses tatsächlich neue Information enthält oder nicht. Dies kann weder durch bloße Verwirrung über das neu eingeführte Signal noch dadurch erklärt werden, dass Ärzt*innen das KI-Signal ignorieren und sich nur auf den Schnelltest verlassen. Ein ähnlicher Umgang mit verschiedenen Informationsquellen wurde bereits bei Radiolog*innen für bildgebende KI-Signale dokumentiert, was auf eine grundlegende Herausforderung hindeutet.infoVgl. Agarwal et al. (2023), a.a.O.

Antibiotikaverschreibungen könnten zunehmen

Im Experiment verschreiben Ärzt*innen nach einem positiven KI-Signal (KI sagt Status „bakterielle Infektion“ voraus) nicht signifikant mehr Antibiotika als nach einem positiven Schnelltest. Dagegen verschreiben sie bei einem negativen KI-Signal 31 Prozent häufiger Antibiotika als nach einem negativen Schnelltest-Ergebnis.

In dieselbe Richtung beeinflussen die Verzerrungen bei der Verwendung beider Signale die Verschreibungsentscheidungen. Sahen Ärzt*innen zunächst nur ein positives KI-Signal und danach zusätzlich einen positiven, aber redundanten Schnelltest, verdoppelte sich der Anteil der Antibiotikaverschreibungen nahezu.

Fazit: Sorgfältige Gestaltung und Schulung entscheiden über den Nutzen von KI in der Arztpraxis

Der Nutzen KI-gestützter Diagnostik hängt nicht allein von deren statistischer Genauigkeit ab, sondern auch davon, ob und wie Ärzt*innen die von der KI bereitgestellte Information verwenden. Ein Drittel der Ärzt*innen in der vorliegenden Studie ignoriert die KI-Diagnose weitgehend, und selbst unter den Nutzenden können unvertraute, asymmetrische und teils redundante Signale zu mehr statt weniger Antibiotikaverschreibungen führen. Angesichts wachsender Antibiotikaresistenzen ist dies ein unerwünschter Nebeneffekt, der sowohl bei der Entwicklung diagnostischer KI als auch bei ihrer Einführung in die Praxis berücksichtigt werden sollte.

Auch in Deutschland gewinnt der KI-Einsatz in der hausärztlichen Versorgung an Bedeutung. Seit dem 1. Oktober 2025 sind alle Praxen verpflichtet, die elektronische Patientenakte zu nutzen, wodurch perspektivisch mehr Patientendaten für diagnostische KI-Anwendungen zur Verfügung stehen könnten.infoVgl. Bundesministerium für Gesundheit: Die ePA für alle (online verfügbar). Seit dem 1. Oktober 2025 sind bundesweit alle Praxen, Krankenhäuser und Apotheken verpflichtet, die elektronische Patientenakte zu nutzen. Die Bundesärztekammer betont in einer aktuellen Stellungnahme, dass die Verantwortung für Diagnose und Therapie stets ärztliche Aufgabe bleiben müsse, und warnt ausdrücklich vor unreflektiertem Vertrauen in automatisierte Empfehlungen.infoVgl. Bundesärztekammer (2025): Stellungnahme „Künstliche Intelligenz in der Medizin“, Vorstand am 14. Januar 2025. Deutsches Ärzteblatt, 122(4). Die vorliegenden Ergebnisse legen jedoch nahe, dass in der Praxis auch das entgegengesetzte Risiko besteht: zu geringes statt zu großes Vertrauen in KI-Signale sowie eine unzureichende Einordnung ihrer statistischen Eigenschaften. Gezielte Schulungen und eine praxisnahe, nutzerorientierte Gestaltung von KI-Werkzeugen können dazu beitragen, beide Risiken der Über- und Unterreaktion zu reduzieren.

Transparenz und Erklärbarkeit genügen allerdings nicht, damit KI richtig eingesetzt wird. In der DIW-Studie bestehen systematische Fehleinschätzungen, obwohl Sensitivität und Spezifität der KI explizit angegeben und erklärt werden. Experimentelle Evidenz zeigt zudem, dass transparente Modelle das Erkennen von KI-Fehlern sogar erschweren können und die Gefahr besteht, dass bestehende Fehleinschätzungen eher bestätigt als korrigiert werden.infoVgl. Forough Poursabzi-Sangdeh et al. (2021): Manipulating and Measuring Model Interpretability. Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems, 1–52; Kevin Bauer, Moritz von Zahn und Oliver Hinz (2023): Expl(AI)ned: The Impact of Explainable Artificial Intelligence on Users’ Information Processing. Information Systems Research, 34(4), 1582–1602. Andere Evidenz zeigt, dass Erklärungen helfen können, wenn sie sichtbar machen, wie eine KI-Diagnose von der eigenen Logik abweicht. Vgl. Moritz von Zahn et al. (2025): Knowing (Not) to Know: Explainable Artificial Intelligence and Human Metacognition. Information Systems Research, im Erscheinen. Die Befragungen dänischer Hausärzt*innen und Patient*innen zeigen, dass die Akzeptanz der KI-Ergebnisse von professioneller Autonomie, einer reibungslosen Einbindung in bestehende Arbeitsabläufe und einer unveränderten Arzt-Patienten-Beziehung abhängt.infoVgl. Julie G. Mikkelsen et al. (2023): Patient Perspectives on Data Sharing regarding Implementing and Using Artificial Intelligence in General Practice – A Qualitative Study. BMC Health Services Research, 23(1), 335. Die Gestaltungsaufgabe besteht damit darin, ärztliche Kontrolle und Verantwortung zu erhalten und zugleich zu verhindern, dass systematische Fehler in der Informationsverarbeitung den Nutzen der KI entwerten.

In der DIW-Studie konnte zwar nur eine einmalige KI-Nutzung untersucht werden, die Ergebnisse unterstreichen aber die Bedeutung systematischer Evaluierungen medizinischer KI-Werkzeuge nach ihrer Einführung in die klinische Praxis.infoInsbesondere sollte untersucht werden, wie sich die KI-Nutzung verändert, wenn Vertrauen und Wissen durch wiederholte Anwendung wachsen. Erste Evidenz aus der Radiologie zeigt, dass die Nutzung von KI mit wachsender Erfahrung zunimmt. Auch die Ablehnung von KI nimmt ab, ohne jedoch vollständig zu verschwinden. Vgl. Paul Goldsmith-Pinkham, Chenhao Tan und Alexander K. Zentefis (2026): Human-AI Collaboration in Radiology: The Case of Pulmonary Embolism. arXiv Preprint arXiv:2601.13379. Ein aktueller Kommentar in einer führenden medizinischen Fachzeitschrift fordert entsprechend, nicht allein die technische Genauigkeit zu prüfen, sondern zu untersuchen, wie sich ärztliche Einschätzungen, Arbeitsabläufe und letztlich Behandlungsergebnisse durch den Einsatz von KI verändern.infoVgl. Show Us the Evidence for the Value of Medical AI [Editorial] (2026). Nature Medicine, 32, 1163. Sowohl die Medizinprodukteverordnung als auch die EU-KI-Verordnung sehen eine Überwachung nach dem Markteintritt vor, die unter anderem die Leistung, Sicherheit und Gebrauchstauglichkeit eines Systems berücksichtigen soll.infoVgl. Verordnung (EU) 2017/745 über Medizinprodukte, insbesondere Art. 83–86 zur Überwachung nach dem Inverkehrbringen und Anhang III zu deren Anforderungen (online verfügbar), sowie Verordnung (EU) 2024/1689, insbesondere Art. 72 zur Beobachtung nach dem Inverkehrbringen und Art. 73 zur Meldung schwerwiegender Vorfälle (online verfügbar). Da die tatsächliche Leistung solcher Systeme davon abhängt, wie menschliche Expert*innen ihre Ergebnisse interpretieren und mit anderen Informationen kombinieren, sollte das Monitoring auch systematische Fehler und Verzerrungen in der menschlichen Verarbeitung von KI-generierten Informationen erfassen.