Fallstudie: KI in der Notaufnahme

Es ist nicht die Frage, ob der Einsatz künstlicher Intelligenz (KI) alle Felder unseres Lebens durchdringen wird. Davon bin ich fest überzeugt. Meiner Meinung nach bringt auch die Frage nichts, ob KI genutzt werden sollte oder nicht. Stattdessen sollte die Frage nach dem „wie“ im Vordergrund stehen:

• Wie sollten (automatisierte) Systeme, die auf Algorithmen und dem, was wir heute KI nennen (ob wir es rückblickend immer noch tun werden, wage ich zu bezweifeln) eingesetzt werden? (Und wie nicht)
• Wie stellen wir sicher, dass diese neuen Technologien nicht als Waffen missbraucht werden?
• Wie können wir die Stärken und Chancen stärken und die Schwächen und Risiken schwächen, die mit dem Einsatz von KI verbunden sind?
• Wie gewährleisten wir, dass alle von diesen Innovationen gleichermaßen profitieren und wichtige Kompetenzen im Umgang damit aufbauen?
• Wie sensibilisieren wir die Entwicklerinnen und Entwickler für die möglichen Folgen ihres Tuns?
• Nichtzuletzt: Wie gestalten wir als Gesellschaft die entsprechenden Rahmenbedingungen und Leitplanken?

KI ist nicht per se gut – sie ist aber auch nicht per se schlecht. Dieser Grundgedanke ist ganz wichtig. Selbiges gilt auch für die Menschen. Wenngleich ich glaube, dass jeder Mensch erstmal als guter Mensch geboren wird, so können den einzelnen Menschen Ereignisse, Ängste, Krankheiten, Traumata und vieles mehr doch zu schlechten Handlungen verleiten (die wiederum aus dessen Sicht gut und richtig sind). Und da KI (bisher) auf den Handlungen und Gedanken der Menschen basiert, gilt gleiches auch für KI.

Wir können uns den oben aufgeführten Fragen nähern, indem wir uns in mögliche Szenarien hineinversetzen, die uns die verschiedenen Seiten und Aspekte aufzeigen. So ist nun auch die nachfolgende Fallstudie zu verstehen, mit der ich den Einsatz von KI im Rahmen der Notfallaufnahme in einem Krankenhaus thematisieren und anregen möchte darüber nachzudenken und zu diskutieren.

Situation
Eine weltweite Pandemie bricht aus. Innerhalb kürzester Zeit infizieren sich Millionen von Menschen mit einem neuen und noch unbekannten Virus. Während das öffentliche Leben still steht, kommen die Krankenhäuser schnell an ihre Grenzen. Die Zahl der eingelieferten Patientinnen und Patienten, die sich mit dem Virus infiziert haben, steigt exponentiell an, verdoppelt sich also immer wieder innerhalb kurzer Zeit. Schnell werden die zur Verfügung stehenden Kapazitäten knapp. Sämtliche Betten sind belegt; die zur Verfügung stehenden Atemgeräte sind alle in Betrieb; Medikamente werden knapp. Gleichzeitig fallen immer mehr Ärztinnen, Ärzte und Pfleger*innen aus, weil sie sich selbst mit dem Virus infizieren.

Es ist ein sonniger Tag, als Georg wie jeden Morgen seit 40 Jahren in den Bus steigt. Er liebt seinen Beruf und freut sich jeden Tag aufs Neue darauf. Georg ist Busfahrer und sammelt jeden Morgen auf den vielen Dörfern die Kinder und Jugendlichen ein, um sie in die Schulen der nahegelegenen Stadt zu fahren. Georg ist bei den Kindern und deren Eltern – viele fuhr er selbst schon über viele Jahre zur Schule – sehr beliebt. Alle schätzen ihn für seine liebevolle Art. Georg ist nicht nur Schulbus-Fahrer, sondern auch wichtiger Teil des gesellschaftlichen Lebens der Region, in der viele arme Familien, oftmals mit einem Migrationshintergrund, leben. Wie jeden Morgen lenkt Georg den Bus durch die Straßen. Er hat gute Laune und pfeift ein schönes Lied, einige Kinder in den ersten Reihen summen leise mit. Dann setzt plötzlich Georgs Herz aus. Sein Körper sackt über dem Lenkrad zusammen. Der Bus rast unaufhaltsam auf die große Kreuzung. Die Kinder schreien. Dann knallt der Bus mit einem entgegenkommenden LKW zusammen.
Lara ist Ärztin im städtischen Krankenhaus. Sie liebt ihren Job. Die aktuelle Pandemie bringt sie allerdings auch an die eigenen Grenzen. Lara arbeitet bereits seit 10 Stunden im Krankenhaus, sie bemüht sich für alle Patientinnen und Patienten gleichermaßen da zu sein. Dennoch muss Lara seit einigen Tagen immer wieder schwierige Entscheidungen treffen, nämlich jene, wer auf die Intensivstation aufgenommen werden kann und wer nicht; wer als nächstes an das letzte verfügbare Atemgerät angeschlossen wird; wer warten muss und wer nicht. Lara belastet diese Situation. Sie liegt abends lange wach im Bett und fragt sich immer wieder, ob sie die richtigen Entscheidungen getroffen hat oder nicht.
Plötzlich piepst es. Lara wird in die Notaufnahme gerufen. Mehrere Krankenwagen liefern 20 schwerverletzte Kinder zwischen 7 und 18 Jahren ein. Lara und den anderen Ärztinnen und Ärzten bleiben nur wenige Sekunden Zeit, um sich einen Überblick zu verschaffen und dann zu entscheiden: Wer wird operiert? Wer wird reanimiert? Wer wird ans Atemgerät angeschlossen? Und wer nicht? Und wenn ja, in welcher Reihenfolge?

Frage 1: Wie lassen sich in dieser Situation möglichst viele Menschenleben retten?
Frage 2: Angenommen es gäbe eine intelligente Entscheidungshilfe, die Lara und den anderen Ärztinnen und Ärzten bei der Beantwortung der Frage nach Leben und Tod helfen könnte. Würdest du diese einsetzen und wenn ja/nein, warum?

Information
Alle Patienten und Patienten im Krankenhaus sind mit ihrer digitalen Patientenakte in einer zentralen Software-Plattform erfasst. Die aktuellen Körperwerte werden analysiert und direkt in das System übertragen, so dass umgehend auf Verschlechterungen reagiert werden kann. Da die Software alle relevanten Körperdaten hat, hilft sie dem Personal dabei schnell zu entscheiden, welche Patient*innen als nächstes wie versorgt werden. Auf diese Weise erreicht das Krankenhaus durchgehend die bestmögliche Versorgung seiner Patient*innen. Die neu eingelieferten Kinder werden umgehend gescannt. Schnell erfasst das System die Art sowie den Grad der vorliegenden Verletzung. Gleichzeitig werden die Kinder hinsichtlich anderer (Vor-)Erkrankungen analysiert. Die Software berechnet die wahrscheinliche Lebensdauer, gleicht die Werte mit den anderen Patient*innen und Notfallopfern ab und gibt dann Lara und den anderen Ärztinnen und Ärzten Empfehlungen, wer wann wie versorgt wird.

Frage 3: Würdest du diese Software nutzen und wenn ja/nein, warum?

Szenario A
Die im Krankenhaus engesetzte Software wurde vor einigen Jahren von einem kleinen Start-up entwickelt und dann von einem großen Konzern aufgekauft. Holger, der Gründer des Start-ups, der als Entwickler maßgeblich an der Entwicklung des Algorithmus der Software beteiligt war, macht inzwischen von sich Reden als wichtiger Kopf einer rechtsextremen Bürgerbewegung und engagiert sich in einer rechtsnationalen Partei. In den sozialen Medien hetzt er gegen Frauen und Menschen muslimischen Glaubens, er warnt vor einem großen Bevölkerungsaustausch und ist der Ansicht, nicht alle Leben seien gleiuch viel wert.

Frage 4: Würdest du die Software nutzen und wenn ja/nein, warum?

Szenario B
Die im Krankenhaus engesetzte Software wurde vor einigen Jahren von einem kleinen Start-up entwickelt und dann von einem großen Konzern aufgekauft. Holger, der Gründer des Start-ups, der als Entwickler maßgeblich an der Entwicklung des Algorithmus der Software beteiligt war, macht inzwischen von sich Reden als Philantrop. Er engagiert sich in einer Friedensinitiative und wurde für sein soziales Engagement mit dem Bundesverdienstkreuz ausgezeichnet. In den sozialen Medien ruft er auf zur Unterstützung der Seenotrettung im Mittelmeer und sammelt Spenden für Menschen in Not. Holger ist der Meinung, dass alle Leben gleich viel wert sind.

Frage 5: Würdest du die Software nutzen und wenn ja/nein, warum?

Szenario C
Die im Krankenhaus engesetzte Software wurde vor einigen Jahren von Amazon entwickelt. Über die verantwortlichen Entwicklerinnen und Entwickler ist nichts weiteres bekannt.

Frage 6: Würdest du die Software nutzen und wenn ja/nein, warum?

Szenario D
Die Ärztin Lara ist bei ihren Kolleg*innen und Patient*innen sehr beliebt. Sie gilt als hilfsbereit und freundlich. Was wenige wissen: Lara lebt zusammen mit Steffen, einem Rechtsextremen. In den sozialen Medien hetzt er gegen Homosexuelle und Menschen muslimischen Glaubens, er warnt vor einem großen Bevölkerungsaustausch und ist der Ansicht, nicht alle Leben seien gleich viel wert. Lara liebt Holger sehr, teilt sein Weltbild und beide planen ihre gemeinsame Zukunft.

Frage 7: Würdest du die Software nutzen und wenn ja/nein, warum?

Mach dich frei von den beschriebenen vier Szenarien. Lese den Eingangsfall erneut durch und beantworte die folgende Frage:

Frage 8: Würdest du eine solche Software nutzen und wenn ja/nein, warum?
Frage 9: Unter welchen Umständen würdest du eine solche Software nutzen?
Frage 10: Was sagt deine Antwort über dich selbst und dein eigenes Weltbild aus?

2021. Die Welt steht im zweiten Jahr einer weltweiten Pandemie. Ärztinnen und Ärzte in vielen Krankenhäusern in Europa mussten die so genannte „Triage“ anwenden.

Die Künstliche Intelligenz-App „DeepGestalt“ wurde von Forschenden aus den USA, Israel und Deutschland entwickelt. Die Software kann aufgrund von Porträtfotos mögliche Gendefekte von Kindern erkennen. Hierzu wurde die KI mit über 17.000 Bildern von betroffenen Menschen trainiert. Dieses Training erfolgte spezifisch pro Syndrom, d.h. die Software wurde mit einer bestimmten Anzahl Bildern von Menschen mit jeweils einem ganz bestimmten Syndrom „gefüttert“, analysierte und identifizierte die Merkmale und speicherte die Ergebnisse in einer großen Datenbank ab. Auf die dort hinterlegten Daten greift die Software zu und gleicht diese mit den Bildern von zu analysierenden Menschen ab. Die Treffer-Quote der App lag laut einer Studie im Falle des Angelman-Syndroms bei 92%, während Experten lediglich auf 71% kamen.

Die deutsche Bundesregierung arbeitet an einem Gesetzentwurf zur Weiterentwicklung der Gesundheitsversorgung. Gedanke ist ein Rahmenwerk für ein standardisiertes und bundesweit einheitliches Ersteinschätzungsverfahren für die ambulante Notfallbehandlung im Krankenhaus. Im Gesetzentwurf heißt es:

Ziel des Ersteinschätzungsverfahrens ist die bessere Koordination bei der ärztlichen Behandlung ambulanter Notfälle durch ein Instrument, mit dem ambulant behandelbare Patientinnen und Patienten entweder der ärztlichen Behandlung im Krankenhaus oder der ärztlichen Behandlung in der vertragsärztlichen Praxis zugewiesen werden. Vermieden werden soll, dass Patientinnen und Patienten die ärztlichen Behandlungskapazitäten der Krankenhäuser binden, obwohl kein medizinischer Notfall vorliegt und somit die vertragsärztliche Versorgung mit den in § 95 Absatz 1 Satz 1 genannten Leistungserbrin-gern die sachgerechte Versorgungsebene darstellt. Bei dem Verfahren kann es sich um ein Abfragesystem handeln, welches beim ersten Kontakt zwischen dem Hilfesuchenden und dem Krankenhaus zum Einsatz kommt. Hilfesuchende, die keiner sofortigen ambulanten ärztlichen Behandlung bedürfen, können aufgrund der Abklä-rung der Behandlungsnotwendigkeit schneller identifiziert und in die zutreffende Versorgungsebene gewiesen werden.
(Quelle: bundestag.de)

Frage 11: Wie bewertest du den zitierten Gesetzentwurf?
Frage 12: Welche Punkte sollten deiner Meinung nach unbedingt im Gesetzentwurf thematisiert bzw. aufgenommen werden?

Abschluss-Fragen
Frage 13: Welche Rolle sollte Künstliche Intelligenz (KI) deiner Meinung nach im medizinischen Umfeld spielen?
Frage 14: Unter welchen Rahmenbedingungen und Leitplanken sollte dies geschehen?