28. November 2025

Make love not law: Die Hybris der digitalisierten Medizin

Über das absehbare Ende der Würde des Patienten

von Carlos A. Gebauer

Wenn die alten Römer zählten, nutzten sie dazu ihre Finger. Das lateinische Wort „digitus“ kam so zu der Ehre, mehr als nur einen Teil der Hand zu benennen. Und es war der große Philosoph Gottfried Leibniz, der sich im 17. Jahrhundert mit der Frage beschäftigte, ob man nicht alle Zahlen der Welt mit nur zwei Ziffern – Null und Eins – beschreiben könne. Fast 300 weitere Jahre später trat Konrad Zuse auf den Plan. Er konstruierte 1941 den ersten Rechner mit binärer Gleitkommarechnung. Die informationstechnische Binärcode-Welt war damit erfunden. Seither arbeitet die Menschheit daran, alles Gewesene und Seiende in die Darstellung von Symbolketten aus 0 und 1 zu übersetzen. Mehr noch: Der Traum ist geboren, gleich auch die Zukunft mittels Maschinencodes vorhersagen zu können. Mess- und Steuerungstechniker kooperieren mit Probabilistikern und Statistikern, um stochastische Prozesse zu beschreiben. Im Ergebnis reichen alle Finger der Welt nicht mehr aus, ihre Schlussfolgerungen noch zu verstehen. Die reale Welt hat den Überblick im Digitalen verloren.

Was hat das mit Medizin zu tun?

Viel. Denn Gesundheitspolitik, Medizintechnik und Computerindustrie haben sich verbündet, um die Behandlungszimmer zu erobern. In der „Digitalisierung“, sagen sie, liege die Zukunft und das Heil der Medizin. Die Verheißungen sind schier grenzenlos: Per digitalisierter Diagnostik und virtuellen Konsilen sollen Krankheiten perfekt entdeckt und bekämpft werden können. Computergestützte Therapien, ferngesteuerte (gar selbstlenkende) Operationsroboter versprechen kurative Präzision und chirurgische Perfektion. Im wahrscheinlichkeitsmathematischen Resonanzraum der virtuellen Realität sollen Fehler ausgereutet und Qualitätsabweichungen eliminiert werden. Das kumulierte medizinische und pharmazeutische Weltwissen soll mittels akkumulierter Binärcodes punktgenau zu jedem einzelnen Patienten, gegen jede Erkrankung, in Stellung gebracht werden. Die vormalige Heilkunst mit ihrem Versuch, die Wunder des Lebens zu verstehen und auszubalancieren, scheint der Vergangenheit anzugehören. Man muss nur, heißt es, dem Hilfesuchenden mit elektronischer Patientenakte und telematisch infrastruktureller Aufmerksamkeit algorithmisch anzunähern bereit sein.

Was also könnte noch gegen diese schöne neue Welt sprechen?

Der – meist übersehene – Ausgangspunkt einer Gesamtübersetzung der Welt in digitalisierte Binärcodes bringt ein Grundproblem mit sich, das anlagebedingt ungelöst ist: Jede Übersetzung in ein noch so feingliedrig codiertes Abbild schafft nun einmal nur ein Abbild der Welt. Dieses Abbild ist aber eben nicht die Realität, sondern nur eine Erzählung von ihr. Das Erzählte und die Erzählung sind zweierlei. Bewegt man sich in der digitalisiert erzählten Version der Welt, dann verlässt man die Wirklichkeit. Alle Erkenntnisse aus dem Reich der Erzählung sind fiktiv, und sie können nur dann in der Realität wirken, wenn sie aus der Erzählung in die Welt zurückübersetzt werden. Ob die rechnergestützte Diagnose mit einer im Modell erfolgreichen Therapie auch in der Realität zutreffend und heilend sein wird, ist also eine bloße Wahrscheinlichkeitsannahme. Der Schmerz des real therapierten Patienten endet nur, wenn alle seine Spezifika – sein Leib und seine Seele, seine Krankheit und seine Komorbiditäten, seine Überempfindlichkeiten und seine biochemischen Besonderheiten, seine Gewohnheiten und deren Konsequenzen, die Wirkweise der Interventionen und die Wechselwirkungen mit den einzigartigen Gegebenheiten – ursprünglich getreulich in das Binäre übersetzt, algorithmisch verstanden, verarbeitet und rückübersetzt wurden. Neben das herkömmliche Potenzial der Behandlungsfehler treten die Risiken der Übersetzungs- und Berechnungsfehler, das Programmierungs- und das Übertragungsrisiko, die Malfunktion des Gerätes und der Interaktionslapsus der Anwender.

Ein weiterer – ebenfalls regelhaft übersehener – Aspekt tritt hinzu: Auch die beste, rechnerstärkste Künstliche Intelligenz kommt mit einem ähnlichen, anlagebedingten Geburtsfehler daher. Künstliche Intelligenz ist nämlich, wie ihr Name sagt, keine wirkliche Intelligenz, sondern eben nur ein künstliches Konstrukt. Alles, was sie zu „wissen“ scheint, ist kein tatsächliches eigenes Wissen von der Welt, sondern nur ein pfiffig per Algorithmen herbeigezaubertes Scheinwissen von der Realität. Künstliche Intelligenz reproduziert programmdemütig überwiegend wahrscheinliche Erzählungen von der Welt. Ihr Wissensschatz beschränkt sich auf die Erzählung, er erfasst nicht das Erzählte selbst.

Das wiederum macht deutlich, dass alles Scheinwissen der KI von der Welt nur eine Ableitung all dessen ist, was ihre Programmierer ihr – gefiltert nach Maßgabe ihrer eigenen Annahmen, Vorurteile oder Irrtümer – von der Welt erzählt haben oder was die Programmierer an gewissen Weltzuständen automatisiert in die Informationsdatenbanken der KI einfließen lassen. Jede KI jongliert also nur mehr oder minder geschickt mit Romanerzählungen, die ihre programmierenden Autoren ihr eingespeist haben. KI ist in der Lage, in atemberaubender Schnelligkeit aus vorgegebenen Romanen unabsehbar viele neue Romane zu erschaffen. Aber alles, was sie erzählt, sind nur Ableitungen aus Romanen. Der abgebildete Patient auf dem Bildschirm hat sich noch nie schreiend vor Schmerz gekrümmt. Die KI kann allenfalls ein Stöhnen simulieren. Wie ein Papagei, der eben noch panisch um Hilfe gerufen hat, jetzt aber schon wieder ein ausgelassen fröhliches Lachen darbietet. KI ist keine Realität, sondern eine spekulative Fiktion. Im medizinischen Kontext wird sie so zu einem Roulettespiel mit der Gesundheit der digitalisiert geführten Behandlung.

Besonders augenfällig wird der irritierende Glücksspielcharakter der digitalisierten Systeme dann, wenn wir nicht mehr nur binär codierte Abbilder der Vergangenheit oder der Gegenwart betrachten, sondern das spekulative Terrain der Zukunftsfortschreibungen. Immer dann, wenn uns ein algorithmisch programmiertes System von künftigen Weltzuständen erzählt, hat es sich zuvor ein ihm als überwiegend plausibel erscheinendes, mögliches Modell aus seinen Datenspeichern zusammenspekuliert. Die ihm einprogrammierten Erzählungen von der Welt werden also nach Wahrscheinlichkeitskriterien so lange zu einem Szenario zusammengewürfelt, bis ein zum Zeitpunkt der Vorhersage in sich widerspruchsfreies Gesamtbild entworfen ist. Dieses Abbild wird dann als künftige Realität prognostiziert. Wer die Präzision eines inzwischen menschlich unschlagbaren Schachcomputers auch von Rechnern erwartet, die die Zukunft eines ganzen Patienten (oder gar der ganzen Welt) vorhersagen sollen, der unterliegt einem Trugschluss. Denn auf die Gesundheit des Menschen oder auf die Zustände des Planeten wirken mehr als nur 32 Figuren auf 64 Feldern nach abschließend feststehenden Regeln ein.

Alle Versuche, die digitalisierten Abbilder von der Welt so schnell und so nah wie möglich an die abgebildete Realität heranzuführen, müssen unter wahrscheinlichkeitsmathematischen Gesichtspunkten von dem Interesse geleitet sein, so viel wie nur irgend möglich Parallelinformationen von wirklichen Weltzuständen zu erfassen. Das tunlichst grenzenlose Abschleifen von Rundungsdifferenzen führt die Approximalbetrachtung asymptotisch immer weiter an die Tatsächlichkeit heran, glaubt man. Aus dieser Begehrlichkeit erwächst der zwangsläufig grenzenlose Datenhunger der digitalisierten Systeme. Wie ein unerbittlicher Investigativjournalist, wie ein schamloser Buchprüfer oder ein Kriminalkommissar im Jagdfieber sammeln die Datenbanken alle Informationen ein, derer sie habhaft werden können. Sie saugen Informationen ein wie ein Schlund ohne Filter. Und sie teilen ihre Erkenntnisse mit allen Speichern, mit denen sie verbunden sind, um im Geben und Nehmen mit diesen immer wissensmächtiger zu werden. Ihre Algorithmen kennen keinen Schmerz, und ihre KI kennt – vor allem – keine Scham. Deswegen versagt die digitale Welt gerade dort, wo dereinst ärztliche Schweigepflichten die Würde des Patienten schützten. Das Digitale kennt keinen Anstand, denn den kann man nicht programmieren. Den muss man real empfinden.

Zuletzt wird der mächtigste Programmierer angesichts der stets verbleibenden Restunsicherheiten aus Informationslücke und Zeitversatz seiner terminalen Versuchung nicht widerstehen: Wo er die Realität mit seiner Erzählung nicht abschließend erfassen kann, da wandelt er die Informationsrichtung von der aufnehmenden Dokumentation in den ausgehenden Befehl. Dann muss sich die Realität dem Modell beugen – wie ein Sklave vor seinem Herrn. Im Bereich der Medizin ist das das Ende der Würde des Patienten.

Information

Diesen Artikel finden Sie gedruckt zusammen mit vielen exklusiv nur dort publizierten Beiträgen in der am 28. November erscheinenden Dezember-Ausgabe eigentümlich frei Nr. 258.

Anzeigen

Kommentare