Wenn Algorithmen unser Leben durchrechnen
Dr. rer. nat. Karin Greulich-BodeDeutschland gibt Milliarden für Gesundheit aus und landet bei der Lebenserwartung in Westeuropa trotzdem fast am Ende des Rankings. Für Ethiker:innen eine „verpasste Präventionschance“. An einem Wintermorgen stehe ich im Flur der Abteilung „Künstliche Intelligenz in der Onkologie“ in Heidelberg. Hinter den Türen: Videokonferenzen, Programmcode, Datensätze. Das Ziel: den Krankheitsverlauf von Millionen Menschen Jahrzehnte im Voraus zu berechnen und Präventionsfenster zu öffnen. Wie viel unserer Zukunft wären wir bereit, auf die Vorhersagen eines Algorithmus zu setzen?
Als ich an diesem Morgen in den Flur der Abteilung „Künstliche Intelligenz in der Onkologie“ trete, habe ich die Daten des neuen Public Health Index vor Augen: Deutschland auf Platz 17 von 18 bei Präventionsmaßnahmen, 40% aller Krebsfälle sind prinzipiell vermeidbar. Der Flur ist kühl, rechts und links Büros mit Wissenschaftler:innen, in Videokonferenzen, auf Bildschirme starrend. Kein Ort, an dem man die Lösung für eine gescheiterte Präventionspolitik vermuten würde. „Hi, ich bin Moritz“, sagt Moritz Gerstung. Die Hierarchien in der Wissenschaft sind flach. Gerstung ist Physiker und leitet die Abteilung „Künstliche Intelligenz in der Onkologie“ am Deutschen Krebsforschungszentrum in Heidelberg. Für einen Tag darf ich Teil einer internationalen Arbeitswelt sein, die zwischen Statistik und Programmcode um nichts weniger ringt als um perfekte Risikomodelle für Krebs. Prävention ist besser als jede Therapie. Und trotzdem fließt im deutschen System ein Großteil der Mittel in teure Behandlungen statt in verhinderbare Risiken. Genau an diesem Widerspruch setzt das Heidelberger Projekt an: Wenn Menschen und Politik nicht aus Prinzip präventiv handeln, vielleicht tun sie es, wenn Wahrscheinlichkeiten drastisch konkret werden.
Delphi-2M: Wetterbericht für 1.200 Krankheiten
Bevor ich mit Gerstung und seinem Team in den Seminarraum zum Gruppenmeeting gehe, erklärt er mir das Modell, das ihren Alltag prägt: Delphi-2M. Es funktioniert ein wenig wie ein Sprachmodell, nur dass es keine Sätze vorhersagt, sondern Krankheitsverläufe. Diagnosen, Zeitpunkte, Lebensstilfaktoren werden zu Sequenzen, aus denen das System Wahrscheinlichkeiten berechnet. Das Modell kann für etwa 1.200 Diagnosen Verläufe erstellen, inklusive Phasen von Gesundheit, akuten und chronischen Erkrankungen. „Es ist ein bisschen wie bei der Wettervorhersage“, sagt er, „wir bewegen uns im Bereich der Wahrscheinlichkeiten, aber wir konnten zeigen, dass sich 99% der Erkrankungen zumindest zu einem gewissen Grad vorhersagen lassen.“ Delphi-2M könnte Früherkennungsprogramme an Risikogruppen anpassen und perspektivisch jedem Einzelnen anzeigen, wo das persönliche Fenster für Prävention am größten ist. Nach externen Modellrechnungen könnten in Deutschland jährlich bis zu 165.000 Krebs-Neuerkrankungen verhindert werden. Diese Schätzungen stammen nicht aus Gerstungs Team, zeigen aber die Größenordnung des Potenzials. Doch schon in diesem ersten Gespräch fällt das Wort, das sich wie ein roter Faden durch den Tag ziehen wird: Vertrauen. In Daten, in Algorithmen, in das Gesundheitssystem.
Fake-Bilder und stille Zweifel
Gerstungs Gruppe hat sich im abgedunkelten Seminarraum versammelt: 12 Menschen, 8 Nationen. „Aired enough?“, fragt Gerstung, als wir den Raum betreten, und öffnet das Fenster einen Spalt: „Luft zum Denken“ soll bleiben. Und Luft für Zweifel. Der erste Vortrag gehört Darui Jin, einem ruhigen Postdoc, der sich durch histologische Bilder arbeitet wie ein Restaurator durch Fresken. Darui zeigt Aufnahmen, die später einmal automatisiert ausgewertet werden sollen. Er spricht über Schnittdicken, Färbeintensitäten, Artefakte – all die unscheinbaren Variablen, die aus einem Datensatz eine Herausforderung für jede KI machen. Darui demonstriert, wie er die Variablen kontrolliert und das Modell zwingt, echte Muster von Scheinmustern zu unterscheiden. Am Ende projiziert er Bilder an die Wand und lässt das Team raten, welche künstlich erzeugt sind. Einige stehen auf, gehen dicht an die Leinwand, diskutieren über kleine unscharfe Punkte, die verraten, wo der Algorithmus geschummelt hat. Die Grenze zwischen technischer Brillanz und trügerischer Perfektion ist schmal. „Der Kampf um wissenschaftliche Aufmerksamkeit wird zum Kampf um Vertrauen“, hat der Philosoph Christian Uhle über KI in der Forschung gesagt. Und genau das liegt hier in der Luft: Die Gruppe trainiert nicht nur Modelle, sie trainiert ihr Misstrauen.
Ein Blutwert, der nicht ins Bild passt
Der zweite Referent ist Shuyang Fan, von allen nur Shawn genannt. Er stellt seine Idee vor, Delphi-2M mit Blut- und Urinwerten der Probanden aufzurüsten. Die Erwartungen sind hoch: Mehr Daten liefern scheinbar bessere Vorhersagen über 10, 15, 20 Jahre. Doch nach wenigen Minuten bleibt die Präsentation an einem einzigen Blutwert hängen, der nicht ins Bild passt. Hinten im Raum sitzt Artem Shmatko, ein Datenwissenschaftler mit scharfem Blick, der Delphi-2M in- und auswendig kennt. Artem lehnt sich zurück, runzelt die Stirn und sagt in die Stille: „I think it’s feasible, but internally I question it.“ Die Gruppe fragt nach möglichen Quellen, dem zeitlichen Abstand zwischen Blutabnahme und nächstem Ereignis. Sie diskutieren, ob ein Wert „repariert“ werden muss oder ob es ehrlicher ist, ihn als Unsicherheit zu dokumentieren und trotzdem mit ihm weiterzuarbeiten. Ein geplanter dritter Vortrag fällt aus, die Diskussion ist zu ergiebig. Diese Stunde zeigt, wie Vertrauen in solche Modelle überhaupt entsteht: Nicht aus blindem Glauben an Algorithmen, sondern aus der Bereitschaft, die eigenen Modelle infrage zu stellen. Als das Seminar offiziell endet, stehen die meisten auf, aber der wissenschaftliche Austausch geht weiter: Shawn, Artem und Gerstung gewichten und entkräften die in der Diskussion um den widerspenstigen Blutwert aufgekommenen Ansätze, um das weitere Vorgehen zu schärfen.
Was Delphi-2M leisten soll
Delphi-2M ist ein KI-Modell, das ähnlich wie ein Large-Language-Model (LLM) arbeitet – nur dass es keine Sätze, sondern Krankheitsverläufe „weiterschreibt“. Es verarbeitet elektronische Gesundheitsdaten, in denen Diagnosen, Alter, Geschlecht und einfache Lebensstilfaktoren wie Rauch- oder Alkoholkonsum dokumentiert sind, und lernt daraus typische Muster von Multimorbidität über den Lebenslauf. Für mehr als 1.000 ICD-10-Diagnosen berechnet es Wahrscheinlichkeiten, mit denen eine Erkrankung als Nächstes auftritt – und wie sich dieses Risiko über Jahre verändert. In Studien zeigt das Modell für viele häufige Erkrankungen Vorhersagequalitäten im Bereich etablierter klinischer Scores und kann darüber hinaus individuelle Verläufe über bis zu 2 Jahrzehnte simulieren. Aus onkologischer Sicht ist interessant, dass sich Risiken nicht mehr nur für einzelne Tumorentitäten, sondern im Kontext der gesamten Krankengeschichte und der relevanten Begleiterkrankungen abschätzen lassen. Perspektivisch könnte ein Modell wie Delphi-2M genutzt werden, um Früherkennungs- und Präventionsprogramme stärker risikobasiert auszurichten und Patient:innen gezielt dann anzusprechen, wenn ihr persönliches „Fenster für Prävention“ besonders groß ist. Bevor ein solches System in den onkologischen Alltag einzieht, braucht es jedoch klinische Studien, eine sorgfältige Evaluation in unterschiedlichen Versorgungskontexten und eine Zulassung als Medizinprodukt.
Public Health, Datenmüll und eine Wette
12 Menschen, eine kleine Küchenzeile, mitgebrachte Lunchboxen und eine Packung Marshmallows in einer Sprache, die ich nicht lesen kann. Zwischen Thermoskanne und Wasserfilter mischen sich persönliche Geschichten mit großen Public-Health-Zahlen und die Zukunft der Prävention. Ich erzähle von einem Problem, das viele Patient:innen kennen: Einträge in der Krankenakte, die nie korrigiert wurden, Verdachtsdiagnosen, die als Fakten stehen bleiben, Lücken, die niemand bemerkt hätte. „Garbage in – Garbage out“, sagt jemand. Und zum ersten Mal trifft mich dieser Satz nicht als abstraktes Prinzip, sondern als konkrete Bedrohung für ein Modell, das aus Gesundheitsdaten Krebsrisiken ableiten will.
Artem erklärt, wie sauber strukturierte Daten aus Großbritannien und Dänemark die Entwicklung von Delphi-2M ermöglicht haben, während deutsche Routinedaten noch immer in heterogenen Systemen liegen und meist nur aggregiert zugänglich sind. Das neue Forschungsdatenzentrum Gesundheit soll das ändern; 60 Millionen gesetzlich Versicherte könnten das größte nationale Gesundheitsregister Europas bilden. Aber wie viel ist ein Algorithmus wert, dessen Datengrundlage man nicht vollständig kontrollieren kann? „How much would you bet on that outcome?“, fragt Gerstung: „Würdest du deinen Monatslohn darauf setzen?“ Vertrauen wird in dieser Küche plötzlich messbar; nicht in Prozentpunkten, sondern in Euro.
Handschrift, Monte Carlo und Modellvarianten
In Gerstungs Büro finden die „1:1-Gespräche“ statt, in denen es tief ins Detail geht und damit in das Vertrauen in das Modell. Zusammen mit ihm und Shawn schaue ich auf einem Bildschirm auf Kurven, die zeigen, wie die Vorhersagen von Delphi-2M nach 10 Jahren leicht unscharf werden. Shawn erklärt, wie er die Langzeitprognosen stabilisiert hat und wechselt dabei zwischen Laptop und seinem Notizbuch, dessen Seiten voller Formeln und kleiner Skizzen sind. „Mit der Hand geht es schneller als mit dem Computer“, sagt er, als sei es das Natürlichste der Welt, dass Big Data in Heften beginnt. Von Gerstung ein knappes „Yes“ hier, ein „I agree“ da. Alles ok, passt so. Dann der Ritterschlag: Ein „Interesting!“. Ein Ausgangspunkt für neue Erkenntnisse! Man sieht, wie Shawn diese Anerkennung motiviert. Die Notizen werden fotografiert und an die Wand gepinnt, damit aus flüchtiger Handarbeit kollektives Gedächtnis wird. Neben dem Bildschirm stapeln sich Skizzen und neue Modellvarianten; ein stiller Kommentar dazu, wie aus sehr menschlichen Grundlagen wie Fehlern, Zweifeln und Schmierzetteln Modelle entstehen, die später einmal über klinische Entscheidungen mitbestimmen könnten.
Streit um Daten: Wer darf mitlesen? Und wozu?
Am Nachmittag treffe ich Christoph Schickhardt, Medizinethiker in Heidelberg, der sich seit Jahren mit Gesundheitsdaten und deren ethische Verwendung beschäftigt. Ich will mit ihm über die Bedingungen sprechen, unter denen Modelle wie Delphi-2M eingesetzt werden dürften. Für ihn gibt es eine moralische Pflicht zur Datenspende. Aber nur, wenn Datenschutz und gesellschaftlicher Nutzen gewährleistet sind. In Deutschland werden derzeit Strukturen aufgebaut, um die Nutzung der Routinedaten z.B. für Forschungszwecke zu legitimieren. Er hält die bestehenden Regeln für einen brauchbaren Ausgleich und würde seine Patientendaten grundsätzlich teilen. Aber nicht mit Akteuren außerhalb des europäischen Rechtsraums.
Für Cindy Körner, Krebsforscherin, Patientin und inzwischen eine der lautesten Stimmen im Patientenbeirat, ist die Vertrauensfrage noch persönlicher. Ihre eigene Krankenakte ist voller Verdachtsdiagnosen, die nie gelöscht wurden. „Garbage in – Garbage out“ ist für sie ein Störgeräusch im eigenen Lebenslauf. Körner sieht Datenteilen im deutschen und europäischen Rahmen fast als eine „demokratische Geste“, solange Bias und Ungleichheiten nicht einfach reproduziert werden. Sie verweist auf benachteiligte Gruppen wie Personen mit Sprachbarrieren oder mit Zeitnot wegen Care-Arbeit, die in Studien oft fehlen und deren Lebensrealität in vielen Datensätzen nicht vorkommt. Ein KI-Modell ist eben nur so gerecht, wie die Daten und Strukturen dahinter. Vertrauen in Präventions-KI heißt auch Vertrauen darin, dass Angebote so gestaltet sind, dass nicht wieder diejenigen profitieren, die ohnehin schon besser versorgt sind.
Risiko erzählen: kranke Gesunde und das Recht, nichts zu wissen
Später, als der Flur ruhiger wird, kehrt das Gespräch zur Frage zurück, wie man Risiken hilfreich kommuniziert. Relative Risiken, so Schickhardt, werden häufig dramatisiert: „Es klingt schlimm, wenn ich sage, du hast ein 5-fach erhöhtes Risiko. Aber wenn das absolute Risiko bei 0,01% liegt, ist selbst das 5-Fache immer noch sehr gering.“ Prädiktives Wissen kann „kranke Gesunde“ erzeugen: Menschen ohne Symptome fühlen sich durch Risikoinformationen bereits krank, ohne dass sich objektiv etwas verändert hat. Deshalb pocht Schickhardt auf das Recht auf informationelle Selbstbestimmung und das Recht auf Nichtwissen, die Möglichkeit zu sagen: „Ich will, dass meine Daten nur für meine Behandlung genutzt werden, und bestimmte potenzielle Befunde möchte ich gar nicht erfahren.“ So will Körner beispielsweise nur über Risiken informiert werden, wenn es konkrete Handlungsmöglichkeiten gibt. Von Risiken ohne Option zur Veränderung möchte sie nichts wissen.
In den Fluren, durch die ich morgens gegangen bin, schien Krebsprävention eine Frage von Rechenleistung, Datensätzen und Modellentwürfen zu sein. Jetzt wirkt sie wie ein fein austariertes Vertrauensspiel: Zwischen Menschen und Systemen, zwischen Wissen und Nichtwissen. Zwischen Algorithmen, die Wahrscheinlichkeiten ausspucken, und Leben, die sich nicht in Kurven zwängen lassen.
Vertrauen als Voraussetzung für Präventions-KI
Am Abend ist der Flur fast leer, die Türen sind jetzt geschlossen, nur irgendwo summt noch ein Rechner. Auf dem Weg nach draußen laufe ich an den Postern vorbei, deren Kurven und Diagramme vom Versuch erzählen, Krankheitsverläufe in Zahlen zu fassen – und damit Zeitfenster für Prävention sichtbar zu machen. Delphi-2M wird, wenn überhaupt, frühestens in 5-10 Jahren im Alltag von Beratungen auftauchen: Es braucht klinische Studien, Auswertungen, eine Zulassung als Medizinprodukt, bevor ein Algorithmus mitentscheiden darf, wann ein Screening oder eine Therapie sinnvoll ist.
Wie beim autonomen Fahren, das seit Jahren mit beeindruckenden Prototypen wirbt und doch nicht flächendeckend unterwegs ist, hinken auch in der Medizin Haftungsfragen, Akzeptanz und Ethik der Technik hinterher. Jede Datenpanne, jede Fehlprognose kann Vertrauen zerstören, das sich nur langsam wieder aufbauen lässt. Gleichzeitig ist das Potenzial enorm – nicht für „Durchschnittsmenschen“, sondern für konkrete Personen mit konkreten Risikoverläufen, die wissen wollen, wo ihr individuelles Fenster für Veränderung liegt.
In Gerstungs Büro liegen handschriftliche Formeln, Schmierzettel und neue Modellvarianten nebeneinander auf dem Tisch. „We are not slaves of our history“: Risiken seien keine Urteile, sagt Gerstung, sondern Ansatzpunkte für Veränderung. Ob Modelle wie Delphi-2M dieses Versprechen einlösen, wird weniger von Rechenleistung abhängen als von einer anderen Frage: Vertrauen wir genug, um unsere Daten zu teilen – und misstrauen wir klug genug, um rechtzeitig Grenzen zu ziehen?