Sendungsbild | Bildquelle: Sendungsbild Panorama

Geschäftsmodell Lebenserwartung Der Todes-Algorithmus

Stand: 14.12.2017 02:00 Uhr

Neue Computerprogramme sollen die Lebenserwartung von Menschen möglichst genau berechnen. Ein US-Unternehmen will so teure und vermeintlich unnötige Therapien für Schwerkranke vermeiden. Aber dürfen Entscheidungen über Leben und Tod an Algorithmen ausgelagert werden?

Von Tina Soliman, NDR

"Wir können sagen, welche Patienten in einer Woche, sechs Wochen oder einem Jahr sterben. Wir können zu Behandlungsplänen sagen: Wie viel kostet der Patient?" So wirbt Bill Frist für das auch von ihm gegründete US-Unternehmen "Aspire Health".

Das von Google mitfinanzierte Unternehmen wertet mithilfe von Algorithmen ärztliche Diagnosen von Patienten aus und gleicht das Krankheitsbild mit Mustern häufiger Therapien ab. So soll verhindert werden, dass Schwerkranke unnötige Behandlungen bekommen, die außerdem noch viel Geld kosten. Das spart teure Untersuchungen, wenn man zu wissen glaubt, dass es ohnehin bald um den Patienten geschehen ist.

"Aspire Health" will Kosten senken. Rund 40 Prozent der Ausgaben für Behandlungen könnten eingespart werden, erwartet das US-Unternehmen, das sein Geld mit Palliativpflege verdient. Denn Pflege kostet weniger als Behandlung. Das klingt nach Effizienz. Aber lässt sich die Prognose über den Krankheitsverlauf eines Menschen anhand von Statistiken errechnen? Was ist mit nicht messbaren, aber entscheidenden Faktoren - wie etwa dem Überlebenswillen eines Patienten?

Die eigene Beerdigung vorbereitet

Sendungsbild
galerie

Sie hatte aufgrund ihrer Krebsdiagnose schon ihre eigene Beerdigung vorbereitet - seitdem sind mehr als vier Jahre vergangen.

Vor mehr als vier Jahren erfuhr Monika, dass sie vermutlich nur noch wenige Monate leben würde. Sie litt unter schwarzem Hautkrebs auf fast allen Organen, dazu noch an Brustkrebs. Monika bereitete ihre eigene Beerdigung vor. "Der Bestatter war hier und wir haben die komplette Beerdigung besprochen: Welcher Blumenschmuck gemacht wird, dass ich verbrannt werden möchte, welche Urne - und auf welchem Friedhof. Ich hätte wirklich gehen können", sagt die heute 55-jährige ehemalige Krankenschwester. Ihre Leber drohte zu versagen, Monika hatte bereits die Zusage für einen Hospizplatz. Doch dann die Wende: "Ganz plötzlich, sozusagen über Nacht, entwickelte ich einen unbändigen Überlebenswillen. Ich wollte leben."

Hätte ein Computerprogramm diese Wandlung vorhersehen können? Kevin Baum, Computer-Ethiker der Universität des Saarlandes, warnt vor Schwächen der Algorithmen. Sie urteilten nur auf der Basis der Daten, mit denen sie gefüttert würden, sagt er. "Sie bilden immer nur das Modell eines Menschen ab, nie den Menschen selbst." Nicht beachtete individuelle Eigenschaften, die aber durchaus relevant sein können - wie etwa der Kampfeswille - können somit übersehen werden. Maschinen lernen, aber sie denken und fühlen nicht.

Auch in deutschen Krankenhäusern eingesetzt

"Was eine Maschine nicht kann, ist, eine Einzelfallentscheidung zu fällen", so Baum. Die Idee sei, dass ähnliche Fälle ähnlich funktionierten. "Das muss aber auch nicht unbedingt sein. Wir könnten uns zwei Patienten vorstellen, die beide auf dem Fragebogen die gleichen Antworten gegeben haben, deren Patientenakten genau gleich aussehen. Wir können annehmen, dass das alles in den Algorithmus eingeht. Und trotzdem können wir annehmen, dass der eine Patient nach sechs Monaten tot ist und der andere Patient noch 15 Jahre lebt."

Grundsätzlich spielt die Vorhersage des Todes bereits in vielen Bereichen eine Rolle, etwa bei Lebensversicherungen. Doch Algorithmen setzen sich auch im medizinischen Bereich immer stärker durch. Längst werden sie auch in deutschen Krankenhäusern eingesetzt - in Erwartung von Berechenbarkeit der Lebenserwartung.

Das Leben: ein Betriebsgeheimnis

Sendungsbild
galerie

Onkologe Prof. Wolfgang Hiddemann hält datenbasierte Statistiken für sinnvoll - jedoch nicht von Firmen, die damit Geschäfte machen wollen.

Die Software könne helfen und Therapieentscheidungen unterstützen, sagt der Onkologe Prof. Wolfgang Hiddemann von Klinikum Großhadern in München. Auch er selbst setzt datenbasierte Statistiken als Hilfsmittel ein. "Das sind aber Algorithmen, die von uns selbst entwickelt wurden und bei denen ganz klar ist, auf welcher Grundlage das basiert. Wenn aber Algorithmen entwickelt werden von Firmen, die etwas verkaufen wollen oder die Kosten dämpfen wollen - dann ist das ein Punkt, der mir zu weit geht. Und den muss man in der Umsetzung verbieten", so der Onkologe. 

Start-Ups wie "Aspire Health" legen ihre Algorithmen nicht offen. So wird die Entscheidung über Leben und Tod an eine Firma ausgelagert, deren Manager und Strukturen nicht bekannt sind. Das Leben: ein Betriebsgeheimnis.

Wenn nicht bekannt ist, wer den Algorithmus aus welchen Gründen erstellt - wie das Verhältnis zwischen Eingabe und Ausgabe aussieht - dann kann nur schwer beurteilt werden, ob der Rat der Software taugt oder nicht.

Todesurteil per Mausklick

Lukas Hartmann ist Softwareentwickler und interessiert sich für Lebenszeitberechnung. Er hat eine US-Firma gefunden, die einen Gen-Selbsttest anbietet: Man schickt eine Speichelprobe ein und bekommt eine Analyse des eigenen DNA-Bauplans. Man erfährt etwa, ob man unter einer Erbkrankheit leidet. "23andme" heißt das auch von Google mitfinanzierte Start-Up, das die Entschlüsselung der Erbinformation anbietet. Längst arbeitet die Firma mit  internationalen Pharmafirmen zusammen. 

Für Hartmann war die Auswertung ein Schock: "Es gibt ein neues Ergebnis. Das könnte beunruhigend sein. Wenn Sie hier klicken, können Sie das nicht mehr rückgängig machen", hieß es in der E-Mail des Anbieters. Ihm wurde attestiert, dass er das Risiko habe, eine lähmende Muskelschwundkrankheit, Gliedergürteldystrophie, zu bekommen - und dass das den Tod bedeuten würde. "Das war im ersten Moment natürlich schockierend."

Ein Krankenpfleger in einem Berliner Krankenhaus. | Bildquelle: dpa
galerie

Ziel vieler Programme: Behandlungen, und damit Kosten, einsparen.

Ein Todesurteil per Mausklick. Nun wollte Hartmann genau wissen, wie die Firma zu diesem vernichtenden Ergebnis kam. Da die Trainingsdaten des Algorithmus von "23andme" einsehbar waren, konnte er nachvollziehen, welche Daten bei der Berechnung verwendet wurden. Was er herausfand, ließ ihn aufatmen: Seine todbringende Diagnose basierte auf einem Fehler im Algorithmus. "Die haben sich vertan", sagt er. "Der Fehler war, dass das eine Gruppe von Krankheiten ist, die zu einer Krankheit zusammen gematcht wurden." Er habe einen Marker aus einem Krankheitsbereich gehabt und einen aus einem anderen. "Und die beiden wurden fehlerhaft addiert."

Eine Entschuldigung für die Fehldiagnose erhält er nicht. Man habe den Fehler korrigiert, hieß es bei "23andMe" lapidar. Panorama gegenüber will man sich dazu nicht äußern, ebensowenig wie "Aspire Health". 

"Ich habe Angst vor dieser Gesellschaft"

Diese Rechenprogramme sind, auch wenn sie nüchtern und objektiv erscheinen, Menschenwerk. Und doch werden sie zu Black Boxes, wenn die Maschine sich selbst weiter entwickelt. Selbst die Entwickler wissen nicht mehr genau, wie ihr Geschöpf denkt und weshalb genau die Maschine welchen Lösungsweg gewählt hat. Und doch sollen diese Berechnungen über Leben und Tod entscheiden.

"Wir können nicht zwei alternative Weltläufe betrachten - einen, in dem der Patient nicht überlebt hat, und einen, in dem er es tut. Wir haben immer nur Einzelfälle", mahnt Computerethiker Baum. Und nur ein Leben.

Vor vier Jahren plante Monika ihre Beerdigung. Seitdem gab es viele kostbare Momente in ihrem Leben. Dass ein Algorithmus anzeigen könnte, wann ihre letzte Stunde schlägt, erschreckt sie. "Ich habe Angst vor dieser Gesellschaft. Wie soll das denn weitergehen? Ich male mir nicht eine Zukunft aus, bis ich 80 bin. Ich habe eine aggressive Krebsform und eine Lebenserwartung von einem Monat oder fünf Jahren, aber die will ich leben. Und ich gebe dann auf, wenn ich aufgebe, und nicht, weil mir eine Maschine das sagt."

Über dieses Thema berichtete tagesschau24 am 14. Dezember 2017 um 15:00 Uhr. Außerdem ist es ein Thema in der ARD-Sendung "Panorama" um 21:45 Uhr.

Darstellung: