Hautkrebs-Diagnose: Kann KI den Arzt ersetzen?
Dermatologe Philipp Tschandl forscht daran, wie Künstliche Intelligenz bei der Diagnose von Hautkrebs helfen kann – und stößt dabei auf schwierige ethische Fragen.
„Kennen Sie das?“, sagt Philipp Tschandl, und zeigt auf einen lila Sticker mit der Aufschrift „NOYB“ auf seiner Bürotür. Die befindet sich irgendwo hinter dem Ambulanzbereich 7J im notorisch verwirrenden Wiener Allgemeinen Krankenhaus (AKH); und der Sticker gibt einen ersten Einblick in die Welt und Weltsicht des 36-Jährigen.
Mehr Forschungsreisen
NOYB steht für „None Of Your Business“ und ist die NGO des österreichischen Datenschützers Max Schrems. Philipp Tschandl schätzt dessen Arbeit sehr, nicht zuletzt, weil er als KI-Forscher selbst mit großen Datenmengen hantiert. Tschandl forscht mit seinen Kollegen an einer Schnittstelle zwischen Medizin und Künstlicher Intelligenz (KI), konkret arbeitet er an bilderkennender KI, die Hauttumore mittlerweile genauso gut oder sogar besser erkennt als ein Dermatologe.
Negativ gesagt: erschreckend
Deshalb weiß er um die Gefahren, die mit KI und Big Data einhergehen können. Er hat nicht nur einen Sticker an seiner Bürotür angebracht, sondern auch persönliche Konsequenzen gezogen. Bei verschiedensten Tech-Unternehmen hat Tschandl Datenabfragen gemacht, um herauszufinden, welche Daten sie von ihm haben – und das war „positiv gesagt erstaunlich und negativ gesagt erschreckend“, erzählt er. „Man sieht plötzlich eine riesige Auflistung von Fotos von einem, an die man sich gar nicht mehr erinnern kann. Die sind halt irgendwo im Internet gelandet und dann für immer aus der Hand.“
Seine Konsequenz daraus: Bild- und Tonaufnahmen von sich radikal zu reduzieren. Er bittet bereits vorab, für diesen Artikel nicht erkenntlich fotografiert zu werden. „Vielleicht bin ich zu paranoid, das bin ich durchaus bereit zuzugeben.“ Aber niemand wisse, wohin die Reise gehe, etwa mit Deepfakes, deshalb „ist meine individuelle Haltung vorerst eine Warteposition.“ Das ist nicht immer ganz einfach.
„Wie macht man Wissenschaftskommunikation, ohne abgebildet werden zu wollen?“, fragt Tschandl, hauptsächlich sich selbst. Er hat keine definitive Antwort auf diese Frage; und viele andere auch nicht. Im besten Sinn: Tschandl denkt laut nach, er wägt ab, zweifelt. Auch an seinem eigenen Forschungsgebiet.
Hautkrebs wird gut erkannt – aber reicht das?
Ja, Hauttumore werden von der KI mittlerweile gut erkannt, aber: „Das gilt für ein experimentelles Setting, es ist nicht das echte Leben“, sagt er. Bei einer prospektiven Studie, einer solchen also, die die Wirksamkeit der Behandlungsmethode mit einschließt, hatten die menschlichen Diagnostiker wieder die Oberhand. Dazu muss man wissen: Hautkrebs ist nicht gleich Hautkrebs. Ein Melanom ist ein sehr gefährlicher, invasiver Tumor, der sofort behandelt werden muss. Aber es gibt auch andere Tumore, die weit weniger Sorgen machen sollten. Das Basalzellkarzinom oder die aktinische Keratose sind so häufig, „dass sie im Krebsbericht der Statistik Austria gar nicht erst erfasst werden“, erzählt Tschandl.
„Hautveränderungen, die man als Arzt als eher unproblematisch gesehen hätte, werden von der KI auf einmal als problematisch markiert.“
Philipp Tschandl
Für eine australische Studie wurde ein Hautkrebs-Screening von Männern älter als 60 Jahre durchgeführt, mit einem überraschenden Ergebnis: Das Screening sorgte für unzählige Eingriffe, um eher harmlose Tumore zu entfernen – und diese Eingriffe mit all ihren Nebenwirkungen bei älteren Patienten sorgten für mehr Probleme als es die Tumore getan hätten, hätte man sie in Ruhe gelassen.
Wann soll die KI Alarm schlagen?
Dasselbe könnte nun wegen KI passieren: „Hautveränderungen, die man als Arzt als eher unproblematisch gesehen hätte, werden von der KI auf einmal mit einem roten Balken als problematisch markiert. Diesen roten Balken kriegt man nicht mehr raus aus den Köpfen von Patienten. Da muss man als Arzt ein übermäßiges Selbstbewusstsein haben, um zu sagen, das schneiden wir jetzt nicht raus“, sagt Tschandl.
Soll also die KI trainiert werden, harmlosere Tumore nicht zu erkennen? Oder soll der Arzt selbst entscheiden dürfen, wie genau die KI arbeiten soll, nach welchen Parametern sie Alarm schlägt? Ist es ethisch richtig, diese Tumore einfach zu ignorieren? Schließlich sind auch diese nicht in allen Fällen komplett harmlos und müssen vielleicht irgendwann entfernt werden. „Man kommt, wenn man ins Detail geht, in sehr komplizierte Probleme hinein“, sagt Tschandl.
Er selbst kennt beide Seiten der Medaille, hat als Dermatologe noch ein Studium der medizinischen Informatik dran gehängt. „Warum? Vielleicht, weil man zu sehr Österreicher ist und meint, man muss Titel holen“, sagt er. Jetzt hat er zwei Fachgebiete und sagt, dass es schon interessant war, „ein anderes Feld nochmal von vorne zu lernen“. Letzten Endes – der Zweifel wieder – ist er sich aber nicht sicher, wie sinnvoll das wirklich war. „Es macht auch manches wieder komplizierter, wenn man dann anfängt, alle Dinge immer aus beiden Blickwinkeln zu betrachten. Vielleicht ist es die effizientere Lösung, man ist Spezialist für eine Sache und konzentriert sich genau auf das.“
Alleine zuhause mit der Hautkrebs-Diagnose
Aber jetzt ist es schon zu spät, und Tschandl gezwungen, alles von beiden Seiten durchzudenken. Und da gibt es viel zu tun. Es gibt beispielsweise schon Apps, mit denen Menschen selbst zuhause Muttermale screenen können. Auf den ersten Blick eine gute Sache. Aber was, wenn die App etwas Bedenkliches entdeckt? „Die Frage ist schon, ob damit nicht mehr Schaden angerichtet wird, weil man als Patient zu Hause verrückt wird und keinen Ansprechpartner hat, was jetzt eigentlich zu tun ist und ob das ein Problem ist oder nicht. Man hat im ersten Moment einfach nur Angst. Die in der Regel unbegründet ist“, sagt Tschandl.
Man muss eigentlich hoffen, dass manche Dinge wegautomatisiert werden.
Philipp Tschandl
Ärzte könnten sich auch von der KI beeinflussen lassen, weil sie ihr zu sehr vertrauen. Teil einer Studie von Tschandl war ein Experiment, bei der Mediziner eine Diagnose stellten und von der KI gegenteilige, absichtlich falsche Diagnose zurückbekamen. „Unsere Hoffnung war, dass die Mediziner total robust sind und sagen, das ist ein Blödsinn. Zumindest bei einem gewissen Prozentsatz war das nicht so, das war ein bisschen erschreckend.“ Tschandl glaubt und hofft, dass es dem experimentellen Setting geschuldet war: „Wenn man einen echten Menschen vor sich hat und echte medizinische Entscheidungen trifft, ist das hoffentlich ein bisschen anders.“
Eine KI ist immer nur so gut wie ihre Daten
Macht es ihm als Arzt Angst, dass KI die Gesundheitsversorgung schleichend automatisieren wird? Nicht wirklich: „Wir leben in einer Zeit, wo wir immer weniger Arbeitskraft haben und immer mehr Menschen alt und krank sind. Da muss man eigentlich hoffen, dass manche Dinge wegautomatisiert werden.“ Nachsatz: „Das Problem ist, man darf halt nicht jedem glauben, der einem das verspricht.“
Weshalb er darauf pocht, dass diese KI-Systeme selbst entwickelt werden sollten. Denn einerseits sind sie nur so gut wie die Daten, mit denen sie gefüttert werden. „Das Trainieren von Modellen, ist das nette Plus. Aber die Daten sind das, was relevant sind“, sagt Tschandl. Und: „Im medizinischen Bereich würde ich sagen, dass jeder große Krankenanstaltenverbund in Österreich ausreichend Daten hat, um solche Dinge selber in die Hand zu nehmen.“ Andererseits ist es natürlich trotzdem relevant, wie die Modelle trainiert werden. Das hat nicht zuletzt das Fiasko um Googles Bildgenerator Gemini gezeigt, der so sehr auf Diversität getrimmt war, dass sogar KI-generierte deutsche Wehrmachtssoldaten eine dunkle Hautfarbe hatten.
Bei wem die KI den Hautkrebs besser findet
Bei den Tumor-erkennenden KI-Systemen gibt es das umgekehrte Problem: „Der Algorithmus ist hauptsächlich an hellen Hauttypen trainiert“, sagt Tschandl – und erkennt deshalb auch Tumore bei hellen Hauttypen am besten. Ist das rassistisch oder zielgruppengerecht? Denn der Grund, warum die Modelle hauptsächlich an hellen Hauttypen trainiert ist, ist ein simpler: je heller der Hauttyp, desto höher die Wahrscheinlichkeit für Hautkrebs. Und deshalb stammen die Daten, mit denen ein Modell gefüttert werden kann, fast zwangsläufig von solchen Patienten.
„Die Voreingenommenheit, die ein System lernt, entspricht in diesem Fall auch der Realität.“ Aber die Frage, sagt Tschandl, bleibt trotzdem: „Vertraut man jetzt diesem Modell? Es kommt dann vielleicht doch ein Patient mit dunklem Hauttyp, der einen Tumor hat und der ist dann unterversorgt in diesen Systemen.“
Es sind tatsächlich komplizierte Fragen, mit denen sich Philipp Tschandl tagtäglich herumschlagen muss. Die Antworten kann er aber nicht alleine geben, die müssen wir als Gesellschaft finden.
Über diese Serie
Unter dem Titel „Forschungsreisen“ präsentieren wir spannende Forschungsprojekte aus ganz Österreich. Der Pragmaticus war bereits zu Gast beim „Austrian Space Weather Office“ in Graz, bei Markus Hengstschläger, der gerade an Embryoiden forscht, beim ISTA in Klosterneuburg, wo Francesco Locatello an kausaler KI forscht und im Naturhistorischen Museum, wo am Bestand der Blatthornkäfer geforscht wird sowie bei Elisabeth Mertl vom OFI, die daran forscht, wie Tierversuche in Zukunft vermieden werden können.
Mehr zum Thema Medizin
Wie wir Krankheiten besiegen
Antibiotika: Resistenz auf Rezept
5 Gründe gegen das Kalorien zählen
Unser Newsletter
Post vom Pragmaticus
Unser Newsletter. Jede Woche das Wichtigste in Ihrem Posteingang.