Sie begleitet schon heute unser tägliches Leben: Künstliche Intelligenz (KI). Gemeint sind damit selbstlernende Systeme, die Unmengen an Daten verarbeiten können und damit wichtige Steuerungshilfen für den Menschen werden. Oder steuern sie am Ende den Menschen? Werden wir Sklaven unbekannter digitaler Herren und verlieren die Kontrolle über unser eigenes Handeln?
Bayern will bei Künstlicher Intelligenz führend werden
Das wäre die sehr skeptische Lesart. Doch die KI-Pessimisten sind in der Unterzahl. Politisch, wirtschaftlich und wissenschaftlich ist ein regelrechter Wettlauf um KI-Fortschritte entbrannt. Über die Hightech-Agenda pumpt auch der Freistaat Bayern viele Millionen in die Entwicklung – mit dem Ziel, ein international führender Standort für Künstliche Intelligenz zu werden. Mainfranken ist daran beteiligt: Würzburgs Universität baut den Schwerpunkt "Data Science" als wichtigen Knoten in einem bayernweiten Netzwerk auf, die Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt startet einen neuen Robotik-Studiengang und wird Kompetenzzentrum.
International bestimmen vor allem die USA und zunehmend China das KI-Tempo. In Deutschland werden technische Entwicklungen traditionell stärker von ethischen Fragestellungen begleitet: Wie weit darf Künstliche Intelligenz gehen? Wieviel Verantwortung darf der Mensch an die Maschine abtreten? Experten fordern, übertriebenen Ängsten mit Aufklärungsarbeit zu begegnen, gleichzeitig aber auch Grenzen zu definieren – gerade dort, wo es um Leben und Tod geht: in der Medizin.
"KI muss dem Arzt unterworfen bleiben", sagt Professor Georg Ertl, Ärztlicher Direktor des Würzburger Uniklinikums. Es hatte gemeinsam mit der Akademie Domschule zur Expertenrunde eingeladen, um Chancen und Risiken von KI in der Medizin abzuwägen. Möglich ist hier schon vieles – in der Diagnose von Krankheiten, für personalisierte Therapien, die Entwicklung von Medikamenten oder Antibiotika und in der genetischen Analyse.
Im Idealfall werden Mediziner von aufwändigen und lästigen Aufgaben entlastet und haben dadurch mehr Zeit für ihre Patienten. Aber könnte es nicht passieren, dass angesichts des ökonomischen Drucks immer mehr Schritte an den Rechner delegiert werden? Dass Algorithmen die Diagnosen übernehmen und Roboter die Behandlung? Wenn Medizin zunehmend automatisiert würde: Was bleibt dann übrig vom ärztlichen Ethos, das sich dem Menschen zuwendet?
Sie könne ein "mulmiges Gefühl" dabei nachvollziehen, sagt Bayerns Digitalministerin Judith Gerlach (CSU). "Im Gesundheitswesen ist menschliche Zuwendung entscheidend. Keine KI kann sie ersetzen." Es kommt also auf die vernünftige Verbindung zwischen gigantischen künstlichen Datenhirnen, ärztlicher Expertise und Empathie für den Patienten an.
Studien: Wo Künstliche Intelligenz den Medizinern überlegen ist
Dass Künstliche Intelligenz schon heute Radiologen, Pathologen oder Dermatologen überlegen sein kann, belegen Studien. Zigtausende diagnostische Bilder kann ein Rechner in Sekundenschnelle mit einer aktuellen Aufnahme abgleichen und so einen Befund stellen. In einem Versuch zur Diagnose von Schwarzem Hautkrebs nahm es beispielsweise ein Algorithmus des Deutschen Krebsforschungszentrums mit 157 Hautärzten auf. Ergebnis: 136 Mediziner schnitten schlechter ab als der KI-Rechner. In China haben Forscher bereits ein KI-System zur Erkennung von Krankheiten bei Kindern und Jugendlichen entwickelt. Die Daten von 1,3 Millionen Patienten wurden dabei erfasst, um die Software zu trainieren.
Was aber, wenn der Rechner trotz aller Zuverlässigkeit eine falsche Diagnose stellt? Wenn aufgrund eines Computerfehlers die falsche Operation veranlasst wird? Die Frage der Haftung bei einem Versagen ist in der medizinischen KI ebenso wenig geklärt wie etwa beim Unfall eines autonom fahrenden Autos. Professor Thorsten Bley, Leiter des Instituts für Röntgendiagnostik an der Würzburger Uniklinik, wies bei der Tagung noch auf eine weitere Gefahr hin: Hacker könnten Bilddateien manipulieren und zum Beispiel einen vorhandenen Tumor "entfernen" oder ihn ins Diagnosebild einarbeiten. Technisch machbar, wie Versuche demonstriert haben. Mögliche Erpressungsversuche sind also mehr als nur reine Fiktion.
Fragen von Haftung und Gefahren der Manipulation
"Das macht mir Sorge", räumt Radiologe Bley offen ein. Und dennoch überwiegt auch für ihn der mögliche Gewinn durch KI in der Medizin. Bilder können schneller aufgenommen und verarbeitet werden, dies könne Leben retten, etwa bei einer Computertomografie im Fall eines Schwerverletzten nach einem Unfall. Der Rechner verschafft den Ärzten die Möglichkeit zu einer schnelleren Diagnose.
Entscheidend für die Qualität der KI sind die hinterlegten Daten. Um den Rechner zu trainieren, sind sie in Millionenzahl erforderlich. Das wirft die nächste Frage auf: Ist eine KI, die ausschließlich auf Daten chinesischer Patienten basiert, überhaupt in Europa oder in den USA anzuwenden? Wie gut sind Faktoren wie Alter, Geschlecht oder ethnische Herkunft berücksichtigt?
Und schließlich ist da die Frage der Datensicherheit. Auf sie wies bei der Expertenrunde in Würzburg Elisabeth Gräb-Schmidt, Theologieprofessorin in Tübingen und Mitglied im deutschen Ethikrat, hin. Massenhaft erfasste Gesundheitsdaten – etwa bei Vorhersage klinischer Verläufe oder der Wirkung von Medikamenten – könnten missbraucht werden, wenn sie in falsche Hände gelangen. Der gläserne Patient könnte damit in Abhängigkeiten, zum Beispiel vom Arbeitgeber oder der Versicherung, geraten. Er könnte aber auch sein Selbstwertgefühl steigern, wenn er sich von der KI als Gesundheitscoach begleiten lässt. Selbstbestimmt versteht sich. Denn das macht ihn zum Menschen, genauso wie seine Verletzlichkeit. Oder wie es Ethikrätin Gräb-Schmidt formuliert: Es zähle in der Medizin das Menschsein – und "nicht Gesundheit um jeden Preis".
