Beispiel: Ein Medizin-Computer schätzt durch Datenanalysen die Überlebenschance eines Krebspatienten ein und macht Vorschläge zur Behandlung. Was, wenn er falsch liegt oder manipuliert wurde?

Kernfrage für den Strafrechtler Hilgendorf ist: Was war fahrlässig? Auch hier gilt: Den Computer an sich könne man natürlich nicht belangen. Für Dieter Birnbacher von der Uni Düsseldorf stellt sich in solchen Fällen auch die moralische Frage: Darf ein Automat überhaupt solche gravierenden Schritte gehen? Birnbacher ist Philosoph und sitzt in der Zentralen Ethikkommission der Bundesärztekammer. Er sieht in Deutschland „eine Misstrauenskultur“, wenn es um Medizin 4.0 geht. Digitalisierung in der Medizin sei grundsätzlich nicht verwerflich, „sie ist etwas Hoffnungsvolles“. Aber sie dürfe den Arzt als Mensch an der Seite des Patienten nicht verdrängen. Und: „Es gibt keine risikofreie Digitalisierung.“ Eine Aussage, die auch Hilgendorf umtreibt: Es sei noch nicht klar, wie viel Risiko wir der Technik zubilligen. Der Professor spricht von „erlaubtem Risiko“. Mit Blick auf Recht und Gesetz „ist da noch vieles offen“.