Fünf Grundsätze für die Nutzung von KI im Bereich Pharma und Life Science

• KI im Bereich Pharma und Life Science bietet ein enormes Potenzial.

• Die Regulierungsbehörden bieten jedoch noch keine konkreten Richtlinien für die sichere Nutzung von KI in Bezug auf Patientendaten.

• Bei Zühlke haben wir auf Basis unserer Erfahrung in der Durchführung von KI-Initiativen mit führenden Life-Science- und Pharmaunternehmen fünf Grundsätze für KI im Healthcare-Bereich zusammengestellt.

• Diese Grundsätze sollen Ihnen das Vertrauen geben, KI weiter voranzutreiben, und in Zukunft sicher, geregelt und erfolgreich einzusetzen.

KI im Arzneimittel- und Life-Science-Bereich bietet ein enormes Potenzial. Das Fehlen klarer Richtlinien bedeutet jedoch, dass ein Risiko für Patientendaten besteht. Wir zeigen Ihnen daher fünf Grundsätze, die eine sichere und geregelte Nutzung von KI im Bereich Pharma und Life Science ermöglichen.

KI für Pharma und Life Science: Neuland betreten

In weniger als fünf Jahren hat sich die künstliche Intelligenz (KI) vom ersten zugelassenen Medizingerät zu einem gängigen Modewort der Branche entwickelt.

Innerhalb der letzten zwei Jahre gaben mehr als ein Drittel der Führungskräfte aus dem Gesundheitswesen an, dass sie in KI, Machine Learning und Predictive Analytics investieren. Laut Prognosen sollen in diesem Jahr über zweitausend Exabyte Patientendaten generiert werden (ein Anstieg von über 11 000 % gegenüber den im Jahr 2013 erzeugten Daten). Dies ist zweifellos eine großartige, aufregende und entscheidende Zeit für Unternehmen im gesamten Life-Science- und Pharmasektor. Im Vordergrund steht dabei, die künstliche Intelligenz in neuen Bereichen anwenden und Patienten innovative, wirksame und individuelle Lösungen anzubieten.

Doch während der Hype um KI im Pharma- und Life-Science-Sektor größer ist denn je, wird immer mehr Unternehmen bewusst, dass deren Einsatz mit zahlreichen Herausforderungen einhergeht. Eine der größten Herausforderungen ist dabei das Fehlen konkreter Richtlinien, damit Unternehmen genau wissen, welche der der äußerst komplexen Regelungen in der Gesundheitsbranche sie berücksichtigen müssen.

Warum sind diese so komplex? Auch wenn KI und Pharma scheinbar perfekt zusammenpassen – genauso wie KI und Life Science (zum Beispiel weil viele der vorliegenden Daten aus Bildern oder Texten bestehen, bei denen Machine Learning in den letzten Jahren enorme Fortschritte gemacht hat): Bei mangelhafter Datenverwaltung und -nutzung können in diesen Bereichen potenziell katastrophale Folgen auftreten, die in nicht regulierten Umgebungen einfach nicht vorkommen.

Im Unterschied zu den meisten anderen Anwendungen von Machine Learning können im medizinischen Bereich Menschen zu Schaden kommen, wenn Fehler durch automatisierte Systeme vorkommen. Ein Fehler in einem Algorithmus, der prognostiziert, ob ein Nutzer auf eine Onlineanzeige klicken wird oder nicht, wird beispielsweise höchstens zu einem geringen finanziellen Verlust führen. Eine falsche Diagnose (und eine darauffolgende falsche Therapie) kann dagegen im schlimmsten Fall zum Tod eines Patienten führen.

Als eine der wenigen für die Zulassung von Medizinprodukten verantwortlichen Organisationen hat die Lebensmittelüberwachungs- und Arzneimittelbehörde der Vereinigten Staaten (FDA) verschiedene Dokumente veröffentlicht, in denen sie darlegt, wie sie plant, KI-Lösungen in Zukunft zu handhaben. Dazu kommt ein Vorzertifizierungsprogramm für Unternehmen, die medizinische KI-Lösungen zur Zulassung einreichen wollen. Jedoch gibt es bis heute keine konkreten Normen oder Richtlinien für die Entwicklung von KI-basierten Geräten im Healthcare-Bereich. Das hat zu einer Verunsicherung und Unsicherheit bei Unternehmen geführt, die im Bereich KI vorankommen möchten.

Zudem haben viele Forscher und Unternehmen wenig Erfahrung mit den Vorschriften zur Genehmigung von Medizinprodukten. Daher gibt es trotz der täglich veröffentlichten Publikationen zu KI im Gesundheitswesen nur wenige Fälle, in denen die Nutzung von KI in der medizinischen Praxis genehmigt wurde.

Doch wie können Life-Science- und Pharmaunternehmen KI sicher nutzen? Und wie können sie das beweisen? Nicht nur, um Schlimmeres zu vermeiden, sondern auch, um dem guten Ruf ihrer Marke gerecht zu werden und das Vertrauen der Patienten selbst zu bewahren.

Wenn KI schiefläuft

2019 wurde festgestellt, dass ein rassistischer Bias Auswirkungen auf einen häufig verwendeten Algorithmus im Gesundheitswesen der USA hatte. Es stellte sich heraus, dass bei der gleichen Bewertung schwarze Patienten im Durchschnitt viel weniger gesund waren als weiße Patienten. Der Bias führte dazu, dass von allen Patienten, die für die Aufnahme in ein Hochrisiko-Versorgungsmanagementprogramm automatisch vorgeschlagen wurden, nur 17,7 Prozent Schwarze waren. Ohne den Bias wären es rund 46,5 Prozent Schwarze gewesen. Der Bias trat auf, da der Algorithmus Kosten des Gesundheitswesens anstelle von Krankheit prognostizierte.

Bei Zühlke konnten wir im Lauf der Jahre bereits vielen Unternehmen helfen, KI sicher und erfolgreich einzusetzen und dabei die komplexen Regelungen der Life-Science- und Pharmabranche zu berücksichtigen. Anstatt unsere Erfahrungen für uns zu behalten, haben wir nun beschlossen, einen Teil weiterzugeben: fünf Grundsätze, an denen sich unserer Ansicht nach jedes Unternehmen orientieren sollte, wenn es mit KI im Bereich Pharma und Life Science erfolgreich sein will.

Die fünf Grundsätze für die Nutzung von KI im Bereich Pharma und Life Science

1. Good Machine Learning Practices
   Falls Ihr Unternehmen bereits Erfahrung im Bereich Machine Learning sammeln konnte und Ihnen gute Data Scientists zur Verfügung stehen, erfüllen Sie diesen Grundsatz sehr wahrscheinlich schon. Bei den „Good Machine Learning Practices“ geht es hauptsächlich um die richtige Durchführung von Experimenten. Ziel ist es, sicherzustellen, dass Sie sich auf die Ergebnisse Ihrer Analyse verlassen können. Sie sollten etwa darauf achten, dass Sie genau dokumentieren, was Ihr Unternehmen in jeder Phase mit den Daten macht. Idealerweise können Sie hier auf Checklisten zurückgreifen, um sicherzustellen, dass die richtigen Personen immer genau das tun, was sie sollten.
   
   Beispiel: Wenn sich Ihre Teams in den frühen Phasen der Datensatzerstellung befinden, wäre eine „gute Praktik“ das Vorliegen eines festgelegten Datenreferenzstandards. Dieser dokumentiert, wer Ihre Daten labelt, über welche Qualifikationen er oder sie verfügt, welcher Prozess verwendet wird, in welcher Klinik die Daten gelabelt werden, und so weiter.
   
   Ebenfalls ein wichtiger Schritt ist die richtige Aufteilung der Daten in Trainingssätze und Testsätze, sowie deren vollständige Analyse. Stellen Sie sicher, dass die Datensätze tatsächlich die Patienten umfassen, für die das Machine-Learning-Modell später verwendet werden soll. Achten Sie außerdem auf eine verborgene Stratifikation, wie schwere oder harmlose Krankheitsarten, die Sie dazu verleiten könnten, die Leistung Ihres Modells zu überschätzen.
    
2. Richtige Evaluierung
   Hier geht es um die sorgfältige Evaluierung Ihres Machine-Learning-Systems (idealerweise so früh wie möglich) und das ständige Testen in regelmäßigen Abständen. Sie sollten zum Beispiel sicherstellen, dass Ihre Teams Robustheits- und Sensitivitätsanalysen durchführen, Fehler untersuchen, Vergleiche mit einfachen Basismethoden und mit menschlicher Leistung durchführen und die Erklärbarkeit analysieren (mehr dazu im fünften Grundsatz). Die Bewertung der vollständigen Systemleistung, einschließlich der Fachkräfte, die mit dessen Empfehlungen arbeiten sollen, ist ebenfalls äußerst wichtig.
    
3. Reproduzierbare Machine-Learning-Pipelines
   Bei diesem Grundsatz geht es im Wesentlichen darum, über ein dokumentiertes „Rezept“ für Ihren gesamten Code und alle Ihre Daten zu verfügen. So können Sie beweisen, dass Ihr System durchgängig dieselben Ergebnisse erzielt. Außerdem sind Sie in der Lage, spezifische Variablen unter kontrollierten Verhältnissen zu variieren – und dabei alles andere konstant zu halten. Mit diesem „Rezept“ können Sie Transparenz gewährleisten und demonstrieren.
    
4. Risikomanagement
   An diesem Grundsatz führt kein Weg vorbei. Risikomanagement bedeutet in diesem Fall: Sie benötigen unabhängig von der Art oder dem Anwendungsbereich des von Ihnen umgesetzten KI-Projekts ein Verfahren, um systematisch alle möglichen Risiken im Zusammenhang mit der Anwendung der Lösung aufzulisten. Anschließend müssen Sie Wahrscheinlichkeiten für jedes der identifizierten Risiken zuweisen und belegen, dass Schadensbegrenzungsprotokolle vorhanden sind, falls eines der Risiken eintritt (auch wenn dies hoffentlich nicht geschieht).
    
5. Einfache, transparente und interpretierbare Modelle
   Viele Machine-Learning-Modelle sind im Wesentlichen eine Black Box. Das heißt, es ist sehr schwer, ein vollständiges Bild von den Abläufen in einem bestimmten System oder Modell zu erhalten. Leider bedeutet dies, dass Sie – wenn etwas schiefläuft – sehr wahrscheinlich ein schlechtes Ergebnis erklären müssen, ohne die zugrunde liegende Ursache herausfinden zu können.
   
   Davon abgesehen: Selbst wenn Ihr Algorithmus richtige Prognosen erstellt, werden der Arzt und der Patient immer noch wissen wollen (und sie haben das Recht dazu), wie die Prognosen zustande kamen: Welche Symptome und Patienteninformationen veranlassten das System dazu, eine bestimmte Diagnose zu stellen?
   Glücklicherweise gibt es Methoden, die verwendet werden können, um zu zeigen, welche Faktoren ein Modell zur Ausgabe einer Diagnose veranlasst haben. Das eröffnet die Möglichkeit, auch komplexere, moderne Deep-Learning-Algorithmen in medizinischen Anwendungen zu verwenden.

Jenseits von Daten und Algorithmen

Bei den meisten dieser fünf Grundsätze ging es darum, wie Ihr Unternehmen mit den Daten selbst umgeht. Für den Umgang sind dann letztendlich Ihre Data-Science- oder Machine-Learning-Teams verantwortlich. Doch (falls Sie kein Data Scientist sind) was können Sie persönlich tun, um die Erfolgschancen von KI-Projekten zu erhöhen? Was können Sie zum Beispiel als Entscheidungsträger, Abteilungs- oder Geschäftsleiter dazu beitragen, um den Fortschritt voranzutreiben? Die Antwort: eine ganze Menge.

Erstens: Wenn Sie schnell vorankommen und Fehlschläge bei KI weitestgehend vermeiden wollen, sollten Sie am besten einen Experten hinzuziehen, der sich in Ihrer Branche genau auskennt und weiß, wie Sie die Schwachpunkte in Ihrem Unternehmen finden können. Sie benötigen einen Partner, der bereits mit vielen Life-Science- und Pharmaunternehmen zusammengearbeitet hat – jemand, der nicht nur weiß, wie sich die Entwicklung Ihrer Produkte und Lösungen in einer KI-Umgebung beschleunigen lässt, sondern auch, wie sie erfolgreich auf den Markt gebracht werden können.

Zweitens sollten Sie wissen, dass First Mover genau das sind, was die Branche am meisten braucht. Denn nur so kann sich der KI-Bereich entwickeln und Mehrwert für Unternehmen (und letztendlich für Patienten) generieren. Sogar trotz der gegenwärtigen Unsicherheiten im Bereich der Regulierung ist die Wahrscheinlichkeit hoch, dass diese First Mover von ihrem Vorsprung profitieren werden. Das gilt insbesondere dann, wenn sie zu den Unternehmen gehören, die die Basis für zukünftige Projekte schaffen. Wenn Sie also ein Vorreiter des Wandels oder der digitalen Transformation in Ihrem Unternehmen sind: Versuchen Sie Ihren Teams zu verdeutlich, dass jetzt der richtige Zeitpunkt ist, um in das Thema KI einzusteigen.

Wir bei Zühlke befürworten übrigens trotz unseres Enthusiasmus für KI im Bereich Pharma und Life Science keineswegs die Anwendung von KI in jedem Fall. Wenn Sie zum Beispiel ein Phänomen vollständig verstehen, wenig gekennzeichnete Daten für das Training zur Verfügung stehen und Sie gute Ergebnisse mit nicht-maschinell erstellten Modellen erzielen, gibt es wenig Grund zum Einsatz von Machine Learning.

Ihre nächsten Schritte

KI verfügt über das Potenzial, den Gesundheitssektor grundlegend zu verändern.

Damit KI im Pharma- und Life-Science-Sektor im großen Maßstab Erfolg haben kann, müssen die Regulierungsbehörden noch die erforderlichen Richtlinien und Normen für die Anwendung von KI bei regulierten Produkten bereitstellen. In der Zwischenzeit sollten jedoch Unternehmen, die früh einsteigen wollen, bereits erste wohl überlegte Schritte gehen.

Das Beste, was Sie jetzt sofort tun können: sich nach einem Partner umsehen, der Sie bei jedem Schritt auf diesem Weg betreut und sicherstellen kann, dass Sie über alles Wissen und die Instrumente verfügen, die Sie für den Erfolg mit KI benötigen.