Herausforderungen bei der Ausschöpfung des vollen Potenzials von Generative AI
Generative AI verfügt über ein immenses Potenzial im Gesundheitswesen, doch die praktische Umsetzung bringt große Herausforderungen mit sich. Eine der größten Hürden ist die Datensicherheit, die im Gesundheitswesen von entscheidender Bedeutung ist. Der Schutz der Privatsphäre und der Rechte von Patient:innen müssen beim Einsatz von Generative AI unbedingt gewährleistet sein. Darüber hinaus ist es wichtig, spezielle Filter in Lösungen einzusetzen, um das Potenzial für falsche oder schädliche Inhalte zu minimieren.
Beim Einsatz von Generative AI in Ihrem Unternehmen gilt es, all diese Faktoren zu berücksichtigen. Um Generative AI nutzen zu können, müssen Sie sich auf die von anderen bereitgestellten, vortrainierten Modelle verlassen, da das Training eigener Modelle zu kostspielig wäre. OpenAI hat daher das ChatGPT zugrunde liegende Modell über eine Programmierschnittstelle (API) zugänglich gemacht. Erst eine Feinabstimmung des Modells oder die Verwendung Ihrer eigenen Daten machen es für Ihre persönlichen Zwecke nutzbar.
Das Modell wird darauf beschränkt, nur Fragen zu beantworten, die auf den von Ihnen bereitgestellten Daten beruhen. So können Sie die vom Modell produzierten Ergebnisse bis zu einem gewissen Grad steuern. Durch eigene Qualitätskontrollen ist eine zusätzliche Anpassung möglich, bevor das Resultat den Endnutzer:innen angezeigt wird.
Der Nachteil: Bei einer derartigen Nutzung können Sie nicht verhindern, dass sensible Daten zu OpenAI hochgeladen werden, wenn Sie deren Modell oder ein anderes kommerziell verfügbares Modell verwenden. Es kommen jedoch ständig neue Modelle auf den Markt, die zum Teil auch lokal laufen, sodass ein problematischer Datenaustausch verhindert und der Datenschutz leichter gewährleistet werden kann. Dabei ist jedoch zu beachten, dass viele dieser Modelle aktuell nur zu Forschungszwecken lizenziert werden können.
Der Einsatz von Generative AI im Gesundheitswesen könnte jedoch auch größere ethische Implikationen haben, die ebenfalls gründlich beleuchtet werden müssen. Es ist schwierig, alle Folgewirkungen dieser neuen Technologie vorherzusehen. So wäre es denkbar, dass Patient:innen künftig eher einem Chatbot vertrauen als medizinischem Fachkräften, was wiederum sowohl negative als auch positive Folgen haben könnte. Zunächst muss jedenfalls eine gründliche Risikoanalyse des jeweiligen Szenarios durchgeführt werden. Von den Risiken und potenziellen Schäden wird es abhängen, ob der gesamte Use Case geändert werden muss oder andere Vorkehrungen getroffen werden können.