Wie entwickelt man verantwortungsvolle KI?

Innovative Lösungen, basierend auf künstlicher Intelligenz (KI) und Machine Learning (ML) bieten grosses Potenzial in unterschiedlichen Anwendungsfällen – insbesondere auch in den Bereichen Medizin und Nachhaltigkeit. Zentral ist dabei ein verantwortungsvoller Umgang mit den neuen technologischen Möglichkeiten.

Bei Zühlke sind wir überzeugt, dass Künstliche Intelligenz einen positiven Einfluss auf unsere Gesellschaft und auf die Umwelt haben wird. Innovative KI-Lösungen in der Medizintechnik können zum Beispiel durch optimierte Diagnosen das Behandlungsergebnis für betroffene Personen verbessern. Das Personal im Gesundheitswesen wird durch die Automatisierung der Verwaltung entlastet und kann mehr Zeit für Patienten aufwenden.

Aber auch in anderen Bereichen, etwa bei der Nachhaltigkeit, kann KI eine Schlüsselrolle spielen. Beispielsweise können Energieverbrauch und CO2-Emissionen durch die Optimierung von Verkehrsnetzen und die Überwachung der Abholzung von Wäldern reduziert werden. KI kann in allen Branchen eingesetzt werden, um lästige Aufgaben zu automatisieren. Das verbessert die Arbeitsbedingungen für Mitarbeitende in allen Bereichen.

Der Honeymoon ist vorbei

KI und Machine Learning galten lange als Wundermittel für alles. Doch inzwischen kam es bei einigen grösseren Umsetzungen erste Rückschläge. So empfehlen Instagram-Algorithmen jungen Menschen Diät-Inhalte, KI-gestützte Personalvermittlungsdienste diskriminieren Frauen, und obwohl hunderte von KI-gestützten Anwendungen zur Erkennung von COVID entwickelt wurden, waren nur wenige hilfreich. Die Liste negativer Anwendungsbeispiele lässt sich beliebig fortsetzen.

Regulatorien müssen keine Innovationsbremse sein

Solche Fehler lassen sich mit den richtigen Ansätzen vermeiden. Die Entwicklung einer verantwortungsvollen und vertrauenswürdigen KI ist nicht nur zur Vermeidung von Reputationsschäden oder Kosten aufgrund von Umsatzeinbussen und verlorener Kundschaft empfehlenswert. Bald schon wird sie auch gesetzlich vorgeschrieben sein. Die EU hat bereits im April 2021 ihre Absichten im Hinblick auf die Reglementierung von KI auf offiziell kommuniziert.

Viele befürchten, dass diese Massnahme Innovationen ausbremst. Unsere Erfahrungen mit KI in der Medizintechnik, einem Bereich, der schon lange reglementiert ist, zeigen aber, dass solche Hürden mit den richtigen Rahmenbedingungen überwunden werden können. Derartige Reglementierungen stellen kein Innovationshindernis dar, sondern fördern qualitativ hochwertige Lösungen und stellen sicher, dass während des gesamten Entwicklungsprozesses bewährte ML-Praktiken angewandt und häufige Fallstricke vermieden werden. Auch wenn die neuen Vorschriften noch nicht feststehen, deuten erste Mitteilungen der Europäischen Union darauf hin, dass sie den Vorschriften für den Bereich Medizintechnik ähnlich sein werden – mit Fokus auf Risikobewertung und Risikominderung.

Das ethische KI-Framework

Verantwortungsvolle KI umfasst ethische Aspekte, Anforderungen an die Interpretierbarkeit und Nachhaltigkeit entlang der gesamten Entwicklungskette – von der ersten Entscheidung über den Beginn der Entwicklung einer Anwendung bis hin zur Interaktion des Nutzers mit dem Endprodukt. Auf der Grundlage langjähriger Entwicklungserfahrung mit ML-Anwendungen im reglementierten Bereich der Medizintechnik hat Zühlke die gewonnenen Erkenntnisse in die Entwicklung von Rahmenkonzepten für ethische und interpretierbare KI übertragen und erweitert. Die Rahmenkonzepte decken mehrere Ebenen des Entwicklungsprozesses ab – die Daten, das Modell und die menschliche Interaktion. Dabei handelt es sich um praktische Frameworks, aus denen klar hervorgeht, welche Überlegungen in jeder Phase der Umsetzung angestellt werden müssen und wie die Rollen und Verantwortlichkeiten verteilt sind.

Genau wie bei reglementierten Produkten der Medizintechnik bewertet ein ethisches Rahmenkonzept potenzielle Risiken und Schäden, die durch die Anwendung verursacht werden könnten. Aufgrund der Risikoeinschätzung werden Abhilfemassnahmen empfohlen, die notwendig sind, um mit der Entwicklung fortfahren zu können. Das Framework stellt sicher, dass die entwickelten KI-Anwendungen mit den Unternehmenswerten im Einklang stehen, und es verringert das Risiko unbeabsichtigter Folgen.

Die Ebenen des Frameworks

Das interpretierbare KI-Rahmenkonzept

Die Arbeit mit interpretierbarer KI ist eine Grundvoraussetzung, um die Konformität der endgültigen Anwendung zu gewährleisten. Dieses Framework ist daher fester Bestandteil des ethischen Rahmenkonzepts, kann aber auch für sich allein verwendet werden.

Die personenzentrierte Ebene des Frameworks verschafft der nutzenden Person Klarheit über den Mehrwert der Anwendung und verdeutlicht die Notwendigkeit von Erklärungen. Sie schafft eine menschlich interpretierbare Erklärung des Modellverhaltens und sorgt für Transparenz gegenüber dem Endverbraucher.

Auf der Datenebene liegt der Schwerpunkt darauf, zu verstehen, woher die Daten stammen. Dies gilt auch für die Plausibilität des ausgewählten Merkmals und für die Analyse der Störfaktoren. Es geht auch darum, klarzustellen, welche Daten von der nutzenden Person zur Verfügung gestellt werden müssen und welche Konsequenzen die Weitergabe dieser Daten hat.

Die Kategorie Modelle befasst sich mit dem Bedarf an transparenten Modellen gegenüber erklärbaren Modellen. Darüber hinaus analysiert sie die Korrektheit und die Konsistenz der Erklärung.

Umsetzung der Rahmenkonzepte

Um die gewünschte Wirkung zu erzielen, ist es wichtig, dass das Framework zum festen Bestandteil der Arbeitskultur wird. Dazu bedarf es einer Einführung verständlicher und leicht zu befolgender Prozesse innerhalb des Unternehmens. Weitere Faktoren, die den Weg zu einer erfolgreichen Umsetzung ebnen, sind eine Infrastruktur und eine Kultur, welche Transparenz begünstigen, eine diverse Belegschaft, die offene Kommunikation fördert, sowie kontinuierliche Schulungen der Mitarbeitenden. Nicht zuletzt bedarf es einer sachgerechten Dokumentation aller im Entwicklungsprozess getroffenen Designentscheidungen, um Transparenz zu gewährleisten und sicherzustellen, dass alle potenziellen Fallstricke berücksichtigt wurden.