Zühlke – Empowering Ideas

Data Strategy

Wie entwickelt man verantwortungsvolle KI?

an eye with connected points on it
  • Ein verantwortungsbewusster Umgang mit KI und ML ist entscheidend
  • Zühlke hat dafür ein ethisches KI-Framework entwickelt
  • Dabei werden potenzielle Risiken und Schäden der Anwendung auf verschiedenen Ebenen identifiziert
5 Minuten to read
Autor

Innovative Lösungen, basierend auf künstlicher Intelligenz (KI) und Machine Learning (ML) bieten grosses Potenzial in unterschiedlichen Anwendungsfällen – insbesondere auch in den Bereichen Medizin und Nachhaltigkeit. Zentral ist dabei ein verantwortungsvoller Umgang mit den neuen technologischen Möglichkeiten.

Bei Zühlke sind wir überzeugt, dass Künstliche Intelligenz einen positiven Einfluss auf unsere Gesellschaft und auf die Umwelt haben wird. Innovative KI-Lösungen in der Medizintechnik können zum Beispiel durch optimierte Diagnosen das Behandlungsergebnis für betroffene Personen verbessern. Das Personal im Gesundheitswesen wird durch die Automatisierung der Verwaltung entlastet und kann mehr Zeit für Patienten aufwenden.

Aber auch in anderen Bereichen, etwa bei der Nachhaltigkeit, kann KI eine Schlüsselrolle spielen. Beispielsweise können Energieverbrauch und CO2-Emissionen durch die Optimierung von Verkehrsnetzen und die Überwachung der Abholzung von Wäldern reduziert werden. KI kann in allen Branchen eingesetzt werden, um lästige Aufgaben zu automatisieren. Das verbessert die Arbeitsbedingungen für Mitarbeitende in allen Bereichen.

Der Honeymoon ist vorbei

KI und Machine Learning galten lange als Wundermittel für alles. Doch inzwischen kam es bei einigen grösseren Umsetzungen erste Rückschläge. So empfehlen Instagram-Algorithmen jungen Menschen Diät-Inhalte, KI-gestützte Personalvermittlungsdienste diskriminieren Frauen, und obwohl hunderte von KI-gestützten Anwendungen zur Erkennung von COVID entwickelt wurden, waren nur wenige hilfreich. Die Liste negativer Anwendungsbeispiele lässt sich beliebig fortsetzen.

Regulatorien müssen keine Innovationsbremse sein

Solche Fehler lassen sich mit den richtigen Ansätzen vermeiden. Die Entwicklung einer verantwortungsvollen und vertrauenswürdigen KI ist nicht nur zur Vermeidung von Reputationsschäden oder Kosten aufgrund von Umsatzeinbussen und verlorener Kundschaft empfehlenswert. Bald schon wird sie auch gesetzlich vorgeschrieben sein. Die EU hat bereits im April 2021 ihre Absichten im Hinblick auf die Reglementierung von KI auf offiziell kommuniziert.

Viele befürchten, dass diese Massnahme Innovationen ausbremst. Unsere Erfahrungen mit KI in der Medizintechnik, einem Bereich, der schon lange reglementiert ist, zeigen aber, dass solche Hürden mit den richtigen Rahmenbedingungen überwunden werden können. Derartige Reglementierungen stellen kein Innovationshindernis dar, sondern fördern qualitativ hochwertige Lösungen und stellen sicher, dass während des gesamten Entwicklungsprozesses bewährte ML-Praktiken angewandt und häufige Fallstricke vermieden werden. Auch wenn die neuen Vorschriften noch nicht feststehen, deuten erste Mitteilungen der Europäischen Union darauf hin, dass sie den Vorschriften für den Bereich Medizintechnik ähnlich sein werden – mit Fokus auf Risikobewertung und Risikominderung.

Mehr über Nachhaltigkeit bei Zühlke erfahren

Das ethische KI-Framework

Verantwortungsvolle KI umfasst ethische Aspekte, Anforderungen an die Interpretierbarkeit und Nachhaltigkeit entlang der gesamten Entwicklungskette – von der ersten Entscheidung über den Beginn der Entwicklung einer Anwendung bis hin zur Interaktion des Nutzers mit dem Endprodukt. Auf der Grundlage langjähriger Entwicklungserfahrung mit ML-Anwendungen im reglementierten Bereich der Medizintechnik hat Zühlke die gewonnenen Erkenntnisse in die Entwicklung von Rahmenkonzepten für ethische und interpretierbare KI übertragen und erweitert. Die Rahmenkonzepte decken mehrere Ebenen des Entwicklungsprozesses ab – die Daten, das Modell und die menschliche Interaktion. Dabei handelt es sich um praktische Frameworks, aus denen klar hervorgeht, welche Überlegungen in jeder Phase der Umsetzung angestellt werden müssen und wie die Rollen und Verantwortlichkeiten verteilt sind.

Genau wie bei reglementierten Produkten der Medizintechnik bewertet ein ethisches Rahmenkonzept potenzielle Risiken und Schäden, die durch die Anwendung verursacht werden könnten. Aufgrund der Risikoeinschätzung werden Abhilfemassnahmen empfohlen, die notwendig sind, um mit der Entwicklung fortfahren zu können. Das Framework stellt sicher, dass die entwickelten KI-Anwendungen mit den Unternehmenswerten im Einklang stehen, und es verringert das Risiko unbeabsichtigter Folgen.

Die Ebenen des Frameworks

Die Ebene der menschlichen Interaktion
Die Ebene der menschlichen Interaktion beinhaltet eine klare Kommunikation mit der nutzenden Person, was die Einschränkungen der...

Die Ebene der menschlichen Interaktion beinhaltet eine klare Kommunikation mit der nutzenden Person, was die Einschränkungen der Daten und des Modells sowie die Transparenz betrifft. Dazu gehören auch der respektvolle Umgang mit Nutzerinnen und Nutzern, unabhängig von deren Herkunft, Geschlecht oder Religionszugehörigkeit, sowie eine kontinuierliche Überwachung des Anwendungsverhaltens über die Zeit.

Die Datenebene
Die Datenebene umfasst den Schutz der Privatsphäre, die Ethik von Datenerhebungen und den Umgang mit Vorurteilen. Vorurteile...

Die Datenebene umfasst den Schutz der Privatsphäre, die Ethik von Datenerhebungen und den Umgang mit Vorurteilen. Vorurteile spiegeln oft Vorurteile aus der echten Welt wider – etwa, dass ein Ingenieur ein Mann sein muss –, das sind sogenannte «Proxies». Dabei handelt es sich um versteckte Vorurteile. Ausgehend von Postleitzahlen könnte beispielsweise auf das Einkommen geschlossen werden. Ebenso spielen versteckte Störfaktoren eine Rolle, eine Bezeichnung für nicht offensichtliche Einflüsse, die der Datensatz haben könnte. Die Datenebene schafft auch darüber Klarheit, welche Folgen es für die Nutzerin oder den Nutzer hat, die Daten weiterzugeben, und welche Auswirkungen langfristige Datenverschiebungen auf das Modell haben.

Das Modell
Was das Modell betrifft, muss eine einer Metrik gewählt werden, die den Endverbraucher nicht über die tatsächliche Leistung...

Was das Modell betrifft, muss eine einer Metrik gewählt werden, die den Endverbraucher nicht über die tatsächliche Leistung hinwegtäuschen kann. Das Modellverhalten sollte erklärt werden. Ausserdem ist eine umfassende und ausgewogene Validierung und Verifizierung sowie eine kontinuierliche Überwachung der Modellleistung nötig.

Die Nachhaltigkeitsebene
Die Nachhaltigkeitsebene erklärt, wie die Rechenlast minimiert werden kann und welche Möglichkeiten es für die Auswahl eines...

Die Nachhaltigkeitsebene erklärt, wie die Rechenlast minimiert werden kann und welche Möglichkeiten es für die Auswahl eines grünen Cloud-Anbieters gibt.

Das interpretierbare KI-Rahmenkonzept

Die Arbeit mit interpretierbarer KI ist eine Grundvoraussetzung, um die Konformität der endgültigen Anwendung zu gewährleisten. Dieses Framework ist daher fester Bestandteil des ethischen Rahmenkonzepts, kann aber auch für sich allein verwendet werden.

Die personenzentrierte Ebene des Frameworks verschafft der nutzenden Person Klarheit über den Mehrwert der Anwendung und verdeutlicht die Notwendigkeit von Erklärungen. Sie schafft eine menschlich interpretierbare Erklärung des Modellverhaltens und sorgt für Transparenz gegenüber dem Endverbraucher.

Auf der Datenebene liegt der Schwerpunkt darauf, zu verstehen, woher die Daten stammen. Dies gilt auch für die Plausibilität des ausgewählten Merkmals und für die Analyse der Störfaktoren. Es geht auch darum, klarzustellen, welche Daten von der nutzenden Person zur Verfügung gestellt werden müssen und welche Konsequenzen die Weitergabe dieser Daten hat.

Die Kategorie Modelle befasst sich mit dem Bedarf an transparenten Modellen gegenüber erklärbaren Modellen. Darüber hinaus analysiert sie die Korrektheit und die Konsistenz der Erklärung.

Umsetzung der Rahmenkonzepte

Um die gewünschte Wirkung zu erzielen, ist es wichtig, dass das Framework zum festen Bestandteil der Arbeitskultur wird. Dazu bedarf es einer Einführung verständlicher und leicht zu befolgender Prozesse innerhalb des Unternehmens. Weitere Faktoren, die den Weg zu einer erfolgreichen Umsetzung ebnen, sind eine Infrastruktur und eine Kultur, welche Transparenz begünstigen, eine diverse Belegschaft, die offene Kommunikation fördert, sowie kontinuierliche Schulungen der Mitarbeitenden. Nicht zuletzt bedarf es einer sachgerechten Dokumentation aller im Entwicklungsprozess getroffenen Designentscheidungen, um Transparenz zu gewährleisten und sicherzustellen, dass alle potenziellen Fallstricke berücksichtigt wurden.

lisa Falco
Ansprechpartner für die Schweiz

Dr. Lisa Falco

Lead Data Consultant

Lisa Falcos Leidenschaft sind KI und Maschinelles Lernen und ihre positiven Auswirkungen auf die Gesellschaft. Sie bringt über 15 Jahre Branchenerfahrung in der Anwendung von Data Science im medizinischen Umfeld mit und hat bereits mehreren KI-gestützten MedTech-Produkten zur Marktreife verholfen. Lisa promovierte an der EPFL in der Schweiz in Biomedizinischer Bildanalyse und erwarb einen Mastertitel in Technischer Physik an der Chalmers-Universität in Schweden. 

Kontakt