• Zur Homepage springen
  • Direkt zum Inhalt
  • Zur Hauptnavigation springen
  • Zur Meta Navigation springen
Zühlke - zur Startseite
  • Business
  • Karriere
  • Events
  • Über uns

Sprachnavigation. Die aktuelle Sprache ist deutsch.

  • Expertise
    • KI-Lösungen
    • Cloud
    • Cybersecurity
    • Data Solutions
    • DevOps
    • Digitalstrategie
    • Experience Design
    • Hardwareentwicklung
    • Managed Services
    • Softwareentwicklung
    • Nachhaltigkeit
    Expertise im Überblick

    Highlight Case Study

    Airport concept

    Zurich Airport transforms operations for a data-driven future

    Mehr erfahren
  • Branchen
    • Banken & Finanzdienstleister
    • Versicherungen
    • Gesundheitsdienstleister
    • Medizintechnik
    • Pharma
    • Industrie
    • Einzelhandel & Konsumgüter
    • Energiewirtschaft & Versorgung
    • Öffentlicher Sektor & Verwaltungen
    • Transport
    Branchen im Überblick

    Melden Sie sich an, um die neuesten Updates & Event-Einladungen zu erhalten Zur Anmeldung.

    Jetzt anmelden
  • Case Studies

    Spotlight Case Studies

    • Global Research Platforms und Zühlke: Gemeinsam im Kampf gegen Alzheimer
    • Brückner Maschinenbau nutzt GenAI für mehr Effizienz durch optimiertes Stammdatenmanagement
    • UNIQA: Effizienzsteigerung durch KI-Chatbot – Halbierter Aufwand bei 95 prozentiger Antwortgenauigkeit
    Mehr Case Studies entdecken

    Highlight Case Study

    Airport concept

    Zurich Airport transforms operations for a data-driven future

    Mehr erfahren
  • Insights

    Spotlight Insights

    • Wie und wo Low-Code in der Versicherungsbranche angewendet werden kann
    • CTO-Playbook für die Tech-Transformation im Einzelhandel
    • DeepSeek und der Aufstieg von Open-Source-KI: Ein Gamechanger für Unternehmen?
    Mehr Insights entdecken

    Highlight Insight

    AI adoption: Rethinking time and purpose in the workplace

    Mehr erfahren
  • Academy
  • Kontakt
    • Österreich
    • Bulgarien
    • Deutschland
    • Hongkong
    • Portugal
    • Serbien
    • Singapur
    • Schweiz
    • Großbritannien
    • Vietnam

    Melden Sie sich an, um die neuesten Updates & Event-Einladungen zu erhalten Zur Anmeldung.

    Jetzt anmelden
Zühlke - zur Startseite
  • Business
  • Karriere
  • Events
  • Über uns
  • Expertise
    • KI-Lösungen
    • Cloud
    • Cybersecurity
    • Data Solutions
    • DevOps
    • Digitalstrategie
    • Experience Design
    • Hardwareentwicklung
    • Managed Services
    • Softwareentwicklung
    • Nachhaltigkeit
    Expertise im Überblick

    Highlight Case Study

    Airport concept

    Zurich Airport transforms operations for a data-driven future

    Mehr erfahren
  • Branchen
    • Banken & Finanzdienstleister
    • Versicherungen
    • Gesundheitsdienstleister
    • Medizintechnik
    • Pharma
    • Industrie
    • Einzelhandel & Konsumgüter
    • Energiewirtschaft & Versorgung
    • Öffentlicher Sektor & Verwaltungen
    • Transport
    Branchen im Überblick

    Melden Sie sich an, um die neuesten Updates & Event-Einladungen zu erhalten Zur Anmeldung.

    Jetzt anmelden
  • Case Studies

    Spotlight Case Studies

    • Global Research Platforms und Zühlke: Gemeinsam im Kampf gegen Alzheimer
    • Brückner Maschinenbau nutzt GenAI für mehr Effizienz durch optimiertes Stammdatenmanagement
    • UNIQA: Effizienzsteigerung durch KI-Chatbot – Halbierter Aufwand bei 95 prozentiger Antwortgenauigkeit
    Mehr Case Studies entdecken

    Highlight Case Study

    Airport concept

    Zurich Airport transforms operations for a data-driven future

    Mehr erfahren
  • Insights

    Spotlight Insights

    • Wie und wo Low-Code in der Versicherungsbranche angewendet werden kann
    • CTO-Playbook für die Tech-Transformation im Einzelhandel
    • DeepSeek und der Aufstieg von Open-Source-KI: Ein Gamechanger für Unternehmen?
    Mehr Insights entdecken

    Highlight Insight

    AI adoption: Rethinking time and purpose in the workplace

    Mehr erfahren
  • Academy
  • Kontakt
    • Österreich
    • Bulgarien
    • Deutschland
    • Hongkong
    • Portugal
    • Serbien
    • Singapur
    • Schweiz
    • Großbritannien
    • Vietnam

    Melden Sie sich an, um die neuesten Updates & Event-Einladungen zu erhalten Zur Anmeldung.

    Jetzt anmelden

Sprachnavigation. Die aktuelle Sprache ist deutsch.

Homepage zuehlke.com

Alle Branchen

Wie verändert der EU AI Act KI-basierte Innovation?

Mit dem EU AI Act wird KI zum ersten Mal reguliert. Doch die Auswirkungen auf die KI-Entwicklungen werden von Branche zu Branche sehr unterschiedlich sein. Lesen Sie hier, was Sie wissen müssen.

19. Oktober 20237 Minuten Lesezeit
Silhouette of woman with cropped hair against a cloudy sky

Das KI-Gesetz wird die Art und Weise, wie wir über KI denken, verändern. Daher ist es jetzt an der Zeit, für einen branchenübergreifenden Mindset Change in Bezug auf die Prozesse hinter Responsible AI und Technologie zu sorgen. 

„Move Fast and Break Things“ - seit Jahren der Schlachtruf von Big Tech. Und da sich diese Denkweise als der beste Weg zu erfolgreicher Innovation erweist, werden Vorschriften oft nur als lästige Hindernisse betrachtet. 

Was aber, wenn wir uns so schnell bewegen, dass das, was kaputt (break) geht, nicht mehr repariert werden kann? Und was, wenn es sich dabei um die Gesellschaft selbst handelt?

Genau das ist die Sorge, die einige Fachleute in Bezug auf KI haben. Deshalb müssen Regierungen, Wirtschaft und Organisationen jetzt zusammenarbeiten, um möglichen Risiken durch die richtigen KI-Gesetze entgegenzuwirken. 

Das von der EU vorgeschlagene KI-Gesetz zielt darauf ab, diese Leitplanken zu setzen. Aber, was bedeutet das für die Unternehmen, die künstliche Intelligenz einsetzen? Und - ganz entscheidend - wie können sie die Prozesse hinter einer transparenteren KI standardisieren? 

Der AI Act: Zeit zu Handeln 

Der EU AI Act, der derzeit überarbeitet wird, soll menschliche Risiken im Zusammenhang mit KI-Systemen und generativen Modellen erkennen und präventiv bekämpfen. 

„Lange Zeit war die KI überhaupt nicht reguliert. Jetzt müssen Regierungen, Branchen und verschiedene Organisationen zusammenarbeiten, um mögliche Risiken gesetzlich zu regeln“ 

In den meisten Fällen geht es bei diesen Risiken um die Vermeidung von Menschenrechtsverletzungen - wie die Einschränkung von KI-gestütztem Social Scoring oder Verhaltensmanipulation. Aber ist das zu wenig und zu spät? 

„Dies ist im Wesentlichen eine Reaktion auf die rasante Entwicklung, die wir im letzten Jahr im Bereich KI erlebt haben“, sagt Dr. Lisa Falco, Lead Data & AI Consultant bei Zühlke. „Lange Zeit war KI überhaupt nicht reguliert, sodass Unternehmen einfach jedes beliebige Produkt ohne jegliche Kontrolle auf den Markt bringen konnten. Und wir haben bereits einige fatale Folgen gesehen, wenn diese Algorithmen in der freien Wildbahn eingesetzt wurden“. 

„Hier geht es also darum, die verantwortungsvolle Anwendung von KI zu erzwingen. Es ist ein Weg, um zu gewährleisten, dass das von Ihnen implementierte Produkt keine unbeabsichtigten Folgen hat. Und dass Sie die potenziellen Risiken so gut wie möglich kennen“. 

Das einzige Problem? Die KI entwickelt sich rasant, und die Gesetzgebung ist - wie immer – einen Schritt hinterher. 

„Die Regulierung ist in dieser Hinsicht definitiv im Rückstand“, sagt Lisa. „Aber es ist schwierig, weil niemand die Folgen dieser Technologie kennt. Nicht einmal die Unternehmen, die AI solutions, wie z. B. ChatGPT auf den Markt bringen, wissen, welche langfristigen Folgen sie haben werden. Und man kann keine Gesetze für etwas erlassen, das es noch gar nicht gibt“. 

Bilanz ziehen und vorankommen 

Die Auswirkungen des kommenden KI-Gesetzes werden von Branche zu Branche sehr unterschiedlich sein. Lisa Falco arbeitet u. a. mit einer Reihe von Zühlke-Kunden aus dem Healthbereich zusammen, wo allumfassende Vorschriften und Sicherheitsmaßnahmen die Norm sind: 

„Wenn etwas als Medizinprodukt betrachtet wird, unabhängig davon, ob es KI verwendet oder nicht, muss dieses Produkt den Vorschriften entsprechen. Man muss den Verwendungszweck des Produkts klären, nachweisen, dass es sicher ist, und zeigen, dass der Verwendungszweck erfüllt wird. Das ist also bereits eine Arbeitsweise, an die die Branche gewohnt ist“. 

Selbst medizinisch ausgerichtete Verbrauchertechnologie muss hier nachziehen. Die Apple Watch zum Beispiel hat für einige ihrer Funktionen eine FDA-Zulassung erhalten, weil sie, wie Lisa Falco es ausdrückt, „potenziell lebensbedrohliche Folgen haben können, wenn sie falsch sind“. 

Für Unternehmen, die sich in dieser Welt gut auskennen, wird sich der AI Act nicht als einschneidend erweisen. Andere werden jedoch nicht so viel Glück haben - und sie müssen jetzt mit der Planung beginnen, wenn sie wollen, dass ihr Einsatz von KI mit den Ideen der EU übereinstimmt. 

„Das hat große Auswirkungen auf die Qualitätssicherung“, sagt Michael Denzler von Zühlke, der mit Kunden aus dem Bereich der Verbraucher- und Unternehmenstechnologie zusammenarbeitet. 

„Bei der KI-Entwicklung müssen viele Unternehmen, obwohl sie bereits mit „Best-Practice“-Prinzipien arbeiten, dennoch neu herausfinden, welche KI-Lösungen betroffen sind. Wenn Sie Anwendungen mit hohem Risiko haben (wie die EU sie definiert), dann ist das schwierig zu lösen“, sagt Denzler. „Das führt zu großen Diskussionen über Sicherheit und darüber, wie man sich in Puncto Qualitätssicherung, Analyse von Kompetenzlücken und rechtlichen Änderungen anpassen kann“. 

„Man muss die Art und Weise, wie man intern arbeitet, ändern“, bestätigt Lisa Falco. „Es braucht jetzt ein Qualitätsmanagementsystem, wenn man mit KI entwickelt. Die richtigen Prozesse, Mitarbeitenden, Datenkontrollen und Datenverwaltung müssen vorhanden sein“. 

Überraschenderweise verlangsamen diese Diskussionen die Entwicklung jedoch nicht. Für Unternehmen, die ihre Prozesse schnell anpassen können, stellen neue Technologien nach wie vor jeden möglichen Innovationsstau in den Schatten. 

„Der AI Act zieht definitiv eine Menge Aufmerksamkeit und Ressourcen auf sich“, fügt Michael Denzler hinzu, „aber er verlangsamt die Dinge weniger als der generative KI-Vorstoß sie tatsächlich beschleunigt. Im Moment wächst der Einsatz von KI also schneller als je zuvor“. 

Letztlich sollte es bei der Anpassung an die Risk-Management-Regeln um mehr gehen als um das bloße Ankreuzen von Kästchen. Theoretisch sollte sie auf der Grundlage standardisierter bewährter Verfahren erfolgen. 

Das Erreichen dieses Ziels ist Sache jedes einzelnen Unternehmens, aber der AI Act kann eine wirksame Basis schaffen, die verhindert, dass böswillige Akteure die KI laufen lassen, bevor sie kriechen kann. 

Ein Fundament für Transparenz 

Wie sogar die EU selbst einräumt, ist der AI Act bei weitem nicht perfekt; auf der Website des Gesetzes gibt es sogar einen Abschnitt, der sich mit seinen potenziellen Fallstricken und Schlupflöchern befasst. 

„Diese Unzulänglichkeiten schränken die Fähigkeit des Gesetzes ein, dafür zu sorgen, dass KI eine positive Kraft in Ihrem Leben bleibt “, räumt die EU ein und fügt hinzu, dass die mangelnde Flexibilität des Gesetzes eine große Achillesferse ist: „Wenn in zwei Jahren eine gefährliche KI-Anwendung in einem unvorhergesehenen Bereich eingesetzt wird, sieht das Gesetz keinen Mechanismus vor, um sie als hochriskant zu bezeichnen“. 

Es geht also nicht darum, eine absolute Ressource für die Ewigkeit zu sein, sondern darum, Unternehmen dazu zu bringen, eine verantwortungsvolle Grundlage für die künftige KI-Entwicklung zu schaffen. 

„Sobald Sie diese Grundlage haben“, meint Lisa Falco, „gibt es keinen Grund, warum sich Ihre Produktentwicklung wesentlich verlangsamen sollte. Es wird einige Hürden mit sich bringen, aber es bietet auch zusätzliche Sicherheitsvorkehrungen. Alles, was auf den Markt gebracht wird, hat potenzielle Konsequenzen für den Ruf oder die Rechtslage – der AI Act ist eigentlich nur ein Anreiz, um dies in diesem neuen Bereich zu verhindern“. 

„Der Schlüssel zu all dem ist Transparenz, was bedeutet, dass man in der Lage sein muss, die Daten und Modelle, die man in einer KI-Anwendung verwendet, zu validieren und zu erklären. Und dass man die Ergebnisse zum Wohle des Endnutzenden klar interpretieren kann“. 

„Wir bei Zühlke empfehlen jedoch, weiterzugehen und bei jeder Implementierung einer KI-Lösung die Daten zu validieren, zu verstehen und weiterzugeben, die in ein generatives Modell hinein und aus diesem heraus fließen“. 

Diese Denkweise hat zur Entwicklung von Zühlkes Responsible AI Framework geführt, einem mehrstufigen Prozess, bei dessen Einführung wir derzeit eine Reihe von Kunden unterstützen, um sich gegen Risiken und die Regulierungswut abzusichern. Es handelt sich dabei um ein Framework, das die Variablen Mensch, Daten, Modell und Nachhaltigkeit umfasst und somit alle Eventualitäten von KI-Anwendungen abdeckt.

„Das Wichtigste dabei ist, dass man positive Innovationen nicht blockieren will“, erklärt Lisa Falco den Ansatz von Zühlke. „Es gilt die Grundlage zu schaffen, um die KI-Verantwortung in den täglichen Planungen und Prozessen zu verankern“. 

Wenn Sie mehr erfahren möchten, lesen die Details zu unserem Framework für responsible AI. Oder sprechen Sie uns an, um gemeinsam mit verantwortungsvollen und menschenzentrierten Data & AI solutions Mehrwert zu kreieren. 

lisa Falco

Dr. Lisa Falco

Ehemalige Lead Data Consultant

lisa Falco

Mehr Insights entdecken

MedTech

Die KI-Verordnung der EU und ihre Auswirkungen auf Healthcare-Innovationen

Mehr erfahren
Young Asian woman using mobile phone while standing under a pedestrian bridge glowing at night
Banken & Finanzdienstleister

Ein besseres Kundenerlebnis im Banking durch den optimalen Einsatz von Mensch und Maschine

Mehr erfahren
#ML 4 Banking
Pharma

Wie können Gesundheitsdaten allen nützen?

Mehr erfahren
Healthcare data on iPad
Alle Insights entdecken

Lernen Sie uns kennen

  • Über uns
  • Impact & Commitments
  • Zahlen & Fakten
  • Karriere
  • Event Hub
  • Insights Hub
  • News Anmeldung

Mit uns arbeiten

  • Unsere Expertise
  • Unsere Branchen
  • Case Studies
  • Partner-Ökosystem
  • Trainings-Academy
  • Kontakt

Rechtliches

  • Datenschutzerklärung
  • Cookie Policy
  • Rechtliche Bestimmungen
  • Erklärung zur modernen Sklaverei
  • Impressum

Projektanfrage einreichen

Wir freuen uns über Ihr Interesse an einer Zusammenarbeit. Senden Sie uns Ihre Projektanfrage - wir melden uns innerhalb von 72h.

Projektanfrage einreichen
© 2025 Zühlke Engineering AG

Folgen Sie uns

  • External Link to Zühlke LinkedIn Page
  • External Link to Zühlke Facebook Page
  • External Link to Zühlke Instagram Page
  • External Link to Zühlke YouTube Page

Sprachnavigation. Die aktuelle Sprache ist deutsch.