KI verantwortungsvoll und rechtskonform einsetzen.
Der EU AI Act stellt neue Anforderungen an Unternehmen, die KI-Systeme einsetzen oder entwickeln. Wir begleiten Sie von der Risikoklassifizierung über die DSGVO-konforme Implementierung bis zur laufenden KI-Governance.
Erfahrung seit 2018
Der EU AI Act (Verordnung (EU) 2024/1689) ist die weltweit erste umfassende Regulierung für Künstliche Intelligenz. Er verfolgt einen risikobasierten Ansatz und legt je nach Gefährdungspotenzial unterschiedliche Pflichten für Anbieter und Betreiber von KI-Systemen fest.
Die Verordnung tritt schrittweise in Kraft: Verbotene Praktiken ab Februar 2025, GPAI-Regeln ab August 2025 und Hochrisiko-Anforderungen ab August 2026.
KI-Systeme werden in vier Risikoklassen eingeteilt: unannehmbar, hoch, begrenzt und minimal. Je höher das Risiko, desto strenger die regulatorischen Anforderungen.
Bei Verstößen drohen Bußgelder von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist.
Der EU AI Act betrifft nicht nur KI-Entwickler, sondern auch Unternehmen, die KI-Systeme einsetzen (Deployer) – unabhängig davon, ob der Anbieter in der EU sitzt.
Das Herzstück des EU AI Acts ist die Einteilung von KI-Systemen in vier Risikostufen. Für jede Stufe gelten unterschiedliche Anforderungen – von vollständigen Verboten bis hin zu freiwilligen Verhaltenskodizes. Die korrekte Einordnung Ihrer KI-Anwendungen ist der erste Schritt zur Compliance.
Social Scoring durch Behörden, biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum, Manipulation vulnerabler Gruppen und Emotionserkennung am Arbeitsplatz/in Bildung.
Biometrische Identifizierung, kritische Infrastruktur, Personalentscheidungen (Recruiting, Beurteilung), Kreditwürdigkeit, Justiz und Strafverfolgung, Asyl und Migration.
Chatbots, Deepfakes, Emotionserkennung und KI-generierte Inhalte müssen als solche gekennzeichnet werden. Nutzer müssen wissen, dass sie mit KI interagieren.
Spamfilter, Empfehlungssysteme, Spiele-KI und ähnliche Anwendungen. Keine gesetzlichen Pflichten, aber freiwillige Verhaltenskodizes werden empfohlen.
Vollständig verboten. Verstoß: bis 35 Mio. € / 7 % Umsatz.
Konformitätsbewertung, Risikomanagement, Daten-Governance, Transparenz, menschliche Aufsicht.
Kennzeichnungs- und Informationspflichten gegenüber den Nutzern.
Keine regulatorischen Pflichten. Freiwillige Verhaltenskodizes empfohlen.
Der Einsatz von KI-Systemen berührt zahlreiche Vorschriften der Datenschutz-Grundverordnung. Neben dem EU AI Act müssen Unternehmen sicherstellen, dass ihre KI-Anwendungen auch vollständig DSGVO-konform betrieben werden – von der Rechtsgrundlage bis zu den Betroffenenrechten.
Das Training von KI-Modellen mit personenbezogenen Daten erfordert eine tragfähige Rechtsgrundlage nach Art. 6 DSGVO – insbesondere bei Verarbeitung besonderer Kategorien (Art. 9).
Wenn KI-Systeme Entscheidungen mit rechtlicher Wirkung treffen, greift das Verbot automatisierter Einzelentscheidungen. Betroffene haben ein Recht auf menschliche Intervention.
Betroffene haben das Recht, aussagekräftige Informationen über die Logik, Tragweite und angestrebten Auswirkungen einer automatisierten Verarbeitung zu erhalten (Art. 13, 14, 15 DSGVO).
KI-Systeme erfordern regelmäßig eine Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO. Auskunfts-, Löschungs- und Widerspruchsrechte müssen auch bei KI-Verarbeitung gewährleistet sein.
Ohne klare interne Regelungen riskieren Unternehmen unkontrollierten KI-Einsatz durch Mitarbeitende – sogenannte „Shadow AI“. Wir entwickeln für Sie praxistaugliche KI-Nutzungsrichtlinien, die Innovationsfreiheit und Datenschutz in Einklang bringen.
Whitelist genehmigter KI-Anwendungen mit datenschutzrechtlicher Bewertung: Welche Tools dürfen für welche Zwecke genutzt werden?
Klare Regeln, welche Daten in KI-Systeme eingegeben werden dürfen. Kategorisierung nach Vertraulichkeitsstufen: öffentlich, intern, vertraulich, streng vertraulich.
Vorgaben zur Überprüfung von KI-generierten Ergebnissen (Human-in-the-Loop) und Pflichten zur Kennzeichnung KI-erstellter Inhalte intern wie extern.
Von der ersten Bestandsaufnahme bis zur laufenden Compliance-Überwachung: Wir begleiten Ihr Unternehmen umfassend beim datenschutzkonformen KI-Einsatz und der Umsetzung des EU AI Acts.
Systematische Einstufung aller eingesetzten KI-Systeme in die Risikoklassen des EU AI Acts mit Ableitung konkreter Compliance-Pflichten.
Durchführung spezialisierter Datenschutz-Folgenabschätzungen für KI-Anwendungen – von Profiling bis zum automatisierten Entscheiden.
Maßgeschneiderte Richtlinien für den sicheren KI-Einsatz: Zugelassene Tools, Vertraulichkeitsklassen, Qualitätssicherung und Kennzeichnungspflichten.
Praxisnahe Schulungen für Mitarbeitende und Führungskräfte zum rechtskonformen Umgang mit ChatGPT, Copilot und weiteren KI-Tools.
Datenschutzrechtliche Bewertung von KI-Anbietern und Begleitung bei der Einführung neuer KI-Systeme im Unternehmen.
KI-Anwendungen sind längst im Geschäftsalltag angekommen. Doch jeder Einsatzbereich bringt spezifische datenschutzrechtliche Herausforderungen mit sich. Wir kennen die typischen Fallstricke und begleiten Sie bei der rechtskonformen Umsetzung.
Datenschutzkonforme Nutzung von Large Language Models: Verhinderung von Datenlecks, Konfiguration von Enterprise-Versionen, Nutzungsrichtlinien für Mitarbeitende.
Automatisierte Bewerberauswahl ist nach EU AI Act eine Hochrisiko-Anwendung. Anforderungen: Diskriminierungsfreiheit, Transparenz, menschliche Aufsicht und DSFA.
Chatbot-Einsatz erfordert Transparenz: Kunden müssen wissen, dass sie mit einer KI interagieren. Zudem gelten Anforderungen an die Verarbeitung personenbezogener Anfragen.
Besonders sensibel: Gesundheitsdaten sind besondere Kategorien personenbezogener Daten (Art. 9 DSGVO). KI-Diagnostik und Patientendaten-Analyse erfordern höchste Schutzstandards.
Profiling und automatisierte Entscheidungsfindung unterliegen strengen DSGVO-Vorgaben (Art. 22). Wir unterstützen bei der rechtssicheren Gestaltung von Scoring- und Analysesystemen.
Hohes Risiko: Konformitätsbewertung, DSFA, Bias-Monitoring erforderlich.
Hohes Risiko: Transparenz, Erklärbarkeit und menschliche Aufsicht Pflicht.
Begrenztes Risiko: Kennzeichnung als KI-System erforderlich.
Minimales Risiko: Keine spezifischen Pflichten aus dem EU AI Act.
Nachhaltiger und rechtskonformer KI-Einsatz erfordert ein strukturiertes Governance-Framework. Wir helfen Ihnen, klare Verantwortlichkeiten, Prozesse und Kontrollmechanismen zu etablieren – damit KI in Ihrem Unternehmen langfristig sicher und compliant betrieben wird.
Benennung eines KI-Verantwortlichen (AI Officer), der die Überwachung des EU AI Act-Compliance und die Koordination aller KI-bezogenen Aktivitäten verantwortet.
Systematische Identifikation, Bewertung und Mitigation von KI-spezifischen Risiken – inklusive Bias, Halluzinationen, Datenqualität und Modell-Drift.
Laufende Überwachung der KI-Systeme auf Performanz, Fairness und Compliance. Regelmäßige Audits zur Sicherstellung der Einhaltung regulatorischer Anforderungen.
Etablierung klarer Prozesse für den Umgang mit KI-Fehlfunktionen, fehlerhaften Entscheidungen und Sicherheitsvorfällen – inklusive Meldepflichten und Eskalationswege.
Lückenlose Dokumentation aller KI-Systeme, Risikobewertungen, Maßnahmen und Entscheidungen – als Nachweis gegenüber Aufsichtsbehörden und Geschäftspartnern.
Erfassung aller eingesetzten KI-Systeme und Risikoklassifizierung nach EU AI Act.
Erstellung von KI-Policies, Benennung des AI Officers und Definition von Rollen.
Systematische Risikobewertung und Datenschutz-Folgenabschätzungen für alle relevanten KI-Anwendungen.
Training aller Mitarbeitenden im sicheren Umgang mit KI-Tools und den regulatorischen Anforderungen.
Laufende Überwachung, Audits und Anpassung des Governance-Frameworks an neue Entwicklungen.
Warum Unternehmen auf Dezor & Kollegen vertrauen.
Lassen Sie uns gemeinsam prüfen, wie Sie KI sicher und rechtskonform einsetzen können. Kostenlose Erstberatung – unverbindlich und praxisnah.
Wir freuen uns auf Ihre Anfrage – unkompliziert und unverbindlich.