Beim KI-Summit Connext erläuterte Sven Venzke-Caprarese, Geschäftsführer der Datenschutz Nord GmbH, was die KI-Verordnung der EU für Unternehmen bedeutet.
Künstliche Intelligenz zieht derzeit in fast alle Unternehmen ein – ob gezielt von der Geschäftsführung gesteuert oder eher unbemerkt durch die Hintertür. Letzteres kann passieren, wenn die Mitarbeitenden auf eigene Faust bestimmte Tools nutzen oder wenn KI-Funktionen sich per Software-Update unter dem Mantel von anderen Softwareprodukten ins Haus schleichen. Der richtige Zeitpunkt, klare Regeln für den Umgang mit KI zu setzen, ist also jetzt, zumal bereits seit Februar die ersten Paragrafen der europäischen KI-Verordnung in Kraft getreten sind. Die Unternehmensregeln sollten nicht allzu lang sein, rät Datenschutz-Nord-Geschäftsführer Sven Venzke-Caprarese, weil sie sonst nicht gelesen werden. Aus seiner Sicht genügen zwei Seiten und „eine Anlage, die lebt“.
Grundsätzlich gelte jedoch: „Nichts ist derzeit schlimmer, als keine Regelung zu treffen.“ Die Probleme, die der KI-Einsatz im Unternehmen hervorrufen kann, sind vielfältig. Die Fehleranfälligkeit vieler Systeme ist bekannt, aber die Gefahr wird dennoch massiv unterschätzt, weil die KI mächtig wirkt und sie die Ergebnisse plausibel präsentiert. Eine der wichtigsten Botschaften an die Mitarbeitenden lautet daher laut Venzke-Caprarese: „Bitte prüft die Ergebnisse immer ganz genau.“
Hinzu kommen zahlreiche rechtliche Grundlagen, die beachtet werden müssen, vom Urheberrecht über die DSGVO bis zur neuen KI-Verordnung. Verstöße können so subtil sein wie die Bearbeitung der Hintergründe auf Mitarbeiterfotos per KI. Je nach Geschäftsbedingungen des Systems sind die Fotos dann plötzlich Allgemeingut und die Persönlichkeitsrechte der Mitarbeitenden verletzt. Die KI-Verordnung verbietet seit dem 2. Februar 2025 explizit besonders fragwürdige KI-Praktiken wie die unterschwellige Manipulation von Menschen mit dem Ziel, ihnen zu schaden. Künftig können Bußgelder bis zu 35 Millionen Euro verhängt werden. Darüber hinaus müssen Mitarbeitende, die KI einsetzen, jetzt über ausreichende Kompetenz verfügen. Am 2. August 2026 treten weitere Regelungen in Kraft.
Eine detaillierte Anleitung zum Verfassen angemessener KI-Regeln bietet Datenschutz Nord im Unternehmensblog „Datenschutz-Notizen“ an:
handelskammer-magazin.de/ki-regeln
Bild oben:
Sven Venzke-Caprarese leitete eine Masterclass beim KI-Summit Connext im Digital Hub Industry.
Foto: Digital Hub Industry/Thomas Frank