Handlungsbedarf für Unternehmen
Eine Kennzeichnungspflicht für KI-Inhalte, Schutz vor Missbrauch von KI-Systemen, Mindestanforderungen an KI-Systeme – der EU AI Act steckt innerhalb der Europäischen Union den rechtlichen Rahmen für den Einsatz künstlicher Intelligenz ab. Auch Unternehmen in Deutschland sind dadurch zu Maßnahmen verpflichtet.
Risikobasierter Ansatz
Der EU AI Act gilt als weltweit erstes umfassendes Gesetz für den Einsatz von künstlicher Intelligenz. In mehrere Teilaspekte aufgegliedert, gibt er Verpflichtungen vor, die Unternehmen und Behörden im Umgang mit KI einhalten müssen. Mit verschiedenen Abstufungen fallen in diesen Rahmen vereinfacht ausgedrückt alle, die KI entweder herstellen, einsetzen oder als Handelsgut vertreiben.
Die Regelungen folgen einem risikobasierten Ansatz, der den Einsatz von KI gegen mögliche Gefahren für die Grundwerte der Europäischen Union und die Grundrechte der Bürger*innen abwägt. Als Faustformel gilt: ein höheres Risiko, das von der Verwendung einer KI ausgeht, bedeutet strengere Vorschriften bei ihrem Einsatz. Um zu ermitteln, welche Risikostufen in Ihrem Unternehmen gelten, unterstützt Sie der Compliance Checker der Bundesnetzagentur. Mit diesem können Sie für Ihr Unternehmen einen ersten Überblick darüber gewinnen, welche Regelungen für Ihr Unternehmen gelten.
Awareness und Kennzeichnung als Pflicht für alle Unternehmen
Während die meisten Verpflichtungen die Entwickler*innen von risikoreichen KI-Systemen betreffen, müssen seit Februar 2025 alle Unternehmen für ihre eigenen sowie externen Mitarbeitenden grundlegende Kompetenzen über künstliche Intelligenz sicherstellen. Die sogenannte KI-Kompetenzpflicht sieht Schulungen oder andere Formen der Wissensvermittlung vor, in denen Unternehmen ihre Mitarbeitenden über die grundlegenden Funktionsprinzipien sowie Chancen und Risiken bei der Verwendung künstlicher Intelligenz informieren. Derartige Schulungen können Sie für Ihr Unternehmen selbstständig durchführen oder alternativ externe Dienstleistende heranziehen.
Diese Regelung greift bereits seit Anfang 2025, sodass viele Unternehmen ihr bereits nachgekommen sind. Wichtig ist jedoch, die Kenntnisse der Mitarbeitenden aktuell zu halten und je nach eingesetzten KI-Tools fachlich zu erweitern. Awareness für KI zu schaffen ist dementsprechend eine Daueraufgabe.
Ebenso auf alle Unternehmen trifft ab August 2026 die Pflicht zur Kennzeichnung zur Verwendung von KI zu. Das betrifft unter anderem die direkte Interaktion mit einer KI. Das ist beispielsweise der Fall, wenn Nutzende einer Website mit einem KI-gestützten Chatbot schreiben können. Gleichzeitig trifft die Kennzeichnungspflicht auf durch KI generierte Inhalte zu, worunter insbesondere synthetisch erstellte Bild-, Video- und Audioinhalte oder nicht von Menschen nachträglich überprüfte Textinhalte fallen.
Weiterführende Information
Die Europäische Union stellt ein umfassendes Informationsportal zum EU AI Act zur Verfügung. In nachfolgender Liste erhalten Sie einige Links, die Sie bei der ersten Orientierung unterstützen:
