EU-KI-Gesetz: Kennzeichnungspflicht ab Sonntag

Ab dem 2. August 2026 müssen Bürger der Europäischen Union darüber informiert werden, wenn sie mit einem KI-System interagieren oder auf KI-generierte oder -veränderte Inhalte stoßen. Dies sieht das neue Gesetz über künstliche Intelligenz der EU vor. Das Gesetz zielt darauf ab, Täuschungen zu reduzieren und vertrauenswürdige KI zu fördern.

Die neuen Transparenzregeln werden deutlich machen, wie stark KI bereits im Einsatz ist, insbesondere im Marketing, sagt Frederiek Fernhout, Technologierechtler bei Stibbe.

Deepfake-Werbung und KI-generierte Social-Media-Beiträge müssen gekennzeichnet werden. Chatbots, automatisierte Hotlines und Callcenter, die KI zur Emotionserkennung einsetzen, müssen ihre Natur zu Beginn einer Interaktion offenlegen. Auch kommerzielle Aktivitäten wie Terminvereinbarungen oder Vertragsverhandlungen erfordern eine entsprechende Erklärung.

Bei Nichteinhaltung drohen Bußgelder von bis zu 15 Millionen Euro (17 Millionen US-Dollar) oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist.

Modellentwickler wie Spotify und Adobe werden vom KI-Büro der Europäischen Kommission überwacht, sagt Thibau Duquin, Technologierechtler bei Stibbe.

Kritiker warnen davor, dass eine übermäßige Kennzeichnung nach hinten losgehen könnte. Boniface de Champris, KI-Politikleiter beim Computer & Communications Industry Association, warnte, dass die Kennzeichnung von allem, von korrekturlesenden E-Mails bis hin zu gefilterten Fotos, KI-Kennzeichnungen bedeutungslos machen und zu einer "Bannerblindheit" führen würde.

Der Transparenzvorstoß erinnert an die Datenschutz-Grundverordnung der EU, die allgegenwärtige Cookie-Einwilligungspop-ups und "Cookie-Müdigkeit" hervorgerufen hat. Unklare Bedingungen und technische Komplexität könnten ähnliche Kopfschmerzen verursachen, sagt Frederiek Fernhout, was Leitlinien und Änderungen auf Systemebene erfordert.

KI-Modellanbieter erhalten eine Übergangsfrist, um synthetische Inhalte in einem maschinenlesbaren Format zu kennzeichnen. Die Durchsetzung könnte zunächst uneinheitlich sein, da sich die Mitgliedstaaten in unterschiedlichen Phasen des Aufbaus von Aufsichtsbehörden befinden, bemerkt Rosie Nance, Rechtsanwältin für Daten- und KI-Regulierung bei Norton Rose Fulbright.

Letztendlich könnte die Verordnung ein Spielveränderer sein und Unternehmen dazu zwingen, zu entscheiden, ob sie ihren KI-Einsatz offenlegen oder auf manuelle Arbeit zurückgreifen, fügt Duquin hinzu.