Ruf nach Schutz vor generativer KI

WIR SIND Urheber:innen, ausübende Künstler:innen und Inhaber:innen von Urheberrechten wie Journalisten, Fotografen, Musiker, Schauspieler, Buchautoren, Illustratoren, Designer usw. Wir werden durch über 40 in der Initiative Urheberrecht (IU) zusammengeschlossene Verbände und Gewerkschaften repräsentiert. In Europa gibt es mehrere Millionen wie uns; wir alle leben von unseren schöpferischen Tätigkeiten für Kultur, Kultur- & Kreativwirtschaft und Medien; unsere Arbeit ist Ausgangspunkt materieller wie ideeller Wertschöpfung, die wir für die europäische Werte- und Wirtschaftsgemeinschaft als unverzichtbar ansehen.

WIR WARNEN, gemeinsam mit Unternehmen aus der Buchbranche, Musikwirtschaft, Filmindustrie, aus Rundfunk und Presse, für die wir tätig sind: Grundsätzliches ist bedroht! KI-generierte Erzeugnisse greifen unmittelbar ins gesellschaftliche Leben ein; das immanente Desinformations- und Manipulationspotenzial generativer KI-Systeme stellt jeden Einzelnen und die Gesellschaft insgesamt vor tiefgreifende Herausforderungen. Die selbst von KI-Experten immer lauter zum Ausdruck gebrachte Sorge um einen Verlust der Kontrolle über solche Systeme und die Rufe nach gesetzlichen Grenzen teilen wir. Die Überraschung ist groß, wenn einige in der Politik gleichwohl „keinen Handlungsbedarf“ konstatieren.

Die geplante Europäische KI-Verordnung (AI Act), die in diesen Tagen in den Trilog geht, klammert nicht nur unsere (Urheber)Rechte aus, sie schickt sich an, generative KI-Systeme unter Minimalvorgaben zuzulassen, die nicht einmal dem schon heute zu beobachtenden Missbrauch dieser Systeme und deren gesellschaftlichen und wirtschaftlichen Implikationen gerecht werden.

Der Output von KI-Systemen hängt von dem Input ab, mit dem sie trainiert werden; dazu gehören Texte, Bilder, Videos und andere Materialien von Urheber:innen, ausübenden Künstler:innen und weiteren Rechteinhabern: Unserer digitales Gesamtrepertoire dient dem Training von KI, oft ohne Genehmigung und unvergütet und nicht immer für legitime Zwecke. Die ungefragte Nutzung des Trainingsmaterials, seine intransparente Verarbeitung und die absehbare Substitution der Quellen durch den Output generativer KI werfen grundsätzliche Fragen nach Verantwortung und Haftung wie auch Vergütung auf, die zu klären sind, bevor der Schaden irreversibel ist.

Unsere Stellungnahme analysiert diese Entwicklungen und schlägt konkrete, konstruktive Lösungen vor. Eine sinnvolle KI-Regulierung bedarf spezieller Vorgaben für generative KI. Im Mittelpunkt jeder Entscheidung müssen die Bürger:innen und die Gesellschaft stehen.

WIR FORDERN:

Regulierung von generativer künstlicher Intelligenz –
zur Begrenzung absehbarer Schäden für die europäische Gesellschaft, für Wirtschaft und Kultur.

Regulierung JETZT –
denn das Zeitfenster für eine effektive Regulierung des Markteintritts wird sich bald schließen.

Mit besten Grüßen
Ihre Urheber:innen und ausübende Künstler:innen

________________________________

A. Zusammenfassung

Wir, die unterzeichnenden 43 Verbände und Gewerkschaften vertreten Tausende Autor:innen, ausübenden Künstler:innen und kreativen Urheber:innen verschiedener Branchen. Wir fordern wirksame Regulierungsmaßnahmen, um den enormen Schaden abzuwenden, der entstehen kann, wenn generative KI auf europäischen Märkten in Verkehr gebracht wird. Wir begrüßen die jüngsten Vorschläge zur Aufnahme spezieller Regelungen für „general-purpose“ KI in die Verordnung, halten diese aber für nicht ausreichend, um das digitale Ökosystem und die Gesellschaft insgesamt hinreichend zu schützen.

In Kapitel B. legen wir eine gemeinsame Stellungnahme vor, in der wir darlegen, welche hohen Risiken generative KI für die Gesellschaft birgt und warum diese Risiken besondere rechtliche Absicherungen im KI-Gesetz erfordern. Wir sehen diese Beobachtungen durch die Erfahrungen unserer Mitglieder in ihren jeweiligen Branchen bestätigt, die wir in Kapitel C. darlegen.

Auf Grundlage unserer Analyse appellieren wir an alle Parteien des Trilogs - Parlament, Kommission und Rat -, die Aufnahme der folgenden Änderungen in das KI-Gesetz zu erwägen:

- Generative KI muss entlang ihrer gesamten Entstehungskette reguliert werden, mit besonderem Fokus auf die Anbieter der Foundation Model (Sprachmodelle und andere große Grundmodelle).

- Das Inverkehrbringen von Foundation Models auf europäischen Märkten sollte vom Nachweis abhängig gemacht werden, dass diese Modelle die folgenden Mindestanforderungen erfüllen:

- Transparenz über das verwendete Trainingsmaterial;

- hinreichende Belastbarkeit des Trainingsmaterials in Sachen Richtigkeit, Genauigkeit, Objektivität und Vielfalt, u.a. durch den Nachweis eines angemessenen Rückgriffs auf Trainingsmaterial:
- das aus Europa stammt;
- das von professionellen Quellen stammt, statt nutzergenerierter oder illegaler Inhalte.

- Nachweis einer Rechtsgrundlage für die Erhebung und Nutzung des Trainingsmaterials, für personenbezogene Daten (gemäß der GS-DVO)) und nicht personenbezogene Daten (gemäß Europäischem Urheberrecht); einschließlich des Nachweises der Einführung, Umsetzung und Beachtung eines effektiven und praktikablen Systems für die granulare maschinenlesbare Kommunikation von Nutzungsrechten;

- Haftung für alle durch die KI-generierten und verbreiteten Inhalte, insbesondere für die Verletzung von Persönlichkeits- und Urheberrechten, für Falschinformationen oder Diskriminierungen;

- keine algorithmische oder sonstige Bevorzugung KI-generierter Inhalte gegenüber von Menschen geschaffenen Werken oder deren Diffamierung und angemessene Maßnahmen zur Vermeidung eines unverhältnismäßigen Vertrauens in KI-Inhalte;

- strukturelle Trennung von Generierung und Verbreitung von KI-Inhalten: Anbieter von Foundation Modellen können nicht zugleich zentrale Plattformdienste für die Verbreitung digitaler Inhalte im Sinne des Digital Markets Acts betreiben, insbesondere keine Suchmaschinen oder soziale Medien;

- ein Mindestmaß an kontinentaler Datenverarbeitungs-Infrastruktur: ein Teil des laufenden Betriebs (der Inference) des KI-Systems muss über eine in Europa stationierte Recheninfrastruktur erfolgen, wobei der Anteil der lokalen Datenverarbeitung im Laufe der Zeit steigen sollte.

Die Anpassung der KI-Verordnung an die heutigen Gegebenheiten ist der erste unabdingbare Schritt. In einem zweiten Schritt fordern wir eine Neujustierung der Interessen im Urheberrecht. Es sollte insbesondere klargestellt werden, dass die in Artikel 3 und 4 der DSM-Richtlinie (EU 2019/790) festgelegten Ausnahmen für Text- und Data-Mining es generativen KI-Systemen nie erlaubt haben, ihre Quellen ohne jegliche Vergütung zu ersetzen.

Diese Stellungnahme der Initiative Urheberrecht und weiterführende Informationen zum Thema finden Sie auch unter diesem Link.