(SeaPRwire) –   Chatbots und Deepfake-Generatoren müssen ihre Kreationen kennzeichnen und Daten über ihre Algorithmen teilen

Die EU hat ihr erstes Gesetzgebungsvorhaben zur Regulierung der Produktion und Nutzung von Künstlicher Intelligenz am Freitag vorgestellt. Das KI-Gesetz verfolgt einen “risikobasierten Ansatz” für die Technologie und legt den Fokus auf Restriktionen für jene Aspekte, die als größte Gefahr für die Gesellschaft angesehen werden.

Die Gesetzgebung führt Transparenzanforderungen für alle KI-Modelle mit allgemeinem Zweck ein, wobei leistungsstärkere Modelle, die “systemische Risiken für die Union” darstellen könnten, stärkeren Anforderungen unterliegen, wie MEP Dragos Tudorache, einer der leitenden Verhandler, Reportern am Freitag sagte.

“Hochrisikonutzungen” von KI werden als solche eingestuft, die ein signifikantes potenzielles Risiko für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaatlichkeit bergen, so die neue Gesetzgebung, die speziell den Versicherungs- und Bankensektor sowie Systeme im Zusammenhang mit Wahlen und Abstimmungen als Bereiche nennt, die strenger Sicherheitstests vor der öffentlichen Einführung bedürfen.

Bürger werden Berichten zufolge die Möglichkeit haben, Beschwerden einzureichen und Erklärungen zu verlangen, inwiefern eine KI-Entscheidung ihre Rechte und ihr Leben betroffen hat.

Das Paket verlangt von Deepfake-Generatoren, großen Sprachmodellen und anderen Erstellungsmaschinen, ihre Arbeiten als KI-generiert zu kennzeichnen und behauptet den Urheberrechtsinhabern vor KI-Plagiaten ihrer Arbeiten zu schützen.

Biometrische Systeme, die “sensible Merkmale” wie Rasse und sexuelle Orientierung zur Identifizierung von Personen verwenden, sind durch die neue Gesetzgebung verboten, ebenso wie willkürliches Abfischen von Gesichtern aus Online-Datenbanken oder anderen Bildrepositorien. Auch soziale Kreditbewertungssysteme, “Systeme, die das menschliche Verhalten manipulieren, um ihren freien Willen zu umgehen”, sowie Emotionserkennung durch Arbeitgeber oder Bildungseinrichtungen sind verboten.

Der Einsatz von Gesichtserkennungstechnologie durch Strafverfolgungsbehörden wäre auf “bestimmte Sicherheits- und nationale Sicherheitsausnahmen” begrenzt, wie die Verhinderung einer “konkreten und gegenwärtigen terroristischen Bedrohung.” Für die “nachträgliche” Verwendung biometrischer KI-Verfolgung muss das Ziel für einen schweren Straftatbestand – Terrorismus, Menschenhandel, sexuelle Ausbeutung, Mord, Entführung, Vergewaltigung, bewaffneten Raub, Teilnahme an einer kriminellen Vereinigung oder “Umweltverbrechen” – verurteilt oder verdächtigt worden sein.

Die Verbote sollen in sechs Monaten in Kraft treten, während die Transparenzanforderungen ab einem Jahr durchgesetzt werden. Das gesamte Gesetzgebungsvorhaben tritt in zwei Jahren in Kraft.

Der finale Entwurf der Gesetzgebung, der über drei Tage Verhandlungen erarbeitet wurde, die am Mittwoch mit einer 22-stündigen Marathon-Sitzung begannen, wurde noch nicht veröffentlicht und muss noch durch Abstimmungen im Parlament und Rat der Europäischen Union genehmigt werden.

Die EU hofft, weltweit führend bei der Regulierung von KI zu sein und greift damit ähnlich kontrovers ihre Bemühungen an, den Informationsfluss im Internet mit dem Digital Services Act früher in diesem Jahr zu regulieren. Wie diese Gesetzgebung sieht sie ebenfalls empfindliche Geldstrafen vor – Verstöße könnten mit bis zu €35 Millionen ($37,7 Millionen) oder 7% des weltweiten Umsatzes geahndet werden.

Der Artikel wird von einem Drittanbieter bereitgestellt. SeaPRwire (https://www.seaprwire.com/) gibt diesbezüglich keine Zusicherungen oder Darstellungen ab.

Branchen: Top-Story, Tagesnachrichten

SeaPRwire liefert Echtzeit-Pressemitteilungsverteilung für Unternehmen und Institutionen und erreicht mehr als 6.500 Medienshops, 86.000 Redakteure und Journalisten sowie 3,5 Millionen professionelle Desktops in 90 Ländern. SeaPRwire unterstützt die Verteilung von Pressemitteilungen in Englisch, Koreanisch, Japanisch, Arabisch, Vereinfachtem Chinesisch, Traditionellem Chinesisch, Vietnamesisch, Thailändisch, Indonesisch, Malaiisch, Deutsch, Russisch, Französisch, Spanisch, Portugiesisch und anderen Sprachen.