Was muss ich über das EU-Gesetz zur KI wissen? (Teil 1)

Wichtige Punkte der weltweit ersten Gesetzgebung zur Regulierung künstlicher Intelligenz

Nachrichten Sicherheit 09.08.2024

Bild erstellt mit einem KI-Tool

Künstliche Intelligenz (KI) ist gekommen, um zu bleiben. Es ist offensichtlich, dass unser Alltag inzwischen voller KI-Prozesse ist, die uns die täglichen Aufgaben erleichtern. Apples berühmte Siri oder Amazons Alexa, die beiden bekanntesten virtuellen Assistenten, sind klare Beispiele für KI in unserem täglichen Leben. Ebenso sind der Einsatz von KI im medizinischen Bereich zur Unterstützung bei der Diagnose von Krankheiten oder autonome Autos, die Sensoren, Radare und KI kombinieren, weitere bekannte Fortschritte dieser revolutionären Technologie.

Deshalb hat das Europäische Parlament mit der Ausarbeitung einer neuen Verordnung zur Regulierung der KI begonnen, um ihre sichere Entwicklung in der Europäischen Union zu fördern. Diese weltweit wegweisende Gesetzgebung, die darauf abzielt, technologische Innovation mit dem Schutz der Rechte und Freiheiten der europäischen Bürger in Einklang zu bringen, trat am 1. August in Kraft und wird schrittweise bis 2026 angewendet. Unternehmen und Institutionen haben bereits begonnen, sich auf die Erfüllung der neuen Verpflichtungen vorzubereiten, die das Potenzial haben, das europäische Technologie-Ökosystem erheblich zu verändern. Wollen wir gemeinsam ihre wichtigsten Auswirkungen überprüfen?

Wichtige Punkte der KI-Verordnung

1. Risikobasierter Ansatz: Die Verordnung klassifiziert KI-Systeme nach ihrem Niveau an unzumutbarem, hohem oder begrenztem Risiko. Dies bestimmt die Verpflichtungen der KI-Entwickler und -Nutzer in Abhängigkeit von der Nutzung dieser Technologie. Beispielsweise unterliegen Hochrisikosysteme, wie die im Gesundheitswesen oder der öffentlichen Sicherheit, strengeren Sicherheits- und Transparenzanforderungen.

2. Transparenz und Erklärbarkeit: KI-Anbieter müssen die Transparenz ihrer Systeme gewährleisten. Dies umfasst die Dokumentation und Veröffentlichung der verwendeten Algorithmen und Datensätze, insbesondere in generativen Systemen wie ChatGPT. Dies hilft, die Erstellung illegaler Inhalte zu verhindern und ermöglicht es den Nutzern, die auf KI basierende Entscheidungsfindung zu verstehen.

3. Auswirkungen auf KMU und Innovation: Um Innovationen nicht zu bremsen, sieht das Gesetz Ausnahmen für Forschungsaktivitäten und KI-Komponenten vor, die unter Open-Source-Lizenzen bereitgestellt werden. Es werden auch sogenannte "regulatorische Sandkästen" gefördert, in denen neue Technologien in einer kontrollierten Umgebung getestet werden können, bevor sie großflächig implementiert werden.

4. Bürgerrechte: Bürger können Beschwerden bei Aufsichtsbehörden einreichen, wenn sie der Ansicht sind, dass ein KI-System ihre Rechte verletzt. Sie haben außerdem das Recht, Erklärungen für wichtige Entscheidungen zu erhalten, die von Hochrisikosystemen getroffen werden und ihre Grundrechte betreffen, da der Schutz der Rechte und Freiheiten der Einzelnen einer der Grundpfeiler der Verordnung ist.

5. Überwachung und Sanktionen: Jeder Mitgliedstaat wird eine Aufsichtsbehörde einrichten, um die Einhaltung der Verordnung sicherzustellen. In Spanien wird die spanische Agentur für KI-Aufsicht die Hauptbehörde sein. Das Sanktionssystem sieht Geldstrafen von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes vor, je nachdem, welche Summe höher ist.

Auswirkungen der Verordnung auf die Gesellschaft

Das Gesetz soll sicherstellen, dass die Vorteile der KI sicher und ethisch genutzt werden können. Dazu gehört der Schutz der Grundrechte der europäischen Bürger, wie das Recht auf Privatsphäre, Nichtdiskriminierung und Sicherheit. Beispielsweise müssen Hochrisikosysteme Konformitätsbewertungen bestehen, um sicherzustellen, dass sie diese Rechte nicht verletzen.

Darüber hinaus fördert die Verordnung die Transparenz und Erklärbarkeit von KI-Systemen. Dies bedeutet, dass die Nutzer das Recht haben werden, zu verstehen, wie die Algorithmen funktionieren, die wichtige Entscheidungen treffen, die sie betreffen. Wenn beispielsweise jemand durch ein automatisiertes System von einem Job abgelehnt wird, hat er das Recht zu erfahren, welche Kriterien bei dieser Entscheidung verwendet wurden. Mit dieser weltweit ersten Regulierung führt die EU den Schutz der Menschenrechte im KI-Zeitalter an und stellt sicher, dass sich diese Technologie verantwortungsbewusst entwickelt und allen zugutekommt. Wir müssen uns daran erinnern, dass die KI trotz ihrer Bedrohungen eine Welt voller Möglichkeiten bietet, die uns helfen kann, bestimmte

Aufgaben einfacher oder schneller zu erledigen. Bei Dispromèdia beispielsweise nutzen wir seit einiger Zeit KI-Tools, um Ideen in den Bereichen Programmierung, Design oder Marketing zu finden oder zu überprüfen. Kurz gesagt, das von der EU verabschiedete Gesetz soll sicherstellen, dass KI ein ausgezeichneter Verbündeter für unsere Gesellschaft ist. Wir werden später mehr darüber sprechen.

Für weitere Informationen zur Verordnung empfehlen wir folgende Lektüre::