7. April 2025
Seit vier Jahren ist die DSGVO in Kraft. Bei ihrem Erscheinen füllte sie das Vakuum der Regulierung zum Datenschutz im Internetzeitalter. Vier Jahre später gibt es ein weiteres Vakuum bei Gesetzen zur Regulierung der KI-Entwicklung. Als Reaktion auf das Fehlen einer Regulierung schlug die Europäische Kommission den KI-Akt (AIA) im Jahr 2021 vor. Der AIA ist ‚der erste rechtliche Rahmen für KI, der die Risiken von KI adressiert und Europa positioniert, um global eine führende Rolle zu spielen‘ [1] .
Der KI-Akt kategorisiert KI-Anwendungsfälle in drei Risikoniveaus und zielt darauf ab, die als ‚hochriskant‘ eingestuften Anwendungsfälle zu regulieren und deren Schaden zu minimieren sowie jene, die als ‚inakzeptables Risiko‘ kategorisiert sind, vollständig zu unterbinden.
KI-Systeme gelten als inakzeptables Risiko, wenn sie ‚als eindeutige Bedrohung für die Sicherheit, die Existenzgrundlage und die Rechte der Menschen angesehen werden‘ [2], wie etwa soziale Bewertung durch Regierungen und Spielzeuge mit Sprachassistenz, die zu gefährlichem Verhalten ermutigen.
Hochrisiko-KI-Software umfasst ein breites Spektrum von Anwendungen, wie solche, die das Leben und die Gesundheit der Bürger gefährden (z.B. Transport), Sicherheitskomponenten von Produkten (z.B. KI-Anwendung in der robotergestützten Chirurgie) usw… (für eine vollständige Liste verweisen wir auf die Website der Europäischen Kommission). In Zukunft müssen Hochrisiko-KI-Softwareprodukte strenge Kriterien erfüllen, um auf dem Markt präsent sein zu dürfen.
KI-Systeme wie Chatbots gelten als Systeme mit begrenztem Risiko. Die Nutzer könnten möglicherweise nicht erkennen, dass sie nicht mit echten Menschen kommunizieren, wenn sie nicht im Vorfeld eindeutig darüber informiert werden.
Die meisten derzeit verwendeten KI-Systeme werden als ‚minimales oder kein Risiko‘ eingestuft. Beispiele hierfür sind KI-gestützte Videospiele oder Spam-Filter.
Quelle: Europäische Kommission
Vorteile
Der KI-Akt ist ein beispielloser Regulierungsvorschlag, der die rasante Entwicklung der KI und das Fehlen von Gesetzen zu ihrer Regulierung angeht. Durch den KI-Akt strebt die EU an, einen globalen Standard für KI zu setzen, der ‚Gesetze zu grundlegenden Menschenrechten und EU-Werten‘ respektiert. KI-Anwendungsfälle, die rechtswidrig sind und Schaden verursachen könnten, werden streng reguliert oder sogar verboten, wodurch die Grundrechte der Bürger gewährleistet werden.
Er gibt KI-Entwicklern, -Einsetzern und -Nutzern auch klare Regeln und Kriterien für die KI-Entwicklung und -Anwendung vor, mit dem Ziel, ‚den administrativen und finanziellen Aufwand für Unternehmen, insbesondere für kleine und mittlere Unternehmen (KMU), zu reduzieren.‘ [3] Zusammen mit Folgeplänen wird der KI-Akt die KI-Entwicklung und -Innovation in der EU beschleunigen.
Bedenken
Es gibt jedoch viele Meinungen, die den Vorschlag in Frage stellen. Einige beschreiben ihn als ‚die restriktivste Regulierung von künstlicher Intelligenz (KI)-Werkzeugen‘ [4] und bezweifeln, wie realistisch es für den AIA sein wird, tatsächlichen Nutzen für die europäische Wirtschaft zu bringen.
Die Einhaltung des AIA wird von Unternehmen erhebliche finanzielle Aufwendungen erfordern. Laut der Folgenabschätzung der EU könnte ein kleines Unternehmen mit einem Hochrisiko-KI-Produkt eine Investition von 400.000 € für die Einrichtung eines Qualitätsmanagementsystems (QMS) benötigen [5]. Unternehmen, die nicht versuchen, das Gesetz einzuhalten, drohen Geldstrafen von 30 Millionen Euro oder 6% des globalen Umsatzes.
Einige befürchten auch, dass der KI-Akt die Wettbewerbsfähigkeit europäischer Unternehmen auf dem globalen Markt weiter behindern wird. Europa liegt in der KI-Entwicklung und -Anwendung bereits hinter den USA und China zurück. Das Center for Data Innovation behauptet, dass ‚bis 2025 der AIA der europäischen Wirtschaft mehr als 30 Milliarden Euro kosten wird.‘ [6] Die strengen Vorschriften könnten auch zu einer Reduzierung der Investitionen in KI in Europa führen und Unternehmer und Start-ups ermutigen, in anderen Regionen Geschäfte zu gründen, wo sie ihre Ideen ohne Compliance-Kosten voll erforschen und experimentieren können.
Der AIA sendet eine klare Botschaft über die Entschlossenheit der EU, den KI-Markt in den kommenden Jahren zu regulieren. Unvermeidlich gibt es Stimmen, die den Einfluss auf die EU-Wirtschaft in Frage stellen. Gleichzeitig betrachten andere den AIA als eine Gelegenheit, den EU-KI-Markt zu regulieren und sein schnelles Wachstum zu fördern. In der gegenwärtigen Phase, in der der AIA noch nicht in Kraft getreten ist, wird Unternehmen empfohlen, im Voraus zu planen, um Compliance-Kosten zu minimieren und Nicht-Konformität zu vermeiden.
brighter AI’s Anonymisierungslösung ist die weltweit fortschrittlichste automatische Redaktionssoftware für Bilder und Videos. Unsere Mission ist es, jede Identität in der Öffentlichkeit zu schützen. Als DSGVO-konformes Produkt anonymisieren wir den Inhalt der Daten, um Personen vor Erkennung zu schützen und sicherzustellen, dass keine Daten auf eine Einzelperson zurückgeführt werden können. Wenn Sie mehr über unsere Anonymisierungslösung erfahren möchten, sehen Sie sich die untenstehenden Fallstudien an oder kontaktieren Sie uns hier.
[1] Europäische Kommission; „Gestaltung der digitalen Zukunft Europas“; 2021-02-28
[2] Europäische Kommission; „Gestaltung der digitalen Zukunft Europas“; 2021-02-28
[3] Europäische Kommission; „Gestaltung der digitalen Zukunft Europas“; 2021-02-28
[4] Benjamin Mueller; Center for Data Innovation; „Wie viel wird der Artificial Intelligence Act Europa kosten“; 2021-07
[5] Europäische Union; „Studie zur Unterstützung einer Folgenabschätzung regulatorischer Anforderungen für Künstliche Intelligenz in Europa“; 2021-04-21
[6] Benjamin Mueller; Center for Data Innovation; „Wie viel wird der Artificial Intelligence Act Europa kosten“; 2021-07
