EU AI Act - Wie ist der Einsatz von KI im Bereich der Protokollierung zu bewerten?

Was ist der EU AI Act?

Der AI Act ist eine europäische Verordnung über künstliche Intelligenz (KI) - die weltweit erste umfassende KI-Verordnung einer großen Regulierungsbehörde. Ziel des KI-Gesetzes ist es, die Nutzung und Entwicklung künstlicher Intelligenz in der EU zu regulieren, um die Grundrechte der Menschen zu schützen. Zum einen werden Anwendungen und Systeme verboten, die ein inakzeptables Risiko darstellen, wie z.B. staatlich betriebenes Social Scoring, wie es in China der Fall ist. Zweitens werden Anwendungen mit hohem Risiko, wie z.B. ein Tool zum Scannen von Lebensläufen, das eine Rangfolge von Bewerbern erstellt, besonderen rechtlichen Anforderungen unterworfen. Weitgehend unreguliert bleiben Anwendungen, die nicht ausdrücklich verboten oder als risikoreich eingestuft sind.

Weiterführende inforamtionen und den vollständigen Gesetzestext findest du hier.

Wen betrifft der EU AI Act?

Vom KI-Gesetz sind in erster Linie Anbieter, Hersteller, Importeure und Vertreiber von künstlicher Intelligenz (kurz KI) betroffen. Aber natürlich sind auch die Nutzer der KI direkt oder indirekt betroffen. Wie beim Datenschutz liegt es auch hier in der Verantwortung der Nutzer, sich mit dem Thema zu befassen, darauf zu achten, dass nur Anbieter genutzt werden, die sich an die Regelungen halten und dies mit den ihnen zur Verfügung stehenden Mitteln zu überprüfen und zu gewährleisten. Im Falle der Nichteinhaltung drohen zivilrechtliche Klagen und empfindliche regulatorische Sanktionen für alle Beteiligten.

Es ist jedoch wichtig, nicht nur den damit verbundenen Aufwand und die rechtlichen Risiken zu sehen, sondern auch die positiven Aspekte zu berücksichtigen: Mit dem KI-Gesetz wird das Ziel verfolgt, KI-Systeme transparent, nachvollziehbar, diskriminierungsfrei und sicher zu gestalten. Darüber hinaus kann das Gesetz einen Beitrag zur Stärkung des Vertrauens und der Akzeptanz in KI-Anwendungen leisten, es schafft Klarheit und Rechtssicherheit und damit Risikominimierung und Klärung von Haftungsfragen.

Stand der Gesetzgebung und Zeithorizont

Am 12. Juli 2024 wurde mit der Veröffentlichung des EU AI Act im Amtsblatt der Europäischen Union der Countdown für die Umsetzung des ersten europäischen KI-Gesetzes eingeläutet. Ab dem 1. August 2024 tritt das Gesetz in Kraft. Ab Februar 2025 werden die ersten Bestimmungen für Unternehmen verpflichtend (dies betrifft jedoch zunächst vor allem Verbote). Vollständig in Kraft tritt das KI-Gesetz zwei Jahre nach seiner Verabschiedung im Jahr 2026 (siehe auch).

Wie ist Meeting Protokollierung einzuordnen?

Die Antwort ist leider nicht so einfach. Denn ähnlich wie beim Datenschutz muss zunächst der konkrete Anwendungsfall betrachtet werden. In den meisten Fällen dürfte die Anwendung im Bereich des begrenzten Risikos/Limited Risk liegen. Dies begründet sich durch den Einsatz von generativer KI in der Routinearbeit der Protokollierung und der Möglichkeit der Interaktion mit den Nutzern über Chatbot. Es ist jedoch in den meisten Fällen nicht zu erwarten, dass ein nennenswerter Einfluss auf Entscheidungen genommen wird, die die Rechte des Einzelnen, seine Sicherheit oder den Zugang zu wesentlichen Diensten betreffen. Sollte dies der Fall sein, ist das System in den Hochsicherheitsbereich einzustufen. In typischen Anwendungsfällen fällt SpeechMind jedoch, wie bereits oben beschrieben, in die Kategorie „Begrenztes Risiko/Limited Risk“. Wenn Sie Fragen oder Bedenken haben, kontaktieren Sie uns!

Wie verhält es sich mit ChatGPT?

ChatGPT fällt wahrscheinlich in den Bereich der General-Purpose-AI-Basismodelle (GPAI) in der Verordnung. Damit fällt es nicht in die Betrachtung der traditionellen Risikopyramide, sondern in eine eigene Kategorie, die speziell für diese grundlegenden Modelle vorgesehen ist. Die Regulierung dieser Modelle wird vor allem die Dokumentationspflichten, das Thema Urheberrecht und die Kennzeichnung von KI-generiertem Material betreffen. ChatGPT selbst wird jedenfalls nicht verboten und kann auch in Zukunft genutzt werden. Die korrekte Nutzung (Thema Halluzinationen etc.) und vor allem der Datenschutz (der natürlich auch außerhalb dieser Regelung verbindlich bleibt) sind natürlich weiterhin zu beachten.

Was macht SpeechMind um die Anforderungen zu erfüllen?

• Der Benutzer wird klar über den Einsatz von KI informiert. Außerdem hat der Mensch immer die Kontrolle über die Ausgaben der KI und ist in unserem Fall sogar verpflichtet, das automatisch erstellte Protokoll zu überprüfen und hat die Möglichkeit, die Ergebnisse zu korrigieren.
• Kritische Ereignisse werden von SpeechMind durch einen Inhaltsfilter erkannt und protokolliert. Der Benutzer hat zudem die Möglichkeit, kritische Ergebnisse an SpeechMind zu melden und Feedback zu geben.
• Zusätzlich wird eine ausführliche Anwendungsdokumentation bereitgestellt.

Welche Pflichten habe ich als Nutzer?

Wie bereits oben erwähnt, liegt es in der Verantwortung des Unternehmens, zumindest zu prüfen bzw. zu erfragen, ob die oben genannten Punkte vollständig und umgesetzt sind. Darüber hinaus sollte jedes Unternehmen für sich selbst noch einmal eine Bewertung der Risiken vornehmen.

Ausblick: Der AI Act als Blaupause?

Für den künftigen Umgang mit künstlicher Intelligenz schafft der AI Act einen wegweisenden Rahmen. Mit dieser Regelung nimmt die EU auf internationaler Ebene eine Vorreiterrolle in Bezug auf die Regulierung von KI ein. Auch wenn der AI Act zunächst nur in der EU gelten wird, könnte er daher auch als Vorbild für andere Staaten, wie z. B. die USA, dienen.

Willst du mehr zum EU-AI Act in Bezug auf HR Wissen? Dazu haben wir hier einen seperaten Artiekl veröffentlicht.

Wie beurteilst du den Gesetzesentwurf? Glaubst du, dass der europäische AI Act eine positive Richtung vorgibt oder siehst du mögliche Hindernisse? Hast du Fragen? Oder möchtest du dich zu diesem Thema austauschen? Dann melde dich bei mir!

Einfach mal KI-Protokollierung ausprobieren? Teste uns mit zwei kostenlosen Meetings!

Schlüsselwörter: EU AI Act, Künstliche Intelligenz Protokollierung, KI-Einsatz Regulierungen, EU-Gesetzgebung KI, Protokollierung mit KI