Die Nutzung von Künstlicher Intelligenz (KI) ist aus modernen Unternehmen kaum noch wegzudenken. Ob automatisierte Prozesse, intelligente Chatbots oder innovative Produktentwicklungen – KI bietet unzählige Möglichkeiten. Doch mit den Chancen kommen auch Pflichten. Der AI-Act, die Verordnung der EU zur Regulierung von KI-Systemen, stellt klare Anforderungen an Unternehmen. Insbesondere die Begriffe „Betreiber“ und „Anbieter“ spielen dabei eine zentrale Rolle, da sie die Verantwortlichkeiten definieren. Aber was bedeuten diese Begriffe konkret, und welche Verpflichtungen ergeben sich daraus?

In diesem Beitrag erfahren Sie, wer als Betreiber und Anbieter gilt, welche rechtlichen Vorgaben relevant sind und wie Sie sich optimal darauf vorbereiten können.

Was bedeutet „Betreiber“ im Sinne des AI-Acts?

Der Begriff „Betreiber“ beschreibt Unternehmen oder Personen, die ein KI-System innerhalb der EU anwenden oder bereitstellen. Dies umfasst beispielsweise:

• Unternehmen, die KI zur Automatisierung von Kundenanfragen nutzen.
• Kreative, die KI-Tools für Design- oder Content-Erstellung einsetzen.
• Organisationen, die KI-gestützte Prozesse für Personalentscheidungen implementieren.

Pflichten von Betreibern

• Sicherstellen, dass das eingesetzte KI-System den Anforderungen des AI-Acts entspricht (z. B. Transparenz und Risikobewertung).
• Gewährleistung des Datenschutzes und der Nachvollziehbarkeit der Ergebnisse.
• Regelmäßige Überprüfung und Monitoring der KI-Systeme, um Missbrauch oder Fehlfunktionen vorzubeugen.

Wer gilt als „Anbieter“?

Anbieter sind diejenigen, die ein KI-System entwickeln, in Verkehr bringen oder Dritten zur Verfügung stellen. Beispiele:

• Entwickler von KI-Software wie ChatGPT, die Unternehmen lizenzieren.
• Plattformen, die KI-Systeme zur Analyse von Kundendaten anbieten.
• Start-ups, die innovative KI-Lösungen bereitstellen.

Pflichten von Anbietern

• Durchführung einer Konformitätsbewertung vor dem Inverkehrbringen des KI-Systems.
• Dokumentation aller relevanten Informationen (z. B. technische Spezifikationen).
• Bereitstellung von Anleitungen für den sicheren Einsatz und die korrekte Integration.
• Registrierung des KI-Systems in einer EU-Datenbank für Hochrisiko-KI-Systeme.

Praxisbeispiel: KI im Kundenservice

Stellen Sie sich ein mittelständisches Unternehmen vor, das einen KI-Chatbot einsetzt, um Kundenanfragen effizienter zu bearbeiten. Als Betreiber ist das Unternehmen dafür verantwortlich, dass der Chatbot keine diskriminierenden Antworten gibt und den Datenschutz wahrt. Der Anbieter des Chatbots wiederum muss sicherstellen, dass das System konform mit den Vorschriften entwickelt wurde und klar dokumentiert ist.

Pflichten für beide Parteien – Zusammenarbeit ist der Schlüssel

Oft arbeiten Betreiber und Anbieter eng zusammen, um die Anforderungen des AI-Acts zu erfüllen. Dies ist besonders wichtig, wenn es sich um Hochrisiko-KI-Systeme handelt, die z. B. in der Gesundheitsbranche oder im Bereich der öffentlichen Verwaltung eingesetzt werden.

Unser Themenschwerpunkt zum Thema „KI im Unternehmen“

Die Nutzung von KI eröffnet Unternehmen spannende Möglichkeiten, wirft jedoch auch viele rechtliche Fragen auf. Unsere Themenseite „KI im Unternehmen“ bietet Ihnen umfassende Informationen und praktische Tipps, wie Sie KI sicher und effektiv einsetzen können.