Die EU-Kommission will einen einheitlichen Rechtsrahmen für die Nutzung von künstlicher Intelligenz (KI) in der EU schaffen. Die KI-Verordnung befindet sich noch im Entwurfsstadium - viele Regelungspunkte stehen jedoch schon fest oder es ist abzusehen, in welcher Form sie den Weg in das Gesetz finden werden. Daher lohnt es sich für Unternehmen, sich schon jetzt darauf vorzubereiten, um nicht von der Regelungsfülle überfahren zu werden und teure, notwendige Anpassungen der eingesetzten KI zu riskieren. Rechtsanwältin Kathrin Schürmann gibt einen Überblick über die von der EU geplanten Vorgaben und sagt, welche für den E-Commerce wichtig sind. 

Für den E-Commerce birgt künstliche Intelligenz viele Chancen: höhere Kundenzufriedenheit, Dynamic Pricing, präzise Absatzprognosen – KI machts möglich. Doch neben Vorteilen bringt KI auch Herausforderungen mit sich. So sind zahlreiche rechtliche Anforderungen zu berücksichtigen. Es gibt in Deutschland kein zentrales KI-Regelwerk, vielmehr müssen Vorgaben aus diversen Gesetzen befolgt werden, z.B. aus dem Datenschutz-, dem Wettbewerbs- oder dem Verbraucherschutzrecht.

Die EU-Kommission hat es sich nun zur Aufgabe gemacht, einen einheitlichen Rechtsrahmen für KI in der EU zu schaffen: Im April 2021 stellte sie ihren Vorschlag für eine KI-Verordnung (KI-VO) vor. Der EU-Ministerrat hat seinen Kompromissvorschlag schon vorgelegt. Sobald das Parlament seine Position ausgearbeitet hat, beginnen die offiziellen Trilogverhandlungen.
Für Onlinehändler birgt künstliche Intelligenz vielfältige Anwendungsmöglichkeiten - aber auch komplexe rechtliche Herausforderungen.
© IMAGO / aal.photo
Für Onlinehändler birgt künstliche Intelligenz vielfältige Anwendungsmöglichkeiten - aber auch komplexe rechtliche Herausforderungen.
Das In-Kraft-Treten der Verordnung gilt für 2024 als wahrscheinlich. Grundgerüst und zentrale Regelungspunkte sind bereits absehbar. Damit die Vorbereitung gelingt, sollten Unternehmen sich schon jetzt mit dem Entwurf vertraut machen.

Definition von KI

Für den Begriff KI existiert keine einheitliche Definition. Zentrale Aspekte sind jedenfalls eine in gewissem Maße autonome Funktionsweise und ein sich anpassender Verarbeitungsprozess. Es handelt sich um selbstlernende Software-Algorithmen. Meist übernehmen sie Aufgaben, die traditionell von Menschen ausgeführt werden.

Der Entwurf zur KI-VO (KI-VO-E) soll erstmals eine gesetzliche KI-Definition liefern. In der ersten Kommissionsversion war diese derart weit gefasst, dass selbst Taschenrechner darunter fallen würden. Der Ministerrat schlug eine engere Definition vor, die sich wahrscheinlich durchsetzen wird. Sie umfasst als KI solche Systeme, die auf Grundlage von maschinellen und/oder menschlichen Eingaben und Daten autonom schlussfolgern, wie bestimmte Ziele zu erreichen sind.

Dabei kann auf maschinelles Lernen und/oder logik- und wissensbasierte Ansätze zurückgegriffen werden. Die Ergebnisse können Inhalte, Empfehlungen, Vorhersagen oder Entscheidungen sein. Diese Definition entspricht eher dem herkömmlichen Verständnis von KI.

KI in Handel und E-Commerce

Im E-Commerce kann KI enorme Vorteile verschaffen. In einer Studie des Marktforschungsunternehmens Forrester gaben 92 % der befragten Entscheider und Marketingverantwortlichen in Unternehmen an, dass KI das Potenzial hat, höhere Kundenzufriedenheit und Mehrwerte für Nutzer zu schaffen. E-Commerce-Riesen wie Otto oder Amazon profitieren jetzt schon davon.

Die Anwendungsbereiche sind breit gefächert. Durch KI-gesteuerte dynamische Preisoptimierung etwa lassen sich Preise ideal anpassen und Handelsmargen erhöhen. Mithilfe von KI-Anwendungen können Kundendaten ausgewertet und damit personalisierte Profile erstellt werden. Die User-Experience beim Einkaufen wird so deutlich verbessert. Auf Basis von Kaufhistorie, Surfverhalten, Präferenzen und persönlichen Kundendaten können personalisierte Produktempfehlungen mit hoher Kaufwahrscheinlichkeit gegeben werden.

Im Onlineshop lassen sich Chatbots als virtuelle Assistenten einsetzen. Sie helfen, die Kommunikation mit Kunden zu automatisieren und agieren als Shopping-Berater. Sind Kunden dennoch unzufrieden, können KI-gestützte "Churn Predictions" abwanderungsgefährdete Nutzer frühzeitig identifizieren und durch individualisierte Angebote halten. Treue Kunden zu halten ist meist günstiger als neue zu gewinnen. In Logistik und Transport kann mittels KI die Supply-Chain optimiert und die Inventur automatisiert werden. Die Einsatzgebiete für KI sind also vielfältig, E-Commerce-Unternehmen sollten sich deshalb mit dem Thema auseinandersetzen - und die Rechtslage im Blick behalten.
Chatbot im Fressnapf-Onlineshop: KI ermöglicht eine automatisierte Kommunikation im Kundendienst und kann so Servicemitarbeiter entlasten.
© Screenshot
Chatbot im Fressnapf-Onlineshop: KI ermöglicht eine automatisierte Kommunikation im Kundendienst und kann so Servicemitarbeiter entlasten.

Die geplante KI-Verordnung unterscheidet vier Risikogruppen

Die KI-VO befindet sich noch im Entwurfsstadium - viele Regelungspunkte stehen jedoch schon fest bzw. es ist abzusehen, in welcher Form sie den Weg in das Gesetz finden werden. Daher lohnt es sich für Unternehmen, sich schon jetzt darauf vorzubereiten, um nicht von der Regelungsfülle überfahren zu werden und teure, notwendige Anpassungen der eingesetzten KI zu riskieren.

Der KI-VO-E verfolgt einen risikobasierten Ansatz: Je höher die Risiken, die von einem KI-System ausgehen, desto strenger die Anforderungen an dieses. Es wird in vier Risikogruppen unterschieden:

  • Verbotene KI, welche Grundrechte und Werte der EU derart gefährdet, dass sie gar nicht erlaubt sein soll. Die umfassten Systeme sind abschließend genannt. Darunter zählen z.B. Social-Scoring- und gewisse Echtzeit-Fernidentifizierungssysteme.
  • Hochrisiko-KI sind das Herzstück des Entwurfs. Fast alle Anforderungen beziehen sich auf sie. Viele KI-Anwendungen werden zu den Hochrisiko-KI zählen, Unternehmen nutzen sie möglicherweise sogar unbewusst. Wann eine solche vorliegt, ist über zwei Anhänge geregelt. Danach soll ein KI-System dann mit einem hohen Risiko behaftet sein, wenn es selbst oder als Sicherheitsbauteil eines anderen Produktes wegen bestehender EU-Vorschriften einer Konformitätsbewertung unterzogen werden muss. Ferner liegt dann eine Hochrisiko-KI vor, wenn KI in bestimmten Bereichen eingesetzt wird (z. B. Verwaltung, Personalmanagement oder Zugang zu privaten und öffentlichen Diensten) und einem der abschließend genannten Anwendungsfälle entspricht (im Personalmanagement z.B. Software, die zum Recruiting eingesetzt wird, beim Zugang zu privaten Diensten etwa Algorithmen, die Kreditwürdigkeitsprüfungen vornehmen oder Versicherungsprämien berechnen).
  • KI mit geringem Risiko sind Systeme, die für die Interaktion mit Menschen bestimmt sind. Für sie gelten nur Transparenzverpflichtungen.
  • Von KI mit minimalem Risiko sollen keine expliziten Risiken ausgehen, der Entwurf enthält keine Verpflichtungen für sie. Für sie sollen jedoch freiwillige Verhaltenskodizes gefördert werden, die sich an den Vorgaben der KI-VO orientieren.

    Bislang sind Chatbots immer noch langsam und können Kunden lediglich stichwortbasiert Hilfe leisten. Durch ChatGPT könnte sich das bald ändern.
    © IMAGO / Alexander Limbach
    Etailment-Expertenrat

    Chat-Commerce: Bringt ChatGPT den Durchbruch?

    Der KI-VO-E enthält eine Fülle von Vorgaben, vorrangig für Hochrisiko-KI. Sie richten sich vor allem an Anbieter, aber auch für z.B. Nutzer von KI sind Verpflichtungen enthalten. In bestimmten Fällen können zudem andere Akteure Adressaten aller Anbieterpflichten werden.

Bußgelder bis zu 30 Millionen Euro

Die KI-VO soll dabei extraterritoriale Wirkung haben. Es werden Anbieter auch außerhalb der EU verpflichtet, die eine KI in der EU in Betrieb nehmen oder vertreiben. Anbieter und Nutzer von KI sollen zudem dann verpflichtet werden, wenn sie die Systeme außerhalb der EU einsetzen, die Arbeitsergebnisse jedoch in der EU verwendet werden. 

Wichtige Vorgaben aus dem KI-VO-Entwurf sind bspw. die Verpflichtung, ein Risikomanagementsystem einzuführen, Anforderungen an verwendete Daten- und Daten-Governance sowie die technische Dokumentation des Systems. Bei Verstößen sieht der Entwurf empfindliche Sanktionen vor. In gravierenden Fällen sollen Bußgelder von bis zu 30 Millionen Euro oder 6 % des gesamten weltweiten Jahresumsatzes fällig werden.

E-Commerce und KI-VO

Für Unternehmen aus dem E-Commerce sind einige der geplanten Vorschriften von Relevanz. Zu beachten sind zunächst die Transparenzverpflichtungen. Soll KI im E-Commerce mit Menschen interagieren, sind diese stets darauf hinzuweisen, dass sie es mit einem KI-System zu tun haben. Insbesondere für Chatbots im Kundendienst ist die Verpflichtung relevant.

Die freiwilligen Codes of Conduct sollten von Unternehmen aufgestellt werden, selbst wenn von deren KI kein hohes Risiko ausgeht. So lässt sich sicherstellen, dass Systeme ethischen Standards entsprechen. Außerdem wollen EU-Kommission und Mitgliedsstaaten Anreize schaffen, Verhaltenskodizes aufzustellen. Unternehmen werden davon profitieren können.

Essenziell ist es zudem einzustufen, ob die eigene KI eine Hochrisiko-KI darstellt. Die Liste der umfassten Systeme ist lang und es muss stets für den Einzelfall untersucht werden, ob die entsprechende KI darunter fällt. Die aufgeführten Sektoren werden gegenwärtig noch diskutiert, sodass noch nicht mit abschließender Sicherheit gesagt werden kann, welche Systeme zuzuordnen sind.

Relevant für Unternehmen im E-Commerce werden solche Hochrisiko-KI sein, die die Kreditwürdigkeitsprüfung potenzieller Kunden vornehmen. Außerdem wichtig sind Systeme, die zu Recruiting-Zwecken eingesetzt werden. Zudem soll von KI ein hohes Risiko ausgehen, die für Personalentscheidungen innerhalb von Beschäftigungsverhältnissen genutzt wird. Es gilt jedenfalls, die Verhandlungen um die KI-VO im Blick zu behalten, um sich auf kommende Herausforderungen einstellen zu können.

MEHR ZUM THEMA: 


Zu komplex, hochtechnologisch und zu ressourcenintensiv - es gibt viele Vorbehalte gegen KI. Dabei muss die Implementierung intelligenter virtueller Assistenten kein zeit- und kostenaufwändiges Unterfangen sein.
© imago images / Alexander Limbach
Digitalisierung

Keine Angst vor künstlicher Intelligenz im Kundenservice


Die Gründer Dr. Sebastian Hecker und André Naumann (v.l.) haben drei Jahre lang an dem Pionierprojekt für die Gastro-Branche gearbeitet.
© we-do.ai
Start-ups

Sprach-Chatbot Foodcall: Intelligenter Mitarbeiter für die Gastronomie


Um genügend Angebote zu generieren und so Kunden anzuziehen, muss ein Marktplatz Verkäufern die besten Bedingungen bieten.
© IMAGO / Panthermedia
Marktplätze

So profitieren Plattformen von automatisierten Prozessen