Lesedauer: min
Gastbeitrag swissICT
«AI all over» – und was sagen die Juristen?
Die EU ist daran, sich einer Regulierung von künstlicher Intelligenz zu nähern. In der Schweiz ist ein Gesetzesentwurf noch nicht in Sicht.
Artificial Intelligence (AI) respektive künstliche Intelligenz (KI) ist in aller Munde. Headlines überschlagen sich, neue Angebote, Suchmaschinen mit KI-Funktionalitäten, Konferenzen und Beiträge schiessen wie Pilze aus dem Boden – fast so exponentiell, wie dies für die durch die Algorithmen genutzten Daten der Fall ist. Und was macht die Juristerei? Was die Politik? Was gilt im eigentlichen Sinne als KI? Kann man tun und lassen, was man will oder gibt es Grenzen? Braucht es Regulierung?
Basis der Fragen aller Fragen ist die Frage, was unter AI überhaupt zu verstehen ist. Ohne eine Begriffsdefinition und Abgrenzung kann nicht reguliert, nicht beurteilt und auch nicht hinsichtlich juristischer Leitplanken entwickelt werden.
Diese Regulierungen plant die EU
Die EU ist daran, sich dem Thema aus regulatorischer Sicht Schritt für Schritt zu nähern. Das EU-Parlament, die EU-Kommission und der EU-Rat arbeiten derzeit den sogenannten AI Act aus. Die KI-Definitionen wurden hierfür mehrfach geändert. Die aktuelle Definition (Stand 15. Mai 2023) enthält insbesondere folgende Komponenten: Software entwickelt mit Machine Learning und Logic- und Knowledge-basierten Ansätzen sowie Systeme (Software), die mit autonomen und automatisierten Elementen arbeiten und mithilfe von Machine-Learning-Ansätzen und/oder logik- und wissensbasierten Ansätzen herausfinden, wie eine bestimmte Reihe von Zielen erreicht werden kann, und systemgenerierte Ergebnisse wie Inhalte (generative KI-Systeme), Vorhersagen, Empfehlungen oder Entscheidungen erzeugen, die die Umgebung beeinflussen, mit der das KI-System interagiert.
Ja, die Definition ist sehr komplex, weist aber auf wichtige Elemente hin: erstens auf die Software und damit die Entwicklung von Systemen, zweitens auf die Automatisierung und die logik- und wissensbasierten (also statistischen, mathematischen) Ansätze sowie drittens auf die Erreichung von Vorhersagen, Empfehlungen oder Entscheidungen in Interaktion (unter Weiterentwicklung) mit dem System, also der Software.
Wann ist eine Software, eine komplexe Lösung nun ein KI-System? Die EU-Gesetzgebung zieht dazu nebst dieser Definition das weitere Element des Zwecks hinzu: Systeme, die zu einem bestimmten Zweck mit den genannten Elementen aufgebaut und genutzt werden, fallen unter die Kategorie eines KI-Systems.
Je nach Zweck – so der schon gefestigte Ansatz – sind solche Systeme erlaubt, aber zu prüfen (Generative AI wie ChatGPT), nur mit Zulassung erlaubt (High-Risk AI-Systems) oder verboten (Prohibited AI-Systems). Zusätzlich gibt es Dokumentations- und Informationspflichten, Anforderungen an die Security und einen Überprüfungsmechanismus (Regulierungsbehörden).
Ziel ist es, Transparenz zu schaffen, was KI-Systemen im konkreten Fall zugrunde liegt (Trainingsmodell etc.) und wie sie funktionieren, damit die Einhaltung der Grundrechte, allen voran die Grundfreiheiten der EU – Menschenrechte, Gesundheit, Sicherheit, Umwelt, Demokratie und Beachtung der Rechte – gewährleistet bleibt.
«Die Frage, was KI überhaupt ist, ist in der Schweiz noch nicht reguliert.»
Wo die Schweiz steht
Die Frage, was KI überhaupt ist, ist in der Schweiz noch nicht reguliert. Es liegt bislang auch kein Gesetzesentwurf vor.
Jedoch sind die bereits bestehenden Gesetze wie das Datenschutzgesetz, das Bundesgesetz über den unlauteren Wettbewerb (UWG) oder auch die Persönlichkeitsrechte einzelner (BV und ZGB) weiterhin gültig und einzuhalten. Systeme müssen schon heute nichtdiskriminierend sein und die Datenschutzvorgaben oder Immaterialgüterrechte einhalten.
Fazit
Eine Legal-Definition, was überhaupt unter den Begriff des KI-Systems fällt, liegt bis heute nicht vor, rückt aber mit dem besagten AI Act in Sichtweite. Definition, Klassifizierung und weitere Anforderungen wie Transparenzvorschriften, Bewilligungskriterien und so weiter werden wegweisend sein für die Entwicklung und den Betrieb solcher Systeme.
Es ist und bleibt wichtig zu verstehen, was ein System macht, wie es aufgebaut ist und wie es trainiert wurde, welchen Zweck es erreichen soll und wie mit den genutzten oder zur Verfügung gestellten Daten umgegangen wird. Das Statement der KI-Anbieter, man könne die komplexen Zusammenhänge nicht erklären, ist in Zukunft nicht mehr zulässig.
