Sicherheitsaspekte bei der Verwendung von Künstlicher Intelligenz

KI-Systeme sind nicht immun gegen Manipulation. Eine der grössten Herausforderungen ist die sogenannte «Adversarial Machine Learning». Hierbei manipulieren Angreifer gezielt Eingabedaten, um falsche Ergebnisse zu provozieren. Ein Beispiel dafür ist das Verändern von Bilddaten, sodass ein KI-System ein Stoppschild fälschlicherweise als Vorfahrtsschild interpretiert – eine potenziell lebensgefährliche Konsequenz im Kontext autonomer Fahrzeuge.

Eine weitere Schwachstelle betrifft die Integrität der Trainingsdaten. KI-Modelle basieren auf der Analyse riesiger Datensätze, die selbst anfällig für Manipulationen sind. Werden Daten gezielt verfälscht oder fehlerhafte Informationen eingespeist, kann dies die Entscheidungsfindung der KI nachhaltig beeinflussen. Dies ist insbesondere bei sicherheitskritischen Anwendungen wie in der Gesundheitsversorgung oder im Finanzsektor problematisch.

KI-Systeme erfordern oft den Zugriff auf personenbezogene Daten, um präzise Ergebnisse zu liefern. Doch je mehr Daten gesammelt und verarbeitet werden, desto grösser ist das Risiko eines Datenschutzverstosses. Unternehmen müssen sicherstellen, dass sie den Anforderungen der Datenschutz-Grundverordnung (DSGVO) oder ähnlicher Regelwerke entsprechen. Dazu gehört nicht nur die Sicherung der Daten vor unbefugtem Zugriff, sondern auch die Transparenz über deren Verwendung.

Ethik spielt ebenfalls eine zentrale Rolle. KI-Systeme können voreingenommene Entscheidungen treffen, wenn die zugrunde liegenden Daten verzerrt oder unvollständig sind. Solche Biases können zu Diskriminierung führen und das Vertrauen in die Technologie untergraben. Entwickler müssen daher sicherstellen, dass die eingesetzten Daten so divers wie möglich sind und Algorithmen auf Fairness getestet werden.

Die Sicherheit von KI beginnt bei der Entwicklung. Ein robustes Sicherheitskonzept muss integraler Bestandteil des gesamten Entwicklungsprozesses sein. Dazu gehört der Schutz der Trainingsumgebung vor unbefugtem Zugriff ebenso wie die Überprüfung der Datenqualität. Zudem sollten Entwickler Mechanismen implementieren, die erkennen, wenn Modelle manipuliert oder angegriffen werden.

Im Betrieb ist es entscheidend, dass KI-Systeme regelmässig aktualisiert werden, um neue Bedrohungen abzuwehren. Hier spielt das Monitoring eine wichtige Rolle: KI-Systeme müssen kontinuierlich überwacht werden, um verdächtige Aktivitäten oder ungewöhnliche Ergebnisse zu erkennen. Automatisierte Alarme können dabei helfen, potenzielle Angriffe frühzeitig zu identifizieren.

Mit der steigenden Autonomie von KI-Systemen wachsen auch die Risiken. Autonome Systeme treffen Entscheidungen ohne menschliches Eingreifen, was in vielen Szenarien sinnvoll ist, jedoch bei Fehlfunktionen oder Angriffen schwerwiegende Konsequenzen haben kann. Insbesondere in sicherheitskritischen Bereichen wie der Luftfahrt, dem Gesundheitswesen oder der Energieversorgung müssen Mechanismen eingebaut werden, die menschliche Kontrolle ermöglichen. Ein sogenannter «Human-in-the-Loop»-Ansatz kann sicherstellen, dass ein Mensch in kritischen Situationen die Entscheidungsgewalt behält.

Die Verantwortung für die Sicherheit von KI-Systemen liegt nicht allein bei den Entwicklern. Unternehmen, Regierungen und internationale Organisationen müssen gemeinsam Standards entwickeln und durchsetzen. Eine klare Regulierung kann helfen, Mindestanforderungen zu definieren und die Haftungsfrage zu klären. Gleichzeitig darf Regulierung die Innovationskraft nicht behindern, sondern sollte Unternehmen unterstützen, sichere und ethische KI-Lösungen zu entwickeln.

KI wird heute in einer Vielzahl von Bereichen eingesetzt, darunter Gesundheitswesen, Verkehr, Finanzdienstleistungen, Industrie und Bildung. Jedes dieser Anwendungsfelder bringt spezifische Sicherheitsaspekte mit sich. Im Gesundheitswesen kann KI beispielsweise bei der Diagnose von Krankheiten oder der Entwicklung neuer Medikamente helfen. Hier ist die Genauigkeit der KI-Entscheidungen von entscheidender Bedeutung, da Fehler schwerwiegende Konsequenzen für Patienten haben können. Der Schutz sensibler Patientendaten vor unbefugtem Zugriff ist ein weiterer kritischer Punkt.

Im Verkehr, insbesondere bei autonomen Fahrzeugen, steht die Zuverlässigkeit der KI im Mittelpunkt. Fehlerhafte Entscheidungen können Leben gefährden. Sicherheitsmechanismen, die Manipulationen der Sensoren oder Systeme verhindern, sind hier essenziell.

In der Finanzbranche hilft KI bei der Betrugserkennung oder bei Anlageentscheidungen. Gleichzeitig besteht das Risiko, dass Algorithmen selbst Ziel von Manipulationen werden oder durch Fehlinterpretationen von Daten falsche Entscheidungen treffen. Eine ständige Überwachung der Systeme ist hier unabdingbar.

Auch in der Industrie, wo KI Produktionsprozesse optimiert, ist die Absicherung gegen Cyberangriffe entscheidend. Angreifer könnten beispielsweise Produktionsanlagen sabotieren oder sensible Fertigungsdaten stehlen.

In der Bildung bietet KI personalisierte Lernansätze, doch auch hier müssen Daten von Lernenden sicher gespeichert und verarbeitet werden. Zudem sollte sichergestellt werden, dass Algorithmen keine systematischen Benachteiligungen reproduzieren.

Die Schweiz hat sich frühzeitig mit den Herausforderungen und Chancen von KI auseinandergesetzt. Der Bundesrat hat in seiner Strategie für Künstliche Intelligenz Leitlinien festgelegt, die Innovation fördern und gleichzeitig Risiken minimieren sollen. Dabei liegt ein starker Fokus auf der Transparenz, der ethischen Vertretbarkeit und der Einhaltung von Datenschutzvorgaben.

Auf EU-Ebene geht die Regulierung noch einen Schritt weiter. Der AI Act, ein umfassender Rechtsrahmen für KI, befindet sich in der Endphase der Ausarbeitung. Ziel ist es, klare Regeln für den Einsatz von KI festzulegen, insbesondere für Anwendungen, die als hochriskant eingestuft werden. Der AI Act fordert unter anderem strengere Anforderungen an Transparenz, Sicherheit und Überwachung von KI-Systemen.