KI im Alltag: Was Menschenrechte vor dem Einsatz von Algorithmen schützen sollen
Die Schweiz hat am UNO-Menschenrechtsrat auf Risiken wie Diskriminierung und Deepfakes hingewiesen. Entscheidend wird, ob Betroffene im Alltag informiert werden, Einspruch erheben und eine menschliche Prüfung verlangen können.
Eine Bewerbung wird vorsortiert, eine Kreditwürdigkeit eingeschätzt, ein Video als echt oder manipuliert bewertet: Künstliche Intelligenz ist längst nicht nur ein Thema für Forschungslabors. Sie greift in Entscheidungen ein, die den Zugang zu Arbeit, Wohnung, Kredit oder Information beeinflussen können. Genau deshalb hat die Schweiz an der jüngsten Sitzung des UNO-Menschenrechtsrats die Risiken und Chancen von KI in den Vordergrund gestellt. Die entscheidende Frage lautet nun nicht bloss, ob Algorithmen erlaubt sind. Sie lautet: Was kann eine betroffene Person tun, wenn ein automatisiertes System sie benachteiligt?
Die Schweizer Position am Menschenrechtsrat benennt konkrete Risiken: Deepfakes und Online-Belästigung, Eingriffe in die Privatsphäre sowie Diskriminierung etwa im Personalwesen oder bei der Wohnungsvergabe. Das ist keine Prognose, dass jedes KI-System solche Schäden verursacht. Es ist eine Aufforderung, Risiken im jeweiligen Einsatzgebiet zu erkennen, bevor sie sich verfestigen.
Das Schweizer Recht beginnt nicht bei null
Das Datenschutzgesetz ist technologieneutral. Es gilt deshalb auch dann, wenn Daten mit KI verarbeitet werden. Besonders wichtig ist Artikel 21 bei automatisierten Einzelentscheidungen: Führt eine ausschliesslich automatisierte Datenbearbeitung zu einem Entscheid mit erheblicher Auswirkung auf eine Person, muss diese grundsätzlich informiert werden. Sie kann ihren Standpunkt darlegen und eine Überprüfung durch einen Menschen verlangen.
Für Betroffene kann diese Unterscheidung darüber entscheiden, ob sie ihre Rechte praktisch wahrnehmen können.
Das ist ein konkreter Schutz, aber keine pauschale Freigabe oder Sperre für KI. Nicht jede Softwareempfehlung ist automatisch eine «automatisierte Einzelentscheidung» im rechtlichen Sinn. Entscheidend ist, ob tatsächlich ohne menschliches Zutun ein Urteil oder Entscheid über eine Person gefällt wird und ob daraus ein erheblicher Nachteil entstehen kann. Auch Ausnahmen bestehen, etwa wenn eine Person ausdrücklich eingewilligt hat oder ein Vertrag zu ihren Gunsten vollständig automatisch abgewickelt wird.
Für Herr und Frau Schweizer folgt daraus ein einfacher praktischer Punkt: Wer eine unerwartete automatische Ablehnung erhält, sollte nachfragen, ob eine automatisierte Einzelentscheidung vorlag, welche Daten verarbeitet wurden und wie eine menschliche Prüfung verlangt werden kann. Das löst nicht jedes Problem. Es verschiebt aber die Beweis- und Erklärungslast nicht vollständig auf die betroffene Person.
Von der technischen Funktion zur Verantwortung
Der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte betont, dass KI mit hohem Risiko eine Datenschutz-Folgenabschätzung erfordern kann. Unternehmen und Behörden müssen Risiken für Privatsphäre und informationelle Selbstbestimmung also nicht erst nach einer Beschwerde behandeln. Sie müssen sie bereits beim Entwickeln, Einkaufen und Einsetzen eines Systems berücksichtigen.
Das betrifft mehr als die Programmzeilen. Trainingsdaten können Verzerrungen übernehmen. Eine verständliche Benutzeroberfläche kann verschleiern, dass ein Algorithmus entscheidet. Und eine formale Beschwerdestelle hilft wenig, wenn niemand erklären kann, welche Faktoren im konkreten Fall relevant waren. Die Verantwortung liegt deshalb bei den Organisationen, die ein System auswählen und verwenden – nicht bei der Maschine.
Die Bundesregierung hat für die Bundesverwaltung festgehalten, dass Mitarbeitende KI einsetzen dürfen und sollen, jedoch Informationssicherheit und Datenschutz einzuhalten sind. Zugleich bleibt die Verantwortung für den erzeugten Inhalt beim Menschen. Für private Anbieter ist das keine Eins-zu-eins-Regel. Als Orientierung ist der Grundsatz dennoch relevant: Automatisierung darf keine Ausrede sein, Verantwortung abzugeben.
Internationale Regeln, nationale Umsetzung
Die Schweiz hat die Rahmenkonvention des Europarats über KI, Menschenrechte, Demokratie und Rechtsstaatlichkeit unterzeichnet. Die Konvention verlangt unter anderem Transparenz, Aufsicht, Rechenschaft, Datenschutz und Nichtdiskriminierung. Sie verpflichtet Staaten zudem zu Risiko- und Folgenabschätzungen und sieht Verfahrensgarantien vor, wenn KI Grundrechte erheblich beeinträchtigen kann.
Eine Unterschrift ersetzt jedoch keine Umsetzung. Der Bundesrat hat eine Vernehmlassungsvorlage zur Ratifizierung bis Ende 2026 in Auftrag gegeben. Ob und wie einzelne Pflichten im Schweizer Recht konkretisiert werden, ist damit noch offen. Das ist ein wichtiger Unterschied zwischen politischem Bekenntnis und anwendbarer Regel.
Die Qualität zeigt sich im Streitfall
KI wird nicht dadurch menschenrechtskonform, dass sie «ethisch» genannt wird. Entscheidend ist, ob eine Person erfährt, wann sie mit einem System interagiert, ob sie eine nachteilige Entscheidung anfechten kann und ob ein verantwortlicher Mensch zuständig bleibt. Für die Schweiz ist das zugleich ein Standortthema: Vertrauen in digitale Dienstleistungen entsteht nicht durch möglichst wenig Regeln, sondern durch Regeln, die im konkreten Streitfall funktionieren.
Quellen
- EDA: Auswirkungen der künstlichen Intelligenz auf die Menschenrechte, 7. Oktober 2026
- EDÖB: KI und Datenschutz
- EDÖB: Rechte bei automatisierten Einzelentscheidungen
- Bundesamt für Justiz: Künstliche Intelligenz
- Bundeskanzlei: Einsatz von KI in der Bundesverwaltung
- Europarat: Rahmenkonvention zu KI, Menschenrechten, Demokratie und Rechtsstaatlichkeit
