KI öffnet türen - aber nicht alle

Künstliche Intelligenz (KI) verändert unsere Welt in rasantem Tempo. Technologien wie Sprachassistenz, automatische Übersetzungssysteme oder Roboter in der Pflege sind bereits Teil des Alltags. Diese Technologien können das tägliche Leben erleichtern – auch für Menschen mit Behinderung. Personen mit motorischen Einschränkungen können Geräte einfacher steuern, Text-zu-Sprache-Programme oder Bildschirm-Leser ermöglichen Zugang zu digitalen Inhalten und Gebärdenerkennungs- Programme übersetzen in Echtzeit. Aber nicht immer sind diese Technologien auch fair.

Die Frage der Fairness

Simone Kopeinik forscht am Know Center in Graz an Fairness und Diversitätsbewusstsein in KI- Anwendungen. Sie erklärt: „Wenn wir von Fairness in KI-Anwendungen sprechen, dann meinen wir, dass niemand aufgrund von sensiblen Merkmalen ungerecht behandelt werden darf. Solche Merkmale sind zum Beispiel Geschlecht, ethnische Zugehörigkeit, Alter, Herkunft, Hautfarbe, Religionszugehörigkeit und so weiter.“ Wenn KI beispielsweise in Bewerbungsprozessen zum Einsatz kommt und auswählen soll, wer für eine Stelle in die engere Auswahl kommt, darf keine Person aufgrund dieser Merkmale benachteiligt werden. Diversitätsbewusstsein geht laut Simone Kopeinik aber noch einen Schritt weiter: KI-Anwendungen sollen für unterschiedliche Menschen ähnlich gut nutzbar sein. „Das ist oft ein Problem, weil Software-Anwendungen häufig für den Mehrheitsnutzer – zum Beispeispiel den technikaffinen, mittelalten Mann – gemacht werden.“ Spezielle Bedürfnisse anderer Gruppen, wie zum Beispiel Frauen, Familien, Senior*innen oder Menschen mit Behinderung würden meist außer Acht gelassen, so Kopeinik.

Ungerechtigkeit kann verstärkt werden

Doch was, wenn KI-Anwendungen eben nicht fair programmiert sind? Welche Fehler können passieren? Zuerst ist wichtig, zu verstehen, wie diese Technologien funktioniert: KI lernt von vorhandenen Daten. Wenn in diesen Datensätzen zum Beispiel Menschen mit Behinderung nicht vorkommen oder die Daten bereits Vorurteile erhalten, übernimmt die KI diese Vorurteile. Simone Kopeinik führt aus: „Wenn eine KI ‚unfaire‘ Ergebnisse liefert, kann sie bestehende gesellschaftliche Ungleichheiten verstärken und sogar neue Formen von Diskriminierung schaffen.“ Zum Beispiel: Eine Person mit Behinderung wird im Bewerbungsverfahren aufgrund der Beeinträchtigung nicht ausgewählt oder Spracherkennungs-Programme erkennen manche Stimmen nicht, weil sie nur mit männlichen Stimmen trainiert wurden.

Wie wird KI fair?

Eine Lösung, um für mehr Fairness in KI-Anwendungen zu sorgen, könnte sein, die späteren Nutzer*innen in die Entwicklung miteinzubeziehen. Wenn Menschen mit unterschiedlichen Behinderungen im Entwicklungsprozess die KI testen, können Barrieren abgebaut werden. Weiters müssten die Daten, von denen eine KI lernt, genau auf Vorurteile sowie Ungerechtigkeiten getestet und regelmäßig überprüft werden. Ein Schritt in die richtige Richtung ist laut Simone Kopeinik der „AI Act“ der Europäischen Union (EU). Das ist ein neues Gesetz, das KI-Anwendungen nach ihrem Risiko beurteilt und Regeln schafft. Nach dem „AI Act“ ist zum Beispiel KI verboten, die Menschen manipuliert oder überwacht. Regeln alleine reichen aber nicht, so Kopeinik: „Es ist ebenso wichtig, ein breites Bewusstsein für die Risiken und Auswirkungen von KI zu schaffen. Nur wenn Entwickler*innen, Unternehmen und Anwender*innen für mögliche Fehler sensibilisiert sind, können sie frühzeitig erkannt und vermieden werden.“