Der Mythos der Neutralität: Wie KI die soziale Kluft vergrößert

Es wird oft erwartet, dass künstliche Intelligenz neutral ist – oder zumindest objektiver als wir Menschen. Aber ist sie das wirklich?

In den letzten Jahren haben Forscher:innen und Aktivist:innen gezeigt, dass dies nicht unbedingt der Fall ist: Durch unsere Datenerfassungs- und Labeling-Praktiken, die von uns gewählten Bewertungskriterien und die Art und Weise, wie wir derzeit Algorithmen in der realen Welt ohne ausreichende Sicherheitsvorkehrungen einsetzen, manifestieren sich unsere Vorurteile in den von uns geschaffenen KI-Systemen.

Mein Vortrag beleuchtet, wie Algorithmen diskriminierend werden und wie schwierig es ist, "faire und verantwortungsvolle" KI zu entwickeln. Gemeinsam schauen wir jedoch auch auf die Dinge, die wir unternehmen können, um zu verhindern, dass die von uns entwickelten Systeme bestehende Ungerechtigkeiten weiter zementieren.

Vorkenntnisse

• Grundkenntnisse zu Machine Learning sind hilfreich, aber keine Voraussetzung

Lernziele

• Das Publikum erhält Antworten auf einige wichtige Fragen, welche die derzeitige Entstehung von KI-Systemen betreffen:
• Wer finanziert und betreibt KI-Forschung?
  
• Wie werden riesige (Bild-)Datensätze gesammelt und gelabelt?
  
• Wie werden KI-Systeme evaluiert und warum kann dies zu Problemen führen?
  
• Warum ist es schwierig, "faire" KI zu entwickeln?
  
• Welche Folgen hat der naive Einsatz bestimmter KI-Systeme für das Leben und Wohlbefinden von Menschen?
  
• Welche Schritte können Datenexpert*innen unternehmen, um diese Risiken zu verstehen und zu minimieren?