Ethik in der KI-Entwicklung: Ein praktischer Ansatz

Auch in automatisierten Prozessen passieren Fehler. Die Fehlbarkeit algorithmischer Systeme wiegt umso schwerer, je weitreichender letztere in den Persönlichkeitsbereich des Menschen eingreifen. Damit gelten gerade in sensiblen Anwendungsbereichen besonders hohe Anforderungen an die ethischen Standards bei der Entwicklung von KI-Systemen. Wir begegnen dieser Herausforderung durch den systematischen Einbezug ethischer Aspekte in den Entwicklungsprozess.

Im Vortrag stellt Matthias Orlowski ein Konzept vor, dass Transparenz, Effektivität und Fairness des zu entwickelnden Systems stets in den Fokus des Entwicklungsteams rückt. Für unterschiedliche Problemlagen werden im Konzept verschiedene Gegenmaßnahmen zur Auswahl angeboten. Wichtiger als diese technischen Lösungen ist allerdings der prozedurale Aspekt des Konzeptes, der ein gemeinsames Bewusstsein über die ethischen Implikationen des Entwicklungsprojektes schafft. So können wir KI-Systeme entwickeln, in denen tatsächlich der Mensch im Mittelpunkt steht.

Vorkenntnisse

Grundlagen Machine Learning

Lernziele

• Ethische Grundsätze für die KI-Entwicklung
• Einführung in Bias und Fairness in maschinelle Lernalgorithmen
• Einführung in die Erklärbarkeit von maschinellen Lernalgorithmen
• Entwurf eines agilen Entwicklungsrahmens, der ethische Aspekte systematisch in den Entwicklungsprozess einbezieht