Künstliche Intelligenz kann wirtschaftliche und gesellschaftliche Prozesse verbessern. Sie kann jedoch auch bestehende Benachteiligungen übernehmen Oder verstärken, wenn verwendete Daten, Kriterien Oder Entscheidungsmodelle diskriminierende Strukturen abbilden.
Die bloße Beteiligung eines Menschen an einer Entscheidung reicht nicht in jedem Fall aus, um diskriminierende Ergebnisse zu verhindern. Erforderlich sind deshalb Transparenz, Nachvollziehbarkeit, unabhängige Überprüfbarkeit und eine verbindliche Bewertung möglicher Folgen für unterschiedliche Bevölkerungsgruppen. Dies gilt besonders bei Entscheidungen, die den Zugang zu Arbeit, Bildung, Wohnraum, Finanzierung, Versicherungen oder staatlichen Leistungen betreffen.
Betroffene müssen nachvollziehen können, Wie eine Entscheidung zustande gekommen ist. Sie brauchen außerdem eine leicht zugängliche Möglichkeit, Entscheidungen überprüfen zu lassen und gegen diskriminierende Ergebnisse vorzugehen. Der Schutz vor Diskriminierung muss deshalb von Beginn an Teil einer verantwortungsvollen Innovationspolitik sein.