KI, bias & menschliches Verhalten (mit Dr. Songül Tolan)

Zur Jubiläums-Folge haben wir uns mal wieder einen fantastischen Gast eingeladen: Dr. Songül Tolan berichtet uns von ihrer und anderer Forschung zum Einfluss von KI auf menschliche Entscheidungen und Problemen, die dabei möglicherweise durch Verzerrungen der Algorithmen entstehen. Der Fokus liegt auf Entscheidungsprozessen im Justizwesen.

Hier noch die Links zu allen erwähnten Artikeln & Vorträgen in der Reihenfolge ihres Vorkommens:

Kleinberg et al. 2015: Prediction Policy Problems.

Kay et al. 2015: Unequal Representation and Gender Stereotypes in Image Search Results for Occupations.

Margetts 2019: Rethink government with AI.

Athey 2017: Beyond prediction: Using big data for policy problems.

Crawford 2017: The Trouble with Bias.

Forschung von Kate McCurdy (University of Edinburgh, Babbel) zum Gender Bias in automatischer Übersetzung.

Angwin et al. 2016: Machine Bias (ProPublica).

Miron et al. 2020: Evaluating causes of algorithmic bias in juvenile criminal recidivism.

Kleinberg et al. 2018: Human Decisions and Machine Predictions.

Stevenson & Doleac 2019: Algorithmic Risk Assessment in the Hands of Humans.