Software und Hardware machen nicht immer, was wir wollen oder was wir brauchen, um das zu tun, wofür die Software ja einsetzen. Eines der bekanntesten Beispiele: Forscherinnen benannten Gene (March1) um, weil sie beim Import in Excel als Datum formatiert werden.
Das Ethical Futures Lab skizziert drei Taktiken, mit denen Menschen typischerweise reagieren, wenn Systeme nicht für sie funktionieren:
- Adversarial /Feindlich: Wir behelfen uns mit Hacks, Workarounds und provisorischen Lösungen.
- Adaptive/Anpassend: Wir passen uns an die Regeln und Erwartungen des Systems an: „Wir verbiegen uns, um der Maschinenwahrnehmung zu entsprechen“.
- Acquiescence/Akzeptanz: Wir finden uns damit ab, dass die Software nicht tut, was wir wollen und stoppen frustiert unser Vorhaben.
Beispiele