Technik
Black Box
Schwarzer Kasten
Ein System, dessen Inneres unbekannt ist – man sieht nur Eingabe und Ausgabe.
0 %
Was dahintersteckt
Der Begriff stammt aus der Kybernetik und ist erst mal wertneutral: Man beschreibt ein System rein über sein Verhalten. Brisant wird er dort, wo Entscheidungen fallen, die Menschen betreffen – Kreditvergabe, Bewerberauswahl, medizinische Vorhersagen. Wenn niemand erklären kann, warum ein Modell zu einem Ergebnis kam, wird die Black Box zum rechtlichen und ethischen Problem. Genau daran arbeitet das Feld der erklärbaren KI.
Beispiel
Kurios: Der Flugschreiber im Flugzeug heißt umgangssprachlich Black Box, ist aber leuchtend orange – damit man ihn im Wrack findet.
Wo es vorkommt
KI-Ethik, Softwaretests, Regulierung, Medizintechnik.