Wessen Werte — stecken eigentlich in ChatGPT?
Neuer Text!!!
Es sind die Werte einer eher kleinen Gruppe: westlich, gebildet, wohlhabend, reich, demokratisch (WEIRD Bias). Die Mehrheit der Weltbevölkerung ist damit in großen Sprachmodellen systematisch unterrepräsentiert.
Aber ist das automatisch falsch?
Wir können Bias nicht aus KI-Modellen eliminieren, denn Fairness ist keine mathematische Konstante. Sie ist ein kulturelles Konstrukt, das je nach Weltregion, philosophischer Tradition und gesellschaftlichem Kontext völlig unterschiedlich definiert wird:
Was in Kalifornien als fair gilt, kann in Singapur als destabilisierend und in Berlin als datenschutzrechtlich bedenklich wahrgenommen werden.
KI-Modelle mit weniger westlichem Bias generieren häufiger Outputs, die Menschenrechte verletzen. Weniger westlich bedeutet nämlich nicht automatisch ethischer. Es bedeutet: andere Werte, andere Probleme.
Eine neutrale KI ist also nicht möglich. Jede Entscheidung im Training ist eine Wertsetzung.
Und doch trifft jemand diese Entscheidungen.
Wer gibt den Ingenieuren bei OpenAI oder Google eigentlich das Mandat, zu entscheiden, wie die Welt aussehen sollte?
In meinem neuen Fachartikel beleuchte ich dieses Spannungsfeld und zeige, wie wir damit umgehen können: