Ist CHAT-GPT rassistisch oder basiert?
Inwiefern soll der Chatverlauf rassistisch sein?
das ist offensichtlich lol
2 Antworten
Es ist ein Algorithmus. Er basiert wie horribiledictu schon sagt auf dem mit dem er gefüttert wird. Stell es dir so vor:
Ein Algorithmus soll entscheiden ob jemand gefährlich ist. Er sieht das farbige Menschen 10x häufiger verhaftet werden (Zahl erfunden). Dies hat aber nicht damit zu tun dass diese Menschen mehr Verbrechen begehen sondern damit dass rassistische Polizisten sie öfter kontrollieren. Der Algorithmus würde demnach nach der Hautfarbe entscheiden aber nur weil seine Daten rassistisch sind.
Chatgpt hat (wenn ich mich richtig erinnere das mal gehört zu haben) das ganze Internet „durchgelesen“. So oder so es hatte einen großen Datenschatz zum üben der sicher auch von Rassisten, Sexisten, homophoben etc. Menschen mitgestaltet wurde. Also kann es sich auch rassistisch, sexistisch, homophob etc. verhalten.
ChatGPT hat als Large Language Model einen gewissen Bias und wurde dafür auch schon kritisiert. Die Kritik ging aber eher in die Richtung, dass es zu "Woke" ist, und nicht dass es rassistisch wäre.
Es ist aber möglich dass solche Sprachmodelle einen Bias entwicklen, hauptsächlich durch zwei Faktoren:
- beim initialen Training des Models kann so ein Bias schon in den Daten enthalten werden, so dass er einfach vom Modell übernommen wird.
- beim darauf folgenden Alignment, dass teilweise automatisch aber teilweise auch durch Menschen erfolgt kann absichtlich ein gewisser Bias bewusst aber auch unbewusst in das Sprachmodell eingebracht werden.