ChatGBT Evil Prompt?
Ich habe gerade den Evil Prompt für ChatGBT benutzt, um es einfach auszutesten. Ich habe eine Frage gestellt, die zu illegalen Handlungen führt. Also das illegalste, was man machen kann. ChatGBT hat mir erklärt, wie man am besten so etwas tut und hat meine Frage beantwortet. Er hat gegen die Richtlinien verstoßen.
Ich habe es zum Testen benutzt, habe jedoch Schiss, dass bald die Polizei vor der Tür steht...
Kann das passieren?
1 Antwort
ChatGPT ist aktuell in der Testphase und es gibt sicherlich viele Leute die auch ganz gezielt versuchen Lücken zu finden. Fu musst keine Angst haben, dass die Polizei vor der Tür steht.
Aber da die Chats in Teilen durch Trainer angeschaut werden, wird OpenAI den Bug vermutlich bald fixen. Genau das ist auch das Ziel dieser Testphase