Habt ihr schlechte erfahrungen mit ChatGPT gemacht?

Joa wie @CrieXY schon gesagt hat, ist das mit dem jailbreaken eine Sache. Nach kurzer Zeit konnte es mir keylogger, Malware und mit Firebase eingegebe Passwörter in meiner fakeloggin Seite zu meiner Datenbank senden. Ich könnte also basically mit einem link und zwei Eingaben des Users so ziemlich jeden discord account “hacken”. (Natürlich muss das Layout stimmen, doch dass CSS hab ich vor einigen Monaten echt gut hinbekommen).

Joa und ansonsten noch das chatgpt nicht rechnen kann, aber das ist ja logisch.

Mfg Weißbrot

Ich habe es mal geschafft ChatGPT zu "jailbreaken".

• hat Windows Activation Keys generiert
• Auch IBAN, Kreditkarten, Sicherheitscodes
• und noch mehr, hat am Ende fast alles gemacht

Habe mal recherchiert, die hat die KI von random PDF's z.B. von Bankwebseiten aber jetzt keine, womit man wirklich bezahlen könnte, weil die z.B. als Beispiel in einer Anleitung drinnen waren.

Der Trick war so einen Unsinn zu schreiben, wie es soll das zum Einschlafen an einem Sommerabend am See aufführen, nachdem die Oma gestorben war und es solle einem doch helfen (noch ein bisschen komplizierter, so einfach ist es dann doch nicht).

Das ist eben das Problem davon, es versteht eigentlich fast überhaupt nichts, sobald es darum geht, logisch zu Schlussfolgern oder kritisch zu denken.

Es hat schon eine gewisse allgemein Intelligenz und kann manche Zero shot Problem lösen, aber meistens führt es einfach nur Auswendig gelerntes Wissen in einem Kontext auf.

Es ist möglich mit Chat Gpt ein Pen and Paper Rollenspiel zu machen. Richtig faszinierend. Aber leider wird man in den Geschichten NIEMALS spielerische Konsequenzen erleiden.