Wie sicher ist Chat gpt?
Kann Chat Gpt Daten an dritte Person weitergeben?
6 Antworten
Deine ganzen Eingaben wandern zu ChatGPT und werden soweit ich weiß auch in deren Training berücksichtigt. Es könnte also sein, dass zum Beispiel dein Lebenslauf genauso wieder ausgegeben wird. Viele Grüße
Ja, du solltest niemals sensible Daten mit einer KI teilen. Die Chats mit der KI können ggf. Durch Dritte (sowohl Mitarbeiter von OpenAI als auch anderen Firmen) gelesen, überprüft, oder zur Weiterentwicklung der KI genutzt werden.
Chatgpt muss Daten sammeln um besser zu werden. Die braucht es aber für sich selber und haben für dritte keinen Wert.
Du bezahlst die KI die unmengen an Kohle verschlingt mit deinen Daten die für die Weiterentwicklung notwendig sind.
ChatGPT sammelt, davon abhängig, welche Datenschutzeinstellungen du hast, mehr oder weniger Daten von dir. Zum einen Trainingsdaten, um die Software weiterzuentwickeln und zum anderen bestimmt auch für wirtschaftliche bzw. Marketingzwecke.
Also du kannst davon ausgehen, dass deine Daten weiterverarbeitet werden.
Selbstverständlich! Was für eine Frage!
Chat G ist eine selbstlernende KI. Jede Eingabe, jede Fragestellung, jede Kombination von Begriffen, die an Chat GPT gesendet wird, wird instantan in das Entscheidungsfindungsnetzwerk eingebaut. Wenn du in einer Fragestellung zwei begriffe oder einen Namen und einen Begriff erwähnst, kann es passieren, das jemand ganz anderes, der den einen Begriff in seiner Fragestellung hat, den Anderen, den du eingegeben hast bzw. den Namen im Lösungsvorschlag von Chat GPT präsentiert bekommt.
Je häufiger eine Kombination genannt wird, um so höher ist die Wahrscheinlichkeit.
Wenn du meinst!
Dann frage ich mich allerdings, warum OpenAI in Ihren Nutzungsbedingungen explizit darauf hinweist, dass sie die eingegeben Inhalte weltweit nutzt und zum trainieren ihrer Modelle verwendet, wobei nur das Trainieren der Modelle mit den eingegebenen Inhalten in den Kontoeinstellungen abgelehnt werden kann, nicht jedoch die weltweite Nutzung der Inhalte. Nutzungsbedingungen muss man genau lesen und ggf. wörtlich auslegen!!!
Schade, dass du meinen Kommentar scheinbar nur bis zur zweiten Zeile gelesen hast, denn was du schreibst steht nicht im Widerspruch zu dem, was ich geschrieben habe. Tatsächlich stimmen die beiden Aussagen größtenteils überein. Hier geht es vielmehr um die technischen Details, als um die rechtlichen Angelegenheiten.
Ich schrieb:
Natürlich kann OpenAI die Chats benutzen, um das nächste Sprachmodell damit zu trainieren
und du fragst mich, warum dann in den Nutzungsbedingungen steht, dass OpenAI die Chats zur Weiterentwicklung ihrer Produkte nutzen kann.
Was genau dachtest du, meine ich mit "Natürlich kann OpenAI die Chats benutzen"? Dass ich der Ansicht sei, OpenAI könnte die Chats nicht zur Weiterentwicklung ihrer Produkte nutzen?
Ich habe in meinem Kommentar an keiner Stelle behauptet, dass OpenAI die Daten nicht benutzen würde. Es geht in meinem Kommentar auch an keiner Stelle um Datenschutz, das hast du da hineininterpretiert.
Meine Aussage war rein technischer Natur:
Das Trainieren eines Sprachmodells ist ein abgeschlossener Prozess. Trainingsdaten werden gesammelt und verarbeitet, und daraus entsteht dann ein Sprachmodell. Hat man neue Trainingsdaten, dann muss man das Trainingsmodell neu trainieren, was enorm viel Rechenleistung kostet. Allein deshalb kann das nicht "on the fly" durch Nutzerkonversationen passieren. Ein Sprachmodell ist wie eine Datei, die nur gelesen, aber nicht geschrieben wird, und sich nicht verändert, wenn die Entwickler keine neue Version davon erstellen.
Wie ich in der nun schon zwei mal geschriebenen Textstelle gesagt habe, kann OpenAI die Chats benutzen, um das nächste Sprachmodell zu trainieren, indem sie die Chats speichern und dann eben zu den Trainingsdaten des nächsten Modells hinzufügen. Hier wäre aber die Frage: Warum sollten sie das tun? Was würde die KI aus den Konversationen lernen? Die meisten Konversationen sind lediglich Fragen der Nutzer mit Antworten der KI. KIs mit ihren eigenen Antworten zu füttern ist sehr gefährlich, und kann zum "Kollaps" des Modells führen, da es Fehler des Modells verstärkt. Mit den Fragen der User kann man ebenfalls nicht viel anfangen, und selbst wenn ein User etwas behauptet, weiß man nicht, ob das korrekt ist.
Würde eine KI einfach jeglichen "Input" von Usern übernehmen, würde sich das Modell unkontrolliert entwickeln und dadurch dümmer statt intelligenter werden.
Die Qualität der Trainingsdaten ist extrem wichtig für solche KIs.
Was ich ebenfalls geschrieben habe und was wohl ungelesen blieb:
Deutlich realistischer ist, dass OpenAI die Chats auswertet, um die Performance des aktuellen Modells zu bewerten, und weniger, um die KI weiterzuentwickeln.
Dass OpenAI die Chats mitliest und auswertet, habe ich wie gesagt nie in Frage gestellt. Ich habe lediglich angezweifelt, dass sie diese als Trainingsdaten verwenden. Die Chats sind deutlich wertvoller als Performance- und Nutzungsdaten. Wofür benutzen die User ChatGPT? Wie reden sie mit der KI? Wie oft liegt die KI richtig und wie oft macht sie Fehler? Wie oft drücken die User Zufriedenheit vs. Unzufriedenheit aus oder weisen die KI auf Fehler hin? Wie oft glauben User der KI, wenn sie Unsinn erzählt? Das sind für OpenAI wertvolle Informationen, die zur Entwicklung von ChatGPT beitragen, ohne direkt Teil der Trainingsdaten zu sein. Falls du ChatGPT selbst schon ein paar Mal genutzt hast, ist dir eventuell aufgefallen, dass sie dich diese Dinge oft sogar konkret fragen. Hin und wieder wird man gefragt, wie zufrieden man mit einer Antwort sei, oder man bekommt zwei Antworten und man soll sagen, welche man besser findet.
Sprachmodelle wie GPT sind deutlich kompexer als eine KI, die sich einfach nur Sätze merkt und nachplappert. So haben KIs wie der Cleverbot von 2008 funktioniert. Da sind wir aber heute deutlich weiter.
ChatGPT ist nicht selbstlernend und lernt nicht direkt durch Chats. Es ist ein Sprachmodell, also ein festes Modell das aus Trainingsdaten generiert wurde.
Natürlich kann OpenAI die Chats benutzen, um das nächste Sprachmodell damit zu trainieren, allerdings bezweifle ich, dass das besonders hochwertige Trainingsdaten sind.
Deutlich realistischer ist, dass OpenAI die Chats auswertet, um die Performance des aktuellen Modells zu bewerten, und weniger, um die KI weiterzuentwickeln.
So oder so sollte man keine sensiblen Daten mit ChatGPT teilen, aber dennoch verändert sich das Sprachmodell nicht von selbst.