Jailbreaker für DALLE 3?

Hat jemand einen Prompt als Jailbreaker für DALLE 3 ?

verreisterNutzer

29.11.2023, 17:56

Was hast du denn vor

poscher

Fragesteller

29.11.2023, 17:57

Herum experimentieren. Nichts schlimmes.

1 Antwort

verreisterNutzer

29.11.2023, 17:59

Es gab dazu einen Artikel von MIT Technology Review. Siehe hier. Eventuell geht es immernoch.

poscher

Fragesteller

29.11.2023, 18:01

Ich finde da irgendwie nichts.

verreisterNutzer

29.11.2023, 18:26

@poscher

Es geht um SneakyPromt

Findest du bei GitHub

Da bei dem Model 3.5 steht

...zur Frage

Kennt ihr einen Prompt um bei ChatGPT (Dalle-E) Bilder von berühmten Personen zu erstellen?

weil der Default-Prompt es nicht zulässt

...zur Frage

Wo kann ich Tokens für GPT-4 kaufen?

Hallo,

ich programmiere gerade einen Sprachassistenten und wollte ihn nun mit GPT-4 verbinden, ich habe auf Shop - ChatGPT 50000 Tokens gekauft, doch wenn ich das Programm starte, steht, dass ich trotzdem keinen Zugriff auf GPT-4 habe. Muss ich die Tokens irgendwo anders kaufen?

Mein Code:

import openai
import pyttsx3
import re
import pyjokes
import speech_recognition as sr
from pyowm import OWM
import spotipy
from spotipy.oauth2 import SpotifyOAuth
import time
import random
import datetime
import pytz
from geopy.geocoders import Nominatim
from timezonefinder import TimezoneFinder


openai.api_key = 'sk-...'
model_id = "gpt-4"

engine = pyttsx3.init()


def recognize_speech():
    recognizer = sr.Recognizer()

    while True:
        with sr.Microphone() as source:
            print("Sage etwas...")
            audio = recognizer.listen(source, timeout=15)

        try:
            text = recognizer.recognize_google(audio, language="de-DE")
            print("Text: " + text)
            return text
        except sr.UnknownValueError:
            return "not_understood"
        except sr.RequestError as e:
            print(f"Fehler bei der Anfrage an die Google Web Speech API: {e}")
            return ""


def openai_request(prompt):
    response = openai.ChatCompletion.create(
        model=model_id,
        messages=prompt
    )

    api_usage = response['usage']
    print('Total Token consumed: {0}'.format(api_usage['total_tokens']))
    prompt.append({'role': response.choices[0].message.role, 'content': response.choices[0].message.content})
    return prompt


def speak(text):
    engine.say(text)
    engine.runAndWait()


def ausführen():
    while True:
        q = recognize_speech()
        print("Erkannter Text:", q)

        if q == "not_understood":
            speak("Entschuldigung! Das habe ich nicht verstanden.")
            break

        elif not q:
            break

        elif "hallo" in q:
            speak('Hallo! Womit kann ich dir behilflich sein?')
            break

        else:
            prompt = [{'role': 'user', 'content': q}]
            prompt = openai_request(prompt)
            response = prompt[-1]['content']
            speak(response)


if __name__ == '__main__':
    ausführen()

Fehlercode:

C:\Users\User\PycharmProjects\voiceAssistant\venv\interpreter\Scripts\python.exe C:\Users\User\PycharmProjects\voiceAssistant\main.py

Sage etwas...

Text: wann war der erste Weltkrieg

Erkannter Text: wann war der erste Weltkrieg

Traceback (most recent call last):

File "C:\Users\User\PycharmProjects\voiceAssistant\main.py", line 83, in <module>

ausführen()

File "C:\Users\User\PycharmProjects\voiceAssistant\main.py", line 77, in ausführen

prompt = openai_request(prompt)

^^^^^^^^^^^^^^^^^^^^^^

File "C:\Users\User\PycharmProjects\voiceAssistant\main.py", line 43, in openai_request

response = openai.ChatCompletion.create(

^^^^^^^^^^^^^^^^^^^^^^^^^^^^^

File "C:\Users\User\PycharmProjects\voiceAssistant\venv\interpreter\Lib\site-packages\openai\api_resources\chat_completion.py", line 25, in create

return super().create(*args, **kwargs)

^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^

File "C:\Users\User\PycharmProjects\voiceAssistant\venv\interpreter\Lib\site-packages\openai\api_resources\abstract\engine_api_resource.py", line 153, in create

response, _, api_key = requestor.request(

^^^^^^^^^^^^^^^^^^

File "C:\Users\User\PycharmProjects\voiceAssistant\venv\interpreter\Lib\site-packages\openai\api_requestor.py", line 298, in request

resp, got_stream = self._interpret_response(result, stream)

^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^

File "C:\Users\User\PycharmProjects\voiceAssistant\venv\interpreter\Lib\site-packages\openai\api_requestor.py", line 700, in _interpret_response

self._interpret_response_line(

File "C:\Users\User\PycharmProjects\voiceAssistant\venv\interpreter\Lib\site-packages\openai\api_requestor.py", line 765, in _interpret_response_line

raise self.handle_error_response(

openai.error.InvalidRequestError: The model `gpt-4` does not exist or you do not have access to it. Learn more: https://help.openai.com/en/articles/7102672-how-can-i-access-gpt-4.

Process finished with exit code 1

Freundliche Grüsse

...zur Frage

Chat gpt Jailbreak prompt um den Filter zu umgehen ?

Kennt ihr einen Chat gpt Jailbreak prompt der aktuell funktioniert um den Filter zu umgehen.Oder eine ki ohne filter.

...zur Frage

ChatGBT Evil Prompt?

Ich habe gerade den Evil Prompt für ChatGBT benutzt, um es einfach auszutesten. Ich habe eine Frage gestellt, die zu illegalen Handlungen führt. Also das illegalste, was man machen kann. ChatGBT hat mir erklärt, wie man am besten so etwas tut und hat meine Frage beantwortet. Er hat gegen die Richtlinien verstoßen.

Ich habe es zum Testen benutzt, habe jedoch Schiss, dass bald die Polizei vor der Tür steht...

Kann das passieren?

...zur Frage

Lohnt es sich noch, programmieren zu lernen?

Man hört ja jetzt immer öfter dass KI dazu imstande ist, Codes zu schreiben, wie die KI Devin, und bald Software Developer ersetzen könnte. Vor ca einem Monat habe ich begonnen mir programmieren beizubringen, aber bringt das überhaupt noch etwas für die Zukunft?

...zur Frage

Wie gut ist die Bildbearbeitung von Dalle 2 wirklich?

...zur Frage

Iris-Code bei Worldcoin?

Worldcoin, die neue Kryptopwährung von OpenAI, die meiner Meinung nach einen anderen Zweck erfüllen soll als vorgegeben, erfordert eine biometrische Verifizierung per Irisscan. Dieser "Orb" an dem man seine Iris scannen lässt, generiert dann einen einzigartigen Iriscode, der unteranderem in der Datenbank von OpenAI bzw. Worldcoin International, gespeichert wird.

Man kann offiziell einen Antrag auf Löschung dieses Iriscodes stellen.

Frage an euch:

Glaubt ihr, dass die die Daten auch wirklich löschen oder ist das "Betrug"?

...zur Frage

ChatGPT macht große Fehler?

Einfachste Fragen, die ich mir ergoogeln kann, beantwortet das mir falsch.

Laut ChatGPT ist Günther Jauch 65 Jahre alt (FALSCH) und nicht nur Moderator, sondern auch Schlagersänger (FALSCH).

Warum kann dieses Ding einfachste Fragen nicht beantworten?

...zur Frage

Kann ich irgendwie automatisch extrem coole Bilder generieren?

Gibt es eine KI welche automatisch Bilder von Dalle 2 oder defusion generieren lässt und sie so lange neu generiert bis richtig gute Bilder rauskommen?

...zur Frage

Kann mir jemand helfen?

Ich versuche gerade in Buuble meine eigene KI die wie ChatGPT sein soll zu erstellen, doch bekomme immer diese Fehlermeldung:

Was kann ich dagegen machen?

...zur Frage

Warum Funktioniert mein Wake Word nicht?

Hallo,

ich programmiere gerade einen Sprachassistenten und bin gerade am Wake Word dran. Mein Code sieht so aus:

import openai
import pyttsx3
import re
import pyjokes
import speech_recognition as sr
from pyowm import OWM
import spotipy
from spotipy.oauth2 import SpotifyOAuth
import time
import random
import datetime
import pytz
from geopy.geocoders import Nominatim
from timezonefinder import TimezoneFinder
import sounddevice as sd
import pvporcupine

openai.api_key = 'sk-...'
model_id = "gpt-4"

engine = pyttsx3.init()

WAKE_WORD_MODEL_FILE_PATH = "C:\\Hey-Luna_de_windows_v3_0_0\\Hey-Luna_de_windows_v3_0_0.ppn"


def recognize_speech():
    recognizer = sr.Recognizer()

    while True:
        with sr.Microphone() as source:
            print("Sage etwas...")
            audio = recognizer.listen(source, timeout=15)

        try:
            text = recognizer.recognize_google(audio, language="de-DE")
            print("Text: " + text)
            return text
        except sr.UnknownValueError:
            return "not_understood"
        except sr.RequestError as e:
            print(f"Fehler bei der Anfrage an die Google Web Speech API: {e}")
            return ""


def record_audio(sample_rate, duration):
    print("Aufnahme gestartet...")
    audio = sd.rec(int(sample_rate * duration), samplerate=sample_rate, channels=1, dtype='int16')
    sd.wait()
    print("Aufnahme beendet.")
    return audio.flatten()


def picovoice_listen():
    keyword_file_path = "C:\\Hey-Luna_de_windows_v3_0_0\\Hey-Luna_de_windows_v3_0_0.ppn"
    sensitivities = [0.5]  # Adjust as needed

    try:
        handle = pvporcupine.create(
            keyword_paths=[keyword_file_path],
            sensitivities=sensitivities,
            access_key='...'
        )

        sample_rate = handle.sample_rate

        while True:
            pcm = record_audio(sample_rate=sample_rate, duration=15)
            keyword_index = handle.process(pcm)

            if keyword_index >= 0:
                print("Wake word detected!")
                break

    except pvporcupine.PorcupineError as e:
        print(f"Porcupine error: {e}")

    finally:
        if 'handle' in locals():
            handle.delete()


def openai_request(prompt):
    response = openai.ChatCompletion.create(
        model=model_id,
        messages=prompt
    )

    api_usage = response['usage']
    print('Total Token consumed: {0}'.format(api_usage['total_tokens']))
    prompt.append({'role': response.choices[0].message.role, 'content': response.choices[0].message.content})
    return prompt


def speak(text):
    engine.say(text)
    engine.runAndWait()


def ausführen():
    while True:
        picovoice_listen()

        q = recognize_speech()
        print("Erkannter Text:", q)

        if q == "not_understood":
            speak("Entschuldigung! Das habe ich nicht verstanden.")
            break

        elif not q:
            break

        elif "hallo" in q:
            speak('Hallo! Womit kann ich dir behilflich sein?')
            continue

        else:
            prompt = [{'role': 'user', 'content': q}]
            prompt = openai_request(prompt)
            response = prompt[-1]['content']
            speak(response)
            break


if __name__ == '__main__':
    ausführen()

wenn ich nun aber das Programm ausführe, kommt diese Meldung und ich muss das Wake Word nicht sagen, um meine Frage zu stellen, welche dann von z.B. OpenAI beantwortet wird:

C:\Users\User\PycharmProjects\voiceAssistant\venv\interpreter\Scripts\python.exe C:\Users\User\PycharmProjects\voiceAssistant\main.py

Porcupine error: Initialization failed:

[0] Keyword file (.ppn) and model file (.pv) should belong to the same language. File belongs to `de` while model file (.pv) belongs to `en`.

Sage etwas...

woran liegt das?

Freundliche Grüsse

...zur Frage

Wo setzt ihr überall ChatGPT ein und wo hilft es euch (konkret)?

Wäre toll, zu erfahren, wo ihr schon überall ChatGPT einsetzt und es euch hilft.

Meine Punkte:

Erklärung, als Art Tutor für Mathematik und Informatik: Es kann gut Mathematik (ohne Logik) und bspw. Code erklären oder MINT-Konzepte
Erstellung einfache Skripts und Code
Erläuterung und Hinweis auf Krankheiten durch Angabe von Symptomen.
Erläuterung von politischen Konzepten
Erstellung von Wörtern und Usernamen, die lustig klingen

...zur Frage

Gibt es schon so eine KI?

Die KI soll durch Informationen, die man ihr gibt, Quellen angaben geben.

...zur Frage

Was möchtest Du wissen?

Deine Frage stellen