Gibt es eine gute offline KI?
Hallo
ich bin dringend auf der Suche nach einem Offline-AI-Tool für meine Arbeit mit sensiblen Informationen.
Ich habe in der Vergangenheit privat mit ChatGPT gearbeitet, aber nachdem ich die Datenschutzbestimmungen studiert habe, darf ich dieses Tool nicht für meine Daten bei der Arbeit verwenden. Meine Idee war daher, eine Offline-KI herunterzuladen, die keine privaten Informationen auf Online-Server hochlädt.
Ich benötige diese KI hauptsächlich für qualitative textbasierte Daten. Zusammenfassungen, Codierung von Textabschnitten und Anonymisierung von Daten.
Kennt jemand eine solche KI oder hat eine andere Lösung für mein Problem? ;)
Danke!!!
2 Antworten
Es gibt mittlerweile für viele Bereiche gute bis sehr gute KI Modelle für den Offilen Gebrauch. Huggingface ist da sehr zu empfehlen. Von Textzusammenfassung bis zur Bildgenerierung alles dabei.
Ok da die anderen hier ja wirklich nur Lost sind beantworte ich die Frage mal wirklich:
Es gibt tools wie Backyard AI, oder Open WebUI welches eines der besten und größten Webinterfaces is um eigene LLMs zu hosten.
LocalAI gibt es auch, was das gleiche anstrebt. Brauchst halt ne halbwegs moderne Grafikkarte, je mehr RAM desto besser