Stable Beluga hängt sich nach zu vielen Eingaben auf. Was kann ich tun?

Guten Tag meine Damen und Herren.

Ich habe schon seit fast einem halben Jahr, mit selbst gehosteten LLMs zu tun und wollte gestern map etwas neues ausprobieren. Und zwar habe ich mir StableBeluga-7B geholt, da es kleiner ist und deshalb schnell Antworten generiert. Diese Antworten sind dann zwar nicht so präzise wie bei StableBeluga-13B oder StableBeluga2, aber in meinem Versuch geht es in erster Linie um Geschwindigkeit und der Unterschied in den Antworten ist auch nicht so groß.

Also kommen wir zur Frage. Stable Beluga 7B läuft eigentlich ganz gut, aber wenn ich zu lange mit dem LLM schreibe, oder zu viele Fragen gestellt habe, ich weiß nicht genau woran es liegt, gibt mir die KI nur noch den ersten Buchstaben der Antwort aus, beendet den Antwortprozess und wartet auf die nächste Eingabe des Benutzers(also ich). Sobald ich den Chat löschen, und eine neue Unterhaltung starte, ist das Problem sofort wieder weg, kommt allerdings unter den bereits beschriebenen Umständen wieder. Es kommt KEINE Fehlermeldung.

Das wäre ja auch eigentlich nicht so schlimm. Aber das Problem an der Sache ist, das das LLM sich im neuen Chat logischerweise nicht mehr auf die vorherige unterhaltung beziehen kann, was besonders bei Problem Lösungs Diskussionen Z.B. "wie kann ich das Problem --- an meinem Computer lösen" wichtig ist, denn StableBeluga läuft Offline und weiß nur dass, was man ihm mal erzählt hat. Wenn ich jetzt also den Chat Verlauf, in dem ich bereits viel über Z.B. Computer geredet habe, lösche, weiß StableBeluga nahezu nichts mehr über in diesem Beispiel Computer.

Ich benutze LLMs also nicht, um mir Arbeit beim denken abzunehmen, sondern um das, was ich schon weiß oder neu lernen, zu sortieren und wenn ich es brauche ohne aufwand geordnet abzurufen und mich genau an das Wissen zu erinnern, das ich zum Beispiel mal wusste, aber wieder vergessen habe.

Mein System:

Intel Core i7-13700K (war ein Upgrade, falls jemand auf den bottleneck zur 3050 aufmerksam machen will)

GeForce RTX 3050 (8GB VRAM)

16GB DDR4 3200MHz RAM

Debian Linux

Weiß jemand eine Lösung.

Ich weiß eine Lösung und zwar... 0%
Ich habe das gleiche Problem. 0%
Mir fehlen noch Informationen und zwar... 0%
Software, Linux, künstliche Intelligenz
Wann sollte man eurer Ansicht nach die Arbeit kündigen?

Ich arbeite seit Jahren für eine Gesellschaft. Ich stehe vor der Herausforderung nicht kündigen zu können und gleichzeitig nicht bleiben zu können :(

Neben meinem Studium begann ich für die Gesellschaft zu arbeiten. Mit der Zeit wurde ich nach und nach in verschiedene Abteilungen eingesetzt. Nach dem Studium arbeitete ich in Vollzeit aber es war zunehmend etwas komplizierter da ich mich mein Urlaub mit mehreren Abteilungen abstimmen musste und teils mehrere Signaturen und Telefonnummern hatte..

Als Vollzeitkraft ging das einfach nicht so einfach und habe darum gebeten nur noch in einer Abteilung zu arbeiten, das hatte große Auswirkungen, dadurch hatte mein direkter Vorgesetzter keinerlei Ahnung von meiner Arbeit. Er dient quasi nur als Ansprechpartner für Urlaubsplanung, Krankmeldungen und allgemeine organisatorische Fragen wie Brandschutz- Unterweisungen oder die Beantragung von Schulungen oder einen neuen Computer...

Letztendlich arbeite ich viel eng mit der Direktion , die allerdings noch weniger Ahnung von meiner Arbeit hat.

Meine Arbeit besteht hauptsächlich darin, Datenbanken zu initiieren und diese – umzusetzen, irgend welche Skripte um Systeme zu automatisieren oder einfach Kosten einzusparen. Manchmal werde ich einfach nach meine Meinung gefragt. Aber die Arbeit selbst oder die Projekte werden dann von irgend welche Kollegen ausgeführt, meistens Aushilfen, Azubis oder irgend welche Mitarbeiter. Effektiv arbeite ich jedoch kaum..

Mein Arbeitsalltag sieht folgendermaßen aus:

  • Ankunft im Büro, Begrüßung der Kollegen, Besuche dann mit irgend einen Kollegen die Cafeteria
  • Erst danach setze ich mich auf dem Schreibtisch, durchfliege E-Mails und sage Termie ab oder zu.
  • Danach folgt meistens eine unnötiges "joure fixe"
  • Dann führe ich ein paar Telefonate mit paar Kollegen und verliere unnötig Zeit weil wir über belangloses Quatschen, etwa den neuesten Tratsch.
  • Und dann ist schon knapp 12 Uhr, also gehe ich mit Kollegen zum Mittagessen.
  • Ab etwa 13:00 Uhr bin ich theoretisch ready zum Arbeit, häufig jedoch fahre ich mit dem Geschäftsauto in die Zentrale für irgend ein Meeting weil dort die Abteilungsleitung sitzt - weil ich anschließend wieder das Auto zurück Fahre und das Fahrzeug abgenommen wird und alles natürlich Arbeitszeit ist, verstreicht erst recht unnötig Zeit.
  • Wenn ich wieder Zurück bin ist meistens auch schon Feierabend also fahre ich gleich wieder.

An Home-Office-Tagen ist der Arbeitsalltag noch weniger produktiv. Präsentationen, die ich halte, bereite ich meist nur kurzfristig vor.

All diese Faktoren führen dazu, dass ich meine Arbeit hasse. Sie ist sinnlos und es macht keinen Unterschied, ob ich da bin oder nicht. Das habe ich sowohl der Direktion als auch meinem Vorgesetzten gesagt. Da die Arbeitseinteilung vom Vorstand so vorgegeben ist, "ist es eben so" - und so verbringe ich Tag für Tag und sehe keinen Ausweg.

Ich hatte in den letzten Monaten einige Vorstellungsgespräche durch Empfehlungen, durchaus interessante Arbeitgeber, die mich sofort einstellen würden, aber die Bezahlung ist meist deutlich schlechter und da ich mich an einen gewissen Lebensstandard gewöhnt habe, möchte ich auch nicht weniger verdienen. Zumal ich sehr viele Vergünstigungen erhalte, wie z.B. eine perfekte Parkplatzzuweisung, um die mich alle beneiden, und viele andere Vorteile, von denen man bei anderen Arbeitgebern nur träumen kann.

Also weiß ich einfach nicht weiter - ich kann nicht bleiben und gehen kann ich auch nicht :( Es gibt diverse Kollegen, die in einer ähnlichen Situation sind, nur sind die direkten Vorgesetzten deutlich kompetenter - und alle sagen, dass ich absolut dumm wäre, wenn ich kündigen würde und dass es die schlechteste Entscheidung wäre, die ich jemals treffen könnte.

Ich möchte nicht so enden wie die meisten vom Vorstand, die sind schon seit teils 20 Jahren im Unternehmen, für mich eine absolute Horror-Vorstellung die nächsten Jahre so zu verbringen.

Arbeit, Software, Kündigung, Studium, Job, Geld, programmieren, Karriere, Arbeitsalltag, Firma, Organisation, Soziales, Unternehmen
Meine (neue) Tastatur spinnt total?

Moin Leute, ich bin am verzweifeln...

Ich habe vor einer Woche Probleme mit meiner Tastatur bekommen: Plötzlich reagierte sie nicht mehr und wenn doch, dann eher so: "P...PPPPPPPPP" und stoppte nicht mehr. Ebenfalls ertönte ständig der Ton wenn man die Tastatur entfernt und/oder wieder einsteckt in den PC. Ich benutze Win10 und meine Komponenten stehen unten. Diese Störungen treten unregelmäßig auf, manchmal kann ich (so wie jetzt) problemlos schreiben, auch das Kabel kann ich berühren, es passiert nichts. Aufjedenfall habe ich die Steckerplätze noch gewechselt und mir eine nagel neue Tastatur besorgt. Auch bei der neuen jetzt tritt die Störung auf.

Das komische ist: Meine Maus funktioniert einwandfrei und obwohl meine Tastatur manchmal nicht reagiert, bleibt die Stromzufuhr anhand der Beleuchtung an. Sobald ich den Stecker neu rein stecke funktioniert sie erstmal normal. Es liegt also NUR an der Tastatur und an der Tastatur selbst kann es nicht liegen. Dieses Problem habe ich seit wenigen Wochen bekommen, vorher lief alles.

Ich habe auch schon die Treiber reinstalliert, aber es passiert trotzdem wieder. Fallen euch noch Optionen ein außer Windows 10 Neuinstallieren? Kann ich einen Protokoll irgendwo sehen, welche Meldungen über die Tastatur gezeigt werden?

Meine Komponenten: AMD Ryzen 7 3800x, ASRock X570 Pro4 Mainboard, 16GB DDR4, RTX 2070 Super.

Computer, Software, Tastatur, PC-Problem, Gaming Tastatur, Hardware-PC
"Issue Board" für Windows?

GitLab gefällt mir inzwischen sehr gut und ich möchte nun Teile daraus nicht nur in der Arbeit, sondern auch für meine eigenen Hobby-Projekte verwenden. Konkret geht es mir dabei um folgende Features:

  • Anlegen von Projekten und Gruppen
  • Issue Bords mit der Möglichkeit Issues Label-basiert in Spalten zu gruppieren und mit Label-Updates von einer zur nächsten zu verschieben ( z.B. https://gitlab.com/gitlab-org/gitlab/-/boards )
  • Markdown basierte Issues mit Unterstützung für Checkboxen, welche anschließend abgehakt werden können, ausklappbaren Sektionen, um platzraubende Bilder zu verstecken, dem einfachem Einbetten von Bildern, anklickbaren Links und Referenzen zu anderen Issues ( z.B. https://gitlab.com/gitlab-org/gitlab/-/issues/22337 )

Die naheliegenden Antworten wären natürlich entweder einen vollen GitLab-Server auf einer Linux-Maschine selbst aufzusetzen oder einen Account bei GitLab zu erstellen. Jetzt will ich aber weder einen eigenen, mit SSL abgesicherten, im Internet erreichbaren Linux-Server für eine etwas bessere To-do-Liste aufsetzen, noch meine Daten auf irgendeine fremde Cloud hochladen. Die Kapazitäten meines "Stand-alone" / offline PC sollten für eine kleine To-do-Liste ja wohl ausreichen.

Gibt es hier eine Lösung, welche als Service mit Windows gestartet wird und etwas mit den beschriebenen Features im Firefox Browser zur Verfügung stellt?

Computer, Software, Projektplanung, Standalone, todo-liste, gitlab
Wer von euch Computerexperten hat die Lösung für mein verfluchtes Problem?

Also ich hab nichts rumgefummelt an irgendwelchen einstellungen am computer weswegen der Internetzugriff begrenzt anzeigt, sprich ich daran gehindert werde zugriff aufs Internet zu haben, ich bin kunde bei 02, ich seit 3 jahren diesen vertrag Dsl Anschluss mit festnetz, ich habe eine Fritzbox, anfangs alles kurz und knackig eingerichtet und gar keine probleme gehabt, dieses scheiss störung oder was da auch für blockade sorgt ist einfach so aus dem nichts aufgetreten, vor 6 Monaten hats angefangen und das ist jetzt das 3 mal schwerwiegend, das geht ja tage lang so, ich hab seit zwei tagen kein internetzugriff, obwohl alles angesteckt runter und hochgefahren ales so wie es sein sollte, ich arbeite seit 15 jahren am Pc ich weiss wie man die dinge richtig anschließt aber bei diesem problem brennen bei mir noch die leitungen durch, ich bin auf windows 8 unterwegs. Was mir zudem auch noch auffällt es dauert allgemein auch manchmal lange bis es mir ein zoutube video abspielt oder eine seite öffnet, das war anfangs aucht nicht so. Ich weiss nicht ob es an o2 liegt odeeeeeer möglicherweise an den anbieter der soeben glaskabhfaser bei uns in der gegend verlegt und auch bald an meiner straße,weil gleich in der Zeit wo die angekündigt haben das sie die ganze gegend mit glasfaser austatten werden hat meine probleme angefangen naja genauer genommen fing das ein zwei monate schon vorher an bevor telekom angekündigt hat. So kann mir jemand sagen was ich tun kann? Ich kann einfach nicht ins internet, ich muss arbeiten. Vom smartphone aus übers wlan gar keine probleme, kann das internet nutzen ohne irgendeine störung aber am pc über den land kabel geht nichts?!?!

Computer, Software, Windows, Hardware, Elektronik, Informatik, Vonovia
PC fährt hoch und direkt wieder runter bzw. LEDS gehen aus, Lüfter drehen aber noch?

Hallo

Ryzen 5 5600x

RX 6700 XT

Gigabyte B550 DS3H

Ich habe meine PC innerhalb meines Zimmer wo anders hin gestellt vorhin. Davor habe ich den PC auf den Bett gelegt und eine WLAN Karte direkt unter die Grafikkarte eingebaut weil es nicht anders möglich war.

Das Problem sieht wie folgt aus:

1.Ich mache den PC an

2. PC bootet und hat die Boot-LED-Farben wie immer + Tastatur leuchtet und beide Monitore

3. ich gebe mein PW ein und bin für ca 1. Minute drin und chille im Windows Desktop und der PC fährt runter, gibt ein leises komisches Geräusch von sich und dann weitere leisere komische, bedenkliche Geräusche und die Lüfter drehen im langsamen Tempo weiter aber alle LEDS sind aus auch von der Tastatur etc und dann lässt sich der PC nicht ausschalten durch den An/Aus-Knopf

Alle Lüfter drehen bis auf die der GPU (normal bei mir) beim hochfahren. Zuvor hatte ich nie Probleme mit dem PC und kann mir das nicht erklären. Ebenso ist mein PC immer küh, meine CPU nie über 60 grad und meine gpu zwischen 55-65 grad beim Gaming. Der PC ist relativ frei von Staub und generell gut gepflegt 

Der Umbau innerhalb meines Zimmers war so anstrengend dass ich jetzt kein Bock habe selber auf Fehlersuche zu gehen sondern euch lieber um eure Hilfe bitte.

Meine Vermutung wäre entweder die WLAN-Karte oder eventuell der Stromkabel vom PC am Netzteil der den selben Anschluss wie der von meinem Monitor hat welche ich vielleicht vertausche habe da einer fürs Netzteil ist und einer für den Monitor, beide aber nicht zu unterscheiden sind(keine Ahnung ob das ein Unterschied macht wenn man die vertauscht)

Ich wäre über eure hilfe sehr dankbar

PC, Computer, Software, Lüfter, CPU, Prozessor, GPU, IT, RAM, AMD, BIOS, Gaming PC, Mainboard, Motherboard, MSI, PC-Problem
Ist das ein guter PC für 1.360€?

Hallo ich brauche einen PC. Ursprünglich habe ich diesen im Blick gehabt.

https://www.dubaro.de/GAMING-PC/HardwareDealz-Editionen/HardwareDealz-1000-Edition::3684.html

Jetzt habe ich ihn etwas umkonfigueriert unzwar folgendes:
Ich habe statt dem MSI PRO B650-S WIFI DDR5
das
MSI B650 GAMING PLUS WIFI DDR5 genommen.
(Da ich gehört habe das es eine bessere Spannungsversorgung gibt und nur 10€ Aufpreis kostet.)

Dann habe ich noch statt der
1TB MSI M450 Spatium M.2 PCIe 4.0 x4 NVMe (L 3.600MB/s; S 3.000MB/s)
diese SSD genommen:
2TB WD BLACK SN770 M.2 PCIe 4.0 x4 NVMe (L 5.150MB/s; S 4.850MB/s)
(Da ich eine 2TB SSD will und diese "nur" 65€ mehr kostet.)

Dann habe ich statt der 12GB AMD RX 6750XT (beliebiger Hersteller)
diese Grafikkarte genommen:
16GB XFX RX 6800 Speedster SWFT319 Core Gaming
(da ich gehört habe das upgrade lohnt sich für die 65€ die ich bei dubaro bezahle.)

Mit diesen ganzen Upgrades also Mainboard, Grafikkarte und mehr (schnellere) SSD, wäre es jetzt ein Preis von 1.360€. (Bei Dubaro muss ich noch 80€ für Windows 10 Pro bezahlen oder 130€ für Windows 11 Pro, aber ich glaube ich nehme Windows 10 Pro das reicht oder ?)

So sieht der PC jetzt konfiguriert aus wie ich es gemacht habe:

Ist der Preis für den PC okay oder ist das viel zu überteuert ?
Ich will ihn halt nicht selber zusammenbauen und es ist sehr praktisch für mich wenn sogar schon Windows darauf installiert ist und 2TB SSD will ich halt auch direkt drin haben).

Was meint ihr ?
Oder ist bei dem PC eine Komponente unpassend zu dem Mainbord o.ä. ?

Und weiß jemand zufällig ob der PC in dieser konfiguration schon WLan hat?
(weil bei dem Mainbord steht ja irgendwas mit WIFI, oder muss man da noch was dazu kaufen?)

Vielen Dank für jeden der sich meine Frage anschaut und mir versucht mir sein Wissen in dem Bereuh zu vermitteln. Ich schätze das sehr.

Bild zum Beitrag
PC, Computer, Software, Windows, CPU, GPU, Hardware, IT, AMD, Computer Kaufen, Gaming PC, HDD, Intel, Mainboard, MSI, Nvidia, PC bauen, Pc Kauf, pc kaufen, PC-Konfiguration, SSD, PC Kaufberatung, Computerkauf, NVMe, Dubaro, NVMe SSD, HardwareRat.de

Meistgelesene Fragen zum Thema Software