Laptop zu langsam für Large Language Models, gibt es eine günstige Möglichkeit irgendwie mehr rechen Power zu bekommen?

Hallo. Habe auf meinen Laptop nur 2GB VRAM. Habe mir lokal von Meta deren LLM model runter geladen, aber dieser läuft sehr sehr langsam. Der mit 7B Parameter ist ebenso sehr langsam. Gibt es eine Möglichkeit den 7B oder sogar den 70B parameter model auf meinen Laptop laufen zu lassen? Z.B kann ich irgendwo ein Abo machen, wo alles was auf meinen Laptop berechnet wird, extern gemacht wird? Oder hat jemand andere vorschläge? Danke

Answer 1

[ewigsuzu]

ja es gibt solche online pcs inzwischen da brauchste aber wieder ne echt gute inetverbindung und ne schnelle ssd wäre auch nicht verkehrt undn guter ram wäre auch etwas nützlich, bei sehr alten rechnern lohnt es wirklich mehr dirn neuen zu suchen man kann sogar schon für 300- 600 euro einen mittelklasse pc finden der zum gamen reicht, nicht unbedingt gut, aber es reicht.