Laufen KI-Modelle nur mit teuren Grafikkarten wie Nvidia RTX 4090?
Laufen KI-Modelle nur mit teuren Grafikkarten wie Nvidia RTX 4090 ? Finde diese Grafikkarten recht teuer mit fast 2000 Euro
7 Antworten
Nicht ausschließlich. Einige benötigen weitaus geringere Leistungsreserven als vergleichsweise die 4090 liefert.
Es kommt auf das "KI Modell" an. Manche laufen auch auf einem Raspberry Pi.
Nö
Es gibt auch KI auf dem Raspberry Pi ohne Grafikkarte
Es kommt ganz darauf an was du damit machen möchtest
Noch schlimmer, Nvidia macht hier richtig Reibach und verlang um die 20.000 Dollar (und mehr)für KI-Spezialisierte Karten. Die haben auch andere Namen.
Haben so Namen wie Nvidia H100
Das kommt auf die genaue KI an.
Die meisten KIs brauchen aber nach wie vor sehr viel Rechenleistung, um vernünftig zu laufen. Viele KIs würden selbst auf einer 4090 nicht laufen, sondern benötigen eher 10 davon. Oder direkt Karten, die speziell für KI optimiert sind.
Die sind ja auch signifikant schneller, haben deutlich besseren und mehr speicher und noch ein haufen anderer Features, die genau dafür gedacht sind. Klar wollen die auch für solche Karten mehr Geld.