Laufen KI-Modelle nur mit teuren Grafikkarten wie Nvidia RTX 4090?

7 Antworten

Nicht ausschließlich. Einige benötigen weitaus geringere Leistungsreserven als vergleichsweise die 4090 liefert.

Es kommt auf das "KI Modell" an. Manche laufen auch auf einem Raspberry Pi.

Es gibt auch KI auf dem Raspberry Pi ohne Grafikkarte

Es kommt ganz darauf an was du damit machen möchtest

Noch schlimmer, Nvidia macht hier richtig Reibach und verlang um die 20.000 Dollar (und mehr)für KI-Spezialisierte Karten. Die haben auch andere Namen.
Haben so Namen wie Nvidia H100


errost  17.02.2025, 11:42

Die sind ja auch signifikant schneller, haben deutlich besseren und mehr speicher und noch ein haufen anderer Features, die genau dafür gedacht sind. Klar wollen die auch für solche Karten mehr Geld.

Ifosil  17.02.2025, 11:44
@errost

Das verstehe ich auch, bis zu einem gewissen Grad.

Das kommt auf die genaue KI an.

Die meisten KIs brauchen aber nach wie vor sehr viel Rechenleistung, um vernünftig zu laufen. Viele KIs würden selbst auf einer 4090 nicht laufen, sondern benötigen eher 10 davon. Oder direkt Karten, die speziell für KI optimiert sind.

Woher ich das weiß:Hobby – Up-to-date dank PCGH-Abo und vielen anderen Quellen

NackterGerd  17.02.2025, 11:47

Andere laufen auf einem Raspberry Pi ohne Grafikkarte