Ab diesem Herbst soll es Laptops mit ARM CPUs von Nvidia geben. Anwendung: Lokale AI Agents. CUDA ist das wichtige Kennwort. Das werden dann Computer, bei denen die AI Zugang zu allen Daten haben wird. Nicht meine Baustelle.
Nvidia ARM CPUs incoming
2 thoughts on “Nvidia ARM CPUs incoming”
Comments are closed.
Das wird spannend werden. KI Modell lokal auszuführen und lokal Tasks abarbeiten zu lassen ist ein nützliches Werkzeug. Sieht man ja bei den Apple MacMini die genau dafür gekauft werden.
Kleine Modell laufen hier selbst auf meinem Surface Pro 9 mit 16 GB RAM akzeptabel… mehr ist natürlich besser.
Nice observations around it: https://www.youtube.com/watch?v=0-VG9QBm8S8