Vor ein paar Wochen hat Microsoft die neuen Copilot+ Laptops vorgestellt und die sind absolut fantastisch. Schnell, leise, phänomenale Akku-Laufzeiten. Aber es gibt eine große Diskrepanz zwischen dieser tollen Hardware und dem Marketing-Versprechen eines KI-Laptops, der genügend Leistung hat, um KI-Modelle lokal zu rechnen, ohne Daten in die Cloud zu übermitteln.
Fangen wir mal mit der Copilot-Taste an, die Microsoft für diese neue Hardware-Gattung vorgeschrieben hat. Sie ruft keine lokale Anwendung auf, sondern eine PWA (Progressive Web App). Ohne Internet-Verbindung macht sie schlicht gar nichts.
Microsoft hat kommuniziert, dass alle Prompts zunächst in der Cloud geprüft werden, dass die Verarbeitung aber lokal erfolgt. Dafür braucht es offensichtlich aber keine NPU, jedenfalls schläft dieser Teil des Prozessors. Die gleiche PWA läuft nämlich auch auf “normalen” PCs ohne NPU.
Man kann die NPU aber tatsächlich beschäftigen, indem man die Bildverbesserungen der internen Webcam rechnen lässt. Das beschäftigt CPU und GPU praktisch gar nicht, weil die NPU die Hauptlast trägt. Das trägt übrigens auch zu der enorm guten Akku-Laufzeit bei, weil diese Effekte bei einem normalen PC ziemlich viel Strom verbrauchen.
Was ich mir von Microsoft wünsche:
- Erklärt klipp und klar, was ein Copilot+ PC in Sachen Privacy bringt. Welche KI-Funktionen laufen komplett lokal und brauchen keine Cloud-Ressourcen?
- Wenn diese KI-Funktionen auf lokalen Daten laufen und keine Cloud-Ressourcen benötigen, muss man dann immer noch Copilot professionell lizensieren?
- Was hat Microsoft auf der Roadmap? Es kann ja wohl nicht bei solchen Quatsch-Funktionen wie Co-Create in Microsoft Paint (!) bleiben. Apple hat eine Menge Versprechungen gemacht, die in Europa vielleicht irgendwann nächstes Jahr eingelöst werden. Ich könnte mir vorstellen, dass man Microsoft Editor so aufbohrt, dass er mit Hilfe eines lokalen Sprachmodells noch viel mehr leistet.
Ich höre …
Wäre es nicht hilfreicher Microsoft zu empfehlen, einen offenen Prozess der Adressierung und Entwicklung von Kundenwünschen für ihre zukünftigen KI Anwendungen anzubieten?
Ich nehmen an, dass MS selber noch nicht genau weiß, was sie liefern werden. Und wenn sie nun etwas konkretes erzählen, dann werden sie (a) darauf festgenagelt und (b) werden sie vorgeführt, dass sie an doch sooo vielen use cases vorbeischießen.