Eingebaute Intelligenz

von Christian Marhöfer

PC-Hersteller versuchen momentan, auf dem schnell wachsenden Markt für KI-PCs Fuß zu fassen. IT-Verantwortliche sollten bei so viel Marketinggetöse aber nicht in Torschlusspanik verfallen. Denn angesichts fest verlöteter Komponenten droht das Risiko, dass die Neuanschaffungen schnell veralten. Unser Beitrag definiert, was KI-PCs überhaupt sind und geht auf deren Chancen und – derzeit noch übersichtliche – Anwendungsfelder ein.

Marktanalysten erwarten, dass im Jahr 2024 rund 50 Millionen KI-PCs ausgeliefert werden – das ist etwa jeder fünfte abgesetzte PC. Dies deutet darauf hin, dass diese Computer auf dem besten Weg sind, die neue Norm zu werden, da die etablierten Hersteller in den letzten Monaten mehrere große Ankündigungen gemacht haben.

NPU als Herzstück

Microsofts PCs der Reihe Copilot+ etwa, die im Juni auf den Markt kamen, verfügen über eine Rechenleistung von mehr als 40 TOPS (Trillion/Tera Operations per Second). Der Snapdragon-X-Elite-Chip von Qualcomm mit bis zu 45 TOPS auf der NPU (Neural Processing Unit) war der einzige Prozessor, der bei der Markteinführung in den Copilot+-PCs zum Einsatz kam. Er schlug Intel und AMD im Rennen um den ersten Platz bei dieser neuen Reihe von mehr als 20 Laptops. Microsoft meldet hierzu jedoch, dass seine neue PC-Klasse in der Lage sein wird, Intels Lunar-Lake-Chips zu unterstützen, die sich Berichten zufolge bis zum 4. Quartal 2024 verzögern wird, aber 48 TOPs leisten können.

Während AMDs Ryzen-AI-300-Serie bei ihrer Markteinführung im Juli noch nicht über die KI-Zertifizierung von Microsoft verfügte, werden neue Windows-11-Rechner mit diesem Prozessor im Lauf des Jahres ein kostenloses Update erhalten, das Funktionen aus Copilot+ ermöglicht. AMD treibt seine neuen NPU auf bis zu 55 TOPS, was darauf hindeutet, dass der von Microsoft gesetzte Standard von 40 möglicherweise nicht mehr lange relevant sein wird.

Wie wichtig NPUs für die Funktion eines KI-PCs sind, ist jedoch noch umstritten. Nvidia äußerte kürzlich, dass seine RTX-GPUs mit ihrer Bandbreite von 100 bis 1300 und mehr TOPS besser für die Bewältigung von KI-Aufgaben geeignet seien. Dennoch gilt, dass NPUs das Herzstück eines KI-PCs darstellen. Denn sie sind speziell für KI-Aufgaben optimiert und auch deutlich energieeffizienter als ihre GPU-Pendants – und somit ideal für batteriebetriebene Geräte.

Das zeichnet KI-PCs aus

KI-PCs sind darauf ausgerichtet, die Leistung einzelner Geräte und bestimmter Aufgaben mithilfe einer Form des maschinellen Lernens zu optimieren, die als SLM (Kleine Sprachmodelle) bekannt sind. Sie funktionieren ähnlich wie LLM (Große Sprachmodelle), sind aber weniger komplex und ressourcenintensiv und lassen sich für bestimmte Aufgaben speziell anpassen.

SLM benötigen weniger Speicherplatz, Arbeitsspeicher und Rechenleistung als LLM und eignen sich aus diesem Grund besser für die Anwendung auf spezifische lokale Projekte an einem Arbeitsplatz. Da sie für die direkte Ausführung auf Computern mit weniger Parametern und kleineren Datensätzen optimiert sind, bieten sie eine höhere Sicherheit und geringere Latenzen.

SLMs erlauben es, Daten selektiv zwischen dem internen Speicher eines PCs und Speichernetzwerken in der Cloud zu verschieben. Dieser gemischte Ansatz verbindet die Stärken der Cloud für intensive Aufgaben und Datenspeicherung mit der Geschwindigkeit und den Vorteilen beim Datenschutz der lokalen Verarbeitung. Diese Kombination kann so die Latenz senken, Bandbreite sparen, Datensicherheit erhöhen und die Menge an sensiblen Daten reduzieren, die in der Cloud landen.

KI-PCs enthalten einen speziellen Chipsatz. Das Herzstück ist die NPU. Sie ist darauf ausgelegt, maschinelle Lernaufgaben zu verbessern und anhaltende KI-Arbeitslasten schnell und effizient zu bewältigen. Ihre Architektur hat sich mit neuen KI-Algorithmen, -Modellen und -Anwendungsfällen stets weiterentwickelt. Durch die Konzentration auf KI-Aufgaben tragen NPUs dazu bei, die CPU und GPU eines Computers zu entlasten.

Mehr Sicherheit und Datenschutz

So wie KI eingesetzt wird, um Aufgaben und die Effizienz am Arbeitsplatz zu optimieren, gibt sie auch Cyberkriminellen zusätzliche Tools an die Hand, um Passwörter zu knacken, Daten zu stehlen und die Verteidigungsmechanismen eines Systems zu überwachen, um einen Weg zu finden, diese zu umgehen.

HP hat im Juli bei der Vorstellung seines OmniBook-Ultra-Laptops betont, dass die Möglichkeit für Unternehmen, ihre eigenen Daten zu nutzen, ohne die Sicherheit zu gefährden, für die KI-Entwicklung entscheidend ist. Der Einbau eines eigenen, KI-gestützten Sicherheitschips durch HP, der es dem PC-Kern ermöglichen soll, sich selbst von KI-gestützten Cyberangriffen zu heilen, zeigt, wie ernst der Hersteller diese Gefahr nimmt.

Die Bedrohung ist umso relevanter, als dass immer mehr Unternehmen die Vorteile von KI-Anwendungen nutzen, die in der Cloud gehostet werden. Diese Dienste bieten zwar den Vorteil, dass eine lokale Speicherung entfällt, sind aber nicht ohne Sicherheitsrisiken. Viele Organisationen sind sich möglicherweise nicht bewusst, welche Folgen es haben kann, sensible Daten an öffentliche, cloudbasierte KI-Modelle zu übermitteln, die von Security-Lücken betroffen sein können.

KI-PCs tragen dazu bei, dieses Risiko zu begrenzen, indem sie entscheiden, welche Daten in die Hände eines Drittanbieters in der Cloud gelangen dürfen und welche am besten intern und auf dem Gerät bleiben. Selbst wenn es zu einem Cyberangriff käme oder die Cloud aufgrund von Konnektivitätsproblemen nicht verfügbar wäre, könnten Unternehmen dank lokaler KI-Modelle in dieser Zeit weiterhin KI-Funktionen nutzen.

Anwendungsfälle noch limitiert

Viele für KI-PCs optimierte Anwendungen finden derzeit für Videokonferenzen und Projektmanagement – wie Zoom, Slack oder Webex – oder kreative Designtools wie Adobe, Audacity oder GIMP Verwendung. Wenn Sie beispielsweise den Hintergrund eines Fotos bearbeiten möchten, ohne Kenntnisse in Design-Software wie Photoshop zu haben, können Sie der in Ihrem PC integrierten KI die Anweisung erteilen, dies in Sekundenschnelle für Sie zu erledigen.

Dies alles dürften frühe Stadien der KI-Integration sein und viel Raum für Wachstum bieten. Da die KI-Technologie immer fortschrittlicher und zugänglicher wird, ist zu erwarten, dass ihre Anwendungen sich diversifizieren werden, und zwar massiv, und die derzeitigen Schwerpunktbereiche dienen als Testgelände. Neben der Möglichkeit, Kreativaufgaben, Gaming und Unterhaltung zu optimieren, besteht ein weiteres Verkaufsargument für KI-PCs darin, Prozesse im Hintergrund zu verbessern.

Microsofts Recall etwa, auch bekannt als "KI-Explorer", wurde dazu entwickelt, alles zu verfolgen, was Nutzer auf ihrem Computer tun, von der Protokollierung der Aktivitäten in Apps über die Erinnerung an besuchte Websites bis hin zur Transkription von Dialogen in Live-Meetings. Diese Funktion sollte Nutzern dabei helfen, Informationen schnell abzurufen, Zeit zu sparen und effizienter zu arbeiten, wurde aber aus Datenschutz- und Sicherheitsgründen vorerst eingestellt.

Zeitplan für die Aktualisierung

Trotz der noch begrenzten Anwendungsfelder könnten IT-Verantwortliche nun Angst haben, etwas zu verpassen, und deshalb sofort in KI-PCs investieren. Eher vorsichtige Entscheider ziehen es jedoch vor, noch länger zu warten, da neue Technologien anfangs oft teurer und die Use Cases relativ begrenzt sind.

Angesichts eines sich so entwickelnden Marktes können Unternehmen aber Zeit gewinnen, indem sie ihre bestehenden Systeme mit der neuesten Generation von DDR5-Speicher und NVMe-SSDs aufrüsten, um das Beste aus den bestehenden KI-Anwendungen herauszuholen. Wie genau diese Aufrüstung ausfällt, hängt vom Budget, den Anforderungen und dem Stand der technologischen Erneuerung in der Organisation ab.

Wenn sich IT-Verantwortliche für den Kauf neuer KI-PCs entscheiden, sollten sie sich vor Modellen in Acht nehmen, bei denen die Teile auf das Motherboard gelötet sind. Denn dies kann dazu führen, dass sie auf unzureichender Speicherkapazität, kleinem Arbeitsspeicher und geringer Funktionalität festsitzen. Dies allerdings wird bei Notebooks immer üblicher, da das Löten direkt Platz spart und kleinere Geräte ermöglicht.

Die Copilot+-PCs von Microsoft sind mit mindestens 16 GByte RAM ausgestattet, was für einen Büroangestellten ausreichend sein dürfte. Angesichts des verlöteten RAMs und des Potenzials für intensivere KI-Anwendungen in den kommenden Jahren lohnt es sich jedoch, Modelle mit größerem Arbeitsspeicher in Betracht zu ziehen, um das Risiko einer möglichen frühzeitigen Veralterung zu vermeiden.

IT-Entscheider sollten die Kosten für einen Ersatz sorgfältig mit den Anforderungen ihres Unternehmens abwägen – nicht nur jetzt, sondern auch den Anforderungen in einigen Jahren. Denn da KI-Anwendungen Daten über die Präferenzen der Anwender und die Art und Weise, wie sie ihre Systeme nutzen, sammeln, erhöht dies wiederum den Speicherbedarf eines Arbeitsplatzes. Bei der Einführung von KI-PCs können allzu leicht zu niedrige Spezifikationen zugrunde gelegt werden – ein Fehler, der dann bis zu fünf Jahre lang Folgen haben kann.

Fazit

Trotz des großen Hypes um die neue KI-Gerätegeneration könnte es sich für IT-Verantwortliche als kosteneffizienter erweisen, einige Jahre zu warten, bevor sie ihre Geräte ersetzen. Ob sich eine Organisation jetzt oder später für einen Kauf entscheidet, hängt davon ab, wo sie sich in ihrem Aktualisierungszyklus befindet und wie hoch die IT-Entscheider den Wert von KI-PCs angesichts der Anforderungen des Unternehmens einschätzen. Denn auch viele Rechner, die nicht als KI-PCs vermarktet werden, werden in der Lage sein, KI-Arbeitslasten zu bewältigen.

KI-PCs im Unternehmen

Eingebaute Intelligenz

NPU als Herzstück

NPU als Herzstück

Das zeichnet KI-PCs aus

Mehr Sicherheit und Datenschutz

Anwendungsfälle noch limitiert

Zeitplan für die Aktualisierung

Fazit