GEEKOM AGENT 4N: Vier A9 Mega führen DeepSeek V4 Flash lokal aus

Werbung

GEEKOM will auf der IFA 2026 Anfang September in Berlin vier A9-Mega-Mini-PCs zu einem lokalen KI-Cluster verbinden. Unter dem Namen AGENT 4N soll darauf DeepSeek V4 Flash laufen. Die Rechner kommunizieren über USB4 mit bis zu 40 GBit/s, womit weder ein klassisches Server-Rack noch ein eigener Hochgeschwindigkeits-Switch notwendig sind.

Als Basis dienen dabei vier GEEKOM A9 Mega, welche zu Beginn des Jahres ins Rennen geschickt wurden. Sie setzen auf einen AMD Ryzen AI Max+ 395 alias Strix Point mit 16 Zen-5-Kernen und 32 Threads und werden zusätzlich von einer integrierten AMD Radeon 8060S mit 40 Compute Units und einer XDNA-2-NPU unterstützt. Jeder Mini-PC nutzt bis zu 128 GB LPDDR5X‑8000, wobei CPU und Grafiklösung auf denselben lokalen Speicher zugreifen. Dynamisch kann sich die Radeon‑Grafik bis zu 96 GB des Hauptspeichers abzwacken. Über vier Geräte summiert sich die Kapazität des schnellen Speichers auf 512 GB. Die Software muss das KI-Modell auf die einzelnen Knoten aufteilen. GEEKOM nennt hierfür Ubuntu, AMDs ROCm-Stack und DwarfStar als Software-Unterbau, während eine OpenAI-kompatible API Anwendungen und KI-Agenten mit dem lokal laufenden Modell verbinden soll.

Damit bleiben Prompts, Dokumente, Code, Zugangsdaten und Zwischenergebnisse auf der eigenen Infrastruktur. Bei einer gleichzeitig laufenden Anfrage erreichte das Vierer-Cluster laut GEEKOM rund 14,61 Token pro Sekunde. Die Zeit bis zum ersten Token lag in Tests mit 32, bzw. 128 Ausgabetokens bei rund 0,42 Sekunden (P95). Das bedeutet, dass 95 % der gemessenen Anfragen höchstens so lange warten mussten. Angaben zur genauen Modellversion, zur Quantisierung oder zur Eingabelänge fehlen jedoch.

Der Aufbau kann laut GEEKOM mit einem oder zwei A9 Mega beginnen und später auf vier Geräte wachsen. Jeder Mini-PC bleibt einzeln nutzbar. Derzeit ist der GEEKOM A9 Mega im deutschen Onlineshop des Herstellers ausverkauft. Noch im März kostete der 171 x 171 x 71 mm große Vollmetallrechner 3.999 Euro. Ein solches Cluster würde also mit mehr als 16.000 Euro zu Buche schlagen. Einen für den AGENT 4N hat GEEKOM noch nicht genannt.

Die IFA 2026 findet vom 4. bis 8. September in Berlin statt.