KI-Systeme verlangsamen sich in der Regel nicht wegen mangelnder Rechenleistung, sondern weil das System Daten nicht schnell genug bewegen kann, um den Prozessor konstant mit Informationen zu versorgen.

Mit anderen Worten: Der Engpass liegt nicht in der Fähigkeit, Daten zu verarbeiten, sondern darin, diese Daten mit der Geschwindigkeit bereitzustellen, die moderne KI-Workloads erfordern.

Genau hier wird High Bandwidth Memory (HBM) zu einem wichtigen Bestandteil der Architektur.

Für einen umfassenderen Blick darauf, wie sich Speicher über Flash hinaus entwickelt und warum KI-Systeme heute auf mehrere Ebenen angewiesen sind, siehe unsere Hauptanalyse: NAND wird nicht verschwinden, aber KI-Server sind inzwischen auf mehr als nur Flash angewiesen.

Seit mehr als zwei Jahrzehnten beobachtet GetUSB, wie sich Daten tatsächlich bewegen – nicht nur, wie sie vermarktet werden. In dieser Zeit haben wir mehrere Evolutionszyklen im Storage-Bereich erlebt: vom Rückgang mechanischer Festplatten über den Aufstieg von Flash bis hin zu heutigen Systemen, in denen Storage nicht mehr nur ein passiver Bestandteil ist, sondern ein aktiver Teil der gesamten Infrastruktur geworden ist.

Was aktuell im Bereich der KI-Infrastruktur passiert, fühlt sich wieder wie so ein Wendepunkt an – allerdings mit einer anderen Art von Druck, der diese Entwicklung antreibt.

NAND-Flash verschwindet nicht, darüber gibt es eigentlich keine Diskussion. Es ist weiterhin das Fundament moderner Speicherlösungen und erfüllt diese Aufgabe nach wie vor sehr gut. Gleichzeitig steigt die Nachfrage nach NAND rapide an – vor allem durch KI-Workloads, die enorme Datenmengen benötigen und ständig darauf zugreifen müssen. Diese Nachfrage beginnt spürbar gegen die verfügbare Versorgung zu drücken, sei es durch steigende Preise, strengere Zuteilungen oder schlicht längere Lieferzeiten bei großen Deployments.

Sobald solche Ungleichgewichte sichtbar werden, wartet die Branche nicht einfach ab, bis sich alles wieder normalisiert. Sie sucht nach alternativen Lösungen – und genau an diesem Punkt beginnt sich etwas zu verschieben.

Wie ein KI-Server wirklich aussieht, wenn man den Deckel öffnet

Derzeit gibt es viel Lärm darüber, dass KI „zu viel Speicher“ verbraucht. Die Preise steigen. Die Verfügbarkeit ist knapp. Überall heißt es, die Nachfrage explodiere. Das haben Sie wahrscheinlich schon gelesen.

Doch das meiste, was darüber geschrieben wird, lässt den wichtigsten Punkt aus: wie ein KI-Computer physisch aussieht und warum er überhaupt so viel Speicher benötigt. Nicht in abstrakten Diagrammen oder Marktprognosen, sondern in Begriffen, die man sich vorstellen kann. Sobald man versteht, was ein einzelnes KI-System tatsächlich verbraucht, klingt der Rest der Geschichte nicht mehr dramatisch, sondern unvermeidlich.

Ich habe das kürzlich an einem Ort erklärt, der mit Rechenzentren nichts zu tun hat. Ich war an der Schule meines Kindes bei einem „Elterntag“, stand in einem Klassenzimmer, und ein paar Schülerinnen und Schüler begannen, Fragen zu KI zu stellen. Keine Chatbot-Fragen. Echte Fragen. Wie sieht der Computer aus? Wohin gehen die Daten? Warum reden alle ständig von „Speicher“, als wäre das der entscheidende Punkt?