KI-Systeme verlangsamen sich in der Regel nicht wegen mangelnder Rechenleistung, sondern weil das System Daten nicht schnell genug bewegen kann, um den Prozessor konstant mit Informationen zu versorgen.

Mit anderen Worten: Der Engpass liegt nicht in der Fähigkeit, Daten zu verarbeiten, sondern darin, diese Daten mit der Geschwindigkeit bereitzustellen, die moderne KI-Workloads erfordern.

Genau hier wird High Bandwidth Memory (HBM) zu einem wichtigen Bestandteil der Architektur.

Für einen umfassenderen Blick darauf, wie sich Speicher über Flash hinaus entwickelt und warum KI-Systeme heute auf mehrere Ebenen angewiesen sind, siehe unsere Hauptanalyse: NAND wird nicht verschwinden, aber KI-Server sind inzwischen auf mehr als nur Flash angewiesen.

Seit mehr als zwei Jahrzehnten beobachtet GetUSB, wie sich Daten tatsächlich bewegen – nicht nur, wie sie vermarktet werden. In dieser Zeit haben wir mehrere Evolutionszyklen im Storage-Bereich erlebt: vom Rückgang mechanischer Festplatten über den Aufstieg von Flash bis hin zu heutigen Systemen, in denen Storage nicht mehr nur ein passiver Bestandteil ist, sondern ein aktiver Teil der gesamten Infrastruktur geworden ist.

Was aktuell im Bereich der KI-Infrastruktur passiert, fühlt sich wieder wie so ein Wendepunkt an – allerdings mit einer anderen Art von Druck, der diese Entwicklung antreibt.

NAND-Flash verschwindet nicht, darüber gibt es eigentlich keine Diskussion. Es ist weiterhin das Fundament moderner Speicherlösungen und erfüllt diese Aufgabe nach wie vor sehr gut. Gleichzeitig steigt die Nachfrage nach NAND rapide an – vor allem durch KI-Workloads, die enorme Datenmengen benötigen und ständig darauf zugreifen müssen. Diese Nachfrage beginnt spürbar gegen die verfügbare Versorgung zu drücken, sei es durch steigende Preise, strengere Zuteilungen oder schlicht längere Lieferzeiten bei großen Deployments.

Sobald solche Ungleichgewichte sichtbar werden, wartet die Branche nicht einfach ab, bis sich alles wieder normalisiert. Sie sucht nach alternativen Lösungen – und genau an diesem Punkt beginnt sich etwas zu verschieben.