AI · 15 oktober 2026
Microsoft introduceert Maia 300, een derde generatie AI-chip met chiplet-architectuur
Microsoft heeft de Maia 300 geïntroduceerd, een nieuwe chip voor het versnellen van kunstmatige intelligentie. Het apparaat is de opvolger van de Maia 200 en de Maia 100, die respectievelijk in 2026 en 2023 op de markt kwamen. De Maia 200 wordt momenteel op productieniveau ingezet in diverse diensten, waaronder Copilot. De nieuwe Maia 300 is een upgrade van de voorganger en levert een zevenvoudig hogere doorvoer van tekens per seconde, oftewel tokens, vergeleken met de Maia 200. Daarnaast bespaart de chip energie, met een verbetering van 40 procent in de efficiëntie per megawatt ten opzichte van het gebruik van grafische processors.
De architectuur van de Maia 200 wordt door Microsoft benoemd als Software Defined Locally Accessed Dataflow Architecture, afgekort als SDLA. Deze aanpak is ontstaan uit de observatie van de manier waarop data in moderne AI-systemen wordt verplaatst. Het principe van SDLA is het scheiden van de besturingspaden van de datapaden, waarbij de software de positie van de gegevens beheert om de efficiëntie te verhogen. De Maia 300 ontwikkelt deze architectuur verder om te voldoen aan de eisen van lange contexten, modellen die zwaar leunen op redeneren en het draaien van modellen die veel tijd besteden aan het decoderen van output.
Een kernonderdeel van de Maia 300 is het gebruik van meerdere chips die aan elkaar gekoppeld zijn, bekend als chiplets. Deze chiplets bevatten geheuneenheden met een niet-uniform geheugentoegangspatroon, afgekort als NUMA, die dicht bij de verwerkingseenheden zijn geplaatst. Hierdoor blijft de data dicht bij de processor. De chip maakt gebruik van een nieuw dataformaat genaamd MXFP4, dat een lagere precisie heeft. Dit kleinere formaat vermindert het geheugengebruik en de noodzaak om data te verplaatsen, wat het mogelijk maakt om grotere modellen met langere contexten uit te voeren.
De Maia 300 is uitgerust met HBM4-geheugen, wat de bandbreedte van het geheugen verhoogt naar 18 terabit per seconde. Dit is 2,5 keer meer dan de 7,1 terabit per seconde die HBM3E-geheugen biedt. Door de combinatie van deze verbeteringen, met name de energiebesparing, kan Microsoft twee keer zoveel Maia-chips in een rack plaatsen dan voorheen. Het aantal stijgt van 48 naar 96 chips, terwijl het stroomverbruik gelijk blijft op 167 kilowatt. Het totale resultaat is dat de Maia 300 per rack zeven keer zoveel tokens produceert als de Maia 200 en 2,5 keer efficiënter is per watt. De chip zal in 2027 in productie worden genomen.