KI · 27. oktober 2026
Forståelse av TOPS som ytelsesmål for kunstig intelligens
Selskaper som Intel, AMD, Qualcomm og Nvidia bruker nå begrepet TOPS som et sentralt markedsføringsverktøy for å definere hvor godt en enhet er forberedt for tiden med kunstig intelligens.
Begrepet står for billioner av operasjoner per sekund. Det fungerer som et teoretisk mål på den rå ytelsen til en prosessor når den utfører oppgaver innen maskinlæring. En verdi på 40 TOPS betyr i teorien at en integrert krets kan utføre opptil 40 billioner enkle numeriske operasjoner per sekund, vanligvis målt som multiplikasjon og akkumulering.
Denne beregningen avhenger av den matematiske presisjonen som brukes, slik som 8-bits heltall, 4-bits heltall eller flyttall. Siden operasjoner med lavere presisjon krever mindre energi og minnebåndbredde, oppgir de fleste produsenter sine tall basert på 8-bits heltall, som er vanligst for oppgaver med slutning av kunstig intelligens uten merkbar kvalitetstap.
I moderne bærbare datamaskiner deles ytelsen ofte mellom tre komponenter: en nevral prosesseringsenhet, en sentralprosessor og en integrert grafikkprosessor. Den nevrale prosesseringsenheten er designet for å kjøre oppgaver i bakgrunnen med svært lavt energiforbruk og leverer typisk mellom 40 og 50 TOPS for funksjoner som støyisolering eller automatisk innramming av kamera.
Dedikerte grafikkort har betydelig høyere rå ytelse i hjemmemarkedet. Modeller på mellomnivå overstiger enkelt hundrevis av TOPS, mens toppmodeller når over 1 000 TOPS. Dette skyldes tusenvis av parallelle kjerner og raskere minnebåndbredde, noe som er nødvendig for å generere bilder eller kjøre tunge lokale språkmodeller.
I datasentre brukes akseleratorer som NVIDIA RTX Pro og AMD Instinct for å trene store modeller. Disse krever tusenvis av TOPS med kompleks flyttallspresisjon for å sikre matematisk nøyaktighet under trening, kombinert med avansert væskekjøling og høy minnebåndbredde.
En høy teoretisk TOPS-verdi garanterer ikke nødvendigvis raskere opplevelser i hverdagen. Den faktiske ytelsen avhenger av programvareoptimalisering, driverstøtte og systemets minnebåndbredde. Hvis en språkmodell ikke får plass i det tilgjengelige minnet, vil prosessoren vente på data fremfor å prosessere dem.