Tenstorrents nya AI-server Galaxy Blackhole: En svensk innovation i AI-kapplöpningen

Den kanadensiska startupen Tenstorrent har nyligen presenterat sin nya Galaxy Blackhole AI-server, en plattform som kan komma att spela en avgörande roll i AI-industrin. Med sin RISC-V-baserade arkitektur och hela 32 Blackhole-acceleratorer i en kompakt 6U-enhet utlovar den en betydande prestandaförbättring som kan gynna många AI-tillämpningar.

En av de mest framträdande egenskaperna hos Galaxy Blackhole är dess förmåga att utföra uppgifter med en minnesbandbredd på 16 TB/s och en beräkningskraft på 23 petaFLOPS i FP8-prestanda. Detta möjliggör oerhört snabba bearbetningar av data och modellkörningar, vilket är särskilt värdefullt för företag inom media och underhållning där behovet av realtidsbearbetning av video och ljud ständigt växer. I den svenska och nordiska kontexten, där AI-drivna lösningar blir alltmer eftertraktade, kan denna server erbjuda en betydande konkurrensfördel.

I jämförelse med andra högpresterande system, såsom Nvidias DGX-serier, erbjuder Tenstorrents lösning en mer kostnadseffektiv plattform. Med ett pris på cirka 110 000 USD är Galaxy Blackhole betydligt billigare än sina konkurrenter, samtidigt som den erbjuder tillräcklig kraft för att hantera komplexa AI-modeller. Detta kan minska tröskeln för mindre och medelstora företag att investera i avancerade AI-lösningar.

En annan intressant aspekt av Tenstorrents server är dess förmåga att skala upp genom att sammankoppla flera enheter. Denna funktion, som liknar Googles TPU och Amazons Trainium2-kluster, innebär att företag kan anpassa sin datorkraft efter sina specifika behov genom att utöka antalet noder i sina system. Med en basstruktur som kostar 440 000 USD för fyra system kan företag bygga ut sina kapaciteter till otroliga nivåer med över tusen chip i en enda konfiguration.

Den förbättrade mjukvarustacken som nu medföljer Galaxy Blackhole har också gjort det möjligt för Tenstorrent att öka modellstödet och optimera prestandan för sina kunder. Företaget har adresserat tidigare begränsningar i prestandaskalning och kan nu hantera stora modellberäkningar effektivt. För den nordiska marknaden, där AI-användning i textgenerering och analys är på frammarsch, erbjuder Tenstorrents server en plattform som kan hantera stora mängder data snabbt och effektivt.

Sammanfattningsvis presenterar Tenstorrent med Galaxy Blackhole AI-servern en kraftfull och kostnadseffektiv lösning för företag som vill utnyttja AI:s fulla potential. För svenska och nordiska företag kan denna teknologi innebära nya möjligheter att integrera AI på ett sätt som tidigare inte varit ekonomiskt möjligt, vilket kan ge en konkurrensfördel på den globala arenan.