Ultrafast accelera GPT-6 Astra fino a 8 volte attraverso l'API di OpenAI

OpenAI ha reso disponibile la modalità Ultrafast per il modello GPT-6 Astra tramite l'API a tutti gli utenti, ma con limiti iniziali di utilizzo ridotti. La modalità funziona selezionando il modello GPT-6-astra e poi scegliendo il servizio ultrafast. L'azienda consiglia di utilizzare WebSockets per ridurre i costi di creazione delle connessioni nelle applicazioni sensibili ai tempi.

OpenAI conferma che la modalità offre velocità fino a otto volte superiori rispetto al servizio standard, con risultati variabili a seconda della lunghezza degli input e output e del carico. NVIDIA ha anche chiarito che l'implementazione si basa sulle unità Blackwell e Vera Rubin all'interno dello strato di inferenza, quindi si tratta di un servizio a pagamento e non di una nuova versione del modello stesso.