Atraso GPT-4.5

Lançamento Escalonado do GPT-4.5 da OpenAI: Escassez de GPUs é a Causa

Então, Sam Altman, CEO da OpenAI, soltou uma bomba recentemente: o tão esperado lançamento do GPT-4.5 será... escalonado. Por quê? Segundo o próprio Altman, eles estão "sem GPUs". Sim, aquelas placas gráficas poderosas que são a força vital do desenvolvimento de IA aparentemente estão em falta na sede da OpenAI.

Altman usou o X (antigo Twitter, é claro) para explicar a situação. Ele descreveu o GPT-4.5 como "gigante" e "caro" e enfatizou a necessidade de "dezenas de milhares" de GPUs a mais antes que pudessem abrir as portas para mais usuários do ChatGPT. Parece que este modelo é uma verdadeira fera!

Aqui está o resumo do lançamento: os assinantes do ChatGPT Pro têm prioridade a partir desta quinta-feira, seguidos pelos clientes do ChatGPT Plus na próxima semana. Portanto, se você está pagando pelo nível premium, terá uma vantagem para experimentar o poder do GPT-4.5.

E falando em caro, preparem-se para os preços. A OpenAI está cobrando impressionantes US$ 75 por milhão de tokens (cerca de 750.000 palavras) alimentados no modelo e US$ 150 por milhão de tokens gerados por ele. Para colocar isso em perspectiva, isso é 30 vezes o custo de entrada e 15 vezes o custo de saída do atual cavalo de batalha da OpenAI, GPT-4o. Ai! Alguns já estão chamando o preço de "descontrolado" e especulando que isso aponta para um tamanho de modelo significativamente maior.

Altman reconheceu o problema, afirmando: "Temos crescido muito e estamos sem GPUs. Adicionaremos dezenas de milhares de GPUs na próxima semana e lançaremos para o nível Plus então. Não é assim que queremos operar, mas é difícil prever perfeitamente surtos de crescimento que levam à escassez de GPUs."

Esta não é a primeira vez que a OpenAI cita a falta de poder computacional como um gargalo. Aparentemente, eles estão trabalhando em soluções de longo prazo, incluindo o desenvolvimento de seus próprios chips de IA e a construção de uma enorme rede de data centers. Parece que o futuro do desenvolvimento de IA dependerá fortemente do acesso a recursos computacionais sérios.

Source: TechCrunch