A Nvidia já vende toneladas de chips de computador para todas as grandes empresas que constroem seus próprios modelos de inteligência artificial. Mas numa altura em que o interesse público na IA de código aberto e na IA DIY está a crescer, a empresa anunciou que ainda este ano também começará a oferecer um “supercomputador pessoal de IA” que qualquer pessoa pode usar para o seu próprio trabalho, a partir de 3.000 dólares. sua casa ou escritório.
A nova máquina desktop da Nvidia, chamada Digits, foi lançada em maio e tem o tamanho aproximado de um pequeno livro. Inclui o “superchip” da Nvidia chamado GB10 Grace Blackwell, que é otimizado para acelerar os cálculos necessários para treinar e executar modelos de IA, especialmente para processar grandes programas de IA. É equipado com 128 GB de memória unificada e até 4 terabytes de. Armazenamento NVMe.
O fundador e CEO da Nvidia, Jensen Huang, anunciou este novo sistema e vários outros produtos de IA durante um discurso de abertura hoje na CES, a conferência anual para a indústria de computadores, em Las Vegas. (Você pode acompanhar todos os maiores anúncios no blog ao vivo da WIRED CES.)
“Ao colocar um supercomputador de IA na mesa de cada cientista de dados, pesquisador de IA e estudante, iremos capacitá-los a participar e moldar a era da IA”, disse Huang em seu discurso principal. .
A Nvidia afirma que sua máquina Digits, que significa “Deep Learning GPU Intelligence Training System”, pode executar um único modelo de linguagem grande com até 200 bilhões de parâmetros, uma medida aproximada da complexidade e tamanho do modelo. Fazer isso hoje exige alugar espaço de um provedor de nuvem como AWS ou Microsoft, ou construir um sistema personalizado com um pequeno número de chips projetados para executar IA. A Nvidia diz que quando duas máquinas Digits são conectadas usando um link de interconexão proprietário de alta velocidade, elas executam a versão de maior desempenho do modelo Llama de código aberto da Meta com 405 bilhões de parâmetros.
O Digits torna mais fácil para amadores e pesquisadores experimentarem modelos próximos à funcionalidade básica do GPT-4 da OpenAI ou do Gemini do Google em seus escritórios ou porões. Mas as melhores versões desses modelos proprietários estão alojadas em data centers gigantescos de propriedade da Microsoft e do Google e são provavelmente maiores e mais poderosas do que qualquer coisa que o Digits possa suportar.
A Nvidia é uma das maiores beneficiárias do boom da IA. O preço das ações da empresa disparou nos últimos anos, à medida que as empresas de tecnologia lutam para comprar grandes quantidades de chips de hardware avançados da empresa, que são essenciais para o desenvolvimento de IA de ponta. A empresa provou ser adepta da criação de hardware e software otimizados para IA, e seu roteiro de produtos é um sinal importante de onde a indústria deverá seguir.
Quando lançado, o Digits será o hardware de computação de consumo mais poderoso oferecido pela Nvidia. A empresa já vende um chipset para desenvolvimento de IA, conhecido como Jetson, a partir de cerca de US$ 250. Eles podem executar pequenos modelos de IA e podem ser usados como minicomputadores desktop ou instalados em robôs para testar diferentes programas de IA.
