nvidia É o rei indiscutível dos chips de IA. Mas graças ao que a IA construiu, os campeões poderão em breve enfrentar uma concorrência crescente.
A IA mais recente é executada em designs da Nvidia, que impulsionou a empresa a uma capitalização de mercado de bem mais de US$ 4 trilhões. Cada nova geração de chips Nvidia permitirá que as empresas treinem modelos de IA mais poderosos usando centenas ou milhares de processadores conectados em rede em grandes data centers. Uma das razões do sucesso da Nvidia é porque ela fornece software para ajudar a programar cada nova geração de chips. Essa pode não ser uma tecnologia tão diferenciada.
Uma startup chamada bolacha Treinar modelos de IA para executar uma das tarefas mais difíceis e importantes da IA. Isso significa otimizar seu código para ser executado da maneira mais eficiente possível em um chip de silício específico.
Emilio Andere, cofundador e CEO da Wafer, diz que a empresa conduz aprendizado por reforço em modelos de código aberto que ensinam as pessoas a escrever software que interage diretamente com o código do kernel ou com o hardware do sistema operacional. Andere diz que Wafer adiciona um “arnês de agente” aos modelos de codificação existentes, como Claude da Anthropic e GPT da OpenAI, aprimorando a capacidade de escrever código que roda diretamente no chip.
Muitas empresas de tecnologia populares agora possuem seus próprios chips. A Apple e outras empresas usam silício personalizado há anos para melhorar o desempenho e a eficiência de software executado em laptops, tablets e smartphones. No outro extremo da escala, empresas como Google e Amazon constroem o seu próprio silício para melhorar o desempenho das suas plataformas de computação em nuvem. meta mais recente disse Um novo chip desenvolvido com a Broadcom permitirá a implantação de 1 gigawatt de capacidade computacional. A implantação de silício personalizado requer a escrita de muito código para garantir que ele funcione de maneira suave e eficiente no novo processador.
Wafer está trabalhando com empresas como AMD e Amazon para ajudar a otimizar seu software para funcionar com eficiência em seu hardware. Até agora, a startup arrecadou US$ 4 milhões em financiamento inicial de Jeff Dean, do Google, Wojciech Zaremba, da OpenAI, e outros.
Andere acredita que a abordagem liderada pela IA da empresa tem o potencial de desafiar o domínio da Nvidia. Muitos chips avançados agora oferecem desempenho bruto de ponto flutuante semelhante ao melhor silício da Nvidia – a referência líder da indústria para a capacidade de um chip de realizar cálculos simples.
“O melhor hardware AMD, o melhor hardware Trainium (Amazon), o melhor TPU (Google) dão às GPUs Nvidia a mesma falha teórica”, disse Andere recentemente. “Queremos maximizar a inteligência por watt.”
Embora os engenheiros de desempenho com as habilidades necessárias para otimizar o código para funcionar de forma confiável e eficiente nesses chips sejam caros e muito procurados, o ecossistema de software da Nvidia facilita a escrita e a manutenção do código para os chips, diz Andere. Isto é algo que mesmo as maiores empresas de tecnologia não conseguem fazer sozinhas.
Por exemplo, quando a Anthropic fez parceria com a Amazon para construir modelos de IA no Trainium, o código do modelo teve que ser reescrito do zero para funcionar da maneira mais eficiente possível no hardware, diz Andere.
Claro, Claude da Anthropic é agora um dos modelos de IA que é sobre-humano quando se trata de escrever código. Portanto, Andere acha que não demorará muito para que a IA comece a tirar proveito do software da Nvidia.
“O fosso está na programabilidade do chip”, disse Andere, citando bibliotecas e ferramentas de software que facilitam a otimização do código para hardware Nvidia. “Talvez seja hora de reconsiderar se é realmente um fosso forte.”
Além de facilitar a otimização do código para diferentes silício, a IA poderá em breve facilitar o design dos próprios chips. inteligência recursivaé uma startup fundada pelas ex-engenheiras do Google Azalia Mirhoseini e Anna Goldie que está desenvolvendo novas maneiras de projetar chips de computador com inteligência artificial. Se a tecnologia for bem-sucedida, ainda mais empresas poderão migrar para o design de chips e criar silício personalizado que execute software com mais eficiência.
