Em um tribunal federal na Califórnia na quinta-feira, Elon Musk testemunhou que sua startup de IA, xAI, usou modelos OpenAI para melhorar seus modelos.
A questão em questão é a destilação de modelos, uma prática comum na indústria em que um modelo maior de IA atua como um “professor” para transmitir conhecimento a um modelo menor de IA, o “aluno”. Embora muitas vezes seja legitimamente usada em empresas que usam um de seus modelos de IA para treinar outro modelo, a prática às vezes também é usada por laboratórios de IA menores para tentar fazer com que seus modelos imitem o desempenho dos modelos de concorrentes maiores.
Quando questionado no estande se conhecia o modelo de destilação, Musk disse que usaria um modelo de IA para treinar outro modelo. Quando questionado se a xAI havia refinado a tecnologia da OpenAI, Musk pareceu evitar a questão, dizendo que “geralmente todas as empresas de IA” fazem algo assim. E quando questionado se a resposta era sim, ele respondeu: “Alguns”.
Quando pressionado, Musk disse: “É prática padrão usar outra IA para validar sua IA”.
A destilação de modelos está em ascensão e gerou mais controvérsia entre os laboratórios de IA, nos últimos anos, à medida que os limites do que é legal – e do que viola os termos ou políticas de uma determinada empresa – muitas vezes caem numa área cinzenta. Empresas como OpenAI e Anthropic acusaram empresas chinesas de destilar seus modelos com OpenAI declarou abertamente suas preocupações sobre DeepSeek e Anthropic mencionaram especificamente DeepSeek, Moonshot e MiniMax. O Google também tem um medidas tomadas para tentar impedir o que chama de “ataques de destilação” ou “métodos de roubo de propriedade intelectual que violam os termos de serviço do Google”.
Na própria Antrópica postagem no blog sobre esta questão, a empresa escreveu: “A destilação é um método de treinamento legítimo e amplamente utilizado. Por exemplo, os laboratórios de IA de ponta destilam rotineiramente seus próprios modelos para criar versões menores e mais baratas para seus clientes. Mas a destilação também pode ser usada para fins ilícitos: os concorrentes podem usá-la para adquirir capacidades avançadas de outros laboratórios em menos tempo e com menos custo do que seria necessário para desenvolvê-las de forma independente”.
