OpenAI e Anthropic têm combatido agressivamente os esforços de terceiros para treinar novos modelos de IA usando seus chatbots e APIs publicamente acessíveis, um processo conhecido como “destilação”.
Essa discussão tem se concentrado em empresas chinesas que utilizam a destilação para criar modelos de código aberto quase tão capazes quanto os oferecidos nos EUA, mas a um custo muito menor. No entanto, a suspeita no setor de tecnologia é que os laboratórios americanos também usam essas técnicas entre si para não ficarem para trás da concorrência.
A Confissão de Musk sobre o Grok
Agora, há a confirmação em pelo menos um caso: no tribunal federal da Califórnia, Elon Musk foi questionado se a xAI usou técnicas de destilação em modelos da OpenAI para treinar o Grok. Ele afirmou que essa é uma prática geral entre as empresas de IA e, quando pressionado se a resposta era “sim”, ele respondeu: “Em parte.”
Musk está atualmente processando a OpenAI, o CEO Sam Altman e Greg Brockman, alegando que eles violaram a missão original sem fins lucrativos da OpenAI ao transformar a entidade em uma estrutura com fins lucrativos. O julgamento começou esta semana, com o depoimento do líder tecnológico.
A Controvérsia da Destilação
A admissão de Musk é notável porque a destilação ameaça os gigantes da IA, minando a vantagem que construíram ao investir pesadamente em infraestrutura de computação. Isso permite que outros desenvolvedores de software criem modelos quase tão capazes, mas com um custo muito menor. Há uma ironia considerável aqui, dadas as regras de direitos autorais que os próprios laboratórios de fronteira podem ter contornado em sua busca por dados suficientes para treinar seus modelos.
Não é surpreendente que a xAI de Musk, iniciada em 2023, anos depois da OpenAI, tentasse aprender com a então líder no campo. Não está claro se a destilação é explicitamente ilegal, mas pode violar os termos de serviço que as empresas estabelecem para o uso de seus produtos.
Combate à Cópia de Modelos
OpenAI, Anthropic e Google teriam lançado uma iniciativa através do Frontier Model Forum para compartilhar informações sobre como combater tentativas de destilação da China. Essas tentativas geralmente envolvem consultas sistemáticas aos modelos para entender seu funcionamento interno. Para impedir esses esforços, os laboratórios de fronteira estão trabalhando para evitar que os usuários façam consultas em massa suspeitas.
A OpenAI não respondeu a um pedido de comentário sobre a admissão de Musk até o momento da publicação.
Musk e o Cenário Competitivo da IA
Mais tarde em seu depoimento, Musk foi questionado sobre uma afirmação que fez no verão passado de que a xAI em breve estaria muito à frente de qualquer empresa, exceto o Google. Em resposta, ele classificou os principais fornecedores de IA do mundo, dizendo que a Anthropic detinha o primeiro lugar, seguida pela OpenAI, Google e modelos de código aberto chineses. Ele descreveu a xAI como uma empresa muito menor, com apenas algumas centenas de funcionários.
