Algumas startups dos EUA estão recorrendo a modelos chineses baratos de IA: NPR
A IA é uma despesa comercial em rápido crescimento. Algumas empresas estão cortando custos mudando para modelos chineses de IA mais baratos.
Imen Ben Youssef/Hans Lucas/AFP via Getty Images
ocultar legenda
alternância de legenda
Imen Ben Youssef/Hans Lucas/AFP via Getty Images
Inscreva-se na NPR Primeiro boletim matinal com as histórias que você precisa para começar o dia.
SÃO FRANCISCO – A startup de Flo Crivello com sede em São Francisco, Lindy.ai, está construindo “assistentes” de inteligência artificial para gerenciar seu e-mail e calendário. Inicialmente, a empresa apoiou-se fortemente nos melhores modelos de IA da Anthropic.
Mas, em reunião após reunião com seu financeiro, Crivello disse que uma coisa ficou clara: “Até agora, nossa despesa número 1 tem sido a antrópica”, disse ele. “Mais do que a folha de pagamento.”
Mais do que salários – para mais de duas dezenas de funcionários. Mais que aluguel. Mais do que qualquer outra coisa. No mês passado, Crivello anunciado que Lindy migrou 100% de seu tráfego para o modelo chinês de IA DeepSeek-V4.
“Foi apenas 10 vezes mais barato”, disse ele, acrescentando que economizou milhões de dólares para a empresa. “Portanto, foi uma decisão de negócios muito, muito simples.”
A inteligência artificial tornou-se uma das – não é sobre — o custo de negócios que mais cresce nos EUA. Mas, para muitas empresas, é uma faca de dois gumes: necessária, mas cara. Para sobreviver, um número crescente de empresas está a mudar dos modelos americanos para a IA chinesa, mais barata.
Na corrida para criar os melhores modelos de IA, empresas americanas como Anthropic, OpenAI e Google estão liderando o mundo. Especialistas dizem que os modelos chineses estão de seis a 12 meses atrasados em termos de capacidades.
Mas a China conquistou um nicho para si mesma em modelos de código aberto que podem ser baixados e adaptados gratuitamente. “O cenário do código aberto atualmente é absolutamente dominado pelos chineses. Não chega nem perto”, disse Crivello.
Ele disse que todos os fundadores que conhece que trabalham com inteligência artificial estão considerando mudar para modelos chineses ou já o fizeram.
E o custo crescente da IA não é apenas um problema inicial. O CEO do Uber, Dara Khosrowshahi, falou sobre isso no mês passado em Invista como o melhor podcast. “Nós estouramos nosso orçamento de IA por um trimestre, você sabe, durante todo o ano, basicamente. E isso está nos forçando a fazer ajustes”, disse ele.
(A Uber não respondeu ao pedido da NPR de informações sobre se utiliza modelos chineses.)
Bloomberg relatado O CEO do Airbnb, Brian Chesky, disse no ano passado que a empresa confiou no modelo Qwen do Alibaba, que era “bom”, “rápido e barato”. perplexidade e Nvidia também usei Qwen.
Como Ferrari ou Honda
Muitas empresas têm receio de anunciar o uso de modelos chineses devido a sensibilidades políticas, mas os modelos estão amplamente disponíveis em centros de modelos de IA como Hugging Face, na plataforma de hospedagem de código GitHub, e por meio de agregadores de modelos e provedores de inferência baseados fora da China.
Isso inclui Featherless, com sede em São Francisco, que oferece acesso a cerca de 30.000 modelos de IA. O fundador e CEO Eugene Cheah disse que os modelos chineses eram populares, mesmo que não fossem modelos “limítrofes” ou os melhores da categoria.
“É como a diferença entre dirigir uma Ferrari e uma Honda. Você pode ter o melhor carro de luxo ou apenas uma Honda de grande porte que funcione”, disse ele.
“Na verdade, muitos grupos de IA de código aberto são ideais como N-1, sendo N o limite”, continuou ele. “À medida que a lacuna continua a diminuir, em algum momento a questão é: isso realmente importa?”
Para muitos, como Lindy, isso não importa. A Honda da AI está perfeitamente bem.
OpenRouter, outra plataforma onde as startups podem acessar uma variedade de modelos de IA, relatou que o uso do DeepSeek da China cresceu de cerca de 9% para quase 20% desde janeiro. Também aumentou a utilização de modelos das empresas chinesas MiniMax, Xiaomi e Tencent.
Alguns usuários baixam e auto-hospedam modelos chineses de IA de código aberto, mas muitos os usam por meio de empresas de hospedagem de IA pagas, como Featherless e OpenRouter, para que os dados do usuário sejam armazenados nos Estados Unidos.
Victor Su-Ortiz, que lida com o marketing global de produtos na MiniMax, com sede em Xangai, participou recentemente de uma conferência de engenheiros de IA em São Francisco. As empresas pagam pelo uso de modelos de IA pagando por tokens ou unidades de trabalho de IA. Su-Ortiz disse que tudo se resume ao preço de um token.
“Muitas tarefas repetitivas podem ser realizadas com um modelo que tem o mesmo desempenho, mas tem um custo por token muito menor” do que os principais modelos de IA, disse ele. “E foi essencialmente isso que trouxe esses modelos abertos para os Estados Unidos.”
Ele disse que as empresas estão mudando do “tokenmaxxing” – usando o máximo de IA possível – para economizar custos limitando o uso, mudando para modelos mais baratos ou direcionando diferentes tipos de trabalho de IA para diferentes tipos de modelos.
Para pesquisa ou “raciocínio profundo”, por exemplo, os modelos de última geração podem ter melhor desempenho, disse Su-Ortiz. “Mas se o seu objetivo é uma tarefa de codificação repetitiva e de alto volume… é aí que um de nossos modelos, especialmente o MiniMax M3, terá um desempenho extremamente bom por apenas um décimo do custo.”
Economizar alguns dólares não vale a pena para todos
Para algumas empresas, os modelos chineses ainda não são bons o suficiente. John Gordner é o CEO e cofundador da Comment.io, que foi fundada há apenas algumas semanas e está desenvolvendo um produto que ele diz ser como o Google Docs para desenvolvedores e agentes de IA.
“Precisamos fazer o melhor software possível e o mais rápido possível. E para nós, economizar alguns dólares em um modelo mais barato não vale a pena se tivermos que gastar mais duas ou três semanas corrigindo seus bugs”, disse ele.
Gordner disse que sua empresa obtém valor dos modelos Antrópico e OpenAI, em parte porque ambas as empresas subsidiam usuários para atrair clientes. Ele disse que as assinaturas mensais agora oferecem tokens com um grande desconto, mas isso provavelmente não durará para sempre.
“Então fará muito mais sentido começarmos a avaliar os modelos chineses e de código aberto”, disse ele.
Ara Kharazian é economista-chefe da Ramp, uma empresa que ajuda empresas a rastrear, controlar e automatizar despesas. Ele tem uma visão sobre os gastos com IA, e Kharazian disse acreditar que as empresas dos EUA continuarão a se adaptar – em outras palavras, poderiam manter os preços sob controle ou introduzir modelos de código aberto de alta qualidade em um esforço para superar os rivais chineses.
“A ascensão destes modelos chineses é indicativa do facto de que as empresas querem algo que não é oferecido hoje pelas empresas modelo americanas”, disse ele. “A única razão pela qual sou negativo em relação aos modelos chineses é porque presumo que as empresas modelo americanas responderão de forma competitiva.”
Gordner do Comment.io não tem tanta certeza. Ele acha que as grandes empresas de IA dos EUA podem ter que começar a cobrar mais para a IA à medida que aumenta a pressão para demonstrar rentabilidade, possivelmente à medida que se aproximam da abertura de capital. Ambos Antropoceno e a OpenAI entraram com registros confidenciais junto ao governo dos EUA para dar início a possíveis ofertas públicas iniciais.
“Em algum momento a música irá parar”, disse Gordner.
A Anthropic é uma apoiadora financeira da NPR.
