Empresas grandes e pequenas estão de saco cheio dos altos custos de ferramentas de IA desenvolvidas nos EUA e começaram a alternar seu uso com modelos chineses, cuja implementação é bem mais barata.
A prática muda dramaticamente da mentalidade anterior de que a melhor coisa que um desenvolvedor poderia fazer é ficar torrando tokens como se não houvesse amanhã – prática chamada de tokenmaxxing.
Segundo o Wall Street Journal:
Fartas com a escalada dos custos, empresas de grande e pequeno porte estão começando a usar modelos de menor custo, incluindo alguns desenvolvidos na China. Em muitos casos, elas estão adicionando os novos modelos, mais baratos, paralelamente aos produtos da OpenAI e da Anthropic, fazendo compras à la carte para sua inteligência artificial. [...]
Ser econômico — ou "tokenômico" — representa uma reversão dramática de mentalidade. Há apenas alguns meses, usar tanto a inteligência artificial a ponto de gastar muito com tokens era um motivo de orgulho. As empresas recompensavam os funcionários pelo tokenmaxxing, exibindo tabelas de classificação que mostravam quem havia gasto mais. Agora, elas estão no thrift-maxxing.
Isso me leva a crer que, embora IA generativa seja bastante útil em vários aspectos, os ganhos de produtividade conseguidos em cima de ferramentas da OpenAI, Anthropic e Google não são suficientes para compensar o custo de ficar torrando tokens sem muito critério.
Como disse um entrevistado da matéria, colocar modelos de ponta para fazer tarefas mundanas é igual ir de "Lamborghini para o mercado comprar leite".
Via Wall Street Journal (link com acesso gratuito)