Durante a maior parte dos últimos 20 anos, as startups de software apresentaram aos investidores uma matemática simples: uma vez construído o produto, servir mais um cliente custa quase nada. É por isso que as empresas SaaS maduras podiam obter margens brutas de 75% a 85% e é por isso que os investidores estavam dispostos a pagar múltiplos elevados por receitas recorrentes.
Os recursos de IA não seguem essas regras. Cada vez que um usuário faz uma pergunta a um assistente, obtém um resumo ou faz um rascunho de algo, a empresa paga pela computação por trás dessa resposta.
No entanto, o custo não diminui à medida que a base de consumidores cresce. Ele aumenta com cada nova conta e cada usuário que retorna, o que significa que os recursos mais populares costumam ser os mais caros para serem executados.
Janeiro da ICONIQ Capital Instantâneo do estado da IApor exemplo, com base em 300 executivos de empresas de software que desenvolvem produtos de IA, projetou margens brutas médias de produtos de IA de 52% para 2026. Embora isso seja uma melhoria em relação aos 41% relatados em 2024, ainda está muito aquém do que os investidores esperam do software.
A mesma pesquisa descobriu que a inferência do modelo cresce como proporção dos gastos totais à medida que os produtos amadurecem, de 20% antes do lançamento para 23% na fase de expansão, enquanto os custos com talentos diminuem. Para uma empresa cujo recurso de IA está funcionando, a conta do modelo continua ocupando uma fatia maior.
Esses números descrevem empresas cujos produtos são construídos em volta IA. Uma empresa que adiciona um único recurso de IA a um produto de assinatura estabelecido sentirá um impacto menor – pelo menos no início. A pressão aumenta à medida que o recurso alcança mais clientes e cresce mais rapidamente quando o recurso é ativado para todos.
Alguns projetos não sobrevivem a essa pressão. O Gartner listou os custos crescentes em primeiro lugar entre os motivos que espera mais de 40% dos projetos de IA de agência serão cancelados até o final de 2027, antes de um valor comercial pouco claro e controles de risco fracos.
As empresas que administram isso tendem a compartilhar alguns hábitos; eles calculam quanto custa uma única interação antes de enviá-la, projetam avisos para que não paguem repetidamente para processar o mesmo texto e monitoram os gastos tão de perto quanto monitoram erros e tempo de inatividade.
Uma implantação recente na Doppler, uma plataforma de automação de e-mail e marketing que atende empresas na América Latina e na Espanha, mostra como são esses hábitos quando um recurso é apresentado a milhares de clientes.
Um custo que aumenta a cada inscrição
O assistente da Doppler, ECO IA, fica dentro do produto, lendo dados da conta em tempo real, apontando problemas no desempenho de uma conta e elaborando campanhas, que os usuários editam e aprovam antes de enviar.
Ele também funciona no Claude da Anthropic e foi construído pela Making Sense, uma empresa de consultoria dos EUA que recentemente alcançou o nível Select da Claude Partner Network da Anthropic, com Doppler como seu caso publicado.
A decisão que molda a sua economia é que ele seja ativado por padrão. Um recurso opcional só custa dinheiro quando um cliente decide experimentá-lo, mas um recurso padrão começa a custar dinheiro no momento em que uma conta é criada – o que significa que a conta de IA cresce junto com o pipeline de vendas.
ECO IA está agora disponível em mais de 4.800 contas, de acordo com Making Sense. A empresa afirma que 95% dos usuários que interagiram com o assistente retornaram ao longo de vários meses, o que significa o uso repetido que a equipe do produto espera, embora também tenha um custo recorrente.
Segundo a empresa, cada interação custa US$ 0,066. Com esse número por interação, uma equipe financeira pode colocar o recurso próximo à receita de assinatura por conta e calcular quanto uso a empresa pode realizar antes que as margens sejam prejudicadas.
Sem isso, porém, a fatura mensal da API mistura crescimento e desperdício, e ninguém sabe dizer qual deles o impulsionou.
O preço é outra alavanca. O ICONIQ descreve uma prática emergente entre os criadores de IA de combinar uma taxa de assinatura leve para acesso à plataforma com cobranças baseadas no uso por volume, uma abordagem que vincula a receita mais estreitamente ao custo de atendimento de cada cliente.
Pagando uma vez por um texto que nunca muda
Ao observar o que um recurso de IA envia para um modelo em cada solicitação, grande parte dele é sempre idêntico. As instruções do sistema, a descrição das ferramentas disponíveis, as regras de formatação e o material de referência geralmente não mudam entre as chamadas. Apenas a pergunta do usuário e alguns dados ao vivo são novos.
Pagar o preço total para processar esse material repetido em cada chamada é uma das fontes mais comuns de desperdício, e os fornecedores de modelos agora oferecem maneiras de contornar isso. Antrópico cache de prompt permite que os desenvolvedores armazenem a parte imutável de um prompt para que o modelo não a reprocesse todas as vezes. Quando a empresa lançou o recurso, ela disse que o cache poderia reduzir os custos em solicitações longas em até 90%.
Os resultados na prática variam e amplamente. Um desenvolvedor que testou o cache em um agente de chat de business intelligence relatado uma redução de custo de 57% com algumas linhas de código, de acordo com Hora de Hackere também alertou os leitores para não tratarem a figura como universal sem testar suas próprias instruções.
O que decide a economia é a taxa de acertos do cache, a parcela de solicitações que reutilizam conteúdo já armazenado. Como a captura de correspondências desde o início do prompt, as seções estáveis precisam vir primeiro e permanecer onde estão, já que editar uma instrução perto do topo de um prompt pode invalidar tudo o que for armazenado depois dele.
No Doppler, por exemplo, a equipe relata uma taxa de acerto de 97%, o que reflete uma estrutura cuidadosa de alertas, tanto quanto qualquer coisa no modelo.
Quem mantém os números sob controle após o lançamento?
Poucas startups executariam um serviço de produção sem monitorar a latência e os erros, mas muitas ainda lançam recursos de IA sem saber quanto custam até a chegada da fatura.
Para o ECO IA, a equipe construiu um painel em tempo real que cobre uso, gastos, latência e erros, para que a engenharia e as finanças observem os mesmos números. Um salto no uso aparece no dia em que acontece, assim como um aumento gradual no custo por interação depois que alguém altera um prompt, o que, de outra forma, poderia passar despercebido durante um ciclo completo de faturamento.
As startups que contratam desenvolvedores externos para lançar um produto de IA enfrentam mais uma questão: a equipe que cria o recurso pode não ser a equipe que o mantém acessível um ano depois.
Os provedores de IA começaram a prestar atenção a essa transferência. Antrópico Rede de parceiros Claude agora classifica as empresas de implementação, em parte, com base no número de clientes que colocaram em produção nos últimos 12 meses, e a Making Sense alcançou recentemente o seu nível Select com o Doppler como o seu caso público.
Na Doppler, os engenheiros da empresa trabalharam dentro da equipe interna e configuraram testes e validação automatizados, para que os próprios desenvolvedores da Doppler pudessem executar e estender o assistente sem eles.
Cesar D’Onofrio, CEO da empresa, descreveu o trabalho como uma compreensão “da equipe que terá que operá-lo na manhã seguinte”. Para uma startup, essa equipe pagará a inferência em cada interação, enquanto o recurso estiver ativo.
Imagem em destaque: Imagens Getty via Unsplash +
