Anúncios de busca respondem a uma única consulta. Conversas no ChatGPT não funcionam assim: alguém pergunta sobre corrida, algumas mensagens depois pergunta sobre tênis e, uma semana mais tarde, menciona uma trilha. A OpenAI publicou um relato técnico de como construiu um sistema de anúncios para esse tipo de intenção que muda, e é uma das descrições mais detalhadas que uma empresa de IA já deu sobre como escolhe seus anúncios.
O centro é um modelo de linguagem próprio, com pós-treinamento, que a OpenAI chama de orquestrador. Ele conduz todo o fluxo de anúncios como um agente, chamando ferramentas em ciclo. Resume a conversa em uma ou mais consultas comerciais, transforma-as em embeddings, recupera de vários índices um conjunto propositalmente amplo de anúncios candidatos, descarta os que falham em segmentação, políticas, orçamento ou ritmo de entrega e manda o restante para sistemas que pontuam relevância e engajamento previsto. Depois indica candidatos plausíveis a uma ferramenta de leilão separada, que define o preço e escolhe o vencedor; o orquestrador não escolhe o anúncio final nem o preço. Se um anúncio ainda parecer deslocado, ou não ficar pronto antes da resposta do ChatGPT, ele não aparece, e a OpenAI ressalta que não entregar anúncio nenhum conta como sucesso.
Duas escolhas de projeto importam mais para os usuários. As sessões de anúncios têm memória: lembram o contexto entre mensagens e entre conversas, e, para quem aceita anúncios personalizados, o orquestrador pode usar informações não sensíveis de conversas anteriores. E a seleção de anúncios roda num serviço próprio, com modelos e código separados, ao lado da geração de respostas e não dentro dela. A OpenAI diz que isso impede que os anúncios influenciem as respostas e que uma falha no sistema de anúncios não consegue deixar o ChatGPT mais lento. O sistema ajudou o ChatGPT Ads a passar de um ritmo anualizado de receita de US$ 1 bilhão menos de 200 dias após o lançamento.
Para quem compara os planos Free e Go do ChatGPT com os pagos, a separação é a arquitetura certa, e é mais do que a maioria dos produtos bancados por publicidade revela.
Os limites têm mais a ver com confiança do que com engenharia. Não há auditoria independente da fronteira entre anúncios e respostas; os usuários precisam acreditar na OpenAI quando ela diz que os dois nunca se encontram. A memória entre conversas é uma troca real de privacidade, e o texto não define o que conta como não sensível. A OpenAI também descreve um ciclo de autoaperfeiçoamento em que modelos avaliam as entregas e treinam outros modelos de anúncios, o que com o tempo vai tornar o comportamento do sistema mais difícil de acompanhar de fora.