Físicos de partículas costumam construir um modelo de aprendizado de máquina novo para cada análise que fazem no Grande Colisor de Hádrons, cada um treinado com simulações feitas sob medida e validado do zero. O EVENET, descrito num artigo revisado por pares na Nature Machine Intelligence, testa a abordagem que deu certo em modelos de linguagem e de proteínas: treinar um único modelo grande uma vez e depois adaptá-lo a baixo custo para muitas tarefas. O resultado principal é que isso também funciona com dados reais do detector, não só com simulações.
O modelo trata cada colisão como uma nuvem desordenada de objetos reconstruídos, como jatos, elétrons e múons, e a passa por uma base transformer compartilhada com cabeças de saída intercambiáveis para classificar o processo, associar partículas às partículas-mãe de onde vieram, agrupá-las e reconstruir as que faltam, como os neutrinos. Ele foi pré-treinado em duas etapas com cerca de 500 milhões de colisões simuladas, selecionadas de aproximadamente 3 bilhões geradas: primeiro aprendendo a preencher partículas mascaradas, depois com alvos físicos rotulados acrescentados. Isso levou da ordem de 100.000 horas de GPU em 512 chips Nvidia A100 do supercomputador Perlmutter. O ajuste fino para uma tarefa específica precisa depois de algumas a dezenas de horas de GPU.
Os resultados são consistentes em quatro testes. Na busca por uma partícula pesada hipotética, ele melhorou a melhor sensibilidade ao sinal em cerca de 20% em relação ao XGBoost, ferramenta padrão na área, e em cerca de 10% em relação ao TabPFN, um modelo pré-treinado para dados tabulares. Numa busca por decaimentos exóticos do bóson de Higgs, com 5% do conjunto de treino de referência ele superou a melhor marca que o modelo especializado SPANet atingiu com 150%. Numa medição de emaranhamento quântico em pares de quarks top, chegou a uma precisão de 3,33% contra uma referência anterior de 5,26%. O teste mais convincente usou dados abertos de 2016 do experimento CMS: ao procurar o méson Upsilon, uma partícula conhecida, numa região difícil, encontrou o sinal com significância mediana de 7,6 sigma, acima dos 6,4 sigma publicados antes. Uma versão treinada sem pré-treino ficou em 1,5.
A lição maior é sobre custo. Uma conta alta e única de pré-treino, paga de volta com a reutilização do modelo em muitas análises, é a mesma troca que justifica os modelos de linguagem de uso geral, e o artigo mostra que ela se sustenta numa área com padrões rígidos de evidência. Redescobrir uma partícula conhecida é um teste de sanidade, não uma descoberta, mas é o teste certo para um modelo treinado com simulações.
Os autores são francos sobre o que falta. O EVENET ainda não acompanha as incertezas do detector e da teoria com o rigor que um resultado de física exige, suas cabeças de saída não são obrigadas a concordar entre si, e ele não passou por testes de estresse onde simulação e dados reais divergem muito. Os dados de pré-treino também usaram um detector genérico simplificado e nenhuma colisão sobreposta. O teste de verdade será a adoção pelas grandes colaborações do LHC, que exigem exatamente essas verificações.