Mithil Vakde publicou como chegou a 44% no conjunto de avaliação pública do ARC-AGI-1 treinando um transformer pequeno do zero. O custo informado foi de 67 centavos de dólar, com uma RTX 5090 alugada na Vast.ai por cerca de 1,5 hora.
A abordagem
Cada par de entrada e saída de um puzzle vira uma sequência de tokens, e o modelo é treinado de forma autorregressiva sobre essas sequências. O autor usa embeddings posicionais 3D RoPE, embeddings aditivos por tarefa e aumentos de dados (rotações e espelhamentos do grupo diedral, além de permutações de cor). O conjunto de treino inclui 1.000 puzzles do ARC-1 e 347 puzzles novos do ARC-2 sem sobreposição.
O que mudou em relação à versão anterior
O otimizador passou de AdamW para NorMuon com um AdamW auxiliar. A arquitetura passou de GELU, LayerNorm e 4 camadas para SwiGLU, RMSNorm e 8 camadas. O mesmo modelo marca 7% no ARC-2, e o autor diz que o resultado fica no nível de abordagens como TRM e HRM.
Limitações que o próprio autor admite
O método ainda depende dos aumentos de dados, que ele diz não gostar de usar. Sem os dados extras do ARC-2, estima que o desempenho ficaria perto de 40%. Ele também afirma não entender por completo por que o treinamento supervisionado funciona melhor do que outras abordagens que testou.
Como ler o número
O texto não deixa claro se os 67 centavos cobrem só a execução final ou também os experimentos anteriores, então vale tratar o valor como custo do treino reportado, não como custo total do projeto. Mesmo assim, o resultado mostra que um modelo pequeno e específico para a tarefa chega a um patamar que muita gente associava a sistemas bem maiores.
