Ataques de destilação são campanhas encobertas, em escala industrial, que extraem as capacidades de um modelo para replicá-las em outro, sem autorização do desenvolvedor original. Normalmente usam redes de contas fraudulentas.
A Anthropic afirma que novos métodos de defesa reduziram a quantidade de dados coletados por esses atacantes em cerca de 90% a 99%, segundo as primeiras evidências.
Por que isso importa
Segundo a empresa, a destilação ilícita permite copiar capacidades de fronteira sem construir salvaguardas na mesma medida, o que cria riscos para além da questão comercial.
Fonte: Strengthening our defenses against distillation attacks — Anthropic. Resumo e tradução livre da redação do Lotm Kernel; leia o anúncio original para todos os detalhes.