Uma empresa de inteligência artificial que tem contrato com o governo dos EUA afirma que a análise de grandes conjuntos de dados do seu sistema de IA pode produzir resultados quase perfeitos.
Primer AI anunciado em 14 de outubro que uma atualização de sua plataforma de IA pode atingir uma taxa de alucinações próxima de zero, um resultado que a empresa acredita ter implicações mais amplas para o Departamento de Defesa e para a indústria de defesa como um todo.
O termo “alucinações” no jargão da IA, refere-se a modelos que apresentam resultados incorretos.
“Em ambientes de alto risco, onde a precisão e os prazos são cruciais, a plataforma aprimorada do Primer surge como uma solução revolucionária”, disse o comunicado de imprensa da empresa.
O CEO da PrimerAI, Sean Moriarty, explicou o que é importante sobre a mudança no sistema em uma entrevista por telefone ao Military Times.
Embora muitas plataformas de IA experimentem uma taxa de alucinação de 10%, disse Moriarty, a PrimerAI reduziu para 0,3%.
A maior vantagem da atualização foi a capacidade de verificar os próprios resultados.
Esse sistema proprietário, que a empresa afirma capturar mais de 99% dos erros antes que eles cheguem aos usuários, é chamado de sistema de verificação de geração aumentada de recuperação. Grandes modelos de linguagem, ou LLMs, que são sistemas de IA que podem compreender e processar a linguagem humana, já usam geração aumentada de recuperação quando recebem um prompt. ChatGPT é um excelente exemplo.
O que torna o sistema da PrimerAI inovador é que, uma vez gerado uma resposta ou resumo, ele gera uma afirmação para o resumo e corrobora essa afirmação com os dados de origem, de acordo com Cindy Ma, gerente sênior de produto da PrimerAI.
Esta camada extra de revisão leva a uma redução exponencial de erros, disse Ma, que forneceu uma demonstração pessoal do sistema na conferência anual da Associação do Exército dos Estados Unidos em Washington, DC., em 14 de outubro.
RELACIONADO
A PrimerAI acredita que, para o Departamento de Defesa, fornecer uma grande proteção contra imprecisões é fundamental porque pequenas alucinações podem desencadear respostas dramáticas.
“Imagine um mundo onde um LLM diga que um adversário tem cinco vezes mais porta-aviões do que realmente tem”, disse Moriarty.
Moriarty reconheceu que sempre há espaço para erros, apesar do objetivo de perfeição. Mesmo que dados de referência de alta qualidade sejam a base da análise de um sistema de IA, ainda existem peças do quebra-cabeça que ficam distorcidas. Os próprios dados podem ser contaminados pelo julgamento humano.
“Nosso mundo atual não é um mundo com zero defeitos, embora nos esforcemos por zero defeitos”, disse Moriarty.
Riley Ceder é editorialista do Military Times, onde cobre notícias de última hora, justiça criminal e histórias de interesse humano. Anteriormente, ele trabalhou como estudante de estágio investigativo no The Washington Post, onde contribuiu para a investigação em andamento de Abusado pelo Distintivo.
