ACLU destaca o aumento de relatórios policiais gerados por IA – o que poderia dar errado?


A Associação Americana pelas Liberdades Civis (ACLU) é soando um aviso sobre o uso de IA na criação de relatórios policiais, dizendo que a tecnologia pode produzir erros que afetam as provas e os processos judiciais. A organização sem fins lucrativos destacou os perigos da tecnologia em um papel brancoseguindo notícias que os departamentos de polícia da Califórnia estão usando um programa chamado Draft One da Axon para transcrever gravações de câmeras corporais e criar um primeiro rascunho de relatórios policiais.

Um departamento de polícia em Fresno disse que está usando o Draft One em um programa piloto, mas apenas para denúncias de contravenções. “Não passa de um modelo”, disse o vice-chefe Rob Beckwith Especialista da indústria. “Não foi projetado para que um policial aperte um botão e gere um relatório.” Ele disse que o departamento detectou erros nas transcrições e que consultou o escritório do promotor público do condado de Fresno no treinamento da força,

No entanto, a ACLU observou quatro problemas com o uso da IA. Em primeiro lugar, disse que a IA é “peculiar e não confiável e propensa a inventar fatos… [and] também é tendencioso.” Em segundo lugar, disse que as memórias de um policial sobre um incidente deveriam ser memorizadas “antes de serem contaminadas pela narrativa baseada na câmera corporal de uma IA”. Acrescentou que se um relatório policial for apenas uma repetição da IA ​​do vídeo da câmera corporal, certos fatos podem ser omitidos e pode até permitir que os policiais mintam se fizerem algo ilegal que não tenha sido capturado pela câmera.

O terceiro ponto girava em torno da transparência, pois o público precisa entender exatamente como funciona com base na análise de especialistas independentes, segundo a ACLU. Os réus em processos criminais também precisam ser capazes de interrogar as provas, “embora grande parte da operação desses sistemas permaneça misteriosa”. Finalmente, o grupo observou que o uso de transcrições de IA pode eliminar a responsabilização em torno do uso do poder discricionário. “Por estas razões, a ACLU não acredita que os departamentos de polícia devam permitir que os agentes utilizem a IA para gerar rascunhos de relatórios policiais”, afirmou.



Source link

LEAVE A REPLY

Please enter your comment!
Please enter your name here