A Evolv, empresa por trás de um polêmico sistema de “inteligência artificial” usado para detectar armas nos metrôs de Nova York e em escolas de todo o país, foi acusada pela Comissão Federal de Comércio de enganar clientes, de acordo com um novo comunicado de imprensa da FTC. A agência alega que os scanners Evolv Express, usados em cerca de 800 escolas em 40 estados, não são tão precisos na detecção de armas como a empresa afirma. E a FTC quer que a Evolv pare de exagerar o que a sua IA pode fazer.
“Na FTC proposta ordem de liquidaçãoa Evolv seria proibida de fazer afirmações infundadas sobre a capacidade dos seus produtos para detectar armas através da utilização de inteligência artificial e também teria de dar a certos clientes de escolas do ensino fundamental e médio a opção de cancelar os seus contratos, o que geralmente prende os clientes a acordos plurianuais, ”, disse a FTC em um comunicado à imprensa na terça-feira.
O detector de armas Evolv ganhou ampla divulgação na imprensa nacional no início deste ano, quando o sistema foi instalado no sistema de metrô de Nova York. Mas mesmo o CEO da época observou que o sistema de metrô não era um bom caso de uso.
A FTC afirma que a Evolv deu a entender falsamente que os usuários podem evitar ter que fazer as concessões necessárias para ter um sistema de detecção de armas altamente seguro e uma “experiência perfeita” para as pessoas que entram em um edifício. No cerne do problema, definir os scanners para um nível de sensibilidade mais baixo permite que muitas armas passem sem serem detectadas, e configurá-los para uma sensibilidade mais alta dispara muitos alarmes falsos.
A Evolv diz que seu sistema é superior aos detectores de metal normais porque utiliza IA, mas a FTC argumenta que isso é pouco mais do que um exagero de marketing.
“A FTC deixou claro que as alegações sobre tecnologia – incluindo inteligência artificial – precisam ser apoiadas, e isso é especialmente importante quando essas alegações envolvem a segurança das crianças”, disse Samuel Levine, diretor do Bureau of Consumer Protection, segundo para um Comunicado de imprensa. “Se você fizer essas afirmações sem o apoio adequado, poderá esperar uma resposta da FTC.”
A FTC observa em um processo judicial que em outubro de 2022 um aluno de uma escola de Nova York trouxe uma faca de 7 polegadas que passou por um scanner Evolv Express. E outras vezes, os scanners Evolv não conseguiram detectar a arma de um policial fora de serviço enquanto disparavam um alarme para a lancheira de um aluno. A escola aumentou os níveis de sensibilidade após o incidente do esfaqueamento, mas isso apenas dobrou a taxa de alarmes falsos para 50%, de acordo com a FTC.
A Evolv não respondeu às perguntas enviadas por e-mail na manhã de terça-feira. O Gizmodo atualizará esta postagem se recebermos uma resposta.
