A DoNotPay, empresa de IA mais conhecida por ajudar usuários a cancelar assinaturas indesejadas e lutar contra multas de estacionamento, chegou a um acordo com a FTC sobre um chatbot de IA que foi anunciado como “o primeiro advogado robô do mundo”. O advogado de IA não cumpriu com suas alegações e a DoNotPay nunca testou adequadamente a ferramenta de chatbot, de acordo com a FTC. Na verdade, a empresa supostamente nunca contratou um advogado humano de verdade para trabalhar no produto.
A DoNotPay concordou em pagar US$ 193.000 e será obrigada a enviar um aviso a todos os clientes anteriores que usaram o advogado de IA de 2021 a 2023, alertando sobre as limitações do serviço de assinatura. O acordo também “proibirá a empresa de fazer alegações sobre sua capacidade de substituir qualquer serviço profissional sem evidências para apoiá-lo”, de acordo com uma declaração na quarta-feira da FTC.
O advogado de IA se autointitulou como uma ferramenta que poderia ser usada para coisas como processar por agressão em um tribunal de pequenas causas e redigir uma carta de cessação e desistência. A ferramenta de IA também criou documentos legais como NDAs, contratos comerciais, acordos pré-nupciais e acordos de custódia, de acordo com a FTC. A DoNotPay havia planejado inicialmente usar seu advogado de IA em um tribunal físico, mas encerrou esse plano no início de 2023 após receber ameaças de associações da Ordem dos Advogados do Estado.
A reclamação da FTC, que está disponível para ler onlineestá repleto de alguns detalhes bastante estranhos, incluindo uma citação que apareceu no site DoNotPay que supostamente era do Los Angeles Times: “O que este advogado robô pode fazer é surpreendentemente semelhante — se não mais — ao que os advogados humanos fazem.” Na realidade, a citação era do Los Angeles Times Insider do Ensino Médio site, uma plataforma de conteúdo gerado pelo usuário para estudantes do ensino médio, de acordo com a FTC.
A ferramenta também não foi testada da maneira que qualquer pessoa razoável esperaria, de acordo com a reclamação da FTC:
Os funcionários do DoNotPay não testaram a qualidade e a precisão dos documentos e conselhos legais gerados pela maioria dos recursos relacionados à lei do Serviço. O DoNotPay não contratou advogados e não manteve advogados, muito menos advogados com a experiência jurídica relevante, para testar a qualidade e a precisão dos recursos relacionados à lei do Serviço.
O fundador da empresa de IA, Joshua Browder, disse anteriormente que a DoNotPay quer “substituir a indústria jurídica de US$ 200 bilhões por inteligência artificial”. Browder abandonou a faculdade em 2018 como parte da Thiel Fellowship, um programa iniciado pelo investidor em tecnologia Peter Thiel que dá dinheiro às pessoas para abandonar a faculdade e começar um negócio.
Por sua vez, a DoNotPay foi rápida em ressaltar que a empresa não admitiu qualquer responsabilidade no acordo com a FTC.
“A DoNotPay está satisfeita por ter trabalhado construtivamente com a FTC para resolver este caso e resolver completamente essas questões, sem admitir responsabilidade”, disse a empresa em uma declaração creditada a uma “porta-voz da DoNotPay” não identificada.
O Gizmodo perguntou sobre as alegações de que não contratou um advogado para verificar o trabalho de seu advogado de IA, mas essas questões não foram abordadas pela empresa em sua declaração. Não está claro se a declaração foi gerada por IA ou escrita por um humano.
“A reclamação está relacionada ao uso de algumas centenas de clientes há alguns anos (de milhões de pessoas), com serviços que foram descontinuados há muito tempo”, continuou a declaração. “A DoNotPay contratou Maneesha Mithal, ex-diretora associada da FTC, como consultora externa, que tem sido incrivelmente útil ao lidar com esse assunto.”
As notícias sobre a ação contra o DoNotPay foram parte de um anúncio mais amplo na quarta-feira pela FTC centrado em reprimir a IA. E a presidente da FTC, Lina Khan, uma figura adorada pelos democratas progressistas e desprezada por muitas grandes empresas por suas recentes ações de execução, diz que usar IA não fornece nenhum tipo de isenção às leis existentes.
“Usar ferramentas de IA para enganar, iludir ou fraudar pessoas é ilegal”, disse Khan em uma declaração publicada no site da agência.
“As ações de execução da FTC deixam claro que não há isenção de IA das leis nos livros”, Khan continuou. “Ao reprimir práticas injustas ou enganosas nesses mercados, a FTC está garantindo que empresas honestas e inovadoras possam ter uma chance justa e que os consumidores estejam sendo protegidos.”
