À medida que as plataformas da Meta se enchem com mais conteúdo gerado pela IA, a empresa ainda tem muito trabalho a fazer quando se trata de fazer cumprir suas políticas em torno da mídia manipulada. O Conselho de Supervisão está mais uma vez criticando a empresa de mídia social sobre o tratamento de tais posts, escrevendo em sua última decisão de que sua incapacidade de fazer cumprir suas regras é “incoerente e injustificável”.
Se isso parece familiar, é porque isso ocorre desde o ano passado, o Conselho de Supervisão usou a palavra “incoerente” para descrever a abordagem de Meta à mídia manipulada. O Conselho havia existido a Meta que atualizasse suas regras depois que um vídeo de Joe Biden editado, enganado, se tornou viral no Facebook. Em resposta, a Meta disse que é o uso de rótulos para identificar conteúdo gerado pela IA e que aplicaria rótulos mais proeminentes em situações de “alto risco”. Esses rótulos, como o abaixo, observam quando uma postagem foi criada ou editada usando a IA.
Essa abordagem ainda está ficando aquém, disse o conselho. “O conselho está preocupado com o fato de, apesar da crescente prevalência de conteúdo manipulado entre os formatos, a aplicação da Meta de sua política de mídia manipulada é inconsistente”, afirmou sua última decisão. “A falha da Meta em aplicar automaticamente um rótulo a todas as instâncias da mesma mídia manipulada é incoerente e injustificável”.
A declaração veio em uma decisão relacionada a um post apresentar áudio de dois políticos no Curdistão iraquiano. A suposta “conversa gravada” incluiu uma discussão sobre a manipulação de uma próxima eleição e outros “planos sinistros” para a região. O post foi relatado como meta para desinformação, mas a empresa fechou o caso “sem revisão humana”, afirmou o conselho. A Meta posteriormente rotulou algumas instâncias do clipe de áudio, mas não é o relatado originalmente.
O caso, de acordo com o conselho, não é um outlier. A aparentemente, a Meta disse ao conselho que não pode identificar e aplicar automaticamente rótulos em postagens de áudio e vídeo, apenas para “imagens estáticas”. Isso significa que várias instâncias do mesmo videoclipe de áudio ou vídeo podem não receber o mesmo tratamento, o que a placa notas pode causar mais confusão. O Conselho de Supervisão também criticou a Meta por frequentemente confiar em terceiros para identificar vídeos e áudio manipulados da AI, como aconteceu neste caso.
“Dado que a Meta é uma das principais empresas de tecnologia e IA do mundo, com seus recursos e o amplo uso das plataformas da Meta, o conselho reitera que a Meta deve priorizar o investimento em tecnologia para identificar e rotular vídeos e áudio manipulados em escala”, escreveu o conselho. “Não está claro para o conselho por que uma empresa dessa experiência técnica e terceiriza de recursos que identifica a provável mídia manipulada em situações de alto risco em meios de comunicação ou parceiros confiáveis”.
Em suas recomendações à Meta, o conselho disse que a empresa deve adotar um “processo claro” para rotular consistentemente “conteúdo idêntico ou semelhante” em situações em que adiciona um rótulo de “alto risco” a uma postagem. A diretoria também recomendou que esses rótulos aparecessem em um idioma que corresponda ao restante de suas configurações no Facebook, Instagram e threads.
Meta não respondeu a um pedido de comentário. A empresa tem 60 dias para responder às recomendações do conselho.
