Tive que ler a notícia cerca de seis vezes antes de entender completamente: Meta, proprietária do Instagram e do Facebook, está experimentando a integração de conteúdo personalizado de IA em nossos feeds do Instagram e do Facebook. Em outras palavras, a Meta está explorando a ideia de colocar mais conteúdo recomendado (de contas que não seguimos) em nossos feeds, e isso seria inteiramente gerado pela IA da Meta.
Como pessoa que analisa os geradores de imagens de IA para CNET, incluindo Meta AI, deixe-me dizer: esta é uma péssima ideia.
Essas fotos, feitas com seu assistente de IA Meta AI, serão “baseadas em seus interesses” e poderão potencialmente “apresentar você, para que você possa ser a estrela de sua própria história e compartilhar suas favoritas com os amigos”. Assim, uma versão AI do seu rosto pode aparecer aleatoriamente no feed do Instagram. Meta, respeitosamente… o que? Por que?
A Meta divulgou muitas novidades sobre seu assistente virtual Meta AI esta semana em seu evento anual de AR/VR Meta Connect, incluindo uma nova voz com uma variedade de vozes de celebridades, melhores traduções de dublagem de vídeo e novas atualizações visuais que permitem “ver” seu fotos e edite-as. Mas esta notícia, enterrada perto do final de seu comunicado de imprensa e omitido inteiramente do discurso principal, é importante e precisamos conversar sobre isso. Principalmente, precisamos implorar ao Meta para não deixar esse experimento resultar em uma atualização real.
À medida que os serviços de geração de conteúdo de IA melhoram, fica cada vez mais difícil escapar do dilúvio de conteúdo de IA (também conhecido como lixo). Também está cada vez mais difícil diferenciar fotos reais das de IA. Admito que fiquei bastante impressionado com o recurso Imagine do Meta AI, que atua como um gerador de imagens de IA incorporado no chatbot. Mas isso não significa que eu queira entupir meu feed com imagens estranhas de mim como astronauta ou algo assim.
No início deste ano, Meta começou a rotular conteúdo gerado por IA, o que foi uma ótima ideia. Mas não era uma ferramenta perfeita, e os fotógrafos começaram a receber rótulos de IA para imagens que foram editadas, e não geradas por IA. As novas postagens recomendadas teriam um rótulo semelhante que diz “Imaginado para você”. Mas os rótulos são muito fáceis de ignorar, e é por isso que ainda estou preocupado que o lançamento desta atualização confunda ainda mais a linha entre o que é real e o que é IA. E essa é realmente a última coisa de que precisamos, quando a desinformação e a desinformação são mais fáceis de criar de forma convincente do que nunca, graças à IA.
Este é um exemplo de como poderiam ser essas postagens recomendadas geradas por IA.
No que diz respeito à privacidade, a CNET entrou em contato com a Meta para confirmar se você pode remover postagens geradas por IA do seu feed e se podemos esperar ver postagens de IA começarem a aparecer enquanto está na fase de testes, mas não recebemos um resposta até o momento da publicação. Sabemos que os usuários dos EUA não podem optar por não ter postagens compartilhadas publicamente para treinar seus modelos de IA.
Mark Zuckerberg disse A beira que adicionar conteúdo de IA aos feeds sociais é o próximo “salto lógico” para as plataformas sociais. Mas eu realmente não consigo imaginar uma imagem de IA que seja tão engraçada, tão relevante ou que valha o meu tempo a ponto de compensar todos os problemas potenciais que poderia produzir. Meta passou muito tempo nos convencendo de que, se quisermos usar o Meta AI, podemos encontrá-lo em qualquer lugar – mesmo que não o queiramos lá, como na Pesquisa. Por que precisamos disso em nossos feeds também?
Meu feed do Instagram já está uma bagunça, principalmente entupido de contas aleatórias que não sigo, recomendando conteúdo de que posso gostar. Tenho que clicar em pelo menos três anúncios para acessar uma história de alguém que sigo. E eu aguentei isso, principalmente porque ainda é meu principal centro social online. Mas a experiência geral do usuário ao navegar no Instagram e no Facebook piorou nos últimos 10 anos. Há muito que ultrapassamos seu objetivo original de nos conectar com amigos e familiares, para grande decepção de alguns usuários, inclusive eu. Adicionar conteúdo recomendado gerado por IA à mistura parece ser o último prego no caixão do meu feed do Instagram.
