Como a invasão dos conteúdos de IA muda a interação online

Recentemente, a Meta anunciou a sua nova versão do seu app de IA: o Vibes, pensado para qualquer um poder criar e compartilhar vídeos curtos gerados por IA de forma ainda mais rápida e fácil. Além da criação de vídeos de IA, o Vibes também é um novo feed de compartilhamento de conteúdo. Como explicou a Forbes, a Meta está transformando a criação de vídeos, que antes exigia softwares complexos e tempo, em algo acessível e imediato, bastando um comando ou um toque para alterar o estilo visual de um clipe.

Além da atualização da Meta, o Sora (da Open AI), e o Veo 3 (do Google) são exemplos de apps voltados para essa criação ultra rápida de vídeos de IA. O que os apps têm em comum é o foco na criação ágil de conteúdo compartilhável, com a ideia de transformar o conteúdo produzido por IA em algo mais desejável e com potencial para se tornar viral. Nessas plataformas, a IA não é o meio para produzir o entretenimento, ela é o entretenimento em si. A criação de um feed próprio para os vídeos de IA reforça isso.

Por que isso nos chamou atenção?

Automaticamente, quando escutamos a palavra "fácil", tendemos a ver essa transformação na produção de conteúdo como algo positivo. Afinal, é isso que queremos: mais gente podendo produzir e mais conteúdo fácil de ser feito, certo? Sim, mas assim como no surgimento de qualquer nova tecnologia, é na interação prática com as pessoas e com o meio que vamos desvendando as consequências mais complexas que vêm junto.

Alguns dos conteúdos ultra rápidos e fáceis produzidos por IA estão sendo batizados por especialistas como “AI Slop", ou desleixo da IA. O AI Slop é como uma evolução do spam: um conteúdo de baixa qualidade, muitas vezes sem sentido ou até mesmo assustador e bizarro, fácil de criar, e que por isso mesmo, pode sobrecarregar os feeds das redes sociais. O nome do app da Meta, "Vibes", parece ironicamente traduzir parte desses conteúdos que não dizem muita coisa, apenas transmitem uma vibe, um sentimento vago.

O spam sempre existiu no consumo de conteúdo online. Porém, dada a facilidade e rapidez para serem feitos agora, os conteúdos de AI Slop estão crescendo rapidamente e invadindo os feeds de redes como o Instagram, TikTok e Youtube. Além da estética, eles têm em comum o teor do conteúdo em si que, pela estranheza, atrai views e compartilhamentos, como os vídeos de gatos, cachorros e bebês sofrendo. Em resposta, algumas plataformas estão tentando barrar a monetização desses conteúdos: o Youtube bloqueou a monetização em canais que postam conteúdo “repetitivo e inautêntico".

E o consumo nisso tudo?

Como comentamos, muitas vezes, só podemos perceber o impacto de uma nova tecnologia após anos de interação entre homem e máquina. Mas no caso atual, a aceleração dos conteúdos também nos permite perceber as consequências de forma mais rápida.

Como explicou Gustavo Zaniboni, fundador da Ananque para o Consumidor Moderno, as ferramentas ampliam o alcance de golpes de extorsão, fraudes em sistemas de autenticação e manipulação da opinião pública. Para ele, o risco de engano cresce em situações de estresse ou baixa atenção, como no caso de idosos recebendo imagens falsas de familiares em perigo.

Já para sistemas automáticos, o perigo está na ausência de camadas adicionais de verificação. Para empresas que lidam com qualquer tipo de camada de segurança, a detecção de deepfakes é um desafio cada vez mais necessário. Mas mais importante e mais complexo que isso, é educar os consumidores a identificar um conteúdo falso. Estando cada vez mais cercados pela mescla entre conteúdos reais e irreais nas redes sociais, a diferenciação entre o real e o sintético fica mais difícil.

Introduzir incerteza na forma de informações falsas de IA pode levar as pessoas a desacreditar informações legítimas ou, pior, a se desligarem completamente delas, como explicou o Snopes. Quando as pessoas sentem que não podem mais confiar no que vêem, uma das opções é parar de tentar. É mais fácil não se importar do que gastar a energia mental necessária para verificar cada imagem ou história.

Tudo isso mexe com os fatores que conhecíamos até aqui para produção de confiança numa comunicação. Como falamos no nosso último estudo, a influência “invisível” das inteligências artificiais redefine como desejamos, comparamos e decidimos. Dada essa nova e fragmentada realidade, como construímos confiança no que é real?

‍

Até a próxima mordida. 🫦
Por Veronica Portugal

‍