A invasão de vídeos feitos com IA para ‘hipnotizar’ crianças no YouTube: ‘Pode impactar pelo resto da vida’

Pesquisadores identificaram que vídeos de baixa qualidade são sugeridos pelo algoritmo da plataforma e que criadores não avisam sobre o uso de tecnologia.

Luiz Fernando Toledo - Da BBC News Brasil em Londres

Um urso panda reencontra um antigo cuidador e reage com surpresa, quase como se fosse um ser humano. A imagem é extremamente realista.

Um avatar de Jesus aparece em uma praia construindo estátuas de si mesmo.

Músicas infantis que não têm refrão claro, trazem letras incompreensíveis e misturam trechos em mais de um idioma.

Personagens que mudam de nome, de voz e até de aparência ao longo da história, sem qualquer explicação.

Estes são alguns dos vídeos aparentemente criados com inteligência artificial e sugeridos pelo algoritmo do YouTube, inclusive após buscas relacionadas ao universo infantil.

Em um teste da BBC News Brasil, bastaram cerca de 15 minutos navegando pelos vídeos curtos da plataforma para que clipes desse tipo aparecessem. A busca inicial havia sido por temas como os jogos Roblox, Minecraft e vídeos de animais.

Produzidos em escala e replicados por diferentes canais, muitos desses conteúdos acumulam dezenas ou centenas de milhares de visualizações.

Criadores chegam a recomendar o nicho infantil como uma oportunidade de negócio e afirmam ser possível obter renda com esses vídeos.

Já especialistas ouvidos pela BBC News Brasil alertam que esse material pode levar as crianças a confundir realidade e ficção e afetar de forma significativa e permanente sua capacidade de atenção e seu desenvolvimento cognitivo e social.

O que explica essa invasão de vídeos gerados por IA no YouTube, o maior serviço de streaming do mundo?

Um dos fatores é econômico, segundo pesquisadores ouvidos pela reportagem.

O YouTube, por sua vez, diz priorizar o combate a conteúdos de IA de baixa qualidade e adotar regras mais rígidas para vídeos destinados a crianças.

Como são os vídeos infantis feitos com IA

Ainda não é possível dimensionar com clareza o tamanho e alcance deste fenômeno.

A reportagem tentou estimar a frequência com que vídeos feitos com IA aparecem para o usuário, com base no alerta visual exibido pelo YouTube para conteúdos deste tipo.

A maioria, porém, não apresentava qualquer aviso, mesmo quando havia fortes indícios do uso da tecnologia, como vozes que não correspondiam aos personagens, desenhos que mudavam de forma entre uma cena e outra e gestos ou movimentos incomuns.

Pesquisadores ouvidos pela BBC News Brasil afirmam que o YouTube não identifica automaticamente vídeos feitos com IA e que muitos criadores não informam quando recorrem à tecnologia.

Uma análise do jornal The New York Times feita manualmente e também com uma ferramenta de detecção ajuda a ilustrar a frequência com que esses vídeos aparecem.

Em uma sessão de 15 minutos realizada após a exibição de um vídeo do canal infantil CoComelon, mais de 40% dos vídeos assistidos pareciam conter imagens geradas por IA.

Mesmo com dificuldades na coleta de dados, um estudo conduzido por André Mintz, professor do Departamento de Comunicação Social da Universidade Federal de Minas Gerais (UFMG), e pela estudante de graduação em Cinema de Animação e Artes Digitais Juno Bozzi buscou identificar a presença desse tipo de conteúdo em vídeos infantis em português e inglês no YouTube.

A pesquisa partiu de uma base com cerca de 17 mil vídeos encontrados por meio de buscas com palavras-chave relacionadas à inteligência artificial e conteúdo infantil.

Em seguida, os pesquisadores aplicaram novos filtros para identificar apenas vídeos efetivamente voltados às crianças.

Os vídeos infantis gerados por IA analisados apresentavam diferentes níveis de uso desta tecnologia. Alguns pareciam ter sido produzidos quase integralmente desta forma. Outros incorporavam apenas alguns elementos, como cenários das animações.

A maior parte dos conteúdos era musical, com imagens geradas por IA acompanhadas de canções infantis. O estudo também encontrou adaptações de histórias, vídeos educativos, como lições sobre o alfabeto, e conteúdos religiosos.

Uma categoria que chamou a atenção dos pesquisadores foi a dos vídeos de “transformação”, nos quais personagens de desenhos animados são recriados por IA em versões com aparência de crianças. A pesquisa aponta que esses vídeos tendem a repetir imagens genéricas e estereotipadas.

“O que chama a atenção é um certo desprezo pelo espectador infantil, de colocar qualquer coisa e confiar que a criança vai aceitar”, diz o professor André Mintz à BBC News Brasil.

‘Crianças pequenas não conseguem distinguir fantasia de realidade’

Rachel Franz, diretora do programa Young Children Thrive Offline (Crianças pequenas se desenvolvem melhor longe das telas, em tradução livre) da organização americana Fairplay, explica que esse tipo de vídeo se enquadra no chamado “AI slop“

Essa expressão é usada para definir vídeos de baixa qualidade, produzidos em massa com o uso de softwares de inteligência artificial.

Segundo Franz, a preocupação é maior em relação aos efeitos disso nas crianças pequenas, em um período da vida em que o cérebro ainda passa por intenso desenvolvimento.

“O cérebro das crianças atinge cerca de 90% do tamanho adulto até os 5 anos, e o que elas encontram nesse período molda seu desenvolvimento e pode impactá-las pelo resto da vida”, afirma Franz.

“Crianças pequenas não conseguem distinguir fantasia de realidade. Assistir a AI slop pode condicionar o cérebro delas a acreditar que algo é real quando não é.”

Franz afirma que muitos desses vídeos são produzidos para capturar a atenção infantil, não para ensinar.

Segundo ela, a sucessão de imagens confusas também pode sobrecarregar a quantidade de informações que uma criança consegue processar de uma só vez.

“Quando o cérebro é sobrecarregado com informações, a criança não consegue aprender tão bem quanto ao vivenciar situações reais, no seu próprio ritmo e usando todos os sentidos.”

Ela também relaciona o consumo prolongado desses vídeos ao tempo que deixa de ser dedicado a atividades como brincar, dormir e interagir com outras pessoas.

“Vídeos hipnotizantes de músicas infantis gerados por IA, por exemplo, podem moldar o cérebro das crianças no longo prazo, afetando sua capacidade de atenção, sua resiliência e sua habilidade de regular as emoções mais tarde na vida.”

Os possíveis efeitos do consumo deste tipo de vídeo gerado por IA já são percebidos em atendimentos, segundo Telma Pantano, fonoaudióloga e psicopedagoga do Instituto de Psiquiatria do Hospital das Clínicas da Faculdade de Medicina da Universidade de São Paulo (IPq/HCFMUSP).

“Há crianças que estão vindo com muitos medos, com muita dificuldade de definir o que acontece e o que não acontece.”

Pantano afirma que a maturação das áreas pré-frontais do cérebro, relacionadas à capacidade crítica, à autorregulação e ao automonitoramento, começa por volta dos 6 anos e se estende até a vida adulta.

Segundo ela, a distinção entre realidade e fantasia começa a se consolidar por volta dos 7 ou 8 anos, enquanto habilidades como tomada de decisão e resolução de problemas se desenvolvem mais tarde.

“Até os 10 anos, é uma idade de muito risco, porque a criança ainda não sabe separar a realidade da fantasia e não tem capacidade de tomada de decisão, organização e planejamento para resolver problemas.”

Para a especialista, há ainda um custo no contato constante com imagens prontas, que exigem pouco da imaginação infantil.

“Sabe aquela sensação de quando a gente vai ver um filme depois de ler o livro? Normalmente não gostamos do filme porque ele vai contra a nossa imagem mental”, diz.

“O que estamos fazendo com essa construção de vídeos? Estamos permitindo que crianças e adolescentes entrem em contato com a imagem sem antes fazer essa construção mental. As imagens vêm prontas, e a criatividade fica bastante restrita.”

‘Quanto menor a criança, mais atrativo aquilo fica’

Pantano afirma que também não se pode esperar que as próprias crianças identifiquem e rejeitem vídeos de baixa qualidade.

Conteúdos com cores, movimentos e mudanças rápidas podem capturar a atenção mesmo quando não apresentam uma narrativa coerente ou informação confiável, diz.

“Mesmo conteúdos sem significado, sem base científica ou sem conhecimento vão atrair a criança da mesma forma. E, quanto menor a criança, mais atrativo aquilo fica.”

André Mintz avalia que esse tipo de vídeo se aproveita da dificuldade de muitas famílias em controlar o consumo de conteúdo infantil online.

“Geralmente, quando você vê crianças que assistem muito conteúdo online, é essa situação do pai ou da mãe sem tempo para ficar com a criança, precisando entretê-la enquanto cuida da casa, trabalha ou faz outra coisa.”

Para ele, o problema não está apenas na existência dos vídeos, mas na forma como esse tipo de conteúdo se encaixa no modelo das plataformas.

“Se tem gente assistindo, para o YouTube está bom. Vai ser recomendado, vai aparecer”, diz Mintz.

Rachel Franz concorda que o impacto sobre as crianças é agravado pelo próprio modo de funcionamento das plataformas.

“Elas são projetadas para fisgar as crianças e mantê-las engajadas pelo maior tempo possível. Elas usam táticas deliberadas, como reprodução automática e recomendações algorítmicas, para alimentar as crianças com um vídeo atrás do outro”, afirma.

“Quando acrescentamos AI slop, que hipnotiza ainda mais as crianças, essa se torna uma batalha perdida. Isso não apenas impacta o desenvolvimento infantil, como torna impossível exercer o papel de pai ou mãe quando a própria tela luta contra você.”

YouTube diz que combater vídeos de IA de baixa qualidade é prioridade

O YouTube afirma que, embora seja permitido conteúdo gerado por IA, a plataforma tem padrões mais rígidos para o conteúdo voltado para espectadores mais jovens.

“Combater o conteúdo de baixa qualidade gerado por IA é uma prioridade máxima para nós, e isso inclui esforços contínuos para remover conteúdo de IA marcado como ‘feito para crianças’ quando ele não atende aos nossos princípios de qualidade”, diz a plataforma em nota à BBC News Brasil.

A empresa afirma que canais que usam IA continuam qualificados para monetização, ou seja, para exibir propaganda e serem pagos por isso, “desde que o produto final seja uma criação original que adicione uma perspectiva autêntica, siga nossas diretrizes de comunidade e de monetização, e divulgue adequadamente quando o conteúdo for alterado ou sintético”.

Em uma entrevista ao canal Creator Inside, em julho, o vice-presidente de confiança e segurança do YouTube, Matt Halprin, disse que são considerados problemáticos vídeos em que o conteúdo seja genéricos ou repetitivo, que busquem manipular as emoções dos espectadores ou criem peronsagems com IA para abordar temas considerados mais sensíveis, como finanças, questões legais ou saúde.

Para João Victor Archegas, coordenador de direito e tecnologia do Instituto de Tecnologia e Sociedade do Rio (ITS Rio), é positivo que o YouTube sinalize ao público o que caracteriza como um conteúdo que não seja autêntico, e que isso possa impedir sua monetização.

Isso permite que os criadores de conteúdo compreendam melhor os limites estabelecidos pela plataforma.

Para uma empresa que opera uma das maiores máquinas publicitárias do mundo, ressalta Archegas, é importante dar sinais claros a parceiros e anunciantes de que há uma preocupação com o uso dessa tecnologia, e que há alguma forma de controle pela própria plataforma.

Mas Archegas avalia que há uma contradição: o YouTube incentiva ativamente a adoção de ferramentas de IA para a criação de vídeos, enquanto tenta frear o “AI slop” (conteúdo de baixa qualidade) que essas mesmas tecnologias permitem escalar.

Isso tem, na prática, um efeito limitante sobre a capacidade do YouTube de conter a disseminação destes vídeos.

“A plataforma segue tendo o desafio imenso de identificar conteúdos gerados por IA e atuar quando eles são identificados”, diz Archegas.

“Essas novas categorias podem ajudar o moderador a entender o que a plataforma considera prioritário, mas não dizem o que, de fato, o YouTube classifica como conteúdo gerado por IA ou quais são os parâmetros técnicos usados nessa moderação.”