IA na narração de histórias de crianças vítimas – uma nova tendência controvertida

O uso de tecnologias de IA (Inteligência Artificial)(https://pt.wikipedia.org/wiki/Intelig%C3%AAncia_artificial ‘IA’) para reviver vozes de crianças que foram vítimas de crimes tem se tornado, recentemente, um fenômeno que desperta atenção e controvérsia na internet. Este artigo se propõe a discutir essa tendência, suas implicações sociais e éticas, e o posicionamento das plataformas digitais frente a ela.

Imagem de IA sendo usada para dar a crianças mortas e desaparecidas uma voz que não pediram

Como a IA é aplicada na narrativa de crimes

A aplicação de IA nesse cenário permite a criação de conteúdo(https://canalcienciascriminais.com.br/tag/crimes/ ‘crimes’) que retrata, de maneira realista, as vozes e aparências de crianças vítimas de crimes. Essas recriações são publicadas em plataformas digitais como o TikTok e o YouTube, onde atraem grande número de visualizações.

Esses vídeos utilizam técnicas de IA para construir representações gráficas e sonoras de crianças desaparecidas ou mortas, muitas vezes em um estilo de arte que lembra animes ou quadrinhos. A voz dessas crianças é uma imitação gerada por computador, não se baseando necessariamente na voz real das vítimas.

O debate sobre o uso de IA na narração de crimes

A utilização da IA para retratar vítimas de crimes tem gerado debates acalorados na sociedade. Há quem defenda essa prática, argumentando que ela ajuda a chamar a atenção para casos que de outra forma passariam despercebidos. No entanto, existem críticos que acreditam que esses vídeos podem disseminar informações errôneas e causar sofrimento aos familiares das vítimas.

De acordo com o pesquisador Felix M. Simon, do Instituto Oxford de Internet, esse tipo de conteúdo tem potencial para retraumatizar pessoas que já estão vivenciando um luto. Ele argumenta que o uso da IA para imitar vozes de pessoas falecidas pode ser considerado uma violação do princípio de que os mortos devem ser tratados com dignidade.

A posição das plataformas digitais

Em resposta à controvérsia em torno desses vídeos, algumas plataformas digitais têm tomado medidas para controlar a disseminação desse tipo de conteúdo. O TikTok, por exemplo, já removeu diversos vídeos que retratam histórias de vítimas de crimes utilizando IA.

O YouTube, por outro lado, ainda não se manifestou claramente sobre o assunto. Existem muitos vídeos desse tipo ainda disponíveis na plataforma, o que tem gerado críticas por parte de usuários e especialistas.

Imagem de vídeos no YouTube que usam IA para recriar vozes de crianças vítimas de crimes

Conclusão

O uso de IA na narração de histórias de crianças vítimas de crimes é uma tendência que tem gerado muita controvérsia. É importante que essa discussão continue sendo feita, para que se possa chegar a um consenso sobre até que ponto essa prática é ética e aceitável. As plataformas digitais têm um papel importante nesse debate, pois são elas que determinam em grande parte o que é permitido ou não em seu espaço.

Leia também:

– Como a tecnologia está transformando a justiça criminal(https://canalcienciascriminais.com.br/tecnologia-justica-criminal/)

– Os impactos da IA na sociedade(https://canalcienciascriminais.com.br/impactos-ia-sociedade/)

Para informações adicionais, acesse o site