O Tribunal Superior Eleitoral (TSE) reafirmou a proibição do uso de deepfakes nas campanhas eleitorais, enfatizando que, para serem considerados ilícitos, esses conteúdos devem apresentar um nível de realismo que os torne indistinguíveis da realidade. Este tema se torna ainda mais relevante em um cenário onde a evolução da inteligência artificial (IA) torna cada vez mais desafiadora a distinção entre o falso e o autêntico.
Durante uma reunião do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, especialistas da OpenAI e da Meta levantaram preocupações sobre os riscos que os deepfakes representam no ambiente jurídico. Com a tecnologia de IA generativa avançando rapidamente, a verificação da autenticidade de provas pode se tornar um verdadeiro desafio para os tribunais.
Shira Anderson, consultora da OpenAI, destacou que as imagens geradas por IA estão se tornando cada vez mais sofisticadas, o que levanta dúvidas sobre a capacidade futura de identificação de fraudes visuais. Apesar das discussões em andamento, o número de casos envolvendo deepfakes nos tribunais ainda é baixo, com apenas 15 casos reportados entre 931 juízes consultados em uma pesquisa recente.
O juiz Jesse Furman, que preside o comitê, observou que, embora existam previsões acadêmicas sobre o aumento de casos relacionados a deepfakes, a realidade ainda não corresponde a essas expectativas. No entanto, especialistas alertam que esse risco é iminente e que a identificação de provas manipuladas por IA se tornará uma tarefa cada vez mais complicada.
De acordo com Devin Norder, da Meta, a produção de conteúdos por meio de IA avançada é não apenas acessível, mas também rápida e de baixo custo, tornando a disseminação de deepfakes uma preocupação crescente. Para lidar com essa questão, novas legislações na Califórnia e na União Europeia já exigem a inclusão de marcas d’água em conteúdos digitais, embora não exista um método universal que garanta a eficácia dessa identificação.
A situação atual sugere que, à medida que a tecnologia avança, a luta contra as fraudes digitais se tornará um desafio constante, exigindo inovação e adaptação tanto por parte das instituições jurídicas quanto da sociedade como um todo. O futuro da integridade das provas em tribunal pode depender de soluções que ainda estão em desenvolvimento.
Crédito da imagem: Foto: Pixabay — feworave (pixabay)
