Aumento de crimes sexuais com deepfakes alerta Coreia
Grupos de chat online armazenam imagens alteradas de forma explícita “deepfakes” de alunas, professoras e soldados femininas na Coreia
Nesta segunda-feira (26), a Agência de Polícia Metropolitana de Seul e especialistas da indústria de TI do país identificaram um crescimento significativo de crimes sexuais online cometidos contra jovens menores de idade. 10 adolescentes com 14 anos ou mais foram presos por crimes envolvendo deepfakes apenas em Seul entre janeiro e julho deste ano. O delito cometido na internet visa alterar as fotos pessoais de jovens, principalmente meninas, recortando seus rostos e anexando fotos explícitas de corpos de pessoas desconhecidas, as imagens estariam sendo compartilhadas em grupos de chat, especialmente no Telegram.
Assim como as vítimas, os principais responsáveis pelos crimes são menores de idade, cerca de 75,8% dos criminosos eram adolescentes, segundo dados da Agência Nacional de Polícia. Cerca de 20% eram maiores de idade (acima de 19 anos na Coreia do Sul), ou seja, 95,8% dos suspeitos de criar deepfakes são menores de 20 anos. Mas os crimes também atingem professoras e soldados femininas, a polícia identificou uma sala online com cerca de 900 participantes que consumiam vídeos e imagens alteradas de forma explícita de soldados femininas junto a comentários abusivos e degradantes.
Os suspeitos utilizam inteligência artificial para realizar as alterações de imagens de mulheres. No Telegram, são utilizados bots pagos e gratuitos que alteram instantaneamente as imagens dessa estudantes, professoras e soldadas para conteúdo explícito. O crime sexual também encontrou lucradores, uma das salas de chat oferece as duas primeiras imagens “deepfake” gratuitamente e atualiza para um sistema pago que cobra US$ 0,49 por imagem alterada em criptomoeda. Até 21 de agosto, a sala de chat tinha quase 227.000 usuários online.
Impunidade incentiva a continuidade dos crimes sexuais
Em 17 de abril de 2024, durante a 21ª Assembleia Nacional, uma Lei de regulamentação no uso de Inteligência Artificial IA foi proposta, mas foi descartada antes de atingir o limite para aprovação. A expectativa é que durante a 22ª Assembleia Nacional o conteúdo relacionado ao tema IA seja considerado. A legislação vigente sobre violência sexual de 2020 visa que os autores de crimes sexuais, incluindo deepfakes, recebam pena de cerca de cinco anos de detenção ou multas de até 50 milhões de wons (Aproximadamente 200 mil reais).
Levantamento aponta que desde 2020 até esta segunda-feira (26), foram condenados os autores de 31 casos por já terem realizados outros crimes sexuais, dos 71 identificados e os demais 35 casos foram suspensos. No total, apenas 5 casos foram condenados apenas por realizar deepfake, com liberdade condicional para a maioria dos réus, de acordo com o sistema de decisões online da Suprema Corte. Segundo a Agência Nacional de Polícia, o número de crimes relacionados a deepfakes aumentou de 156 em 2021 para 160 em 2022 e 180 em 2023.
Autoridades se mobilizam para reduzir os incidentes de crimes sexuais
A Agência de Polícia Metropolitana de Seul promete ações e recursos para capturar os autores e distribuidores de conteúdo de deepfake: “Nós vamos fortalecer a educação preventiva para garantir que os estudantes entendam as sérias consequências de comportamentos criminosos e como um registro criminal pode impactar significativamente suas vidas sociais e profissionais“, disse Kim Bong-sik, comissário da Agência de Polícia Metropolitana de Seul. Os especialistas acreditam que a conscientização da população através de campanhas nacionais alertando para as possíveis penalidades possa ser mais efetivo para intimidar os infratores.
Mesmo com o anúncio de medidas preventivas da polícia, os conselhos estudantis de Seul estão se mobilizando para alertar os alunos dos riscos da “deepfake”, incentivando a remover imagens das redes sociais e não publicar novos conteúdos contendo seus rostos a fim de evitar os crimes sexuais. A Comissão de Comunicações da Coreia também está oferecendo apoio para enfrentar essa onda de crimes sexuais online, mas destaca a dificuldade na identificação dos responsáveis devido às diretrizes de privacidade do Telegram.
Em fevereiro deste ano, a carta aberta “Disrupting the Deepfake Supply Chain” (“Desmantelando a Cadeia de Suprimentos dos Deepfakes”), sugeriu a criminalização da pornografia realizada por inteligência artificial com imagens de terceiros. Assinada por mais de 400 executivos da indústria de inteligência artificial global e especialistas do assunto, o texto alerta para a necessidade de regulamentação rigorosa durante o uso de criação de imagens através de inteligência artificial. As recomendações da carta tem o objetivo garantir que as produções de IA não causem danos a sociedade com a criação de desinformação para uso político e inibir a produção de deepfakes.
Foto Destaque: jovens utilizam inteligência artificial IA para criar imagens explícitas “deepfakes” de meninas e mulheres na Coreia do Sul. Reprodução/Cliff Hang
