Naver e Kakao se esforçam para combater disseminação de deepfake na Coreia
O aumento de conteúdos pornográficos criados por deepfake está levando os operadores de plataformas coreanas a intensificar sua vigilância
Devido à rápida expansão da pornografia deepfake explícita, ilegal e não consensual na Coreia, os operadores de plataformas coreanas precisaram reforçar sua segurança. O Naver, mecanismo de busca mais popular do país, anunciou na última quarta-feira (28), que está utilizando o Clova GreenEye 2.0, uma solução de análise de imagens baseada em tecnologia de visão de IA, para identificar conteúdos prejudiciais e/ou sexualmente explícitos em suas plataformas.
Embora a solução não tenha sido criada com esse fim, ela monitora todo o conteúdo carregado no portal, espaços de blog e comunidade, excluindo automaticamente qualquer item identificado como inapropriado. A inteligência artificial por trás dessa ferramenta classifica imagens e conteúdos em quatro categorias: obsceno, adulto, pornográfico e normal, utilizando como base de dados informações fornecidas pela Korea Communication Standards Commission. Ela compara os conteúdos com milhões de outros em sua memória para determinar se estão de acordo com os padrões permitidos.
Lançado originalmente em 2017 como um programa de uso interno para sua própria plataforma, a solução foi atualizada em 2022 para ser comercializada para outras empresas. Uma das maiores empresas de tecnologia da Coreia, a companhia lidera o campo de IA generativa no país com o Hyper Clova X, mas adota uma abordagem mais cautelosa em relação à geração de imagens.
Recentemente, a empresa anunciou uma atualização do Hyper Clova X, que permite ao chatbot de IA reconhecer imagens e responder a perguntas dos usuários. Seus últimos avanços demonstram o desenvolvimento de uma tecnologia que pode vir a competir com o Dall-E da ChatGPT. No entanto, a empresa ainda está ponderando sobre o lançamento de um serviço semelhante para seu chatbot.
Outro desenvolvimento confirmado é do Clova Speech X, o programa de síntese de voz é capaz de recriar vozes com base em entradas de dados de voz. Porém, a empresa reiterou que apenas desenvolveu a tecnologia e não está planejando lançar um serviço baseado nela em breve. “Quando se trata de geração de imagem e voz por IA, a segurança do usuário é uma questão maior do que a tecnologia em si. Só consideraremos lançar serviços com essas tecnologias depois que encontrarmos soluções adequadas para lidar com os riscos de uso indevido, e quando soubermos que esses recursos são lucrativos em termos de negócios“, declarou a Naver para o The Korea Herald.
Kakao também se esforça para combater disseminação de deepfake na Coreia
Se juntando aos esforços, a Kakao introduziu um “sinal falso” em seu sistema antiabuso para detectar automaticamente contas suspeitas no aplicativo de mensagens KakaoTalk. O objetivo é evitar que usuários caiam em ataques de phishing, porém existem limitações nos seus esforços de monitoramento da empresa, visto que conversas entre indivíduos e em salas de bate-papo abertas são completamente protegidas da vigilância da empresa.
“Não podemos escanear todos os chats para descobrir se indivíduos estão enviando conteúdo inapropriado para outros e impedi-los de enviar o conteúdo com antecedência. Isso seria uma violação de privacidade, mas estamos cientes da seriedade do conteúdo obsceno, incluindo imagens deepfake, e estamos trabalhando com as autoridades quando tais crimes são relatados“, declarou a empresa para o The Korea Herald
Mantendo bastante discrição, no último mês, a Kakao Brain encerrou seu serviço de IA generativa que criava imagens mediante solicitação do usuário. Embora o fechamento do serviço fizesse parte de uma estratégia de gestão empresarial, a Kakao ressaltou que também impedia os usuários de criar conteúdo explícito. Além disso, a empresa destacou que não tem planos para lançar esses serviços em breve e se um dia o fizer, garantirão previamente soluções de filtragem e um sistema antiabuso para proteger os usuários de qualquer conteúdo explícito.
Foto destaque: Kakao e Naver são as principais plataformas tecnológicas da Coreia do Sul. Reprodução/Business of Fashion.
