Recentemente, no Instagram e Facebook tem virado assunto após aparecer diversos anúncios de aplicativos que prometem remover a roupa de mulheres em fotos.
Embora ambas as plataformas proíbam explicitamente nudez, elas veicularam aproximadamente 1.400 anúncios desde dezembro de 2023, sendo 150 no Brasil.
Dessa forma, os anúncios promovem apps supostamente capazes de criar nudes sem o consentimento das pessoas nas imagens.
No entanto, têm despertado preocupações dos usuários devido ao seu conteúdo potencialmente prejudicial e à sua violação das políticas das redes sociais.
Cerca de 15% desses anúncios foram removidos pelas plataformas após serem identificados.
Uma análise dos anúncios revela estratégias sofisticadas para burlar a moderação, como a apresentação de duas imagens geradas por inteligência artificial: uma mostrando a pessoa vestida e outra simulando como ela ficaria sem roupa, com textos sobrepostos para dificultar a detecção automática.
Dessa maneira, esses anúncios direcionam os usuários para aplicativos disponíveis na Play Store e na App Store. Assim, prometem recursos de edição de imagem por IA, sem mencionar explicitamente a capacidade de remover roupas das fotos.
Embora a Meta afirme utilizar inteligência artificial e equipes humanas para remover conteúdo que viole suas regras, a eficácia desses esforços permanece em questão.
Apesar de não levar necessariamente a aplicativos capazes de realizar a promessa dos anúncios, eles atraem indivíduos em busca de maneiras de criar imagens íntimas de terceiros sem consentimento.
Por isso, facilitando práticas prejudiciais alimentadas por avanços na inteligência artificial.
Recentemente, no Brasil, no Rio de Janeiro, mais de 20 alunas foram vítimas de montagens de fotos nuas criadas com IA.
Desse modo, destacando a urgência de abordar essas questões e fortalecer as medidas de segurança e moderação nas plataformas de mídia social.
Imagem de Capa: Redes Sociais
Recentemente, uma nova onda de ciberataques está utilizando estratégias sofisticadas para enganar usuários curiosos e…
Recentemente, o Entertainment Weekly surpreendeu a todos ao revelar que a aguardada segunda temporada de…
Crescer com uma mãe tóxica pode deixar marcas profundas que persistem na idade adulta. Algumas…
O WhatsApp, uma das plataformas de mensagens mais populares do mundo, está desenvolvendo uma nova…
Quantas vezes você abriu uma nova garrafa de óleo, retirou aquela tampinha plástica e a…
Se você adora histórias reais cheias de tensão e reviravoltas, a Netflix tem dois documentários…