Recentemente, no Instagram e Facebook tem virado assunto após aparecer diversos anúncios de aplicativos que prometem remover a roupa de mulheres em fotos.
Embora ambas as plataformas proíbam explicitamente nudez, elas veicularam aproximadamente 1.400 anúncios desde dezembro de 2023, sendo 150 no Brasil.
Dessa forma, os anúncios promovem apps supostamente capazes de criar nudes sem o consentimento das pessoas nas imagens.
No entanto, têm despertado preocupações dos usuários devido ao seu conteúdo potencialmente prejudicial e à sua violação das políticas das redes sociais.
Cerca de 15% desses anúncios foram removidos pelas plataformas após serem identificados.
Uma análise dos anúncios revela estratégias sofisticadas para burlar a moderação, como a apresentação de duas imagens geradas por inteligência artificial: uma mostrando a pessoa vestida e outra simulando como ela ficaria sem roupa, com textos sobrepostos para dificultar a detecção automática.
Dessa maneira, esses anúncios direcionam os usuários para aplicativos disponíveis na Play Store e na App Store. Assim, prometem recursos de edição de imagem por IA, sem mencionar explicitamente a capacidade de remover roupas das fotos.
Embora a Meta afirme utilizar inteligência artificial e equipes humanas para remover conteúdo que viole suas regras, a eficácia desses esforços permanece em questão.
Apesar de não levar necessariamente a aplicativos capazes de realizar a promessa dos anúncios, eles atraem indivíduos em busca de maneiras de criar imagens íntimas de terceiros sem consentimento.
Por isso, facilitando práticas prejudiciais alimentadas por avanços na inteligência artificial.
Recentemente, no Brasil, no Rio de Janeiro, mais de 20 alunas foram vítimas de montagens de fotos nuas criadas com IA.
Desse modo, destacando a urgência de abordar essas questões e fortalecer as medidas de segurança e moderação nas plataformas de mídia social.
Imagem de Capa: Redes Sociais
A presença de certos animais em uma quantidade fora do normal dentro de casa pode…
Recentemente, um novo estudo trouxe evidências que indicam que a consciência pode continuar existindo após…
A psicologia das cores é um campo fascinante que estuda como os tons influenciam nosso…
Aviso: Este artigo contém tema sensível, o que pode ser angustiante para alguns leitores. A…
O filme "Vitória", estrelado por Fernanda Montenegro, foi selecionado para abrir o 27º Festival de…
Se você é fã de eventos astronômicos, a Lua de Sangue está prestes a acontecer…