Trabalhadores revisam pedidos bizarros e abusivos na ferramenta de edição de imagens da Microsoft
Contratados por empresas terceirizadas estão avaliando as imagens e instruções enviadas por usuários do Copilot, a ferramenta de inteligência artificial da Microsoft, para julgar a qualidade técnica das edições. Um relatório da 404 Media revela que muitos dos pedidos contêm conteúdo perturbador, incluindo sexualização não consensual e manipulações envolvendo crianças.
Segundo o Malwarebytes, esses revisores recebem a foto original, a instrução dada pelo usuário e duas versões geradas pela IA, para avaliação. Contudo, não cabe a eles filtrar ou reportar o conteúdo impróprio, tarefa que fica a cargo do sistema e políticas da Microsoft.
Conteúdos polêmicos e abuso explícito nas solicitações
Os relatos mostraram pedidos com pedido para diminuir os comprimentos de saias, aumentar partes do corpo e posicionar as pessoas em poses sexuais, em muitos casos sem consentimento das pessoas retratadas. Imagens como fotos de upskirt e conteúdo ligado a fetiches envolvendo personagens infantis foram mencionadas, assim como pedidos para criar imagens de personalidades públicas em situações delicadas, como a cantora Ariana Grande representada com anorexia.
Essas informações evidenciam a dificuldade de controlar e impedir que ferramentas de IA sejam usadas para montagem de imagens abusivas e falsas, especialmente quando a moderação depende de avaliações humanas focadas apenas nos aspectos técnicos.
Política de privacidade e uso dos dados pelos sistemas de IA
De acordo com a política divulgada pela Microsoft, as conversas e uploads no Copilot podem ser armazenados por até 18 meses e usados para treinar modelos de IA, embora os usuários possam optar por excluir suas conversas. Contudo, a possibilidade de bloquear revisões humanas específicas, como as da avaliação de imagens, não é clara, o que levanta debates sobre a privacidade e o consentimento no uso dos dados sob o serviço da companhia.
Além disso, a Microsoft ressaltou que a versão atualizada do Copilot não utiliza dados de prompts, respostas ou arquivos enviados para treinar modelos fundamentais, deixando ainda dúvidas sobre o monitoramento humano dessas interações.
Desafios para a segurança e ética do uso da IA
Especialistas e funcionários da Microsoft já alertaram para falhas que permitiam a criação de conteúdos impróprios na ferramenta DALL-E 3 integrada ao Copilot e para a resistência da empresa em suspender certos recursos para corrigir essas vulnerabilidades.
Casos como esse indicam os limites atuais das salvaguardas em inteligências artificiais aplicadas a imagens, e a dependência de revisores humanos para julgar a qualidade técnica, mas não o teor moral ou legal do conteúdo, gera preocupação sobre a eficácia do controle e a proteção dos envolvidos.
Outras companhias, como a OpenAI, também contratam funcionários para revisar interações de IA, apontando para um padrão do setor na gestão e monitoramento dos sistemas inteligentes.
Para entender melhor o uso de dados pessoais em treinamentos de IA e as medidas que os usuários podem adotar, o Malwarebytes oferece um guia explicativo detalhado, destacando a crescente importância da transparência nesse campo.
