• Home
  • Notícias
  • Pages
  • Inteligência Artificial: fotos de crianças alagoanas são usadas sem consentimento, diz ONG – TNH1

Inteligência Artificial: fotos de crianças alagoanas são usadas sem consentimento, diz ONG – TNH1

BENEDITO BENTES
Homem invade escola para furtar durante a madrugada e é preso, em Maceió
Maceió
Vídeo: jiboia é capturada em quintal após matar galinha, no bairro Santos Dumont
investimentos
Teconologia e infraestrutura integram avanços na mobilidade urbana de Maceió
susto no trajeto
Vídeo: porta de avião se abre durante voo de Recife a Maceió
Maceió
Homem se perde após sair de casa e pede ajuda para retornar para sua residência
parte alta
Vídeo: homem é flagrado furtando tapete de grama na Av. Durval de Góes Monteiro
Alagoas
Inmet alerta para chuvas e risco de alagamento em Maceió e outras 51 cidades de Alagoas
Economia
‘Taxa da blusinha’ gera expectativa positiva para o varejo alagoano
hilda francine
Alagoana que se jogou de 5º andar de prédio em Salvador pede ajuda para voltar pra casa
previsão
Aviso meteorológico alerta para chuvas em Maceió e outras regiões
mais de 3 mil
Número de desaparecidos em Alagoas supera habitantes de município do Agreste
veja previsão pra hoje
Pegou o casaco? Maceió foi a capital mais fria do Nordeste dessa terça-feira (11)
BENEDITO BENTES
Homem invade escola para furtar durante a madrugada e é preso, em Maceió
Trânsito
Carro envolvido em acidente que matou mulher em Santa Amélia bateu a 100 Km/h
Polícia
Mulher acusada de homicídio em Alagoas é presa em São Paulo
no antônio lins
Saiba quem são as vítimas do duplo homicídio na frente de creche em Rio Largo
EM ATALAIA
Foragido há quase 10 anos, homem é preso suspeito de estuprar a própria filha adolescente
crime em abril
Polícia prende jovem por homicídio após desavença no trabalho, em São Miguel dos Campos
Pessoas & Negócios
Trajetória de sucesso: empresário José Guido completa 92 anos
Pessoas & Negócios
Josimere Pereira, Diretora da Chama Publicidade, faz idade nova
Pessoas & Negócios
Águida Feitosa, coordenadora de Marketing do Cesmac, faz idade nova
Pessoas & Negócios
Livro "5 Décadas", que conta história da Flulook e de seu fundador, Marcio Nutels, é lançado em Maceió
Pessoas & Negócios
Rede de óticas Flulook lança livro comemorativo para celebrar 5 décadas
Pessoas & Negócios
Deivid Silva, responsável pelo marketing da Casa Vieira, faz idade nova
Artigos
Pausa para a Leitura: O lugar do adeus
Artigos
Pausa para a Leitura: Inspirações de Páscoa
Artigos
Pausa para a leitura: 8 de março
Artigos
Pausa para a leitura: A luta do luto
Artigos
Pausa para a Leitura: Os caminhos
Artigos
Pausa para a Leitura: Protagonize-se
O relatório divulgado pela ONG Human Rights Watch, nesta segunda-feira (10), aponta que fotos de crianças e adolescentes brasileiros são usadas para criar ferramentas de inteligência artificial sem o conhecimento ou consentimento deles. Ao todo, foram encontradas 170 fotos de crianças de dez estados brasileiros: Alagoas, Bahia, Ceará, Mato Grosso do Sul, Minas Gerais, Paraná, Rio de Janeiro, Rio Grande do Sul, Santa Catarina e São Paulo.
A análise concluiu que o LAION-5B, um conjunto de dados usado para treinar ferramentas populares de IA e construído a partir da raspagem de informações de grande parte da internet, possui links para fotos identificáveis de crianças.
Além das imagens, a plataforma também disponibiliza os nomes de algumas crianças nas legendas ou na URL onde a imagem está armazenada. A investigação também concluiu que, em muitos casos, as identidades são rastreáveis, com informações sobre quando e onde a criança estava no momento que a foto foi tirada.
Entre os exemplos, a organização diz que uma das fotos modificadas mostra uma menina de dois anos com a irmã recém-nascida. A legenda da imagem detalha o nome das crianças, a localização do hospital e a data em que a bebê nasceu.
Conforme citado acina, foram encontradas 170 fotos de crianças de dez estados brasileiros: Alagoas, Bahia, Ceará, Mato Grosso do Sul, Minas Gerais, Paraná, Rio de Janeiro, Rio Grande do Sul, Santa Catarina e São Paulo.
Porém, a organização afirma que esse número seja uma pequena amostra do problema, uma vez que o LAION-5B possui 5,85 bilhões de imagens e legendas e a Human Rights Watch analisou 0,0001% do total.
As imagens mostram bebês recém-nascidos, crianças pequenas soprando velas, dançando em casa, estudantes em meio a apresentação de dança e adolescentes celebrando o Carnaval. Há imagens de diferentes datas e fotos de até dez anos antes da criação do LAION-5B.
A pesquisa foi conduzida por Hye Jung Han, pesquisadora de direitos da criança e tecnologia da ONG. Ela afirma que decidiu investigar as plataformas de IA após descobrir que mais de 80 jovens em diferentes estados do Brasil foram alvo de assédio sexual após terem fotos modificadas na deepfake por colegas de escola.
A partir das buscas, Han notou que as imagens usadas pelas ferramentas não são de bancos de imagens ou ligadas a celebridades famosas. A pesquisadora afirma que as imagens encontradas nas ferramentas foram publicadas em sites de escolas, blogs pessoais e canais do YouTube. “Ficou muito claro que nem as crianças nem os pais tinham ideia que suas fotos estavam sendo usadas fora de contexto”, diz Han, que afirma ter entrado em contato com a empresa após descobrir a presença das imagens de menores de 18 anos. A plataforma, conta a pesquisadora, deletou as imagens, porém não especificou como vai atuar para evitar que outras fotografias com o mesmo propósito voltem a ser baixadas.
A análise demonstra que este tipo de uso das imagens promove dois problemas: as consequências individuais -já que, segundo a ONG, os modelos de IA, inclusive aqueles treinados no LAION-5B, são notórios por vazar informações privadas e podem reproduzir cópias idênticas do material no qual foram treinados; e a criação de clones convincentes de qualquer criança com base em uma ou mais fotos, uma vez que a plataforma é treinada para modificar esse tipo de imagem.
Há o perigo, alerta a Human Rights Watch, de que ferramentas treinadas consigam gerar imagens explícitas de crianças a partir de fotos inofensivas, além de manipulação de vídeos para que elas digam ou façam coisas que, na vida real, nunca disseram ou fizeram.
“Atualmente, sob a lei brasileira, a privacidade de dados das crianças não tem proteção. É preciso ter algum tipo de legislação que realmente proteja as imagens de serem usadas”, diz a pesquisadora.
A ONG relembra que o Conanda (Conselho Nacional dos Direitos da Criança e do Adolescente), em abril deste ano, publicou resolução que orienta que o conselho e o Ministério dos Direitos Humanos e Cidadania desenvolvam uma política nacional para proteger os direitos das crianças e dos adolescentes no ambiente digital. “Eles deveriam cumprir a resolução”, diz a organização.
A Humans Rights Watch afirma que a nova política deveria proibir a raspagem de dados pessoais de crianças para sistemas de IA e também a replicação digital não consensual ou a manipulação de imagens de menores de 18 anos. A ONG ainda destaca que o governo deveria fornecer mecanismos às crianças que sofrerem danos para buscar justiça e reparação significativa.
A pesquisadora resume que nenhuma famíla, criança ou adolescente deveria ser responsável pela proteção no ambiente digital. “O governo deveria garantir que todos protejam as crianças online”, diz ela. “Eu deveria poder postar uma imagem sem medo de que alguém horrível venha e uses essas fotos de forma errada. A culpa não é minha.”
smartphones
novos recursos

source

Compartilhe:

Picture of Marcelo Faria - Redação Kriahtiva

Marcelo Faria - Redação Kriahtiva

Marcelo Faria, aos 27 anos, é a mente criativa por trás da produção de textos da Kriahtiva. Com uma paixão inigualável pelo universo online, seus textos são faróis de inspiração, navegando pelos mares do marketing digital com inovação e expertise. Em cada artigo, ele transforma conceitos complexos em leituras envolventes, guiando os leitores por uma jornada única de descobertas no vasto mundo do marketing.

Sobre o autor

Picture of Marcelo Faria - Redação Kriahtiva

Marcelo Faria - Redação Kriahtiva

Marcelo Faria, aos 27 anos, é a mente criativa por trás da produção de textos da Kriahtiva. Com uma paixão inigualável pelo universo online, seus textos são faróis de inspiração, navegando pelos mares do marketing digital com inovação e expertise. Em cada artigo, ele transforma conceitos complexos em leituras envolventes, guiando os leitores por uma jornada única de descobertas no vasto mundo do marketing.

Veja também

mais acessados

On Key

Related Posts

Inteligência Artificial: fotos de crianças alagoanas são usadas sem consentimento, diz ONG – TNH1