• Home
  • Notícias
  • Pages
  • Deepfakes superam ataques cibernéticos como principal uso malicioso de IA, aponta DeepMind – Exame Notícias

Deepfakes superam ataques cibernéticos como principal uso malicioso de IA, aponta DeepMind – Exame Notícias

Acesse o melhor conteúdo do seu dia, o único que você precisa.
ESG


Invest


Guias de ConteúdoGuias de Conteúdo


Eventos ExameEventos Exame


Canais EspeciaisCanais Especiais


Demis Hassabis, líder do Deep Mind: a meta mais comum dos agentes que utilizam IA generativa de forma maliciosa é influenciar a opinião pública (Sarmento Matos/Getty Images)
Repórter
Publicado em 25 de junho de 2024 às 12h01.
O uso de inteligência artificial (IA) para criar deepfakes que imitam políticos e celebridades é mais prevalente do que o uso da IA para auxiliar ataques cibernéticos, conforme revela a primeira pesquisa da divisão DeepMind do Google sobre os usos maliciosos mais comuns dessa tecnologia avançada.
O estudo indica que a criação de imagens, vídeos e áudios falsos, mas realistas, de pessoas é quase duas vezes mais comum do que o segundo maior uso indevido de ferramentas de IA generativa: a falsificação de informações usando ferramentas baseadas em texto, como chatbots, para gerar desinformação online.
A meta mais comum dos agentes que utilizam IA generativa de forma maliciosa é influenciar a opinião pública. A análise, conduzida em conjunto com a unidade de pesquisa e desenvolvimento Jigsaw do Google, descobriu que esse objetivo representava 27% dos casos, aumentando os temores sobre como os deepfakes podem influenciar eleições globalmente neste ano.
Há uma preocupação generalizada de que, apesar dos esforços das plataformas de mídia social para rotular ou remover esse tipo de conteúdo, o público possa não reconhecer essas falsificações e a disseminação desse material possa influenciar os eleitores.
Este estudo é o primeiro do gênero realizado pela DeepMind, unidade de IA do Google liderada Demis Hassabis, e busca quantificar os riscos do uso de ferramentas de IA generativa, que as maiores empresas de tecnologia do mundo estão lançando para o público em busca de lucros substanciais.
À medida que produtos gerativos como o ChatGPT da OpenAI e o Gemini do Google se tornam mais amplamente utilizados, as empresas de IA estão começando a monitorar o fluxo de desinformação e outros conteúdos potencialmente prejudiciais ou antiéticos criados por suas ferramentas.
Em maio, a OpenAI divulgou uma pesquisa revelando que operações vinculadas a Rússia, China, Irã e Israel estavam usando suas ferramentas para criar e espalhar desinformação.
“Havia muita preocupação compreensível em torno de ataques cibernéticos sofisticados facilitados por essas ferramentas,” disse ao Finacial Times Nahema Marchal, autora principal do estudo e pesquisadora do Google DeepMind. “Enquanto isso, o que vimos foram usos indevidos relativamente comuns da IA generativa, como deepfakes que podem passar despercebidos com mais facilidade.”
Pesquisadores do Google DeepMind e da Jigsaw analisaram cerca de 200 incidentes de uso indevido entre janeiro de 2023 e março de 2024, coletados de plataformas de mídia social como X e Reddit, além de blogs online e relatos da mídia sobre uso indevido.
A segunda motivação mais comum para o uso indevido era gerar lucro, seja oferecendo serviços para criar deepfakes, incluindo a geração de imagens nuas de pessoas reais, ou usando IA generativa para criar grandes quantidades de conteúdo, como artigos de notícias falsas.
A pesquisa concluiu que a maioria dos incidentes utiliza ferramentas facilmente acessíveis, "requerendo mínima expertise técnica", permitindo que mais agentes mal-intencionados possam usar a IA generativa de forma indevida.
A pesquisa do Google DeepMind influenciará como a empresa melhora suas avaliações para testar a segurança dos modelos e espera-se que também afete a forma como seus concorrentes e outras partes interessadas veem a manifestação dos danos causados.
Conheça os principais laboratórios de IA do mundo
1/7 (O MIT Computer Science and Artificial Intelligence Laboratory (CSAIL), em Cambridge, Massachusetts, desenvolveu o sistema de diagnóstico de câncer de mama baseado em IA, reduzindo erros em 15%.)
2/7 (O Google AI, com sede em Mountain View, Califórnia, criou o AlphaGo, o primeiro programa de IA a derrotar um campeão mundial de Go, revolucionando a pesquisa em aprendizado profundo.)
3/7 A sign in the reception area at the Google DeepMind headquarters in London, UK, on Tuesday, May 7, 2024. Google DeepMind has released a new version of AlphaFold which broke ground predicting notoriously tricky protein structures that puts the artificial intelligence software on a path to make breakthroughs in biology research and create a business that its chief executive says could be worth north of $100 billion. Photographer: Jose Sarmento Matos/Bloomberg via Getty Images (Localizado em Londres, Reino Unido, o DeepMind Lab é famoso pelo desenvolvimento do AlphaFold, um programa de IA que previu estruturas de proteínas com precisão sem precedentes, impactando a biologia molecular.)
4/7 (O IBM Watson Research Center, em Yorktown Heights, Nova York, desenvolveu a IA Watson, que venceu campeões humanos no programa de TV Jeopardy!, demonstrando avanços significativos em processamento de linguagem natural.)
5/7 (O Baidu Research Lab, em Pequim, China, é conhecido por seu sistema de reconhecimento de voz Deep Speech, que alcançou uma precisão de 97% na transcrição de áudio, superando as tecnologias anteriores.)
6/7 (O Berkeley Artificial Intelligence Research (BAIR) Lab, na Universidade da Califórnia, em Berkeley, criou algoritmos avançados de robótica, incluindo o Dex-Net, que melhorou a precisão da manipulação robótica em 99%.)
7/7 (O centro da Meta AI Research SuperCluster (RSC) tem um dos supercomputadores de IA mais rápidos da atualidade. Com ele, a empresa desenvolveu o sistema de tradução automática baseado em IA que suporta mais de 100 idiomas, melhorando a comunicação global em plataformas sociais da empresa.)
Plataforma da TechWolf atrai gigantes como SAP e ServiceNow, focando em aprimorar identificação de habilidades internas nas empresas
As informações foram apresentadas na abertura da 1ª Exposição Mundial da Indústria de Inteligência de 2024 da China, realizada na manhã de 20 de junho, no Centro Nacional de Exposições, em Tianjin
Empresa oferece ferramentas adicionais para educadores e lança funcionalidade de leitura Read Along globalmente
Levantamento do IT Forum revela que, apesar do potencial transformador, a IA ainda enfrenta obstáculos significativos para adoção plena nas empresas brasileiras
01

exame no whatsapp
Receba as noticias da Exame no seu WhatsApp

source

Compartilhe:

Picture of Marcelo Faria - Redação Kriahtiva

Marcelo Faria - Redação Kriahtiva

Marcelo Faria, aos 27 anos, é a mente criativa por trás da produção de textos da Kriahtiva. Com uma paixão inigualável pelo universo online, seus textos são faróis de inspiração, navegando pelos mares do marketing digital com inovação e expertise. Em cada artigo, ele transforma conceitos complexos em leituras envolventes, guiando os leitores por uma jornada única de descobertas no vasto mundo do marketing.

Sobre o autor

Picture of Marcelo Faria - Redação Kriahtiva

Marcelo Faria - Redação Kriahtiva

Marcelo Faria, aos 27 anos, é a mente criativa por trás da produção de textos da Kriahtiva. Com uma paixão inigualável pelo universo online, seus textos são faróis de inspiração, navegando pelos mares do marketing digital com inovação e expertise. Em cada artigo, ele transforma conceitos complexos em leituras envolventes, guiando os leitores por uma jornada única de descobertas no vasto mundo do marketing.

Veja também

mais acessados

On Key

Related Posts

Deepfakes superam ataques cibernéticos como principal uso malicioso de IA, aponta DeepMind – Exame Notícias