Paralelos

Como a inteligência artificial pode detectar – e criar – notícias falsas

“Quando Mark Zuckerberg disse ao Congresso que o Facebook usaria inteligência artificial para detectar notícias falsas postadas no site de mídia social, ele não foi particularmente específico sobre o que isso significa. Dado o meu próprio trabalho usando análise de imagem e vídeo , sugiro que a empresa tenha cuidado.

Apesar de algumas falhas potenciais básicas, a IA pode ser uma ferramenta útil para identificar propaganda online – mas também pode ser surpreendentemente boa para criar material enganoso.”


Este artigo – aqui reproduzido na íntegra – é de autoria da professora de Sistemas de Informação da Universidade do Estado de Michigan, .* A publicação original é “How artificial intelligence can detect – and create – fake news” publicado dia 3 de maio de 2018 no The Conversation. A tradução é livre e contém adaptações sem ferir a mensagem original. 


“Os pesquisadores já sabem que as notícias falsas online se espalham muito mais rapidamente e mais amplamente do que notícias reais. Minha pesquisa também descobriu que postagens on-line com informações médicas falsas obtêm mais visualizações, comentários e curtidas do que aquelas com conteúdo médico preciso.

Em um mundo on-line em que os espectadores têm pouca atenção e estão saturados de opções de conteúdo, muitas vezes parece que as informações falsas são mais atraentes para os espectadores.

O problema está piorando: em 2022, as pessoas nas economias desenvolvidas poderão encontrar mais notícias falsas do que informações reais.

Isso poderia trazer um fenômeno chamado ” vertigem da realidade ” – em que os computadores podem gerar um conteúdo tão convincente que pessoas comuns podem ter dificuldade em descobrir o que é verdade mais.

Exemplo que sinaliza para isto é o vídeo abaixo no qual ex-presidente Barack Obama “xinga” o presidente Donald Trump.

Detectando falsidade

Algoritmos de aprendizado de máquina, um tipo de inteligência artificial, têm sido bem sucedidos há décadas combatendo e-mails de spam, analisando o texto das mensagens e determinando a probabilidade de uma mensagem específica ser uma comunicação real de uma pessoa real – ou uma solicitação distribuída em massa para produtos farmacêuticos ou reivindicação de uma fortuna perdida há muito tempo .

Com base nesse tipo de análise de texto na luta contra spam, os sistemas de inteligência artificial podem avaliar se o texto de uma postagem, ou um título, se comparado ao conteúdo real de um artigo que alguém está compartilhando on-line.

Outro método poderia examinar artigos semelhantes para ver se outras mídias de notícias têm fatos diferentes. Sistemas semelhantes podem identificar contas específicas e sites de origem que espalham notícias falsas.

No entanto, esses métodos assumem que as pessoas que divulgam notícias falsas não mudam suas abordagens. Eles geralmente mudam de tática, manipulando o conteúdo de postagens falsas em esforços para torná-las mais autênticas.

Usar a IA para avaliar informações também pode expor – e amplificar – certos preconceitos na sociedade.

Isso pode estar relacionado a gênero, origem racial ou estereótipos de vizinhança. Pode até ter consequências políticas, potencialmente restringindo a expressão de pontos de vista particulares . Por exemplo, o YouTube cortou a publicidade de certos tipos de canais de vídeo, o que custou dinheiro aos seus criadores.

O contexto também é fundamental. Os significados das palavras podem mudar com o tempo. E a mesma palavra pode significar coisas diferentes em sites liberais e conservadores. Por exemplo, um post com os termos “WikiLeaks” e “DNC” em um site mais liberal pode ser mais provável de ser notícia, enquanto em um site conservador poderia se referir a um conjunto particular de teorias da conspiração .

Usando AI para fazer notícias falsas

O maior desafio, no entanto, de usar a IA para detectar notícias falsas é que ela coloca a tecnologia em uma corrida armamentista consigo mesma . Sistemas de aprendizado de máquina já estão provando assustadoramente capazes de criar o que está sendo chamado de “deepfakes” – fotos e vídeos que realisticamente substituem o rosto de uma pessoa com outra, para fazer parecer que, por exemplo, uma celebridade foi fotografada em uma pose reveladora ou pública. A figura está dizendo coisas que ele nunca diria .

Até mesmo os aplicativos de smartphones são capazes de fazer esse tipo de substituição – o que torna essa tecnologia disponível para praticamente qualquer pessoa, mesmo sem as habilidades de edição de vídeo no nível de Hollywood.

Pesquisadores já estão se preparando para usar a inteligência artificial para identificar essas falsificações criadas pela IA. Por exemplo, técnicas para ampliação de vídeo podem detectar mudanças no pulso humano que determinariam se uma pessoa em um vídeo é real ou gerada por computador. Mas tanto os falsificadores quanto os detectores falsos vão melhorar .

Algumas falsificações poderiam se tornar tão sofisticadas que se tornariam muito difíceis de rebater ou rejeitar – ao contrário das gerações anteriores de falsificações, que usavam uma linguagem simples e faziam alegações facilmente contestáveis.

startup-photos.jpg

A inteligência humana é a chave real

A melhor maneira de combater a disseminação de notícias falsas pode depender das pessoas. As conseqüências sociais da notícia falsa – maior polarização política, aumento do partidarismo e erosão da confiança na mídia e no governo – são significativas.

Se mais pessoas soubessem que as apostas eram tão altas, elas poderiam ser mais cautelosas com as informações, especialmente se elas são mais baseadas emocionalmente, porque essa é uma maneira eficaz de chamar a atenção das pessoas.

Quando alguém vê um post indigno, essa pessoa faria melhor se investigasse as informações, em vez de compartilhá-las imediatamente.

O ato de compartilhar também confere credibilidade a um post: quando outras pessoas o veem, registram que ele foi compartilhado por alguém que conhecem e presumivelmente confiam e são menos propensos a perceber se a fonte original é questionável.

Sites de mídia social como o YouTube e o Facebook podem decidir rotular seu conteúdo, mostrando claramente se um item que se propõe ser notícia é verificado por uma fonte confiável.

Zuckerberg disse ao Congresso que quer mobilizar a “comunidade” de usuários do Facebook para direcionar os algoritmos de sua empresa. O Facebook poderia realizar esforços de verificação em massa. A Wikipedia também oferece um modelo de voluntários dedicados que rastreiam e verificam informações.

O Facebook poderia usar suas parcerias com organizações de notícias e voluntários para treinar IA, aprimorando continuamente o sistema para responder às mudanças dos propagandistas em tópicos e táticas. Isso não iria pegar todas as notícias postadas online, mas tornaria mais fácil para um grande número de pessoas contar fatos ao invés de notícias falsas. Isso poderia reduzir as chances de que histórias ficcionais e enganosas se tornassem populares on-line.

De forma reconfortante, as pessoas que têm alguma exposição a notícias precisas são melhores em distinguir entre informações reais e falsas. A chave é ter certeza de que pelo menos parte do que as pessoas veem online é, de fato, verdade.


*Anjana Susarla não trabalha para, consulta, possui ações ou recebe financiamento de qualquer empresa ou organização que se beneficiaria com este artigo, e não revelou afiliações relevantes além de sua nomeação acadêmica.

Anúncios

0 comentário em “Como a inteligência artificial pode detectar – e criar – notícias falsas

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google+

Você está comentando utilizando sua conta Google+. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s

%d blogueiros gostam disto: