Infocalipse Now!
A evolução da mídia sintética. Um assunto fascinante e ao mesmo tempo assustador.
Reflexões da semana, por Monica Magalhaes.
“The only way to end deep fakes is to shut down online communication.” Clay Shirky
A inteligência artificial avança a passos largos e conteúdos audiovisuais falsos estão cada vez mais aprimorados, mais rápidos e acessíveis. O aplicativo de "troca de rostos” RefaceAI bateu o recorde de downloads nas lojas online. Quase impossível hoje o olho humano distinguir o que é mídia sintética e o que é real. Alguns aplicativos trazem a proposta como uma brincadeira divertida. Mas é muito mais complexo do que isso. Deep fakes são novas formas de manipulação audiovisual, uma evolução do antigo Photoshop só que com uso de inteligência artificial, produzindo imagens super realistas mas em cenas que nunca estiveram.
Já sabemos o poder que as fake news tem, já vimos o seu resultado em nossa história e as deep fakes vão além, elas colocam em risco a imagem e a reputação de pessoas e instituições. Para governos existe risco até para a democracia.
Mas nem tudo deve ser visto com esse olhar apocalíptico. O olho humano não consegue ver as diferenças e somos alvos fáceis, mas as tecnologias atuais, ou melhor, a própria inteligência artificial consegue detectar o que é real e o que é fake, e ao mesmo tempo que é a vilã é também a salvadora. Para isso, as big techs também precisam se empenhar. Facebook está trabalhando em sua política que irá detectar, indicar e até mesmo bloquear vídeos criados com deep fakes.
Além disso, tem os órgãos regulatórios. Desde Janeiro de 2020 as Fake News e Fake Videos passaram a ser consideradas crime pelos reguladores da internet na China, por exemplo. Deep fakes são considerados perigo de estabilidade social, risco de desordem e ainda atacam imagens pessoais. A empresa de processadores Qualcomm e a startup Truepic também estão trabalhando em meios para que os smartphones possam identificar deep fakes.
Photoshop 2.0
A especialista em deep fakes e ciber segurança Nina Schick explica nestes exemplos abaixo porque não estamos falando simplesmente de uma versão 2.0 de photoshop. Muito além da edição de imagens, existe manipulação de vídeo e até mesmo de voz. No aplicativo Avatarify você cria videos de até 1min apenas com uma foto.
Deepfake audio
No ano passado o primeiro caso de deep fake audio veio a público quando um funcionário ao ouvir a voz do seu chefe solicitando uma transferência de altos valores achou estranho e decidiu confirmar com a empresa de segurança. O áudio era sintético. Da mesma forma que com uma foto apenas é possível criar um vídeo, com alguns segundos de voz é possível criar um diálogo completo replicando a o som da voz rackeada.
Nina diz que, em 2030 - 90% dos videos que temos serão sintéticos, e que teremos um universo diferente criando filmes dentro do TikTok e Youtube ao invés da tradicional Hollywood.
Deep fake, uso comercial.
O ultimo case que utiliza a tecnologia deep fake é o da marca de batatas fritas Lays. Nessa campanha você pode gravar um video com ninguém menos do que Lionel Messi, que cria através da inteligência artificial uma mensagem especial personalizada. Se seu filho que curte futebol e é fã do Messi, crie algo personalizado e envie para ele. Conseguem imaginar o poder disso para marcas e celebridades?
Clique na imagem para você conhecer a campanha.
A provocação que deixo hoje para vocês é: Ainda que controlada e positiva pode a realidade ter um fim?
Dica de conteúdo da semana
A apresentação de Nina sobre seu livro de Deep fakes na Wired UK é a dica da semana:
5’ no Futuro - last week
Se ainda não conseguiu abrir o último email com o conteúdo da semana passada, falamos sobre: Adeus cookies! O fim de uma era para publicidade.
Uma boa semana pra você e até a próxima 2-feira.
be fearless,
Conecte-se comigo