Deepfakes: O que são e como funcionam? A IA está a distorcer a realidade: entenda os perigos!
A Inteligência Artificial (daqui para frente como IA) já está presente em quase tudo, incluindo os nossos smartphones. Precisamos de ter alguns cuidados, principalmente com os deepfakes.
Crédito da imagem: Kaspersky
Quem nunca instalou uma app que prometia (e cumpriu) mudar o nosso visual, criar um vídeo a partir da nossa foto? Se você instalou uma dessas apps, certamente não terá lido nada de contratos ou termos de serviços, nem se preocupou com o que poderão fazer com as suas fotos pessoais. Você quis apenas experimentar aquela brincadeira e, quiçá, partilhá-la nas redes sociais.
Não vou referir aqui nenhuma aplicação, mas todos nós já conhecemos várias, incluindo chatbots (que são aquelas aplicações com quem conversámos, com um “robô”). Contudo, se essa aplicação puder receber ficheiros (🇧🇷arquivos) que você enviar, como fotos e vídeos, esses mesmos passam a ser propriedade dessa empresa que desenvolveu essa aplicação.
Pois, bem, agora imagine que essa empresa tenha “outras” intenções não menos boas.
Antes de prosseguir é importante saber o que são os deepfakes. A seguir, partilharemos alguns perigos que resultam da partilha de conteúdo pessoal.
O que são os deepfakes?
Primeiramente, é necessário e importante definir esse termo novo de Informática. Os deepfakes são vídeos, áudios ou imagens manipuladas de forma tão realista que se tornam extremamente difíceis de distinguir da realidade. São criados a partir de uma técnica avançada de inteligência artificial chamada “aprendizado profundo” (deep learning), daí o nome “deepfake“.
Por outras palavras, a IA é treinada para replicar a voz e o rosto de uma pessoa num outro vídeo ou áudio, substituindo a pessoa original por uma réplica convincente.
Como funcionam?
Por detrás dos deepfakes, há todo um processo de aprendizado artificial da máquina com o objectivo de imitar padrões humanos. Usa milhares de imagens ou gravações analisando-as, para perceber como alguém fala, os seus gestos ou até a expressão das emoções. Depois de recolhidas essas informações, esse tipo de inteligência artificial usa-as para gerar novas versões falsas, mas realistas de modo tão incrível que dá para confundir.
PERIGOS DA IA E CHATBOTS
1. Violação de Privacidade e Roubo de Identidade
- Criação de perfis falsos:
A IA pode usar as suas fotos para criar perfis falsos online, potencialmente utilizados para actividades fraudulentas, como golpes, extorsão ou difamação.
- Reconstrução de identidade:
Com o número suficiente de fotos e informações disponíveis, a IA pode reconstruir uma identidade digital completa, incluindo histórico pessoal, hábitos e associações sociais. Os fins podem ser os menos convencionais.
- Vazamento de dados:
As suas fotos e vídeos são armazenados nos grandes centros de dados, utilizados por essas empresas, que estão vulneráveis a vazamento de dados devido a falhas de segurança ou ataques cibernéticos. Esses vazamentos podem expor informações pessoais sensíveis.
2. Uso não autorizado e manipulação de imagem
- Criação de deepfakes:
A IA pode usar as suas fotos para criar deepfakes, vídeos ou áudios falsos que o mostram a dizer ou fazer coisas que nunca fez.
Isso pode trazer, em alguns casos, consequências devastadoras para a sua reputação pessoal e profissional.
- Modificação de imagens:
Com o recurso à IA, as suas fotos podem ser alteradas por terceiros sem o seu consentimento, resultando em modificações ofensivas, degradantes ou até mesmo difamatórias.
- Uso comercial não autorizado:
As suas fotos podem ser usadas para fins comerciais (publicidade, marketing, etc.), sem a sua permissão e sem que você receba qualquer compensação.
3. Riscos específicos com Chatbots
Vale lembrar que os chatbots são as aplicações já muito conhecidas, como o Gemini da Google (presente em todos os Android’s), Copilot da Microsoft (presente nas aplicações da Microsoft e no Windows), entre outros como o ChatGPT da OpenAI, que são os mais conhecidos. Mas, há mais!
Os riscos específicos ao partilhar as fotos com esses chatbots são:
- Partilha de informações sensíveis:
Ao interagir com chatbots de IA, você pode inadvertidamente partilhar informações pessoais sensíveis (como dados financeiros, informações médicas ou segredos profissionais) que podem ser armazenadas e usadas por terceiros.
- Engenharia social:
Os chatbots podem usar as informações colectadas das suas fotos e conversas para realizar ataques de engenharia social, tentando convencê-lo a fornecer mais informações ou realizar acções que comprometam a sua segurança.
AS SUAS FOTOS CORREM PERIGO?
Sim, de facto, correm mesmo perigo em todos os aspectos mencionados acima. A proliferação de ferramentas de IA e chatbots aumenta exponencialmente a probabilidade de as suas fotos serem usadas de forma inadequada ou prejudicial.
O que pode ser feito para se proteger?
Seja selectivo
Pense duas vezes antes de partilhar as suas fotos online, especialmente em plataformas de IA e chatbots.
Leia os termos de serviço
Entenda como as plataformas usam as suas fotos e quais são os seus direitos.
Esteja atento a deepfakes
Aprenda a identificar deepfakes e não partilhe informações que possam ser usadas para criá-los.
Denuncie abusos
Se você descobrir que as suas fotos foram usadas de forma inadequada, denuncie à plataforma e às autoridades competentes.
Só 0,1% das pessoas são capazes de reconhecer deepfakes
Segundo um estudo levado a cabo pela iProov, somente 0,1% das pessoas conseguem detectar com precisão as falsificações geradas pela inteligência artificial.
Portanto, estamos cada vez mais vulneráveis à desinformação e manipulação. É um alerta para que não caia nessa de “deepfakes“.
E você, já partilhou fotos suas ou vídeos em plataformas que utilizam IA para gerar conteúdo? O que você acha disso? Partilhe nos comentários a sua opinião.
