Conecte-se conosco

Tecnologia

A IA E AS DEEPFAKES por Gilberto Bruno

Publicado

em

Compartilhar

A evolução tecnológica e os seus pontos positivos e/ou negativos:

A tecnologia e as ferramentas de comunicação, avançam a cada novo dia se revelam grandes facilitadores no dia a dia das pessoas e nas relações sociais. De certa forma, desde a implementação da Internet no mundo e o seu “boom” no Brasil, muitas mudanças aconteceram e certamente, muitas outras ainda estão por vir.

Para que se tenha uma ideia, apenas em relação ao uso da Internet no Brasil em 2023, tivemos um aumento de acessibilidade de 84% da população brasileira (ou 156 milhões de pessoas) acessaram a rede. Entre os mais ricos, o índice de uso da internet é de 97%, e, entre os mais pobres, é de 69%. São números que saltam aos olhos e revelam o quanto as ferramentas tecnologicas estão se incorporando na vida das pessoas.

De um lado, uma série de beneficios são colocados à disposição das pessoas, como o comércio eletrônico, o ensino a distância, as cidades inteligentes, a comunicação por meio de video reuniões, video chamadas, mensagens de audio e de texto e tantos outros mecanismos, que servem para racionalizar as rotinas diárias.

Note-se que no Brasil, estudos apontam que existem 1,2 smartphones por habitante, totalizando 249 milhoes de celulares inteligentes, agregando-se os notbooks e os tablets, são 364 milhões de dispositivos portáteis, ou 1,7 por habitante, revelando pois, um caminho sem volta e que ainda tem muito por evoluir.

De outro lado, pontos negativos são observados pelo uso indevido das ferramentas de tecnologia, levando a ocorrencia de atos contrarios a moral e aos bons costumes, que enveredam para o terreno dos crimes virtuais, neste que de certa forma é, um mundo paralelo e os cybercriminosos, estão se aprimorando para enganar as pessoas, causando um sem número de prejuízos.

Ainda assim, cada vez mais, encontramos no nosso relacionamento familiar e profissional, pessoas que fazem uso das redes sociais e/ou de ferramentas de comunicação como o WhatsApp, que já foram vítimas ao menos uma vez, de uma tentativa de golpe.

Dentre os mais comuns, observamos o da mudança do número do WhatsApp com a foto da pessoa para pedir transferências de valores em dinheiro; o da criação de páginas “espelho” no Facebook, perfis falsos com informações, fotografias e outros dados das pessoas, com a finalidade de obter os contatos da rede de relacionamento das pessoas para obter vantagens indevidas; os de sequestros de contas no Instagram para comercializar produtos que não existem e/ou para obter vantagens financeiras para a restituição aos seus titulares, enfim, tentam de todas as formas e por todos os meios ludibriar as pessoas.

E é nesse esteio, que os tempos atuais ao revelarem o crescimento no desenvolvimento e no uso indiscriminado da IA (inteligência artificial), nos trazem algumas reflexões e preocupações, pois começam a surgir novas modalidades de golpes por meio desta ferramenta, que demandam a necessidade de muita atenção por parte de toda a sociedade.

O uso inocente do “deepfake” e o avançar para o ingresso na seara da prática de crimes:

O termo em inglês mistura a técnica “deep learning” com a palavra “fake”, significando o emprego da Inteligência Artificial para criar uma situação falsa. Essa técnica é usada, muitas vezes, para produzir memes ou brincadeiras inocentes com pessoas do próprio círculo de amizade.

Já a palavra “deepfake”, é termo relacionado a farsas e manipulações, sendo o resultado de edições de aplicativos e ferramentas digitais. Por meio deles, na edição de vídeos, podem ser colocados o rosto de pessoas em vídeos falsos, fazer a voz de alguém específico, dizer coisas que essa pessoa jamais falou e etc. Criando uma aparente veracidade quanto a identidade da pessoa, como se estivéssemos diante de um “clone”, de uma réplica, de um “irmão gêmeo” criado no ambiente virtual.

Criar esses tipos de vídeos pode gerar problemas sérios e gravíssimos, especialmente quando se fala da prática de atos criminosos. Recentemente dentre as polêmicas com o uso da inteligência artificial, dois casos de “deepfake”, tiveram repercussão mundial e trouxeram muita preocupação na sociedade.

O primeiro deles, foi a criação por meio da IA de reunião falsa com o diretor financeiro de uma empresa multinacional, que transferiu o equivalente a R$ 129 milhões a criminosos. Golpistas simularam uma videochamada com executivo da empresa usando imagens públicas, convencendo-o a realizar 15 transferências para cinco contas bancárias de Hong Kong.

No Brasil, uma videochamada feita para uma advogada aposentada, supostamente de sua filha (também advogada) com pedido de uma transferência bancária, trouxe a lume uma grande preocupação decorrente da criação de vídeos falsos para fins criminosos.

Esses conteúdos são fruto da chamada Rede Generativa Adversaria (uma técnica de aprendizado de máquina), produzidos por meio softwares que são capazes de recriar a voz de uma pessoa, substituir o rosto em vídeos, sincronizar movimentos labiais e expressões faciais que em um primeiro momento induzem a se tratar de uma pessoa de verdade, capaz de conversar com o interlocutor.

No caso da Advogada Karla Pinto, que recebeu uma chamada de vídeo em seu celular da sua filha, a também Advogada Hanna Gomes, onde lhe fora feito um pedido de transferência via pix de R$ 600,00, três fatores a fizeram desconfiar da situação: a) na chamada de vídeo a sua filha estava com uma blusa diferente da que havia saído de casa horas antes; b) a conta que para qual o dinheiro deveria ser transferido seria de uma amiga da filha e a dela; c) a filha não chamou a mãe pelo apelido carinhoso que comumente é usado entre elas.

Ao identificar essas situações a mãe, com inteligência e perspicácia, decidiu conferir se realmente era a filha que aparecia no vídeo e lhe perguntou qual era o nome do cachorro da família e do vizinho que resida em frente a casa delas. Feitas as perguntas a chamada foi desligada.

A tendência é que esses casos comecem a se tornar frequentes, e por via de consequência, os interlocutores precisam estar bem atentos, para evitar que venham a ser vítimas dos cibercriminosos, pois esses estão acordados vinte e quatro horas por dia, navegando no ambiente virtual, para ludibriar as pessoas inocentes.

Dos cuidados com as chamadas de vídeo recebidas:

No caso das chamadas de vídeo fake, realizadas em tempo real como deste episódio envolvendo mãe e filha, a criação é um pouco mais complexa. Para isso é necessário equipamentos de informática mais potentes, programas e tecnologias mais avançadas, que podem não estar facilmente disponíveis para todos. Todavia, na medida em que a tecnologia evolui, ampliam-se as possibilidades de acesso e evidentemente, os riscos de que sejam praticados cada vez mais, golpes destinados a gerar a obtenção de vantagens indevidas.

Assim, em tempos atuais, não é impossível que seja criado um personagem que possa falar e agir como uma pessoa real, valendo-se da voz e da imagem de alguém, utilizando-se desta tecnologia para fazer vídeo chamadas, onde se tem a sensação de que está conversando com uma pessoal real, mas na realidade é uma versão criada por meio da IA (inteligência artificial).

Diferenciar se um conteúdo é verdadeiro e real, ou se foi criado por meio do uso de tecnologias avançadas é um grande desafio especialmente para as pessoas que poderão ser escolhidas como possíveis vítimas de golpes, como é o caso de pessoas idosas por exemplo.

Contudo, alguns cuidados precisam ser adotados, algumas características desses vídeos e imagens podem auxiliar na verificação se são reais ou não.

A ausência de naturalidade na movimentação da pessoa, pode ser um indicativo para que sejam levantadas suspeitas, as imprecisões da iluminação e até mesmo a falta de sincronismo.

É de fundamental importância, que em caso de dúvidas, as pessoas busquem comprovar a identidade da pessoa, formular perguntas que somente esta pessoa tenha capacidade de responder, particularidades por exemplo, como apelidos, preferências, hábitos alimentares etc., procurando extrair o máximo de informações e certamente, tentar um contato com a pessoa, por outro meio de comunicação.

Em resumo, ainda que as ferramentas de tecnologia tenham inúmeros benefícios racionalizando o dia das pessoas, o crescimento no uso e até mesmo a evolução da Inteligência Artificial (IA), por aproximar a ficção, o imaginário do que é efetivamente real, devem ser observados atentamente, com muita parcimônia, com muita cautela, com comedimento, pois em um simples piscar de olhos, um “deepfake”, poderá induzir a vítima a erro, trazendo-lhe um prejuízo imensurável.

Gilberto Marques Bruno – Advogado especialista em Direito Constitucional, Direito Empresarial, Direito Tributário, Direito Público e Direito sobre Internet e outras tecnologias. Sócio fundador de Marques Bruno Advogados Associados, Professor, Palestrante, Autor de vários artigos e obras jurídicas veiculadas no Brasil e no exterior. É Conselheiro deliberativo e membro do CDV – Conselho do Varejo da Associação Comercial de São Paulo.

Copyright © 2023 Portal Orbisnews | Direção Geral Jornalista Fausto Camunha | Todos os artigos são de responsabilidade de seus autores.