Influenciadores denunciam perfis de IA que ‘clonam’ vídeos para lucrar na internet
Criadores de conteúdo têm denunciado uma nova modalidade de uso indevido de suas identidades na internet.
Perfis criados por Inteligência Artificial (IA) estão utilizando seus vídeos como comandos (os famosos prompts) para replicar movimentos, trejeitos e até mesmo os móveis de suas casas.
Tudo isso sem autorização e com propósito comercial.
Funciona assim: esses “avatares de IA” lucram com a venda de produtos em ferramentas de comércio online integradas às redes, como o TikTok Shop, comercializando roupas, calçados, relógios… até “chicletes energéticos”.
Na grande maioria dos casos relatados até agora, os criadores dos perfis de IA não clonam o rosto exato dos influenciadores digitais.
Em vez disso, utilizam vídeos deles que já existem e estão públicos nas redes para capturar os movimentos, os trejeitos corporais e, principalmente, a intimidade dos criadores com a câmera.
‘Usaram a minha casa’
O influenciador digital Lucas Simões Lima, conhecido nas redes como Lusca (tem 2,5 milhões de seguidores no Tik Tok criando conteúdo sobre estilo de vida e humor), foi um dos que identificou a fraude.
Ele começou a notar semelhanças entre os vídeos postados originalmente por ele e as publicações de um perfil batizado como “Lucas Barroso”.
“Comecei achando estranhas as semelhanças com os meus movimentos e os meus traços. Depois vi que era o cenário do meu apartamento que estava sendo usado ali”, relata Lucas, em entrevista ao g1.
Do lado esquerdo, o influenciador Luscas. Do lado de direito, Lucas Barroso, um avatar feito por Inteligência Artificial.
Redes sociais
O “clone digital”, àquela altura, já fazia sucesso. Acumulava cerca de 330 mil curtidas no TikTok e publicava, em grande medida, vídeos provando e vendendo itens variados.
Interagia com os seguidores como uma pessoa real: respondia a dúvidas do público detalhando supostas medidas corporais, como seu peso e altura.
O realismo da tecnologia era tão sofisticado que, nos comentários das publicações, muitos usuários nem se davam conta de que se tratava de um robô e chegavam a demonstrar interesse romântico na figura digital. “Você vem junto?”, brincava um dos seguidores.
Outro detalhe que expõe a falcatrua digital por trás da página é que o “rosto” do avatar era trocado com certa frequência. Em publicações mais antigas, era possível notar que o personagem utilizava uma “fisionomia” completamente diferente da atual para anunciar os mesmos produtos.
Roupas, calçados, bolsas, relógios… alguns dos produtos vendidos por “Lucas Barroso”, influenciador criado por IA, no Tik Tok.
Redes sociais
A prática de criar um avatar de IA que se passa por uma pessoa real para comercializar produtos, contudo, é explicitamente proibida pelas diretrizes do TikTok (mais abaixo, veja o que é permitido ou não dentro do aplicativo).
Até a última terça-feira (9), o influenciador de inteligência artificial somava 46 produtos listados na aba do TikTok Shop. A plataforma não informava, no entanto, quantos desses itens chegaram a ser comercializados.
O perfil seguiu ativo até a quarta-feira (10).
Experiência ‘Black Mirror’
Lima conta que descobriu o perfil do seu “clone de IA” por acaso enquanto navegava pelo TikTok e, inicialmente, sequer percebeu que se tratava de Inteligência Artificial.
“Depois que fiz um vídeo expondo o que estava acontecendo recebi comentários de seguidores que já tinham visto os anúncios dele e acharam que era eu vendendo. Fui pesquisar sobre leis e ainda não existem tantas, é algo muito novo até para os meus advogados”, desabafa o criador de conteúdo, que classificou a experiência como “muito Black Mirror”.
O influenciador tentou denunciar a conta pelos mecanismos da própria plataforma, sinalizando que o perfil estaria se passando por ele, mas nenhuma medida foi tomada até o “sumiço” da conta.
Caso não é isolado
A exposição de Lima encorajou outros criadores de conteúdo a relatarem situações idênticas.
A influenciadora Júlia Barni (3 milhões de seguidores no Instagram e 10 milhões no TikTok com vídeos voltados para a dança) revelou que também teve conteúdos seus sendo utilizados nesse mercado paralelo.
Segundo ela, aplicativos de IA usaram vídeos em que ela aparece dançando a coreografia da música “Rasputin” para aplicar uma camada de tecnologia por cima de seu corpo e, a partir disso, gerar “autopromoção” nas redes de forma indevida.
Júlia Alcoforado, outra criadora de conteúdo (atua no nicho fitness e acumula 238 mil seguidores no Instagram) revelou que também virou alvo da “clonagem” por IA e chamou a atenção para a existência de um mercado que ensina a prática:
“Eu tô vivendo a mesma coisa por aqui e não sei o que fazer! E o pior de tudo é que tem curso ensinando as pessoas a fazerem isso: pegar vídeo de criadores de conteúdo e colocar IA em cima pra vender produto”, desabafou em um comentário no Instagram.
Procurada pelo g1, Júlia Barni informou que está avaliando o episódio junto a seus advogados para definir as providências jurídicas que serão tomadas.
Já Júlia Alcoforado afirmou que não se sente confortável para se manifestar sobre o caso no momento, citando receio quanto a possíveis repercussões negativas nas redes sociais.
Cursos ensinam a criar avatares com fotos de terceiros
O mercado dos ‘clones’: cursos ensinam a criar avatares com fotos de terceiros por R$ 97
Redes sociais
A facilidade com que esses perfis são criados é impulsionada por um mercado digital em expansão: o de cursos online que ensinam como gerar “clones digitais” para monetização rápida.
Em uma dessas plataformas, comercializado pelo valor de R$ 97, o material promocional promete transformar a inteligência artificial em uma fonte de renda extra.
No perfil de divulgação do curso no Instagram, o responsável pelas aulas demonstra o passo a passo da técnica utilizando fotos de pessoas comuns retiradas do Pinterest — rede que se define oficialmente como uma plataforma de descoberta visual e mecanismo de busca online.
Na prática, o banco de dados de imagens cotidianas e reais dessa rede social acaba servindo para um outro propósito: ser matéria-prima para a geração de avatares de inteligência artificial.
Cursos ensinam como criar influenciadores de IA utilizando fotos e vídeos de terceiros.
Redes sociais
A ilusão do lucro fácil
TikTok Shop: rede social lança loja virtual no Brasil para concorrer com Amazon e Magalu
Divulgação/TikTok
A explosão dessas ferramentas de IA, atreladas às novas formas de comércio eletrônico integradas às redes sociais, criou mesmo foi uma verdadeira corrida por dinheiro na internet.
A busca por monetização encontrou na Inteligência Artificial o atalho perfeito. É o que explica a advogada especialista em direito digital Aracy Viana, em entrevista ao g1:
“As pessoas querem ganhar dinheiro nas redes sociais a todo custo agora. A IA acelerou isso ainda mais a partir do momento que você pode criar um ‘bonequinho’ baseado nas características de influenciadores que já vendem, que já fazem publicidade, que já têm essa desenvoltura com o público”, analisou.
O que diz a lei?
Como os criadores dessas ferramentas costumam batizar os perfis com outros nomes e os rostos dos avatares sofrem “distorções”, muitos acreditam estar protegidos por não usarem a imagem idêntica da vítima… mas não estão.
Viana explica que, embora o Brasil ainda não possua uma legislação específica e robusta para a regulamentação de conteúdos gerados por Inteligência Artificial, o ordenamento jurídico resguarda a personalidade do indivíduo.
Isso significa que: a voz, o jeito de andar, os trejeitos corporais e até os elementos físicos que compõem o cenário particular de alguém (como os móveis de um apartamento) são protegidos pelos chamados Direitos de Personalidade, previstos no Código Civil.
Comprei de um ‘influenciador de IA’… e agora?
Moça com vestido brando teve a foto manipulada por IA por influencer. Imagem dela aparece dançando em vídeo entre duas mulheres com roupas curtas
Reprodução/Redes sociais
A escalada desses casos acende também um debate sobre as regras das plataformas e os direitos dos consumidores que compram por meio dessas abas de comércio eletrônico.
Atualmente, o TikTok não proíbe a criação de avatares de inteligência artificial voltados para o comércio, nem veta a venda de produtos com imagens geradas por IA.
A plataforma informou ao g1, contudo, que há regras rígidas para que esses perfis operem:
o uso da tecnologia deve ser claramente sinalizado,
as imagens não podem alterar a aparência real do produto e o criador não pode se passar por outra pessoa.A regra jurídica que se aplica a esses “robôs vendedores”, portanto, é a mesma dos influenciadores reais.
Caso o consumidor adquira um objeto anunciado por esses perfis e o item apresente qualidade duvidosa ou não seja entregue, a responsabilidade legal recai sobre a própria plataforma.
O Tik Tok afirmou também que sua equipe jurídica já está investigando o caso específico do influenciador Lucas Simões Lima.
Fui clonado: o que fazer?
Para criadores de conteúdo ou pessoas comuns que identificarem seus cenários, corpos ou imagens sendo replicados por ferramentas de IA sem autorização, a orientação jurídica se divide em três passos imediatos:
Acionar a plataforma: Utilizar os canais de denúncia do próprio aplicativo para reportar o uso indevido de imagem e a infração de propriedade intelectual.Registrar provas digitais: Utilizar ferramentas de auditoria das redes que geram códigos de segurança (como blockchains), capazes de preservar os dados da página falsa por até 5 anos para fins judiciais.Boletim de Ocorrência: Registrar o caso na Polícia Civil. O documento cria um marco temporal oficial que protege a vítima caso o perfil fake aplique calotes financeiros usando o seu nome ou o cenário da sua casa.Fonte: G1 Entretenimento