Deepfake, imagem e dano

Durante muito tempo, a discussão jurídica sobre direito de imagem esteve associada a situações relativamente reconhecíveis. Uma fotografia publicada sem autorização. Um rosto utilizado em campanha publicitária. Uma imagem retirada de contexto. Uma exposição indevida da intimidade. O problema, nesses casos, partia de uma realidade anterior: havia uma fotografia verdadeira, uma cena verdadeira, um registro verdadeiro, e alguém utilizava esse material de forma ilícita.

A inteligência artificial modificou a estrutura desse conflito.

Hoje, já não é necessário possuir uma imagem comprometedora de alguém para expô-lo. Também não é preciso que determinada pessoa tenha pronunciado uma frase, adotado determinado comportamento ou participado de certa situação. Ferramentas de inteligência artificial permitem reconstruir rosto, voz, movimentos e expressões com grau crescente de realismo e, a partir desses elementos, fabricar uma cena inteiramente nova.

A pessoa existe. Sua aparência existe. Sua voz existe. O acontecimento, porém, nunca ocorreu.

Essa diferença parece simples, mas altera profundamente o problema jurídico. O deepfake não representa apenas uma nova técnica de manipulação de imagens. Ele permite apropriar-se dos sinais que identificam alguém para atribuir a essa pessoa uma conduta inexistente. O que está em jogo, portanto, não é somente o direito de impedir o uso indevido de uma fotografia, mas o controle mínimo que cada indivíduo deve possuir sobre as representações artificiais de sua própria identidade.

Em outras palavras, a pergunta já não pode ser apenas: quem pode utilizar a minha imagem?

É necessário formular outra, bem mais difícil: quem pode fabricar uma versão de mim?

O que exatamente um deepfake falsifica?

Manipulações visuais não nasceram com a inteligência artificial. Fotografias são retocadas há décadas. Filmes utilizam efeitos visuais. Áudios podem ser editados. Rostos podem ser inseridos em montagens. A própria história política oferece inúmeros exemplos de imagens alteradas para excluir pessoas, modificar contextos ou produzir determinadas narrativas.

O que a inteligência artificial acrescentou foi escala, velocidade e verossimilhança.

Um deepfake pode ser compreendido, de maneira ampla, como um conteúdo visual, sonoro ou audiovisual criado ou significativamente alterado por recursos tecnológicos de modo a fazer parecer que determinada pessoa disse, fez ou participou de algo que não ocorreu daquela forma.

A definição, contudo, não revela sozinha a gravidade do fenômeno. Para compreendê-la, é preciso observar o mecanismo pelo qual o dano é produzido.

Imagine uma médica conhecida publicamente. Seu rosto aparece em um vídeo recomendando um medicamento que ela jamais utilizou ou prescreveu. Não se trata apenas de uma propaganda enganosa. A credibilidade da fraude deriva exatamente da reputação profissional da médica.

Considere agora uma advogada cuja voz seja clonada para simular uma conversa na qual ela admite determinada irregularidade profissional. O áudio pode ser falso, mas o dano à confiança depositada nela será real.

O mesmo vale para uma mulher cujo rosto seja inserido em uma cena sexual sintética. O vídeo pode nunca ter existido materialmente. A situação retratada pode ser inteiramente fictícia. Ainda assim, colegas, familiares, clientes e desconhecidos poderão reconhecê-la.

Em todas essas hipóteses, o deepfake utiliza uma identidade verdadeira para sustentar um acontecimento falso.

É essa combinação que o torna juridicamente diferente de uma simples mentira.

Uma notícia falsa descreve algo que não aconteceu. Um deepfake pode oferecer ao público algo que parece ser a própria prova visual ou sonora daquele acontecimento.

Por isso, seu potencial de dano é maior. Ele não apenas afirma. Ele simula evidência.

O problema não começa na publicação

Quando se fala em deepfake, a atenção costuma se concentrar no momento em que o vídeo ou o áudio chega às redes sociais. Juridicamente, porém, a cadeia de problemas pode ter começado muito antes.

Para reproduzir uma pessoa, ferramentas de inteligência artificial precisam trabalhar com elementos que permitam identificá-la: fotografias, vídeos, voz, características faciais, movimentos, expressões e, em determinados sistemas, padrões biométricos.

Isso muda a maneira como devemos pensar a exposição digital.

Durante anos, publicar uma fotografia em uma rede social significava, em termos práticos, aceitar que aquela imagem poderia ser vista, salva ou eventualmente compartilhada. A inteligência artificial ampliou essa possibilidade. A mesma fotografia pode servir de matéria-prima para produzir uma representação inteiramente nova.

Uma foto de rosto pode fornecer características faciais. Pequenos vídeos podem oferecer expressões e movimentos. Áudios publicados em entrevistas, reels, podcasts ou stories podem fornecer elementos suficientes para reproduzir uma voz com surpreendente semelhança.

A questão jurídica, portanto, não se resume a saber se o deepfake foi divulgado. É preciso investigar como aquela identidade foi reconstruída.

De onde vieram os dados? Para qual finalidade foram utilizados? Havia autorização? O material estava sendo processado apenas para edição ou também para treinamento? A ferramenta permite armazenamento? Os dados podem ser reaproveitados? Existe possibilidade de reprodução futura?

Essas perguntas aproximam o tema não apenas do direito à imagem, mas também da proteção de dados pessoais.

A imagem pública não se torna domínio público

Existe uma ideia muito difundida na internet segundo a qual aquilo que está publicamente disponível poderia ser reutilizado sem grandes limitações.

Essa conclusão é juridicamente equivocada.

O fato de uma pessoa publicar sua fotografia no Instagram não significa que tenha autorizado terceiros a utilizar aquele rosto em uma campanha comercial. Tampouco significa consentimento para treinamento de modelos, criação de pornografia sintética, clonagem de voz ou reprodução facial.

A publicidade da informação não elimina necessariamente a finalidade para a qual ela foi disponibilizada.

Essa distinção é particularmente importante no ambiente de inteligência artificial, porque grande parte das tecnologias atuais depende da coleta ou do processamento de enormes quantidades de conteúdo encontrado na internet.

Um conteúdo pode ser acessível e, ainda assim, permanecer juridicamente protegido.

Acesso não equivale a autorização universal.

Se uma pessoa publica uma fotografia para compartilhar uma viagem com amigos e seguidores, é difícil sustentar que, por esse simples ato, tenha concordado com qualquer utilização futura daquela imagem.

O debate sobre deepfakes evidencia, portanto, uma questão mais ampla que ainda precisará ser enfrentada com maior rigor: até que ponto a disponibilidade pública de dados pessoais autoriza sua reutilização tecnológica para finalidades completamente distintas daquelas originalmente imaginadas?

O direito brasileiro já oferece instrumentos de proteção

É frequente ouvir que "não existe lei sobre deepfake no Brasil". A afirmação, repetida sem qualquer qualificação, produz uma impressão errada.

Pode ser verdade que o ordenamento jurídico brasileiro ainda não possua uma lei única, completa e sistemática voltada exclusivamente à identidade sintética. Isso não significa, porém, que a vítima de deepfake esteja juridicamente desprotegida.

A Constituição Federal tutela expressamente intimidade, vida privada, honra e imagem. O Código Civil protege os direitos da personalidade e oferece mecanismos para impedir utilizações indevidas e buscar reparação por danos. A Lei Geral de Proteção de Dados pode incidir quando houver tratamento de dados pessoais, especialmente em hipóteses envolvendo características biométricas ou outros elementos capazes de identificar uma pessoa.

Dependendo do caso concreto, ainda podem ser relevantes o Marco Civil da Internet, o Código de Defesa do Consumidor, normas penais, legislação eleitoral e regras específicas de proteção de crianças e adolescentes.

A dificuldade jurídica não está, portanto, na inexistência absoluta de normas.

Está na fragmentação.

Um único deepfake pode envolver simultaneamente violação à imagem, honra, privacidade, proteção de dados, fraude, responsabilidade de plataformas, relação de consumo e, eventualmente, prática criminosa.

O caso concreto exige reconstruir toda essa cadeia.

E essa talvez seja uma das características mais importantes dos conflitos jurídicos produzidos pela inteligência artificial: dificilmente eles pertencem a uma única área do Direito.

O direito à imagem deixa de tratar apenas da reprodução

Tradicionalmente, a violação do direito de imagem envolvia o uso de algo que efetivamente existia. Uma fotografia verdadeira utilizada em contexto inadequado. Um vídeo real explorado comercialmente sem autorização. Uma imagem privada tornada pública.

O deepfake introduz uma situação diferente porque não há necessariamente reprodução de uma cena anterior.

Existe criação.

Uma pessoa pode nunca ter sido filmada em determinada situação e, ainda assim, aparecer em um vídeo suficientemente realista para convencer terceiros de que esteve ali.

Essa circunstância exige compreender o direito à imagem de forma menos literal.

O direito à imagem não protege somente um arquivo fotográfico específico. Ele protege também a forma pela qual uma pessoa é reconhecida socialmente.

Essa proteção se torna ainda mais clara quando analisamos vídeos sintéticos.

Se o rosto, a voz e os traços de uma pessoa forem utilizados para fazê-la parecer participante de uma determinada cena, é difícil argumentar que não existe qualquer interferência jurídica porque o corpo, a fala ou o contexto foram artificialmente produzidos.

A representação atinge a própria pessoa porque terceiros são capazes de identificá-la.

É justamente esse reconhecimento social que permite ao conteúdo produzir efeitos.

A falsidade não elimina o dano

Essa conclusão merece atenção porque representa um dos erros mais comuns nesse debate.

Se o conteúdo é falso, alguém poderia argumentar que a vítima deveria simplesmente demonstrar que o vídeo não é verdadeiro.

Na prática, porém, a falsidade pode ser precisamente a origem do dano.

Imagine um vídeo sexual falso associado a uma mulher identificável. A gravação pode nunca ter existido. A vítima jamais participou daquela cena. Mesmo assim, o material pode circular entre colegas de trabalho, familiares, clientes ou pessoas próximas.

O constrangimento não desaparece porque o vídeo foi tecnicamente fabricado.

A reputação não é afetada apenas por fatos verdadeiros. Ela também pode ser afetada pela percepção social de fatos falsos.

Essa distinção é particularmente relevante em ambientes digitais, nos quais conteúdos circulam rapidamente e a primeira impressão muitas vezes precede qualquer verificação.

Depois que uma imagem ou um vídeo se espalha, a vítima entra em uma situação paradoxal: precisa negar algo que nunca fez.

O ônus social se inverte.

Ela terá de explicar, demonstrar, contextualizar, desmentir e convencer.

Em certos casos, mesmo depois da comprovação técnica da falsidade, a dúvida permanecerá.

O dano, portanto, não está apenas na existência do arquivo. Está na narrativa criada em torno daquela pessoa.

Transparência não substitui autorização

Uma das propostas mais recorrentes para lidar com conteúdos gerados por inteligência artificial é exigir sua identificação.

A medida faz sentido. Se o público souber que determinada imagem foi criada ou alterada artificialmente, reduz-se o risco de engano.

Mas existe uma diferença importante entre informar que um conteúdo é artificial e obter autorização da pessoa representada.

Imagine uma campanha publicitária produzida com uma réplica extremamente realista de uma atriz. No vídeo, existe a informação clara: "conteúdo gerado por inteligência artificial".

O consumidor sabe que aquilo é sintético.

Ainda assim, resta uma pergunta elementar: a atriz autorizou que sua aparência fosse utilizada daquela forma?

Se não autorizou, a identificação do conteúdo resolve apenas um dos problemas. Ela pode eliminar o engano do público, mas não necessariamente a apropriação indevida da identidade.

Essa diferença terá grande importância na regulação futura.

Rotular um conteúdo não transforma automaticamente sua utilização em legítima.

Da mesma forma, um conteúdo artificial pode ser transparente e, ainda assim, ofensivo, abusivo ou ilícito.

Consentimento precisa deixar de ser uma palavra vazia

O desenvolvimento da inteligência artificial também expõe uma fragilidade antiga dos contratos relacionados ao uso de imagem: autorizações excessivamente amplas.

Durante anos, cláusulas genéricas de cessão de imagem foram utilizadas em contratos publicitários, artísticos e profissionais. O problema é que o conceito de "utilização da imagem" mudou.

Autorizar uma fotografia é o mesmo que autorizar uma réplica? Permitir o uso de uma gravação de voz permite clonagem? Autorizar uma campanha publicitária significa permitir que a empresa produza, depois, centenas de novas falas sintéticas? Uma autorização concedida por prazo determinado permite manter um avatar funcionando indefinidamente?

Essas perguntas não são teóricas. Elas já integram negociações envolvendo artistas, influenciadores, modelos, dubladores, profissionais e pessoas cuja identidade possui valor econômico.

Quanto mais sofisticada se torna a tecnologia, menos defensável parece uma autorização genérica.

Consentimento precisa ser analisado em relação à finalidade.

Para quê a imagem foi autorizada? Por quanto tempo? Em quais plataformas? Existe possibilidade de modificação? Pode haver treinamento de sistema? Pode ser criada uma réplica? O conteúdo pode ser reutilizado? Pode haver sublicenciamento? O material poderá continuar existindo após o fim do contrato?

Sem respostas claras, "consentimento" corre o risco de servir apenas como palavra contratual utilizada para legitimar usos que a pessoa jamais imaginou ao assinar o documento.

A LGPD não pode ser tratada como um detalhe

A discussão sobre proteção de dados ganha especial relevância porque a reconstrução digital de uma pessoa frequentemente depende do tratamento de informações capazes de identificá-la.

Fotografias, gravações de voz, vídeos e outros registros podem constituir dados pessoais. Em determinadas circunstâncias, características utilizadas para identificação biométrica recebem proteção ainda mais rigorosa.

É importante evitar simplificações. Uma fotografia não se transforma automaticamente em dado biométrico sensível apenas porque contém um rosto.

A análise depende do tratamento realizado.

Entretanto, quando características faciais são extraídas, processadas ou utilizadas para identificação, autenticação ou reconstrução da pessoa, a discussão muda de nível.

O problema passa a existir antes mesmo da divulgação do resultado final.

Se alguém utiliza diversas imagens para treinar uma ferramenta capaz de reconstruir o rosto de determinada pessoa, a cadeia de tratamento dos dados deve ser examinada.

Isso obriga advogados, empresas e desenvolvedores a olhar para o processo inteiro, e não apenas para o arquivo final.

Em matéria de inteligência artificial, muitas vezes o dano visível é apenas a última etapa de uma sequência de decisões anteriores.

Quem é responsável quando existem tantos agentes?

A responsabilização por deepfakes é complexa porque raramente existe apenas um participante.

Alguém pode fornecer as imagens. Outra pessoa pode utilizar a ferramenta. Um terceiro pode publicar. Um perfil diferente pode impulsionar. Uma plataforma pode hospedar. Uma empresa pode monetizar. Um aplicativo pode fornecer o recurso de geração. Usuários podem continuar compartilhando o material mesmo depois de saber que ele é falso.

Juridicamente, não é possível colocar todos esses agentes na mesma posição.

A análise precisa considerar o comportamento concreto de cada um.

Quem tinha conhecimento? Quem possuía controle? Quem obteve vantagem econômica? Quem poderia evitar ou reduzir o dano? Quem atuou deliberadamente? Quem apenas forneceu uma tecnologia de uso geral? Quem recebeu uma denúncia e permaneceu inerte?

A atribuição de responsabilidade exigirá cada vez mais esse tipo de investigação.

Em outras palavras, discutir deepfake juridicamente não consiste apenas em encontrar "quem apertou o botão".

É necessário reconstruir a cadeia de criação, distribuição, amplificação e monetização.

Plataformas e o problema da velocidade

Existe uma característica do ambiente digital que desafia a lógica tradicional do processo judicial: o tempo.

Uma vítima pode conseguir uma ordem de remoção de determinado vídeo. O conteúdo poderá ser retirado de uma plataforma específica. Mas isso não significa que tenha desaparecido.

Enquanto a discussão jurídica ocorria, o vídeo pode ter sido salvo por milhares de pessoas, recortado, republicado, enviado em grupos privados, publicado em outros países, convertido em meme e indexado por mecanismos de busca.

É possível retirar uma postagem.

Não é tão simples retirar aquilo que ela produziu socialmente.

Essa diferença mostra por que a tutela preventiva e as respostas rápidas possuem importância especial nesse campo.

Em determinados casos, uma indenização obtida anos depois não recompõe o dano.

A vítima pode vencer o processo e perder, ainda assim, o controle sobre sua própria representação digital.

A responsabilidade civil tradicional foi construída, em grande medida, para reparar danos depois que eles acontecem.

Deepfakes mostram situações em que impedir ou interromper rapidamente pode ser muito mais importante do que indenizar posteriormente.

Pornografia sintética e a falsa neutralidade da tecnologia

Um dos usos mais graves do deepfake ocorre na criação de conteúdo sexual não consentido.

E qualquer análise séria desse fenômeno precisa reconhecer uma característica evidente: mulheres são atingidas de forma desproporcional.

Não se trata de coincidência tecnológica.

A exploração sexual da imagem feminina, a humilhação pública, a vingança sexual e o controle da reputação das mulheres são fenômenos anteriores à inteligência artificial.

O que a tecnologia fez foi remover uma barreira prática.

Antes, para divulgar uma imagem íntima real, era necessário que aquela imagem existisse.

Agora, não.

A nudez pode ser fabricada. A cena pode ser inventada. A vítima jamais precisa ter tirado uma fotografia íntima.

A violência passa a ser construída inteiramente a partir da representação.

Isso muda inclusive a forma como pensamos prevenção.

Durante anos, mulheres ouviram recomendações relacionadas à proteção de fotografias privadas: não enviar, não armazenar, tomar cuidado com vazamentos.

Com o deepfake, essa estratégia individual revela sua insuficiência.

Uma pessoa pode jamais produzir qualquer imagem íntima de si mesma e, ainda assim, tornar-se vítima de pornografia sintética.

A tecnologia rompeu a relação entre exposição íntima voluntária e risco de exploração sexual.

"Mas aquele corpo não é dela"

Essa objeção aparece com frequência porque parte de uma compreensão excessivamente material do dano.

Se o corpo mostrado na gravação pertence a outra pessoa ou foi completamente gerado por inteligência artificial, alguém poderia argumentar que não houve exposição verdadeira da vítima.

Mas a pergunta juridicamente relevante não é apenas quem possui aquele corpo.

É quem o público acredita estar vendo.

Se o rosto e outros elementos tornam uma pessoa perfeitamente identificável, o conteúdo produz associação direta com ela.

A representação existe justamente para fazer terceiros reconhecerem aquela identidade.

A vítima será abordada, julgada, constrangida ou sexualizada como se estivesse naquela gravação.

O dano decorre da atribuição.

Negar proteção porque a cena é falsa produziria um resultado juridicamente incoerente: quanto mais sofisticada fosse a falsificação, menor seria a possibilidade de tutela.

O desenvolvimento tecnológico não pode transformar a inexistência do fato em desculpa para a existência do dano.

Crianças e adolescentes tornam o problema ainda mais grave

Quando deepfakes envolvem menores de idade, a discussão precisa abandonar qualquer ingenuidade.

Fotografias absolutamente comuns podem ser utilizadas para produzir material sexualizado sintético.

Uma imagem de escola. Uma foto de aniversário. Um vídeo esportivo. Uma publicação dos pais.

O problema não exige que a criança tenha sido submetida a qualquer situação real de nudez ou abuso para que sua representação seja sexualmente explorada.

Isso cria uma camada adicional de responsabilidade.

Quando o risco envolve crianças, não basta discutir remoção depois da publicação.

Passa a ser necessário examinar arquitetura de sistemas, filtros de segurança, mecanismos de denúncia, capacidade de identificação, controle de usuários e desenho tecnológico.

Em outras palavras, determinados riscos são graves demais para serem tratados apenas como problemas de indenização posterior.

A morte também não encerra a discussão

Deepfakes também colocam em crise uma ideia tradicional: a de que a identidade de uma pessoa deixa de produzir novas manifestações depois de sua morte.

Hoje, é tecnologicamente possível recriar atores falecidos, reproduzir vozes, gerar novas falas, simular entrevistas e produzir avatares treinados a partir de mensagens, vídeos e gravações deixados em vida.

A primeira impressão pode ser de homenagem.

Mas a questão jurídica é mais difícil.

Uma coisa é exibir uma gravação produzida pela própria pessoa enquanto estava viva.

Outra é fazer com que ela aparentemente diga algo novo.

Uma nova propaganda. Uma nova opinião. Uma nova frase. Um novo posicionamento.

O conteúdo pode ser tecnicamente artificial, mas será atribuído a uma identidade real.

Nesse ponto, imagem e memória se encontram.

Até onde familiares podem autorizar? Até onde empresas podem explorar contratos antigos? Qual seria o limite para utilização de uma identidade após a morte?

Não existe uma resposta simples.

Mas a tecnologia já tornou essas perguntas concretas.

Deepfake também pode ser arte, humor e crítica

Seria igualmente equivocado defender uma proibição geral de conteúdos sintéticos.

Paródia, sátira, criação artística e crítica política são manifestações legítimas de liberdade de expressão.

Uma representação artificial claramente absurda de uma figura pública pode possuir valor humorístico ou político. Uma obra audiovisual pode recriar determinada pessoa para fins artísticos.

O problema, portanto, não é a existência de qualquer conteúdo sintético.

É necessário analisar contexto, finalidade e capacidade de engano.

O público compreende que se trata de sátira? Existe atribuição de crime? Há finalidade comercial? Existe conteúdo sexual? A pessoa é facilmente identificável? A representação busca informar, criticar ou simplesmente humilhar? Há aviso de que o material é artificial? Existe interesse público?

Esses elementos importam porque direitos da personalidade não eliminam liberdade de expressão, assim como liberdade de expressão não oferece licença irrestrita para fabricar qualquer comportamento atribuído a outra pessoa.

A solução jurídica terá de trabalhar com essa tensão.

O Direito enfrenta agora um problema de autenticidade

Talvez o impacto mais profundo dos deepfakes não esteja apenas nas pessoas diretamente atingidas.

Está na confiança coletiva sobre aquilo que vemos.

Durante décadas, imagens e gravações tiveram uma força probatória intuitiva. Um vídeo podia ser contestado, editado ou retirado de contexto, mas ainda carregava uma presunção social de que algo efetivamente aconteceu diante de uma câmera.

Essa presunção está enfraquecendo.

Quanto mais convincentes se tornam os conteúdos sintéticos, mais difícil será utilizar a aparência de autenticidade como critério.

Isso produz dois riscos simultâneos.

O primeiro é evidente: acreditar em algo que nunca aconteceu.

O segundo é menos discutido: deixar de acreditar em algo que realmente aconteceu.

Uma pessoa confrontada com um vídeo verdadeiro poderá simplesmente alegar que se trata de inteligência artificial.

Esse fenômeno vem sendo chamado de liar's dividend, ou "dividendo do mentiroso".

A existência de falsificações sofisticadas fornece uma nova defesa para quem deseja negar uma prova verdadeira.

A tecnologia, portanto, ameaça a confiança pública em duas direções: ela fortalece a mentira e enfraquece a verdade.

A prova também precisará mudar

Essa crise de autenticidade inevitavelmente chegará aos processos judiciais.

Vídeos, áudios e fotografias são apresentados diariamente como elementos de prova.

Com a disseminação de tecnologias generativas, a mera aparência de autenticidade se tornará cada vez menos suficiente.

Advogados e tribunais terão de lidar com questões técnicas envolvendo origem, metadados, cadeia de custódia, integridade do arquivo, perícia, dispositivos utilizados, histórico de armazenamento e eventual manipulação.

Não significa que toda fotografia ou áudio passará automaticamente a ser suspeito.

Mas significa que a impugnação de autenticidade poderá se tornar muito mais sofisticada.

A discussão jurídica deixará de se concentrar apenas no conteúdo da gravação.

Será necessário demonstrar também sua origem.

Esse movimento provavelmente aproximará ainda mais Direito e tecnologia forense.

Indenizar depois talvez não seja suficiente

A estrutura clássica da responsabilidade civil parte de um dano já ocorrido.

Identifica-se a conduta, analisa-se o nexo e busca-se reparação.

Deepfakes mostram o limite desse modelo quando aplicado isoladamente ao ambiente digital.

Suponha que uma mulher seja vítima de pornografia sintética. Depois de dois anos, obtém decisão reconhecendo o ilícito e fixando indenização.

Do ponto de vista processual, ela venceu.

Mas o conteúdo pode continuar circulando. Pessoas podem tê-lo armazenado. Perfis anônimos podem republicá-lo. A imagem pode reaparecer anos depois.

Uma sentença não elimina a memória coletiva nem remove todas as cópias existentes.

Essa constatação desloca a discussão jurídica para a prevenção.

Mecanismos de detecção, identificação de conteúdos sintéticos, respostas rápidas a denúncias, rastreabilidade e medidas cautelares deixarão de ser acessórios.

Em muitos casos, serão o instrumento principal de proteção.

O problema mais cruel talvez seja ter de provar que você não é você

Existe um efeito psicológico e reputacional dos deepfakes que merece mais atenção.

A vítima pode ser obrigada a provar que aquela pessoa visível no vídeo não representa aquilo que ela realmente fez.

Isso cria uma situação extraordinária.

A tecnologia utiliza características reais da vítima para fabricar um acontecimento falso e, depois, transfere para ela o trabalho de demonstrar a falsidade.

Ela precisa negar. Explicar. Apresentar documentos. Contratar especialistas. Falar com familiares. Responder a clientes. Dar justificativas a empregadores.

Em alguns casos, enfrentar exposição pública para desmentir uma exposição que jamais provocou.

Há uma violência específica nessa inversão.

A vítima não precisa apenas suportar a mentira.

Precisa reconstruir publicamente a verdade.

E, mesmo quando consegue, pode permanecer uma sombra de dúvida.

O que outros países já perceberam

A regulação internacional mostra que os deepfakes deixaram de ser um problema experimental.

Na União Europeia, o AI Act incluiu obrigações de transparência relacionadas a determinados conteúdos artificialmente gerados ou manipulados. A lógica é compreensível: em um ambiente no qual imagens podem ser fabricadas, o usuário precisa saber quando está diante de algo sintético.

Nos Estados Unidos, o tratamento é mais fragmentado, com legislações estaduais e normas específicas voltadas, entre outros temas, para conteúdo sexual não consentido, eleições e exploração comercial da identidade.

Outros países discutem mecanismos ainda mais amplos de proteção contra réplicas digitais.

Apesar das diferenças regulatórias, existe uma tendência comum: identidade deixou de ser vista apenas como um conjunto passivo de características pessoais.

Ela passou a ser compreendida também como algo tecnologicamente reproduzível.

E aquilo que pode ser reproduzido, explorado e monetizado inevitavelmente se torna objeto de disputa jurídica.

Talvez estejamos caminhando para um direito à integridade da identidade digital

A legislação brasileira já protege nome, imagem, honra, voz, privacidade, intimidade e dados pessoais.

Essas categorias continuam essenciais.

O problema é que a inteligência artificial consegue reuni-las numa única representação.

Uma réplica digital pode possuir o rosto de alguém, reproduzir sua voz, imitar seus gestos e ser utilizada para atribuir comportamentos, opiniões e escolhas que nunca existiram.

É possível que, ao longo dos próximos anos, o Direito precise construir de maneira mais clara a ideia de integridade da identidade digital.

Não se trataria de conceder a cada pessoa o poder de impedir qualquer representação de si mesma.

Isso seria incompatível com jornalismo, crítica, arte, humor e liberdade de expressão.

A proteção teria outro objetivo: impedir que terceiros se apropriem artificialmente dos elementos que identificam alguém para fabricar uma presença capaz de ser confundida com a pessoa real.

Existe uma diferença jurídica relevante entre falar sobre uma pessoa e criar uma versão funcional dela.

Essa diferença ainda não foi completamente assimilada pelo Direito.

Mas a tecnologia já a tornou inevitável.

A pergunta que permanecerá

Deepfakes costumam ser apresentados como um problema da inteligência artificial.

Em parte, são.

Mas a tecnologia explica apenas o instrumento.

As motivações continuam profundamente humanas.

Fraude. Vingança. Humilhação. Desejo de controle. Exploração econômica. Propaganda. Violência sexual. Manipulação política.

Tudo isso já existia.

A inteligência artificial reduziu o custo necessário para transformar essas intenções em representações extremamente convincentes.

Talvez esse seja o ponto mais importante de toda a discussão.

A questão não é apenas até onde a inteligência artificial será capaz de chegar.

É o que as pessoas farão quando fabricar uma realidade sobre outra pessoa deixar de exigir conhecimento técnico, dinheiro ou estrutura.

O Direito terá de responder a esse cenário sem cair em dois extremos: nem tratar toda inovação como ameaça, nem fingir que instrumentos jurídicos construídos para uma realidade analógica serão suficientes sem adaptação.

A proteção da identidade humana provavelmente exigirá novas formas de pensar consentimento, responsabilidade, prova, prevenção e autenticidade.

Durante muito tempo, proteger a imagem significou impedir que alguém utilizasse indevidamente aquilo que uma pessoa realmente mostrou.

Agora, existe um desafio diferente.

Será necessário proteger também aquilo que ela nunca mostrou, nunca disse, nunca fez e nunca viveu, mas que a tecnologia tornou possível fabricar com seu rosto.

Talvez seja esse o verdadeiro problema jurídico dos deepfakes.

Não estamos discutindo apenas o direito de controlar nossas fotografias.

Estamos começando a discutir algo muito mais fundamental: o direito de continuar sendo reconhecido pelo que efetivamente fomos, e não pelas versões de nós mesmos que terceiros aprenderam a fabricar.