Alisson Alencar alerta em fórum na Itália sobre riscos dos deepfakes e clonagem de voz

O conselheiro do Tribunal de Contas de Mato Grosso (TCE-MT), Alisson Alencar, apresentou, em Siena, na Itália, um estudo inovador que alerta para os riscos associados aos deepfakes e à clonagem de voz, destacando a necessidade de proteção jurídica da autenticidade das informações diante do avanço dessas tecnologias.

Durante o 12º Summer School "Democracia e Desenvolvimento", ocorrido em 16 de julho, Alisson expôs sua pesquisa inédita na palestra intitulada "A voz sintética e a verdade fabricada: deepfakes, clonagem de voz e a tutela da autenticidade informacional no Direito brasileiro", que integrou o painel "Poder Judiciário e Inteligência Artificial".

Como presidente da Comissão Permanente de Transformação Digital e Disrupção (CPT2D) do TCE-MT, o conselheiro enfatizou que o Direito deve acompanhar a velocidade do desenvolvimento da inteligência artificial, não para frear a inovação, mas para estabelecer mecanismos que assegurem a autenticidade das informações e resguardem os direitos fundamentais dos indivíduos.

O estudo apresentado reuniu diversos casos internacionais, incluindo fraudes corporativas, manipulação em processos eleitorais e o uso não autorizado de vozes sintetizadas. Alisson evidenciou que a tecnologia atual permite a criação de conteúdos falsos altamente convincentes, capazes de causar danos econômicos, sociais e institucionais significativos.

Ele ressaltou que, embora o ordenamento jurídico brasileiro conte com instrumentos legais como a Constituição Federal, a Lei Geral de Proteção de Dados (LGPD), o Código Civil e a legislação eleitoral, essas normas atuam de maneira fragmentada frente à complexidade das novas tecnologias.

Alisson afirmou que "Hoje já existem mecanismos legais aplicáveis, mas eles são dispersos e, muitas vezes, atuam apenas após a ocorrência do dano. Precisamos consolidar uma proteção voltada à autenticidade informacional como um bem jurídico próprio, capaz de fortalecer a confiança da sociedade no ambiente digital".

Experiências regulatórias e propostas para o Brasil

Na mesma apresentação, o conselheiro abordou as iniciativas regulatórias adotadas pela União Europeia, pelos Estados Unidos e pela China, além das discussões em andamento no Brasil sobre o Marco Legal da Inteligência Artificial.

A partir dessas experiências internacionais, ele defendeu algumas propostas específicas, tais como a obrigatoriedade de identificação dos conteúdos produzidos por inteligência artificial, a ampliação da transparência no uso de dados vocais e faciais, a implementação de mecanismos que possibilitem rastrear a origem dos conteúdos e o aprimoramento da responsabilização civil em casos de uso indevido dessas tecnologias.

Alisson evidenciou que o desafio principal é preservar a confiança social sem prejudicar o avanço tecnológico e declarou:

O reconhecimento da autenticidade informacional como um bem jurídico autônomo é fundamental para orientar a interpretação das normas e fundamentar um marco mais coerente diante dos desafios impostos pela inteligência artificial

Contexto do evento e interlocução com o Direito

O 12º Summer School "Democracia e Desenvolvimento" é uma iniciativa promovida pela Università degli Studi di Siena e pela Escola de Direito FADISP/UNIALFA, que reúne juristas, pesquisadores e autoridades para debater temas atuais relacionados ao Direito, à democracia e às transformações sociais impulsionadas pelas novas tecnologias.

O estudo de Alisson Alencar foi apresentado no âmbito do II Fórum Internacional de Direito, evento que integra a programação do Summer School e que tratou especificamente das interfaces entre o Poder Judiciário e a inteligência artificial.

Durante sua participação, o conselheiro destacou a importância de proteger juridicamente a veracidade das informações em um cenário onde a inteligência artificial pode fabricar conteúdos falsos com alto grau de realismo, como ocorre com deepfakes e clonagem de voz.

A imagem que acompanha a matéria mostra Alisson Alencar em Siena, enfatizando a relevância da proteção jurídica para garantir a autenticidade das informações diante dos desafios tecnológicos.