Cofundador da empresa de IA aborda ética dos vídeos "deepfake" de Tom Cruise

Começou como um projeto de arte, então os vídeos "deepfake" de Tom Cruise se tornaram virais no TikTok. Agora, um cofundador de uma empresa de software de inteligência artificial (IA), criada depois que os vídeos virais foram ao ar, quer que as pessoas estejam mais cientes da Tecnologia e de como podem proteger suas identidades digitais.

A Tecnologia blockchain, que é imutável, pode ser uma dessas ferramentas, disse Tom Graham, da empresa de software de IA Metaphysic, ao programa "First Mover" da CoinDesk TV na quarta-feira.

“De todas as tecnologias, os sistemas distribuídos que ajudam os indivíduos a gerenciar sua própria identidade... esse é um passo realmente importante no processo de capacitar os indivíduos a estarem no controle de quem eles são neste metaverso hiper-real emergente”, disse Graham.

A startup sediada em Londres, que recentementearrecadou US$ 7,5 milhões em uma rodada de fundação, desenvolve infraestrutura e Tecnologia para expandir conteúdo baseado em inteligência artificial, disse Graham. Mas ele quer que a empresa se expanda de uma “maneira ética, segura e responsável”.

Isso, no entanto, pode ser um desafio, disse Graham, porque o conteúdo gerado por IA, como deepfakes, pode estar cruzando uma linha ética. Deepfakes são uma forma de mídia manipulada que pode fazer qualquer um parecer estar fazendo ou dizendo qualquer coisa – por exemplo, Tom Cruise, que foi retratado por uma pessoa alterada digitalmente paraassemelha-se ao atornos vídeos do TikTok.

Seguir a linha ética é especialmente complicado para a empresa porque os deepfakes de Cruise começaram como um projeto de arte do cofundador Christopher Ume antes da empresa ser formada.

"Foi iniciado com o propósito de gerar conscientização sobre a mídia manipulada e o potencial para o que poderia acontecer", disse Graham sobre os vídeos. "Obviamente, [deepfake] Tom Cruise é um tipo de conteúdo irreverente, divertido e divertido. Quando se trata deexplodiu de repente Entramos em contato com a equipe de Tom Cruise e, no final das contas, eles T tiveram problemas."

Tom Cruise não é uma pessoa comum, mas é possível que imagens de qualquer pessoa, sem seu consentimento, sejam manipuladas usando IA e se tornem a próxima sensação do TikTok.

As celebridades têm advogados, disse Graham, “mas e as pessoas comuns?”

Portanto, encontrar uma maneira para que os indivíduos possuam e controlem suas identidades "deveria ser nosso propósito central" como sociedade, disse ele.

Por enquanto, disse Graham, sua empresa está “na vanguarda da tentativa de descobrir como permitir que as pessoas se protejam neste futuro emergente”.

Leia Mais: Qual é a relação entre Cripto e IA? Existe alguma? / Opinião