Um grupo de empresas de diferentes setores da tecnologia assinou um acordo que cria uma nova aliança no mercado. O objetivo do grupo que inclui nomes como Amazon, Meta, OpenAI e TikTok é lutar de forma conjunta contra o uso criminoso, ilegal e enganatório de conteúdos feitos com inteligência artificial (IA).
O acordo foi assinado na última sexta-feira (16), durante a Munich Security Conference. Todas as companhias participantes se comprometem a “trabalhar de forma colaborativa em ferramentas” para prevenir, detectar e moderar a distribuição desse tipo de criação.
Elas devem ser aplicadas em eleições de cerca de 40 países que vão escolher novos representantes ao longo deste ano, incluindo Estados Unidos e Brasil.
Quem faz parte da aliança contra o mau uso eleitoral da IA?
As empresas que assinaram o acordo e vão combater o uso criminoso de IA nas eleições incluem redes sociais, desenvolvedoras de plataformas de edição de conteúdo, empresas de IA e especialistas em cibersegurança, entre outras gigantes do setor.
As 20 empresas participantes até o momento são as seguintes:
Adobe
Amazon
Anthropic
Arm
ElevenLabs
Google
IBM
Inflection AI
LinkedIn
McAfee
Meta
Microsoft
Nota
OpenAI
Snap Inc.
Stability AI
TikTok
Trend Micro
Truepic
X (o antigo Twitter)
A ideia da aliança é combater conteúdos falsos gerados em forma de imagem, áudio e vídeo, desde deepfakes de políticos candidatos a algum cargo até registros de eventos falsos gerados artificialmente, como suspeitas de manipulação no processo de voto.
As técnicas sugeridas para evitar o espalhamento desse tipo de conteúdo incluem a adição de etiquetas ou uma marca d’água que identifique uma criação de IA e um sistema de denúncia efetivo. Em um passo anterior, a ideia é desenvolver também barreiras nas próprias plataformas generativas para impedir criações envolvendo candidatos ou o processo eleitoral.
O acordo inclui ainda a obrigatoriedade de transparência sobre a moderação de conteúdos feitos por IA, o compartilhamento mútuo desse tipo de combate entre as empresas participantes e realização de pesquisas constantes para prevenir esse tipo de publicação antes que o dano seja causado.
