MATRIX GO na MÍDIA
Artigo Original em: Economia SA / Diário do Grande ABC / BRA1 / Vila de Utopia
https://economiasa.com.br/blog/ia-entra-no-ciclo-eleitoral-com-novos-riscos-de-escala-deepfakes-e-perda-de-confianca/
https://www.dgabc.com.br/Noticia/4349119/ia-amplia-escala-de-deepfakes-nas-eleicoes-avalia-especialista
https://www.bra1.com.br/tecnologia/id-697790/ia_muda_as_eleicoes__deepfakes_e_bots_ameacam_a_confianca_do_eleitor
https://viladeutopia.com.br/ia-entra-no-ciclo-eleitoral-com-novos-riscos-de-escala-deepfakes-e-perda-de-confianca/
As eleições deste ano chegam em um ambiente no qual a Inteligência Artificial já não é apenas uma ferramenta de produção de conteúdo. Com modelos capazes de gerar textos, imagens, áudios e vídeos em escala, personalizar mensagens e automatizar sua distribuição, a tecnologia introduz um novo patamar de velocidade, alcance e capacidade de influência no ambiente eleitoral.
Para Nicola Sanchez, CEO e fundador da Matrix Go, empresa especializada em soluções e operações assistidas por IA, o principal desafio não está na existência da desinformação, que precede a Inteligência Artificial, mas na combinação entre escala, velocidade, baixo custo, personalização e automação proporcionada pelas novas tecnologias.
“A IA reduz radicalmente o custo da persuasão digital. Uma estrutura que antes precisava de equipes e infraestrutura para produzir diferentes versões de uma narrativa agora pode gerar milhares de conteúdos, adaptados a públicos distintos, em poucos minutos. Quando isso é conectado a agentes capazes de monitorar reações e ajustar a comunicação automaticamente, temos uma mudança de escala importante”, afirma.
Deepfakes podem interferir diretamente no comportamento
Entre os riscos mais sensíveis está o avanço dos deepfakes. O problema deixa de ser apenas reputacional quando conteúdos sintéticos são utilizados para provocar uma decisão concreta por parte do eleitor ou da população.
Um áudio falso atribuído a uma autoridade eleitoral anunciando uma mudança no local de votação, um vídeo manipulado de um candidato comunicando uma desistência ou uma mensagem fraudulenta de um órgão público orientando cidadãos a realizar determinado procedimento podem produzir efeitos antes mesmo que a falsificação seja identificada.
A assimetria é um dos principais problemas: enquanto um conteúdo sintético pode ser produzido em minutos, a apuração, autenticação e desmentido de uma informação falsa podem levar horas ou dias. O que abre um precedente perigoso.
“A ameaça não é apenas fazer as pessoas acreditarem em coisas falsas. É também fazer com que elas deixem de acreditar em qualquer coisa. Se qualquer vídeo, áudio ou imagem puder ser questionado como potencialmente artificial, até conteúdos verdadeiros passam a ter sua credibilidade colocada em dúvida o que pode ser um perigo”, diz Sanchez.
Segundo o CEO, ferramentas de detecção podem ajudar, mas a confirmação por uma fonte confiável continua sendo a principal defesa. Além disso, não confiar apenas na aparência ou no tom de um conteúdo e diante de um vídeo, áudio ou mensagem suspeita, vale verificar a origem, procurar a mesma informação em canais oficiais.
Governança precisa acompanhar a autonomia dos agentes
Nesse cenário, a discussão sobre Inteligência Artificial no período eleitoral não deve se limitar à capacidade dos modelos de gerar conteúdo. À medida que agentes de IA passam a executar tarefas, acessar sistemas, consultar bases de dados e interagir diretamente com cidadãos, cresce também a necessidade de estabelecer limites claros para sua autonomia.
Para a Nicola, um princípio deve orientar essa evolução: quanto maior o potencial impacto de uma ação sobre direitos, segurança ou integridade eleitoral, menor deve ser a autonomia concedida ao agente e maior a necessidade de supervisão humana.
“Não aumente a autonomia da IA mais rapidamente do que aumenta sua governança. A autonomia precisa ser progressiva e proporcional ao risco. Em situações de alto impacto, determinadas ações devem depender de regras determinísticas, autenticação adicional ou aprovação humana”, afirma o especialista.
Outro ponto central é a responsabilidade. Uma instituição não pode transferir para a tecnologia a responsabilidade por uma decisão ou comunicação. Deve existir uma organização e uma pessoa identificável responsável pelo funcionamento do sistema, além de mecanismos de rastreabilidade e auditoria.
Antes de colocar IA em contato com o cidadão, é preciso definir limites
Na avaliação do executivo, a primeira pergunta de uma organização que pretende implementar um agente de IA não deveria ser qual modelo utilizar, mas o que exatamente aquele agente está autorizado a fazer.
Isso significa definir sua finalidade, fontes de informação, permissões, situações proibidas e critérios para transferência do atendimento para uma pessoa. Também é necessário testar o sistema contra tentativas de manipulação, vazamento de dados e solicitações fora de escopo.
“Um agente voltado ao cidadão precisa ser tratado como um sistema operacional crítico, não como um simples bot de marketing. É preciso saber quais decisões ele pode tomar, quais informações pode acessar, quais ações pode executar e, principalmente, em que momento deve parar e transferir a decisão para um ser humano”, explica.
IA também pode ajudar a fortalecer a confiança
A Inteligência Artificial também pode ser utilizada para ampliar a capacidade de resposta das instituições. Ferramentas de autenticação e rastreabilidade de conteúdos, identificação de campanhas coordenadas e análise de grandes volumes de informações podem ajudar a detectar ameaças e priorizar investigações.
Para o especialista é ideal que as Instituições mantenham canais oficiais de referência e procedimentos rápidos de autenticação e resposta para situações de emergência. O avanço dos agentes de inteligência artificial no ciclo eleitoral precisa ser acompanhado por uma evolução equivalente dos mecanismos de governança. O objetivo não é impedir a automação, mas estabelecer onde ela gera eficiência, onde apresenta riscos e em quais situações a decisão precisa continuar sendo humana.
“A IA pode ampliar a capacidade institucional, mas não substituir sua legitimidade. O desafio é saber exatamente o que automatizar, até onde ir e em quais situações a decisão precisa continuar sendo humana”, finaliza Nicola.
