Já notou alguma alucinação da Inteligência Artificial? O conceito pode parecer confuso e gerar dúvida, mas muito provavelmente você já interagiu com um chatbot ou mesmo com um motor de IA generativa e obteve uma resposta completamente fora do que foi perguntado/solicitado. Ou pior, acreditou piamente numa informação inverídica criada pela IA. Sim, a Inteligência Artificial alucina, e não raro produz tais situações que representam desafios para usuários e desenvolvedores. Entenda melhor a seguir o que são alucinações e como evitá-las. Acompanhe.
Alucinações
Antes de mais nada é preciso enfatizar que não há consenso científico no uso do termo “alucinações” para descrever tal fenômeno. Alguns estudiosos e especialistas dizem não ser possível creditar algo demasiadamente humano, como uma alucinação, a uma máquina que não possui consciência. A afirmação faz sentido, mas o termo caiu no gosto da comunidade em geral por exemplificar de forma clara essa “confusão” da IA.
Conceitualmente, as alucinações são resultados incorretos ou enganosos gerados pela IA. Esses erros podem ser causados por diferentes fatores, entre eles, dados de treinamento insuficientes, suposições incorretas feitas pelo modelo e/ou vieses nos dados usados para treinar o modelo.
Alguns desenvolvedores, no entanto, tentam jogar a culpa das alucinações no colo dos usuários; segundo eles, perguntas e/ou orientações imprecisas, genéricas e confusas geram resultados inadequados. Em tese, a IA é tão boa quanto o piloto que a opera. Faz sentido, mas o ponto central é que as alucinações aparecem até mesmo quando os dados de entrada são estruturados e precisos.
E é aí que mora o perigo. Pense, por exemplo, em IAs treinadas para tomar decisões importantes, como diagnósticos médicos ou negociações financeiras – o impacto de erros gerados pela IA nesses contextos é gigantesco.
Como ocorrem as Alucinações?
Os motores de IA são treinados em dados e aprendem a fazer previsões encontrando padrões nos dados. Acontece que a precisão dessas previsões depende da qualidade e integridade dos dados de treinamento.
É justamente esse o fator número um que reduz a qualidade e precisão das respostas da IA. Se os dados de treinamento são enviesados, falhos ou incompletos, o modelo de IA só conseguirá aprender padrões incorretos, gerando previsões imprecisas e alucinações.
Por isso é tão importante que ao se desenvolver um chatbot e/ou integrar um motor de IA generativa a um fluxo interno ou externo, que empresas exerçam uma extensa mineração e curadoria de dados, de forma que os mesmos possam alimentar com qualidade os motores de Inteligência Artificial. É justamente esse o grande desafio atual das empresas.
No entanto, não são apenas dados falhos de treinamento que geram alucinações. Falta de embasamento adequado é outro fator de atenção. Os modelos de IA podem ter dificuldade de entender com precisão o conhecimento do mundo real, propriedades físicas e naturais e informações factuais. E quando falta esse embasamento, o modelo gera saídas que considera plausíveis, embora incorretas, inverídicas ou mesmo sem sentido.
Não é incomum descobrir que a IA inventou algo que não existe, fabricou datas e/ou criou eventos. Algo bastante perigoso.
Exemplos de Alucinações de IA
As alucinações podem assumir inúmeras formas. Mas em geral, envolvem 3 contextos:
Previsões incorretas: o modelo de IA pode prever que um evento ocorrerá com base em seus dados de treinamento, mesmo que seja completamente improvável.
Falsos positivos: o modelo de IA pode identificar algo como uma ameaça, de forma equivocada. Pense, por exemplo, em um modelo para identificar fraudes, que sinaliza como fraudulenta uma transação idônea.
Falsos negativos: o modelo de IA não consegue identificar/selecionar algo que deveria, deixando passar; um risco grave, por exemplo, em diagnósticos médicos.
Como evitar Alucinações?
A pergunta que não quer calar: tem remédio para essas alucinações?
Em resumo: sim! Mas não existe “bala de prata” ou algo que eliminará completamente qualquer possibilidade de incorreção da IA. Algumas maneiras de controlar as alucinações:
Limite os possíveis resultados
Ao treinar os motores de IA é importante limitar a quantidade de resultados possíveis que o modelo pode prever. Algo como “por limites” na geração de resultados. Isso pode ser feito através de uma técnica conhecida como Regularização. A regularização penaliza o modelo de IA por fazer previsões muito extremas, o que ajuda na geração de respostas evitando que a Inteligência Artificial “dê uma viajada”.
Treine a IA apenas com fontes relevantes e específicas
É bastante tentador nutrir a IA com todos os dados da internet, empoderando-a para responder e interagir de maneira quase onisciente. De fato, isso pode funcionar para alguns negócios.
No entanto, a variedade e abundância dos dados pode (e deve) gerar incorreções nos resultados.
Aos modelos de IA que requerem altíssima precisão e/ou que resultados incorretos podem ter impactos cruciais na vida de pessoas, é aconselhável usar apenas dados relevantes para a tarefa que o modelo irá realizar. Por exemplo, se a IA é utilizada para diagnósticos médicos específicos, utilize apenas dados e imagens médicas.
Crie um modelo para a IA seguir
Ao treinar um motor de Inteligência Artificial é altamente aconselhável criar padrões para o modelo seguir. Por “padrões”, entenda unificar as informações e apresentá-las de forma ordenada (com tópicos, números, conexões). O aprendizado é mais rápido e os riscos de associações indevidas é menor.
Diga a IA o que você não quer
Na hora de treinar o modelo de IA também é preponderante dizer a ela o que você não quer que ela gere. “Dar limites” para essa tecnologia. Por exemplo, um chatbot com IA generativa de uma empresa não deve em hipótese alguma direcionar o usuário para o concorrente.
Guardrails, ou grades de proteção (em tradução literal), é justamente o sistema e/ou prática de incluir mecanismos para que o motor de IA não gere resultados discriminatórios, antiéticos ou ilegais. E mais: que ele garanta a privacidade e confidencialidade dos dados tanto da empresa quanto dos usuários.
IA sem Alucinações?
Será que teremos uma IA sem alucinações? Obter respostas 100% corretas e fidedignas em relação aos dados de entrada?
Como dito, tudo depende da integridade dos dados de treinamento, das limitações dos resultados e dos limites impostos nesta geração. Especialistas no tema concordam que criamos um monstro (a IA generativa) e agora seguimos tentando domá-lo – tarefa hercúlea, mas que vem apresentando resultados satisfatórios em determinados negócios e segmentos.
LEIA TAMBÉM: “O que é LLM? O que seu negócio tem a ver com isso?”
LEIA TAMBÉM: “Aplicações práticas do ChatGPT em diferentes setores”
