Nos últimos meses, deparamos vários avanços tecnológicos como o GPT-4, um modelo de linguagem humanizada da nova versão do ChatGPT, da Open-AI, que possui uma Inteligência Artificial(IA), capaz de aprender tão rápido e responder a uma infinidade de questões com um nível de qualidade surpreendente. Mas ao mesmo tempo em que esses recursos se tornam indiscutivelmente úteis de várias maneiras, os avanços da IA levantam muitas preocupações sobre o futuro da civilização.
Em uma carta aberta publicada no site futureoflife.org, centenas de especialistas propõe suspensão de seis meses em pesquisas sobre sistemas mais poderosos que o GPT-4, da criadora do ChatGPT e fazem um alerta sobre o risco que os avanços tecnológicos podem causar à humanidade. Além disso, o mesmo grupo pede criação de órgãos reguladores e responsabilização por danos causados pela IA.
Segundo os especialistas, a IA avançada pode representar uma mudança profunda na história da vida na Terra e deve ser planejada e gerenciada com cuidados e recursos proporcionais. Porém, esse nível de planejamento e gerenciamento não está acontecendo, embora os últimos meses tenham visto laboratórios de IA travados em uma corrida descontrolada para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém, nem mesmo seus criadores, pode entender, prever ou controlar de forma confiável.
Na carta, o grupo faz vários questionamentos como:
- Até onde devemos deixar que as máquinas inundem nossos canais de informação com propaganda e falsidade?
- Devemos automatizar todos os trabalhos, incluindo os satisfatórios?
- Deveríamos desenvolver mentes não humanas que eventualmente nos superassem em número, fossem mais espertas, obsoletas e nos substituíssem? Devemos arriscar perder o controle de nossa civilização?
LEIATAMBÉM: “Marketing através da Inteligência Artificial”
LEIA TAMBÉM: “10 exemplos da presença da IA no dia a dia”
Os especialistas pedem que Sistemas poderosos de IA devem ser desenvolvidos apenas quando estiverem confiantes de que seus efeitos serão positivos e seus riscos serão administráveis. Em uma declaração recente, a OpenAI afirmou que em algum momento, pode ser importante obter uma revisão independente antes de começar a treinar sistemas futuros e para os esforços mais avançados concordar em limitar a taxa de crescimento da computação usada para criar novos modelos.
Sendo assim, os especialistas pedem na carta que todos os laboratórios de IA que pare imediatamente por pelo menos seis meses o treinamento de sistemas de IA mais poderosos que o GPT-4. Que essa pausa deve ser pública e verificável e incluir todos os principais atores. Se tal pausa não puder ser decretada rapidamente, os governos devem intervir e instituir uma moratória. Eles solicitam, também, aos Laboratórios de IA e especialistas independentes devem usar essa pausa para desenvolver e implementar em conjunto um conjunto de protocolos de segurança compartilhados para design e desenvolvimento avançados de IA que são rigorosamente auditados e supervisionados por especialistas externos independentes. Esses protocolos devem garantir que os sistemas que aderem a eles sejam seguros além de qualquer dúvida razoável.
Será que realmente os laboratórios devem dar uma pausa nos avanços da IA?
VEJA TAMBÉM: “Recurso no WhatsApp bloqueia conversas com senha”
VEJA TAMBÉM: “Chatbot e ChatGPT: Como se relacionam?”
