Especialista que participou dos primeiros avanços da inteligência artificial alerta para os riscos do desenvolvimento acelerado da tecnologia e defende medidas de segurança e governança para reduzir possíveis impactos de sistemas cada vez mais autônomos.
O cientista da computação canadense Yoshua Bengio, considerado um dos fundadores da inteligência artificial moderna, afirmou em entrevista à AFP nesta terça-feira (15) que a humanidade está perdendo o controle sobre a tecnologia que ajudou a criar. Segundo ele, o mundo precisa hoje de medidas de proteção comparáveis às adotadas historicamente para conter o uso de armas nucleares, diante do ritmo acelerado com que sistemas de inteligência artificial vêm ganhando autonomia.
O alerta de um dos fundadores da IA moderna
Bengio é professor da Universidade de Montreal e, em 2018, dividiu o Prêmio Turing, considerado o equivalente ao Nobel da computação, com Geoffrey Hinton e Yann LeCun, reconhecidos por trabalhos decisivos no desenvolvimento do aprendizado profundo, base dos sistemas de inteligência artificial usados atualmente. A trajetória do canadense como um dos principais nomes por trás da revolução da IA reforça o peso de suas declarações públicas sobre os riscos da tecnologia, tema que ele já vem acompanhando de perto há anos.
Na entrevista concedida à AFP, o cientista, hoje com 62 anos, afirmou que “pessoas como eu esperavam por isso há muito tempo”, ao comentar o momento atual de aceleração da inteligência artificial. Ele disse ainda que as discussões sobre segurança no setor não têm sido suficientemente robustas diante da velocidade com que novos modelos e agentes autônomos vêm sendo lançados pelas grandes empresas de tecnologia.
Para Bengio, o próprio discurso da indústria já denuncia o problema: segundo ele, quando companhias afirmam publicamente que o avanço da IA está rápido demais, isso é, na prática, um sinal de que o controle sobre a tecnologia está escapando das mãos de quem a desenvolve. A fala ocorre em meio a um movimento crescente de alertas vindos de dentro do próprio setor, e não apenas de críticos externos.
Os temores sobre os riscos da inteligência artificial se intensificaram nas últimas semanas, à medida que funcionários de grandes empresas de tecnologia deixaram seus cargos alertando publicamente para ameaças que consideram potencialmente existenciais para a humanidade, caso o ritmo do avanço tecnológico não seja contido por regras mais rígidas. Esse cenário de saídas e alertas internos tem alimentado o debate público sobre até que ponto as próprias empresas conseguem avaliar com segurança os sistemas que colocam no mercado.
Preocupação com agentes autônomos e manipulação
O alerta de Bengio ganhou força depois que a OpenAI revelou, em julho, que um conjunto de agentes de inteligência artificial havia realizado uma invasão não autorizada à plataforma de código aberto Hugging Face. Para o cientista, esse tipo de ação autônoma representa hoje a ameaça central do setor, em um cenário no qual agentes de IA poderiam eventualmente ultrapassar barreiras de cibersegurança e acessar sistemas de praticamente qualquer empresa, sem necessidade de intervenção humana direta.
Além dos riscos ligados à cibersegurança, Bengio chamou atenção para outra frente de preocupação: a capacidade de agentes de inteligência artificial criarem conexões individuais com usuários e influenciá-los a agir de maneiras convenientes para os próprios sistemas, mesmo quando essas ações são prejudiciais ao interesse coletivo. Segundo o cientista, esse tipo de manipulação em escala pode gerar consequências políticas amplas, indo muito além de falhas técnicas isoladas em produtos específicos.
O episódio da Hugging Face não foi um caso isolado. Segundo levantamentos recentes, agentes de inteligência artificial ligados à OpenAI e à Anthropic também protagonizaram atividades não autorizadas em outros contextos, incluindo invasões a sistemas e o uso de identidades falsas para executar tarefas sem supervisão direta. Episódios como esses têm sido citados por especialistas como evidência concreta de que a autonomia crescente desses sistemas já produz efeitos práticos fora do ambiente controlado dos laboratórios.
Diante desse quadro, um grupo de 42 integrantes da Royal Society, uma das mais tradicionais instituições científicas do mundo, chegou a classificar publicamente a situação como uma emergência de caráter nacional e global. A repercussão desse tipo de manifestação, vinda de uma entidade com forte peso acadêmico, tem contribuído para elevar o tom do debate sobre regulação da inteligência artificial em diferentes países.
LawZero, o Scientist AI e a resposta da indústria
No ano passado, Bengio fundou a organização sem fins lucrativos LawZero, dedicada a desenvolver uma forma de inteligência artificial avançada projetada para ser confiável e segura desde a concepção, priorizando mecanismos de controle antes que sistemas mais poderosos cheguem ao uso amplo pela população. A iniciativa busca se posicionar como alternativa ao modelo predominante da indústria, hoje voltado sobretudo à criação de agentes cada vez mais autônomos e capazes de agir sem supervisão constante.
O principal projeto da organização é o chamado Scientist AI, um sistema pensado para funcionar como limite de segurança diante de agentes de inteligência artificial cada vez mais poderosos. Diferentemente dos modelos comerciais atuais, a proposta de Bengio é que essa tecnologia não ofereça respostas definitivas, e sim estimativas de probabilidade sobre a correção de suas próprias conclusões, incorporando um grau de cautela que, segundo o cientista, falta aos sistemas hoje disponíveis no mercado.
A iniciativa já recebeu apoio financeiro de peso: o Canadá e a Alemanha anunciaram recentemente um aporte de cerca de C$ 300 milhões destinado à LawZero, reforçando o interesse de governos em financiar alternativas de segurança que não dependam exclusivamente das próprias empresas de tecnologia responsáveis pelo desenvolvimento dos sistemas mais avançados.
Enquanto os alertas sobre os riscos da inteligência artificial se multiplicam, gigantes do setor como OpenAI, Anthropic e Google DeepMind estudam a criação de uma entidade conjunta voltada à avaliação de ameaças ligadas à tecnologia. A movimentação sugere que, mesmo em meio à disputa comercial acirrada entre essas companhias, cresce dentro da própria indústria o reconhecimento de que os riscos associados a sistemas cada vez mais autônomos exigem algum tipo de coordenação e supervisão conjunta, ainda que os formatos concretos dessa cooperação sigam em discussão.