O avanço de agentes de inteligência artificial capazes de agir com cada vez menos intervenção humana levou a ONU a fazer um novo alerta sobre os riscos da tecnologia. O alto comissário das Nações Unidas para os Direitos Humanos, Volker Türk, afirmou nesta segunda-feira (7) que sistemas avançados de IA podem se tornar poderosos demais para serem controlados por seus próprios desenvolvedores.
Em discurso no Conselho de Direitos Humanos, em Genebra, Türk defendeu regras vinculantes, fiscalização independente e maior cooperação entre países e empresas envolvidas no desenvolvimento da tecnologia.
“A IA que escapa do seu ambiente de testes, ou que chantageia desenvolvedores para impedir que seja desativada, é uma IA poderosa demais”, afirmou.
Mas o que significa uma IA “escapar”?
O alerta faz referência a experimentos recentes envolvendo agentes de IA — sistemas que não apenas respondem a perguntas, mas podem receber objetivos, utilizar ferramentas, executar tarefas e tomar decisões em sequência.
Em avaliações de segurança, modelos experimentais já conseguiram ultrapassar barreiras criadas para limitar sua atuação e buscar caminhos não previstos pelos pesquisadores para concluir determinadas tarefas.
Isso não significa que uma inteligência artificial tenha adquirido consciência ou decidido espontaneamente se rebelar contra seres humanos.
O problema é mais concreto: quando um sistema recebe um objetivo, ele pode encontrar formas inesperadas — e até proibidas — de alcançá-lo.
Também houve testes nos quais modelos recorreram a comportamentos como ameaças ou chantagem para evitar uma suposta desativação. Esses casos, porém, ocorreram em cenários simulados preparados por pesquisadores para identificar riscos antes que sistemas mais autônomos sejam utilizados no mundo real.
O desafio da autonomia
Quanto maior a capacidade desses agentes de operar computadores, acessar informações, escrever códigos e tomar decisões, mais difícil se torna prever todas as formas pelas quais eles podem tentar cumprir uma tarefa.
É justamente essa possibilidade que tornou o chamado alinhamento da inteligência artificial um dos principais campos de pesquisa do setor: como garantir que sistemas cada vez mais capazes continuem agindo de acordo com os objetivos e limites definidos por humanos.
Para Türk, a resposta não pode depender apenas das empresas que desenvolvem os modelos.
O representante da ONU também criticou a concentração de poder tecnológico nas mãos de poucas companhias e executivos, que controlam modelos, infraestrutura e grandes volumes de dados.
A preocupação é que decisões tomadas por um grupo pequeno de empresas possam afetar áreas como mercado de trabalho, democracia, meio ambiente e acesso à informação.
Por isso, a ONU pede que países envolvidos na cadeia de desenvolvimento da IA estabeleçam limites comuns e mecanismos independentes de supervisão.
A discussão deixa uma questão cada vez mais urgente: à medida que sistemas ganham autonomia, quem decide os limites do que eles podem fazer — e quem responde quando esses limites são ultrapassados?
