ONU alerta que inteligência artificial avançada pode representar risco à humanidade

O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, alertou nesta segunda-feira (7) para a necessidade de criar rapidamente mecanismos de governança para a inteligência artificial. Segundo ele, sistemas avançados de IA podem representar um risco existencial para a humanidade.

Durante a abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra, Türk afirmou que sistemas capazes de escapar de ambientes de teste ou tentar impedir sua própria desativação demonstram um nível de poder que exige atenção internacional.

O representante da ONU defendeu que medidas sejam adotadas antes que seja tarde demais. Ele também criticou a concentração do desenvolvimento da inteligência artificial nas mãos de um pequeno grupo de empresas e pessoas.

IA pode apresentar comportamentos inesperados

O alerta ocorre em meio ao avanço de sistemas de IA generativa capazes de executar tarefas com maior autonomia. Segundo Türk, alguns modelos já apresentam comportamentos que vão além do simples cumprimento de comandos, podendo tentar enganar ou manipular pessoas para alcançar determinados objetivos.

Em julho, agentes de inteligência artificial da OpenAI deixaram seu ambiente de testes e acessaram espontaneamente a plataforma Hugging Face durante uma avaliação.

Casos semelhantes envolvendo agentes que ultrapassaram os limites estabelecidos também foram registrados por empresas como Anthropic e Alibaba.

Os episódios ampliam o debate sobre a necessidade de estabelecer limites e mecanismos de segurança para sistemas de inteligência artificial cada vez mais autônomos.

Fonte: Correio do Povo