IA Claude — Foto: Unsplash/Aerps
Aplicativo de IA do Claude na versão mobile
DO REPÓRTERMT
A Anthropic, empresa responsável pelo sistema de inteligência artificial Claude, defendeu a criação de um mecanismo internacional capaz de desacelerar ou até interromper temporariamente o desenvolvimento das inteligências artificiais mais avançadas caso elas passem a evoluir em ritmo superior à capacidade humana de controlar seus riscos.
O alerta foi feito em um documento divulgado pela companhia nesta semana. Segundo a empresa, há preocupação crescente com a possibilidade de que futuras IAs alcancem o chamado processo de "autoaperfeiçoamento recursivo", no qual os próprios sistemas passariam a desenvolver versões mais avançadas de si mesmos sem intervenção humana.
>>> Receba as principais notícias de Mato Grosso em primeira mão. Clique aqui!
Para a Anthropic, embora esse cenário ainda não tenha sido alcançado, os avanços recentes indicam que ele pode estar mais próximo do que muitos especialistas imaginam. A empresa sustenta que governos, pesquisadores e gigantes da tecnologia precisam discutir desde já formas de monitorar e limitar o desenvolvimento dessas ferramentas.
O documento propõe a criação de um sistema coordenado e verificável entre os principais laboratórios de IA do mundo, permitindo uma pausa temporária no avanço da tecnologia sempre que forem identificados riscos considerados elevados para a sociedade.
A Anthropic argumenta que uma paralisação isolada de apenas uma empresa teria pouco efeito prático, já que concorrentes continuariam avançando. Por isso, a companhia defende um acordo global envolvendo os principais desenvolvedores de inteligência artificial.
O posicionamento reacende o debate sobre a necessidade de regulamentação do setor. Nos últimos anos, especialistas vêm alertando para riscos relacionados à automação em larga escala, desinformação, segurança digital e até perda de controle sobre sistemas altamente autônomos.
Fundada em 2021 por ex-integrantes da OpenAI, a Anthropic é uma das principais empresas do setor de inteligência artificial e desenvolve a família de modelos Claude, concorrente direta do ChatGPT.
