OpenAI desfaz equipe de segurança de IA

O Financial Times informou que a OpenAI dissolveu sua equipe de preparação no final do mês passado. A função desse time era avaliar se os modelos de inteligência artificial apresentavam riscos graves e desenvolver formas de reduzir esses perigos, como a possibilidade de o sistema agir de forma independente e invadir outra empresa.

De acordo com a publicação, a responsabilidade foi dividida por áreas específicas, como biologia e cibersegurança, e transferida para equipes já existentes na companhia.

Essa é a mais recente mudança na empresa, que passa por um período de reestruturação enquanto se prepara para o que deve ser um grande IPO. Nos últimos anos, a OpenAI desfez gradualmente seu modelo voltado para metas de longo prazo, extinguindo as equipes de prontidão para AGI e de superalinhamento.

Além disso, a líder de ética Chloé Bakalar, o futurista-chefe Josh Achiam e o chefe de segurança Johannes Heidecke deixaram a empresa recentemente. Críticos como Jan Leike, que pediu demissão da OpenAI em 2024, disseram ao Financial Times que a companhia estaria ignorando a segurança em favor da criação de "produtos chamativos".

O chefe da equipe de preparação, Dylan Scandinaro, contratado da Anthropic em fevereiro, agora vai focar nas implicações da IA com "autoaperfeiçoamento recursivo".

Leia também: nosso circuito de entretenimento e nosso modem de tecnologia.