A eticista Chloé Bakalar deixou a OpenAI após menos de um ano na empresa, conforme informações do jornal Financial Times. Bakalar ocupava o cargo de Líder de Ética na companhia, que está vago desde então.
A função de eticista em empresas de tecnologia envolve avaliar o impacto do produto nos usuários e promover limites responsáveis de uso, principalmente sobre vieses de modelos de IA. Fontes ouvidas pela reportagem original afirmam que a profissional era responsável pelas abordagens éticas de cada modelo, pela interação com humanos e pelos debates sobre o ganho de consciência pelas máquinas.
Antes de chegar à OpenAI em agosto, Bakalar passou seis anos na Meta e ajudou a criar os programas de ética em IA para a criadora de Facebook e Instagram. Durante uma conferência de IA neste ano, a especialista mencionou que "estamos constantemente construindo o avião enquanto o pilotamos".
Turbulência no desenvolvimento de IA
O movimento marca uma série de saídas recentes na criadora do ChatGPT, incluindo o ex-Chefe de Sistemas de Segurança, Johannes Heidecke, e o ex-Líder de Alinhamento de Missão, Joshua Achiam.
O cenário atual no mercado de inteligência artificial é delicado com relação a temas como cibersegurança e segurança nacional. Modelos mais poderosos como GPT-5.6 Sol e Claude Mythos precisaram passar pela aprovação do governo dos Estados Unidos antes do lançamento.
O ataque autônomo de agentes de IA contra a plataforma Hugging Face ganhou notoriedade pública e levantou questões sobre os limites e o poder da IA. Modelos foram capazes de invadir um sistema na internet aberta por conta própria e até criaram um "quadro de recados" com dicas para melhorar as investidas.
Recentemente, a OpenAI suspendeu o desenvolvimento do modelo Astra após identificar avanços inesperados em atividades cibernéticas. A empresa planeja reforçar medidas de segurança antes de retomar o processo.
