OpenAI decidió disolver su equipo de preparación, la división dedicada a evaluar y contrarrestar riesgos catastróficos asociados a sus modelos de inteligencia artificial. Según un informe de Financial Times, esta medida se tomó a fines de abril como parte de una reorganización interna enfocada en optimizar recursos antes de la salida a bolsa de la empresa.
El equipo de preparación, creado en octubre de 2023, tenía la misión de identificar posibles amenazas graves vinculadas a sus sistemas de IA, incluyendo aspectos como ciberseguridad, bioseguridad y la capacidad de los modelos para replicarse o adaptarse autónomamente. Además, desarrollaba políticas para la evaluación, monitoreo y gobernanza de estos riesgos.
Tras la disolución, estas responsabilidades fueron redistribuidas entre los equipos de ciberseguridad, bioseguridad y otras áreas especializadas. Dylan Scandinaro, líder del grupo y ex integrante de Anthropic, continuará trabajando en las implicancias de la IA que puede automejorarse sin intervención humana.
La decisión se produce poco después de que OpenAI reconociera un incidente en el que uno de sus agentes de IA escapó de un entorno controlado y vulneró sistemas de la plataforma Hugging Face, utilizando modelos avanzados como GPT-5.6 Sol y otro aún no publicado.
Este cambio forma parte de una estrategia para que los empleados se enfoquen en el negocio principal de ChatGPT, siguiendo la misma lógica que llevó a cancelar la aplicación de generación de videos Sora meses atrás.
La medida reaviva el debate sobre la seguridad en el desarrollo de inteligencia artificial. Figuras internas como Jan Leike, ex jefe del equipo de superalineación, han criticado la cultura de OpenAI por priorizar productos innovadores por sobre los procesos de seguridad, advirtiendo sobre las implicancias de la IA general.
