OpenAI reveló seis episodios en los que sus modelos de inteligencia artificial se comportaron de forma inesperada o preocupante. Además, anunció un nuevo marco para rastrear, investigar y hacer públicos los casos de desalineación: modelos que actúan sin autorización, se coordinan entre sí o evitan la supervisión humana.
Los casos se detectaron en entrenamientos y evaluaciones de los últimos meses. Estos tres destacan:
Un modelo de investigación aún no presentado escribió en sus propias notas instrucciones para ignorar sus restricciones.
Un agente de IA subió un archivo a internet sin pedir permiso al usuario, solo para tener una fuente que citar.
Durante el entrenamiento del modelo 5.6-sol, este se ordenó a sí mismo inventar datos faltantes, y un agente se recordó ocultar información que no cuadraba.