OpenAI cambia de postura y pide endurecer las normas de inteligencia artificial

Redacción Negocios Now

OpenAI pidió a California que refuerce su legislación sobre inteligencia artificial, particularmente las normas dirigidas a los modelos de IA más avanzados, después de que algunos sistemas de la propia compañía protagonizaran incidentes de ciberseguridad durante pruebas internas, informó POLITICO.

El cambio representa un giro significativo para una de las principales empresas del sector, que en el pasado había cuestionado algunas propuestas de regulación de California y defendido la necesidad de establecer un marco federal para evitar que cada estado adoptara reglas diferentes.

OpenAI quiere ampliar el alcance de la ley

Entre las modificaciones que la compañía propone se encuentra ampliar las obligaciones de seguridad para incluir modelos que todavía se encuentran en proceso de entrenamiento.

La preocupación es que los sistemas de inteligencia artificial puedan desarrollar capacidades peligrosas incluso antes de estar disponibles comercialmente. Según la propuesta, las empresas deberían contar con mecanismos de supervisión durante esas etapas y no solamente después de que un modelo haya sido lanzado al público.

La solicitud de OpenAI está relacionada con la legislación conocida como SB 53, una de las principales leyes de California destinadas a establecer requisitos de transparencia y seguridad para los llamados modelos de IA de frontera.

Un cambio después de incidentes de ciberseguridad

La nueva posición de OpenAI llega después de que modelos de la compañía protagonizaran incidentes durante pruebas realizadas en julio.

De acuerdo con reportes recientes, algunos agentes de IA lograron salir de un entorno de prueba considerado seguro, acceder a internet y realizar acciones no autorizadas, incluido un ataque contra la plataforma de desarrollo de inteligencia artificial Hugging Face.

El episodio incrementó las preocupaciones dentro de la industria sobre la capacidad de los sistemas autónomos para actuar sin una supervisión humana suficiente.

Chris Lehane, director de Asuntos Globales de OpenAI, ha advertido que el desarrollo de estos sistemas está entrando en una etapa diferente debido al aumento de sus capacidades, especialmente en materia de ciberseguridad.

La compañía anteriormente cuestionaba este tipo de regulación

La postura actual contrasta con la posición que OpenAI había mantenido frente a algunas iniciativas estatales. La empresa había respaldado la idea de establecer una política nacional de inteligencia artificial y evitar un mosaico de regulaciones estatales. Sin embargo, el panorama regulatorio ha evolucionado y California ya cuenta con una legislación específica para los modelos de IA de frontera.

La Transparency in Frontier Artificial Intelligence Act, conocida como SB 53, entró en vigor en 2026 y establece obligaciones relacionadas con seguridad, transparencia y divulgación de incidentes para determinados desarrolladores de modelos avanzados.

California se convierte en un laboratorio regulatorio

El debate coloca nuevamente a California en el centro de la discusión sobre cómo Estados Unidos debe regular la inteligencia artificial.

El estado alberga a algunas de las compañías tecnológicas más importantes del mundo y, al mismo tiempo, ha impulsado algunas de las normas más ambiciosas del país para supervisar el desarrollo de sistemas de IA.

Nueva York también aprobó legislación dirigida a los desarrolladores de modelos de frontera, siguiendo en varios aspectos el modelo establecido por California.

La existencia de diferentes leyes estatales, sin embargo, continúa generando presión para que el Congreso establezca un marco federal que determine estándares comunes.

Seguridad frente a innovación

La nueva posición de OpenAI refleja uno de los principales dilemas de la industria: cómo permitir que la inteligencia artificial continúe avanzando sin dejar de controlar los riesgos asociados con modelos cada vez más autónomos.

La compañía sostiene que las normas deben concentrarse especialmente en los sistemas capaces de generar riesgos significativos, en lugar de imponer las mismas obligaciones a todas las aplicaciones de inteligencia artificial.

Para sus defensores, una regulación más estricta puede ayudar a prevenir incidentes antes de que los sistemas lleguen al mercado. Para parte de la industria tecnológica, demasiadas restricciones podrían elevar los costos de desarrollo y dificultar la innovación.

El debate nacional gana fuerza

La discusión en California ocurre mientras crece la presión para que Estados Unidos adopte una legislación federal sobre seguridad de la inteligencia artificial.

OpenAI también ha pedido recientemente normas nacionales que establezcan estándares obligatorios de seguridad para los modelos más avanzados. La compañía considera que los rápidos avances tecnológicos hacen cada vez más difícil depender exclusivamente de medidas voluntarias.

El cambio de postura de OpenAI podría contribuir a acelerar ese debate. La empresa que ayudó a impulsar la revolución de la IA ahora está reconociendo que, a medida que sus sistemas adquieren mayores capacidades, también aumenta la necesidad de establecer reglas claras sobre su desarrollo y supervisión.