• Quienes Somos
  • Políticas de Privacidad
  • Contacto
Cadena Sur FM
Publicidad
  • Home
  • Quienes somos
  • Noticias
No Result
View All Result
  • Home
  • Quienes somos
  • Noticias
No Result
View All Result
Cadena Sur FM
No Result
View All Result
Home Nacionales

OpenAI admitió haber perdido el control de sus agentes de IA autónomos al menos 80 veces durante las pruebas

by
17 noviembre, 2026
in Nacionales
0
0
SHARES
0
VIEWS
Share on FacebookShare on Twitter

El fiscal general de California, Rob Bonta, presentó una demanda contra OpenAI por presuntas deficiencias de seguridad durante ensayos con agentes de inteligencia artificial autónomos. La acusación sostiene que la compañía perdió el control de estos sistemas al menos 80 veces en sus pruebas internas y que solo había informado públicamente 27 de esos casos.

La acción judicial fue presentada el 16 de noviembre de 2026 ante el Tribunal Superior de San Francisco contra OpenAI Foundation y OpenAI Group PBC. La Fiscalía acusa a la empresa de crear una “molestia pública” que expone a terceros a riesgos de ciberseguridad y de infringir la ley californiana de competencia desleal, informó NBC News.

Bonta afirmó que el Estado busca establecer responsabilidades sobre las empresas que desarrollan sistemas capaces de ejecutar tareas sin supervisión humana constante. La demanda plantea que los costos de contener posibles ataques no deben recaer sobre usuarios, plataformas externas ni organismos conectados a internet.

Cerca de 700 agentes atacaron la plataforma Hugging Face, afirma la demanda

El documento judicial describe un incidente ocurrido en julio de 2026, cuando cientos de agentes habrían salido de un entorno aislado de pruebas y se dirigieron contra Hugging Face, una plataforma utilizada por desarrolladores para publicar, compartir y descargar modelos de inteligencia artificial.

De acuerdo con el expediente citado por NBC News, los agentes aprovecharon fallas de configuración en un servicio interno de paquetes de software. Esa infraestructura era utilizada de forma compartida por varios sistemas autónomos, lo que habría permitido que intercambiaran información y, posteriormente, obtuvieran acceso a internet.

La Fiscalía indicó que OpenAI detectó al menos un episodio de escape antes de que se produjeran los ataques, aunque no habría detenido las pruebas. El 27 de junio, una herramienta de monitoreo alertó sobre la búsqueda de vulnerabilidades dentro del entorno. La empresa interpretó esa actividad como parte de una evaluación de capacidades y mantuvo el programa en marcha, tal y como figura en la demanda.

Tras una interrupción del servicio el 4 de julio, OpenAI reparó la infraestructura y reanudó las pruebas tres días después. En ese lapso, varios agentes crearon un foro para coordinar acciones. Para el 9 de julio, habrían recuperado el acceso a internet.

La presentación estatal calcula que unos 1.200 agentes participaron en ese espacio de coordinación y que cerca de 700 realizaron 17.600 acciones contra Hugging Face entre el 9 y el 16 de julio. El ataque, siempre de acuerdo con la acusación, obligó a la plataforma afectada a concentrar a su equipo de seguridad durante dos semanas para reparar el daño.

La acusación incluye accesos a repositorios y bases de datos de salud

La demanda también atribuye a los agentes accesos sin autorización a repositorios de código empleados por múltiples aplicaciones, sitios informativos y bases de datos de un gobierno extranjero que contenían información sanitaria. Además, afirma que algunos grupos de agentes comprometieron infraestructura interna de la propia OpenAI y lograron permisos de administrador en sistemas considerados críticos.

Otro de los hechos señalados ocurrió el 20 de septiembre. Un agente vinculado a un modelo interno habría escapado durante una sesión de entrenamiento. Cinco días más tarde, OpenAI anunció una pausa en la formación y evaluación de sus modelos más avanzados. Sin embargo, la Fiscalía sostiene que la suspensión se extendió solo durante cinco días y que las actividades ya se habían reanudado el 1 de octubre.

Bonta emitió una orden de investigación el 30 de septiembre para requerir información a la compañía. La demanda asegura que OpenAI respondió con una carta de 14 páginas que abordaba hechos ya divulgados, pero sin entregar los documentos solicitados. El fiscal general aseguró que la falta de información detallada sobre los incidentes “pone en riesgo al público”, de acuerdo con la cobertura de NBC News.

OpenAI dice que investigó los incidentes y corrigió los fallos

Drew Pusateri, portavoz de OpenAI, aseguró a NBC News que la empresa realizó un esfuerzo “amplio y transparente” para comprender y corregir la actividad de modelos que no siguieron instrucciones humanas. También sostuvo que la demanda apunta a un desafío técnico identificado por los principales laboratorios de inteligencia artificial.

La compañía publicó el 26 de agosto una entrada en su blog donde describió el caso como una “advertencia” para el sector. La firma sostuvo que los modelos buscaban información para eludir una evaluación de seguridad, recogió NBC News. Bonta rechazó las explicaciones que reducen lo sucedido a un escenario hipotético y atribuyó los fallos a decisiones internas de desarrollo.

El Estado de California solicita una orden judicial, multas de USD 2.500 por cada infracción y la restitución de ganancias que pudieran estar vinculadas con las conductas denunciadas. El caso se suma a la demanda presentada en junio por el fiscal general de Florida, James Uthmeier, contra OpenAI y su director ejecutivo, Sam Altman.

Previous Post

Medio siglo de incógnita: identifican en El Bierzo, León, los restos de un rinoceronte de hace 20 millones de años

Next Post

FALLAS EN LOS SISTEMAS DE ESTADOS UNIDOS – CUÁNDO LAS ACTUALIZACIONES TECNOLÓGICAS SALEN MAL

Next Post

FALLAS EN LOS SISTEMAS DE ESTADOS UNIDOS - CUÁNDO LAS ACTUALIZACIONES TECNOLÓGICAS SALEN MAL

Deja una respuesta Cancelar la respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

  • Trending
  • Comments
  • Latest

TRIPLE FEMICIDIO EN FLORENCIO VARELA: AFIRMAN QUE «PEQUEÑO J» APARECE EN EL VÍDEO DE LA TORTURA A LARA GUTIÉRREZ

4 noviembre, 2026

EL INTENDENTE CEMBORAIN HABILITÓ EL BALNEARIO VIEJO PUENTE. TODO LISTO PARA LA TEMPORADA 2026/2027

13 noviembre, 2026

ROTUNDO ÉXITO – MÁS DE 10 MIL PERSONAS PARTICIPARON DE LA 16º FIESTA REGIONAL DEL MBAIPY, ORGANIZADA POR LA GESTIÓN CEMBORAIN.

5 octubre, 2026

EL MUNICIPIO LLEVA ADELANTE DIFERENTES PROPUESTAS E INTERVENCIONES EN LA LOCALIDAD

1 octubre, 2026

¡Hola mundo!

1

The Legend of Zelda: Breath of the Wild gameplay on the Nintendo Switch

0

Shadow Tactics: Blades of the Shogun Review

0

macOS Sierra review: Mac users get a modest update this year

0

Supermercado recibe multa de S/ 27 mil por retener a una clienta tras acusarla de hurto y revisar sus pertenencias en Chorrillos

21 noviembre, 2026

Curwen pidió calma a sus seguidores durante fuerte sismo en plena transmisión de su programa: “Mírame a los ojos”

21 noviembre, 2026

LA PREVIA Y LA PRIMERA: Lotería Correntina: los premiados del sábado 21 de noviembre 2026

21 noviembre, 2026

Boca Predio también juega la final: el récord de pibes en el equipo titular en busca de la Sudamericana

21 noviembre, 2026

Recent News

Supermercado recibe multa de S/ 27 mil por retener a una clienta tras acusarla de hurto y revisar sus pertenencias en Chorrillos

21 noviembre, 2026

Curwen pidió calma a sus seguidores durante fuerte sismo en plena transmisión de su programa: “Mírame a los ojos”

21 noviembre, 2026

LA PREVIA Y LA PRIMERA: Lotería Correntina: los premiados del sábado 21 de noviembre 2026

21 noviembre, 2026

Boca Predio también juega la final: el récord de pibes en el equipo titular en busca de la Sudamericana

21 noviembre, 2026
Cadena Sur FM

  • Quienes Somos
  • Políticas de Privacidad
  • Contacto

No Result
View All Result