OpenAI ha decidido ralentizar temporalmente el escalado de sus modelos de inteligencia artificial más avanzados para reforzar sus mecanismos de seguridad, una decisión que refleja la prioridad de la industria por mantener los sistemas de control al mismo nivel que las capacidades de una nueva generación de modelos cada vez más autónomos.
“A medida que los modelos adquieren mayores capacidades, también aumentan los riesgos asociados a su desarrollo y a las pruebas internas. Nuestros estándares de supervisión, alineamiento y seguridad deben mantenerse por delante de esos riesgos”, ha explicado la compañía.
La decisión llega después de que OpenAI anunciara a principios de agosto la suspensión de determinadas pruebas de un modelo todavía no publicado, denominado Astra, al detectarse en evaluaciones internas “avances significativos en programación mediante agentes y ciberseguridad”.
A ello se suman otros episodios y pruebas divulgados recientemente por compañías como Anthropic y por organismos especializados, que han vuelto a situar en primer plano la capacidad de los sistemas de IA más avanzados para ejecutar tareas complejas y operar con un grado creciente de autonomía.
Estos acontecimientos ponen de manifiesto una evolución que va más allá de la mejora de las capacidades de los modelos: la inteligencia artificial está pasando de ser fundamentalmente una herramienta de asistencia a convertirse en una tecnología capaz de ejecutar acciones de forma cada vez más autónoma.
Esta transformación obliga a las organizaciones a replantear sus enfoques tradicionales de gestión del riesgo tecnológico, ciberseguridad y gobernanza digital.
Para Fernando de Águeda, CEO de Scalian Spain, esta evolución no debería abordarse desde una perspectiva alarmista, sino desde la necesidad de adaptar los mecanismos de control y gestión del riesgo a una nueva realidad tecnológica.
“La inteligencia artificial no introduce un riesgo completamente nuevo; amplifica la velocidad, la escala y la complejidad de riesgos que ya conocíamos. Por eso la conversación no debe centrarse en el miedo a la autonomía de la IA, sino en nuestra capacidad para supervisarla, auditarla y gobernarla de forma efectiva”.
La evolución de los modelos fundacionales y de los agentes inteligentes está incrementando de forma simultánea su capacidad, velocidad de ejecución y posibilidad de operar a escala. Para las empresas, este avance abre nuevas oportunidades de automatización y productividad, pero también introduce nuevos retos relacionados con la supervisión, el control de accesos y la gestión del riesgo.
En este contexto, la adopción de inteligencia artificial deja de ser una cuestión de futuro para convertirse en una realidad empresarial. El desafío consiste en garantizar que los sistemas desplegados operen dentro de marcos sólidos de confianza, transparencia y responsabilidad.
“Cuanto mayor sea la capacidad de decisión de un sistema, mayor debe ser también nuestra capacidad para conocer qué está haciendo, por qué lo está haciendo y qué límites tiene”, señala de Águeda.
La expansión de la inteligencia artificial supone un cambio relevante en los modelos tradicionales de seguridad. Al igual que ocurrió con Internet, la computación en la nube o el Internet de las Cosas, la incorporación de nuevas capacidades tecnológicas amplía las posibilidades de las organizaciones, pero también genera nuevos vectores de riesgo.
En el caso de la IA, el cambio es especialmente significativo porque las organizaciones deberán gestionar ecosistemas en los que personas, aplicaciones y agentes inteligentes interactúan entre sí, en algunos casos con capacidad para ejecutar acciones sin intervención humana directa.
Por ello, cobran especial importancia capacidades como la observabilidad de los modelos, la trazabilidad de las decisiones, la auditoría continua, la gestión rigurosa de identidades y permisos, la supervisión humana y las arquitecturas Zero Trust.
“El reto ya no consiste únicamente en proteger una infraestructura frente a amenazas externas. Tenemos que ser capaces de gobernar sistemas que pueden actuar, interactuar y tomar decisiones a una velocidad muy superior a la de los procesos tradicionales de supervisión”, explica el CEO de Scalian Spain.
La creciente autonomía de la IA también obliga a evolucionar desde modelos de seguridad fundamentalmente reactivos hacia estrategias de resiliencia digital, capaces de adaptarse de forma continua a nuevos escenarios y comportamientos.
Para las organizaciones, esto implica incorporar la seguridad desde el diseño, establecer límites claros de actuación para los agentes, reforzar los mecanismos de gobierno de la IA y mantener capacidades permanentes de monitorización, auditoría y respuesta.
En sectores críticos y altamente regulados, estos mecanismos adquieren una importancia todavía mayor, dado que las organizaciones deben poder demostrar no solo que sus sistemas funcionan, sino también que sus decisiones pueden ser supervisadas, trazadas y corregidas.
“Los sistemas de IA serán cada vez más autónomos, y esa evolución es irreversible. La verdadera cuestión estratégica es garantizar que cada decisión pueda explicarse, trazarse y corregirse. La confianza en la IA dependerá menos de lo que sea capaz de hacer y más de la calidad de los mecanismos de control que construyamos alrededor de ella”.
La incorporación de inteligencia artificial a los procesos empresariales no debería plantearse como una disyuntiva entre innovación y seguridad. Para Scalian, ambas dimensiones deben evolucionar conjuntamente y formar parte del diseño de las estrategias de transformación digital.
“Las organizaciones que tendrán éxito no serán las que frenen la adopción de la IA, sino las que sean capaces de combinar innovación, gobernanza y resiliencia operativa desde el primer momento. La ventaja competitiva no estará únicamente en disponer de sistemas más capaces, sino en saber utilizarlos de forma segura, controlada y responsable”, concluye Fernando de Águeda.
Consulta más información responsable en las publicaciones Corresponsables.
