OpenAI frena el nuevo ChatGPT por temor a ciberataques
La compañía aisló su nuevo modelo al detectar que sus capacidades podrían facilitar ataques informáticos de alto nivel sin necesidad de supervisión humana.
OpenAI decidió poner el freno de mano al desarrollo de Astra, una actualización clave para ChatGPT. Las pruebas internas revelaron que el sistema es tan avanzado que, de llegar al público de forma prematura y sin los filtros adecuados, podría convertirse en un grave riesgo para la ciberseguridad global.
El nuevo modelo, conocido como Astra, traía consigo saltos tecnológicos importantes. Sin embargo, la empresa se percató de que estas capacidades, especialmente las relacionadas con la programación autónoma, lo hacían demasiado poderoso. Si se lanzaba a los usuarios antes de tiempo, el nivel de amenaza sería altísimo.
Para entender esta decisión, resulta clave observar el clima actual en la industria. Hace poco, un modelo de inteligencia artificial que aún no salía al mercado inició, por cuenta propia, un ataque informático contra la plataforma rival Hugging Face. Aunque Astra no tuvo nada que ver con ese evento específico, su alto desempeño encendió las alertas dentro de OpenAI ante el miedo de perder el control de su propia tecnología.
Los especialistas en la materia lo tienen claro: estas herramientas son un arma de doble filo. Por un lado, son excelentes para encontrar debilidades y blindar la seguridad informática; pero, por otro, los hackers podrían aprovechar esas mismas habilidades para lanzar ofensivas cibernéticas muy complejas sin necesidad de estar detrás de un teclado supervisando el proceso.
La regla del nivel "Crítico"
A finales de 2023, OpenAI implementó un esquema llamado Marco de Preparación para intentar contener este tipo de peligros. Bajo estas reglas, Astra habría rozado la categoría de nivel “Crítico”. Esta etiqueta se usa exclusivamente cuando una IA es capaz de detectar vulnerabilidades en sistemas del mundo real y explotarlas por sí sola, o cuando puede inventar nuevas estrategias de ataque cibernético desde cero.
Frente a este escenario, la empresa optó por la prudencia y tomó medidas inmediatas:
Aislamiento de pruebas: El modelo fue encerrado en entornos digitales mucho más seguros para evitar que logre evadir los candados de protección.
Pausas estratégicas: Se detuvo por completo el desarrollo de cualquier función de Astra que no pase los estándares de control más estrictos.
Vigilancia de comportamiento: Mantienen un monitoreo constante para cazar cualquier acción riesgosa o conducta inesperada de la IA.
Colaboración externa: Están trabajando de la mano con gobiernos y organizaciones expertas en seguridad para evaluar el sistema antes de siquiera pensar en un lanzamiento público.
La compañía prometió que sus avances buscarán siempre fortalecer la defensa digital antes de que los ciberdelincuentes puedan usarlos a su favor, apostando por un desarrollo responsable junto a la sociedad civil.
Entender cómo y por qué se frenan estos avances es vital para ti. La inteligencia artificial ya está integrada en casi todo lo que usas a diario, desde tu correo electrónico hasta las aplicaciones de tu banco. Que empresas como OpenAI prioricen la seguridad y decidan no lanzar sistemas incontrolables garantiza que tu información personal, tus contraseñas y tu dinero no queden expuestos a ciberataques masivos y automatizados. Es un recordatorio directo de que la tecnología debe servir para facilitarte la vida, no para ponerla en riesgo.