La inteligencia artificial (IA) pasó de ser la solución a buena parte del problema. A tan sólo dos semanas de que un centenar de empresas (tecnológicas, desarrolladoras, proveedoras de ciberseguridad, de infraestructura y más) reconocieran que la IA ya toma decisiones autónomas para atacar, inclusive las infraestructuras críticas del mundo, se sumaron otras dos novedades que no hacen más que encender alertas: por un lado, la publicación del nuevo índice de armas cibernéticas de Booz Allen (Cyber Weapon Index), que plantea un umbral de dos años críticos; por el otro, el twit viral del investigador de seguridad que pasó por OpenAI y quien acaba de renunciar a Anthropic, Jacob Coxon, en el que denuncia que “ninguna de las dos empresas está actuando de manera responsable”. O el negocio de la ciberseguridad está en su mejor momento publicitario, o a esta peli, ya la vi y se llamó Terminator.
La cyber kill chain ya es una realidad
Bajo el título “La frontera ofensiva: la IA como atacante”, el reporte de Booz Allen plantea un cambio de paradigma, de la dinámica agéntica a la autonómica, pero también describe un escenario que, de no haber sido repetido hasta el cansancio por científicos e investigadores especializados durante los últimos 12 meses, sería el perfecto plot de una película distópica. Sucede que la consultora advierte que la “ciberofensiva impulsada por IA cruzó un umbral crítico”, y que la cyber kill chain ya es una realidad.
Sí, dice que la cadena de ataque cibernético ya es una decisión que puede tomar la IA aún a pesar de no tenerlo como mandato o configuración, y ofrece casos recientes, como la primera campaña de ciberespionaje a gran escala dirigida casi en su totalidad por la IA, de Anthropic; o el incidente de Hugging Face, en el que un modelo de IA descubrió de forma independiente vulnerabilidades, escapó de su entorno de prueba e intrusó una red de producción de terceros.
Pero el punto, aqui, es que lo que está en juego son los tendidos de energía, las prestaciones de salud, las redes de agua y de telecomunicaciones (por ejemplo, en la Unión Europea y en América Latina –Argentina, Brasil, y Chile- las telcos son de la partida).
Grosso modo, Booz Allen cataloga como inminente que se generalicen los ataques impulsados por IA; plantea que en cuestión de meses la IA descubrirá y creará exploits durante la marcha de una operación. También ofrece una venta de tiempo que apremia: entre uno y dos años para que la IA “comience a devolver la ventaja a los defensores”, para poder automatizar la detección y respuesta a velocidad de máquina; y de hasta tres años para que los modelos ajusten las tácticas en tiempo real, sin necesidad de orquestación externa.
Quizá, lo más relevante sea el ritmo del cambio, algo que impide que las evaluaciones de los modelos de IA genéricos aún no logren medir los ataques con verdadera justeza y capacidad. Por eso, plantea la urgencia de implementar agresivamente enfoques de Contra-IA (Counter-AI) de forma imperativa y propone pausar un plazo “obligatorio” para preparar a estas infraestructuras con arquitecturas Zero Trust, segmentación de red y aislamiento de activos de alto valor.
Imagen: zaccrain/MorgueFile
Entonces, se encienden también otras alarmas, que tienen más que ver con el posicionamiento de la geopolítica y las tensiones internacionales, porque el trabajo también pondera el posicionamiento etratégico de naciones como Estados Unidos y China, con recomendaciones que no son inocentes. A caballo de la seguridad, varias tragedias se sucedieron; también regulaciones y discusiones profundas sobre sus costos; intentos de bloqueo a fabricantes, entre otros muchos ejemplos de una vasta lista que invita a preguntarse quién gana y quién pierde en el camino.
¿y el tuit?
“Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas”, dijo Coxon en un tuit –aquí– que se viralizó rápidamente y que medios como The New York Times –aquí– lo validaron como testimonio.
“No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, continuó el extenso post en el que también se manifestó “optimista sobre el potencial para la coordinación. Disparos de advertencia como el ataque a Hugging Face han hecho que los acuerdos de ritmo entre laboratorios de Estados Unidos sean más viables. No siento que estemos en camino de prevenir una carrera global, lo que podría requerir acciones costosas como una prohibición temporal de mejorar las capacidades de los modelos”.
Pero en el artículo neoyorquino también menciona a Evan Hubinger, responsable de ciencia de alineación en Anthropic, quien publicó en sus redes que existe más del 10 por ciento de probabilidad de que una futura IA provoque la extinción humana en la próxima década.
La IA impulsará nuevos ingresos – Imagen creada con IA
Que el miedo vende, no es novedad; tampoco que sirve de instrumento para otros fines, como apurar a la exclusión de competidores de tal o cual procedencia para facilitar instrumentos de negocio de, de otra manera, no hubieran prosperado. Más allá de toda especulación y por todo motivo posible, el escenario es de alerta generalizada.
Una supercomputadora y sistema de IA ya desató una guerra contra la humanidad. Fue en la película Terminator 2: “El sistema se activa el 4 de agosto de 1997. Se eliminan las decisiones humanas de la defensa estratégica. Skynet comienza a aprender a un ritmo geométrico. Se vuelve autoconsciente el 29 de agosto a las 2:14 de la madrugada, hora del este. Los humanos, aterrados, intentan desconectarlo”, dice el robot humanoide a Sarah Connor en un diálogo en el que el “juicio final” es inminente.
Hoy, entre el diagnóstico técnico y la retórica del miedo, la frontera entre la realidad y la ficción cibernética se vuelve cada vez más delgada. ¿Y, a todo esto, la regulación? Próximamente…
Debe estar conectado para enviar un comentario.