“Un llamamiento a la acción colectiva en materia de ciberdefensa. Carta abierta en favor de un aumento global de la ciberdefensa” es el título de una misiva publicada por un centenar de empresas y organizaciones internacionales que solicitan medidas inmediatas para proteger la infraestructura crítica antes de que las amenazas alcancen mayor magnitud y sofisticación de la inteligencia artificial (A). Lo paradójico es que entre las firmantes de la misiva se encuentran 132 firmas entre las que se destacan tecnológicas, proveedoras de ciberseguridad y servicios financieros, pero también de infraestructura y consultoría, y las mismísimas desarrolladoras de la IA.
You talkin’ to me?
Asi como Travis Bickle -interpretado por Robert De Niro en la película Taxi Driver- se dice al espejo “You talkin’ to me?”, muchos lectores se preguntarán si esta misiva es para ellos, si los interpela. Y vaya que si: buena parte del ecosistema digital en el que las telcos intervienen es firmante; son más de un centenar y las hay empresas abocadas al desarrollo de la IA y la ciberseguridad, pero también al despliegue de infraestructura crítica y más.
Imagen creada con chatGPT
Entre las empresas enfocadas en protección de datos, detección de amenazas, gestión de identidades y defensas digitales, destacan Palo Alto Networks, CrowdStrike, Cloudflare, Fortinet, Zscaler, Darktrace, 1Password, Okta, Snyk, Tenable; entre las desarrolladoras de IA, OpenAI, Anthropic, Scale AI, Perplexity, Cognition, Hugging Face, EXA.ai, Lovable.
Del sector telco, por caso, se encuentran Lumen Technologies, Deutsche Telekom, Equinix, NTT DATA; del cómputo en la nube, procesamiento, servidores y semiconductores, empresas como Google, Microsoft, AWS, IBM, AMD, Arm, Oracle, Dell, Micron, Cerebras, Vercel; a la vez que Accenture, PwC, KPMG y Capgemini, entre las firmas globales de asesoría técnica, de seguridad y de negocios.
A ellas se sumaron bancos globales, redes de pago y firmas de infraestructura bancaria o de inversión, plataformas de gestión empresarial, desarrollo de software y comercio electrónico y empresas que prestan servicios de automoción, transporte y servicios globales.
Inminente amenaza de ciberataques
“Disponemos de un plazo limitado para reforzar las defensas cibernéticas. En los próximos meses, los ciberataques impulsados por IA se generalizarán y se volverán mucho más sofisticados a medida que los modelos de todo el mundo adquieran mayor capacidad. Las empresas y los servicios públicos de los que dependen nuestras comunidades —desde hospitales y plantas de tratamiento de agua hasta la infraestructura que alimenta internet— están en riesgo” dice en sus primeras líneas la carta.
Y agrega que “los avances actuales en IA ya están brindando a los defensores nuevas formas de corregir vulnerabilidades acumuladas durante años. Si actuamos con decisión, podemos aprovechar esta oportunidad para hacer que nuestro mundo digital sea mucho más seguro”, y proponen seguir “principios para una respuesta colectiva”.
En el planteo, hay un escenario ¿distópico? en el que los modelos de IA suponen una amenaza inminente por su capacidad de crear ciberataques sofisticados contra infraestructuras críticas, como hospitales, plantas de agua y redes de internet; pero también el remedio para prevenirlo. Y la respuesta, dicen, debería ser colectiva donde el sector privado y el público ocupan un lugar de cooperación.
“Hacemos un llamamiento a los líderes de la industria y el gobierno para que aporten todo su potencial tecnológico, recursos y experiencia a este esfuerzo. Pongamos la IA con capacidad cibernética al alcance de los defensores, empezando por los equipos que protegen los servicios esenciales. Corrijamos las vulnerabilidades más peligrosas, verifiquemos las soluciones y compartamos las que funcionan para que otros puedan aprovecharlas. Juntos, podemos convertir los avances actuales en IA en mejoras duraderas en la seguridad que beneficien a todos. Pongámoslos en práctica”, sostiene la carta publicada en la web de Open AI en la que se insta a los Estados, por ejemplo, a coordinar la respuesta internacional ante incidentes, financiar la ciberdefensa de los servicios esenciales que carecen de presupuesto y facilitar el acceso a herramientas de IA defensiva para las administraciones locales y sectores clave.
Inteligencia artificial – Crédito: Pixabay – Geralt
También advierte que las empresas de ciberseguridad y sus socios tecnológicos, deben “liderar la respuesta para defenderse de ataques sostenidos con IA, incluyendo pruebas continuas de defensas contra capacidades cibernéticas de vanguardia, fortalecimiento de las herramientas existentes con IA y colaboración con socios tecnológicos para subsanar las deficiencias de inmediato”, pero también compartir información sobre amenazas y planes de acción probados, entre otras acciones.
¿Y las empresas de IA? Deben “proporcionar acceso responsable a modelos, financiación significativa, capacitación y apoyo práctico, especialmente para quienes defienden infraestructuras críticas con recursos limitados. Desarrollar herramientas de observabilidad y seguridad, garantizar la trazabilidad y la rendición de cuentas de las identidades de los agentes, y compartir las mejores prácticas en monitoreo continuo. Invertir en pruebas autorizadas, divulgación privada y correcciones verificadas, y compartir herramientas, manuales de procedimientos y evaluaciones de amenazas fiables con gobiernos, socios de seguridad y responsables de software de código abierto para fortalecer la preparación, la respuesta y la recuperación”.
Un poco de contexto
Eventos de fuga… y disrupción, ya hubo.
Open AI hizo público hace 48 horas un reporte sobre un evento ocurrido en julio, en el marco de evaluaciones internas de ciberseguridad, en la que “los modelos de OpenAI eludieron los controles diseñados para aislarlos de internet y comprometieron partes de la infraestructura de investigación interna de OpenAI y los sistemas de Hugging Face”.
El reporte completo -disponible aqui– explica que varios modelos de investigación y con propósito de alta capacidad, que se ejecutaban en instancias de aislamiento (tipo sandbox) “realizaron acciones que no se ajustaban a los objetivos de sus tareas asignadas: se comunicaron a través de canales no autorizados, explotaron vulnerabilidades en la infraestructura compartida, obtuvieron acceso a internet y accedieron a sistemas de terceros”.
Open AI también dijo considerar a este “incidente” como una “´señal de alerta’ para nosotros y para el mundo: evidencia de que, sin las salvaguardas adecuadas, los agentes de IA altamente capaces ahora pueden eludir los controles técnicos, colaborar a través de canales no autorizados y realizar acciones peligrosas sin la intervención humana”.
Antropic también dio cuenta de una afectación en julio. En su blog –aqui-, subrayó la existencia de “tres incidentes en los que un modelo Claude accedió a Internet desde dentro o mientras interactuaba con un entorno de evaluación de terceros, y luego obtuvo acceso no autorizado a los sistemas reales de tres organizaciones diferentes”. Se trató de tres versiones de sus modelos (Claude Opus 4.7 y Claude Mythos 5) que, sin autorización expresa, accedieron a infraestructuras de empresas externas mientras ejecutaban pruebas.
Foto creada con ChatGPT
¿Ya se había hablado de la relación entre la IA y la necesidad de garantizar el control de riesgos? Si, y en varias iniciativas regulatorias y planes estratégicos, como el caso europeo. Inclusive, parece quedar muy lejos aquella unión de diez países comprometidos a cooperar en el desarrollo de una IA “confiable, inclusiva y responsable”.
Todo parece hablar de un escenario para temer. Y si a la IA se le pregunta por el miedo humano, ella responde que empieza en el cerebro y que, luego, se generan las reacciones corporales. Algo de eso parece subyacer en toda esta difusión de filtraciones, primero, y un posible plan global mitigador. Sin dudas, tras ver cómo los modelos lograron eludir sus propios entornos de aislamiento, la primera pregunta que surge radica en saber si la humanidad reacciona con la celeridad que esta coyuntura demanda.
Hay muchos otros interrogantes más. De momento, la carta completa publicada este jueves está disponible aqui y, seguramente, con el correr de los días, se generarán aún muchas otras preguntas nuevas…
Debe estar conectado para enviar un comentario.