El Instituto Europeo de Normas de Telecomunicaciones (ETSI, por sus siglas en inglés) publicó una nueva especificación técnica que se enfoca en dar respuesta a una problemática que supone el desarrollo de la inteligencia artificial generativa: imágenes, videos o audios manipulados con IA y con malicia (para instalar que una persona dice o hace algo que en realidad nunca ocurrió), conocidos como deepfakes.
Se trata de la TS 104 275 V1.1.1 en la que se establecen requisitos para que desarrolladores y operadores de sistemas de inteligencia artificial generativa (GenIA) reduzcan, desde el diseño hasta el retiro de los modelos, el riesgo de producir deepfakes, aunque se reconozca que el control no logrará eliminar por completo el riesgo.
A diferencia de los mecanismos orientados a detectar contenido sintético una vez creado, la especificación traslada parte de la intervención a las etapas anteriores al despliegue. Para ello, aplica a la IA generativa los requisitos generales de ciberseguridad incluidos en ETSI EN 304 223 y distribuye las medidas en cinco fases: diseño, desarrollo, despliegue, mantenimiento y fin de vida.
Se trata de una especificación técnica que exige que los desarrolladores y operadores evalúen los posibles usos indebidos antes de poner un sistema en servicio, incorporen supervisión humana y mantengan controles durante su operación. También contempla filtros de contenido, identificación del material generado por IA, advertencias sobre las limitaciones de precisión y procesos para responder a resultados incorrectos o alucinaciones del modelo.
El estándar incorpora también obligaciones relacionadas con los datos y las obras utilizadas por los sistemas. Los usuarios deben ser informados si sus contenidos se emplean para adaptar o entrenar un modelo, y deben poder aceptar o rechazar ese uso. A su vez, los desarrolladores tienen que acreditar que accedieron legalmente o mediante licencia a los datos de entrenamiento y disponer de procedimientos para gestionar posibles infracciones.
Inclusive, esta especificación requiere documentación, registros y pruebas que permitan comprobar si los controles fueron implementados y que funcionan según lo previsto. En ese sentido, el ETSI incluye escenarios con criterios de aprobación o rechazo y menciona las pruebas adversariales como una vía para identificar fallas en modelos, datos de entrenamiento o resultados. Entre los ejemplos figura el repetir instrucciones en diferentes idiomas para verificar que las restricciones no puedan eludirse mediante un cambio de lengua.
Se tata de un alcance técnico que comprende los riesgos asociados con la desinformación, la pérdida de confidencialidad, la propiedad intelectual y el material de entrenamiento de la IA, además de ponderar usos indeseados como el fraude, el robo de identidad, la extorsión y las imágenes íntimas no consentidas.
Alex Cadzow, relator y secretario del Comité Técnico de ETSI sobre Seguridad de la Inteligencia Artificial, señaló en el comunicado que contenidos engañosos o ilegales pueden generarse mediante el uso indebido de software comercial disponible legalmente.
“A medida que los deepfakes se vuelven más generalizados, las organizaciones de IA necesitan apoyo para abordar los riesgos mucho antes, comenzando por cómo se diseñan los sistemas generativos de IA. Esta especificación proporciona a las organizaciones un conjunto claro de requisitos para ayudar a reducir esos riesgos, junto con formas de evaluar si existen las salvaguardas necesarias”, declaró Cadzow.
En el plano regulatorio, ETSI afirma que esta especificación respalda los objetivos de la Ley de Inteligencia Artificial (AI Act) de la Unión Europea y extiende las prácticas de seguridad más allá de los sistemas clasificados como de alto riesgo. Sin emarbgo, hay que aclarar que esta especificación técnica no supone una obligación legal: puede utilizarse como referencia para el desarrollo, para formular una evaluación de conformidad, de contratación o de supervisión cuando una organización, un contrato o una autoridad la adopte.
Asimismo, la publicación se suma al trabajo que este organismo realiza en relación a la convergencia entre telecomunicaciones e IA. Por ejemplo, en octubre, el organismo inició el desarrollo de estándares para integrar redes, nube, edge e inteligencia artificial, después de haber creado en junio un comité técnico dedicado a esas tecnologías federadas.
Para los operadores de telecomunicaciones que desarrollen o administren sistemas de IA generativa, la TS 104 275 -disponible aqui- convierte a la prevención de deepfakes en una tarea de gestión continua: exige evaluar riesgos antes del lanzamiento, conservar evidencia de los controles, vigilar el comportamiento de los modelos, comunicar incidentes y actualizar las medidas durante la vida útil del sistema.
Lo importante de este anuncio radica en que hay respuestas técnicas para los problemas complejos que impone el desarrollo de la innovación más disruptiva del momento, y que se pone el foco en las responsabilidades verificables para quienes diseñan y operan las herramientas capaces de producirla.
