La Unidad Digital de BT Group lanzó una plataforma de inteligencia artificial generativa (GenAI, por sus siglas en inglés) a la que se accede a través de interfaces de programación de aplicaciones (APIs) y con la que busca integrar el uso de la IA a sus procesos a la par que aprovechar el poder de los grandes modelos lingüísticos (LLM) de proveedores como Anthropic, Meta, Claude, Cohere y Amazon.
“La IA nos está ayudando a reimaginar el futuro de nuestra empresa” dijo Deepika Adusumilli, directora general de Datos e IA de la unidad digital de BT Group, y pinceló el nivel de una apuesta que involucra la posibilidad de implementar casos de uso de GenAI en producción con seguridad y cumplimiento normativo integrados, y que promete ofrecer resultados más rápidos para BT Group y sus clientes.
“Creemos que, cuando nuestros datos son una constante, necesitamos flexibilidad con nuestros LLM. GenAI Gateway nos permite aprovechar este nuevo y potente conjunto de tecnologías a escala, de una manera segura, responsable, flexible y escalable, cumpliendo con la ambición que tenemos de que la IA libere el potencial humano dentro de BT Group, hoy y en el futuro”, agregó Adusumilli.
En el comunicado que tanto BT Group como AWS hicieron público, se advierte que “el uso ad hoc de los LLM, si bien es adecuado para el trabajo de prueba y desarrollo, no es adecuado para un uso a gran escala; el control de costos, la seguridad y la privacidad necesitan una gestión más cuidadosa. El rendimiento de los LLM también debe supervisarse para detectar errores inesperados (por ejemplo, “alucinaciones”) y el deterioro del modelo con el tiempo (cuando los LLM dejan de comportarse como se esperaba)”.
En ese sentido, explican que GenAI Gateway ofrece protección a BT Group contra el “bloqueo” de un LLM determinado si surgen otros problemas y que “alentará a los ingenieros de BT Group a utilizar el modelo correcto para el caso de uso correcto, al precio correcto, ya que admite el seguimiento del presupuesto”.
De esta manera, se pone en valor el rol de las APIs pero también la necesidad de controlar la configuración de seguridad y la gestión de la infraestructura para facilitar gestiones personalizadas, reducir errores y minimizar los costos de recurrir a diferentes LLM para casos específicos.
Sucede que al GenAI Gateway se accede a través de APIs seguras, además de utilizar Amazon Bedrock, un servicio gestionado que ofrece una selección de modelos básicos de alto rendimiento de empresas de IA como AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI y Amazon a través de una única AP.
Incluye a Amazon SageMaker, un servicio gestionado que reúne herramientas para permitir un aprendizaje automático de bajo costo y alto rendimiento para cualquier caso de uso.
“Gen AI Gateway es uno de los varios facilitadores clave que estamos implementando para permitir que BT Group sea una empresa habilitada para IA, y también utilizaremos nuestra plataforma de gestión de ´estructura de datos´ para ayudar a aplicar políticas gubernamentales sobre cómo se pueden usar los datos, así como para administrar el control de acceso y las restricciones de soberanía de los datos”, dice el anuncio.
De momento, el GenAI Gateway está disponible con los primeros casos de uso en versión beta, entre ellos una versión de prueba en Openreach que resume las notas de ingeniería sobre trabajos de Ethernet y fibra óptica, y otro que respalda el análisis de contratos para los equipos comerciales, legales y de adquisiciones del Grupo.
Debe estar conectado para enviar un comentario.