Orai: «Nuestro modelo neuronal para la inteligencia artificial es el más avanzado en euskera para entornos escalables»

Mientras las soluciones y herramientas de inteligencia artificial siguen proliferando rápidamente, algunos obstáculos parecen permanecer. Es el caso del procesamiento del lenguaje natural para las lenguas con pocos recursos, como el euskera, aunque el centro de investigación Orai ya está aplicando nuevas estrategias con buenos resultados: ha desarrollado Llama-eus-8B, un nuevo modelo de lenguaje neuronal (LLM, Large Language Model) diseñado para facilitar el desarrollo de sistemas de inteligencia artificial que requieren la comprensión y generación del euskera escrito. 

Orai es el centro de Elhuyar especializado en inteligencia artificial aplicada al procesamiento del lenguaje humano. Nació en 2022 de la mano del departamento de I+D de Elhuyar, que ya contaba con una trayectoria de 20 años en el ámbito del procesamiento del lenguaje natural (NLP, según sus siglas en inglés). “La consolidación del departamento en el área del Procesamiento del Lenguaje Natural, junto con las crecientes necesidades del mercado y la sociedad del País Vasco de contar con un agente especializado en la inteligencia artificial aplicada al lenguaje, impulsaron a Elhuyar a crear Orai, con actividades orientadas a la investigación y el desarrollo”, explica Xabier Saralegi, responsable de Tecnologías NLP.  

Ahora, Orai ha desarrollado Llama-eus-8B, un modelo fundacional adaptado a las características lingüísticas del euskera y su entorno cultural. Se trata de un modelo neuronal con capacidades lingüísticas formales y funcionales, es decir, es capaz de comprender y generar euskera en contextos reales. “Esto lo convierte en una base de gran valor para el desarrollo de una amplia variedad de sistemas, como traductores automáticos, sistemas de diálogo, motores de búsqueda, correctores, generadores de contenido o sistemas de minería de textos donde sea necesario procesar el euskera”, afirma Saralegi.  

Este tipo de tecnologías, según el responsable, son transversales y aplicables en diversos ámbitos, como la industria de contenidos, el sector sanitario, la industria, el ámbito legal, la comunicación o la enseñanza. “La principal oportunidad es la posibilidad de desarrollar tecnologías del lenguaje que ofrezcan resultados muy competitivos y escalables en el tratamiento del euskera”.  

Actualmente, Orai está utilizando Llama-eus-8B en prototipos de traductores automáticos, generación de material didáctico y correctores, “con resultados muy prometedores que esperamos llevar pronto a plataformas y soluciones. Estamos plenamente convencidos de que otros agentes o empresas también lo irán integrando en sus soluciones, ya que, no debemos olvidar, se trata de un modelo de uso libre”, recuerda Saralegi. 

Sin embargo, aún falta tiempo para el desarrollo de estos productos o soluciones: no será inmediato, ya que el proceso de adaptación de este modelo base a casos de uso reales aún requiere trabajo de desarrollo e investigación aplicada. A su vez, el centro mantiene el objetivo de seguir creciendo y convertirse en «en un referente tanto en el País Vasco como en España, además de participar en el mercado internacional”. 

Aun así, las perspectivas para Llama-eus-8B son buenas: “En los test de laboratorio para evaluar las capacidades lingüísticas formales y funcionales en euskera (razonamiento, conocimiento del mundo, sentido común), ha demostrado ser el modelo fundacional con los mejores resultados entre los modelos de menos de 20.000 millones de parámetros. Sin embargo, aún ofrece resultados inferiores a los obtenidos en inglés, por lo que nuestro objetivo es seguir mejorando continuamente las capacidades del modelo y publicar versiones más avanzadas de manera progresiva”.   

El Grupo SPRI impulsa la I+D de las empresas vascas con herramientas, activos, ayudas, grupos de trabajo y alianzas con el fin de potenciar la investigación y generar nuevas tecnologías. Consulta los programas de ayuda a la I+D como Elkartek, Emaitek o Hazitek.