Cómo acelerar las implementaciones de IA de borde mediante un SoC inalámbrico multiprotocolo con NPU integrada

La aparición de la inteligencia artificial en el borde de la red (IA de borde) ha generado la necesidad de realizar inferencias en el propio dispositivo en aplicaciones del Internet de las cosas (IoT) con conexión inalámbrica, entre las que se incluyen los hogares inteligentes, la automatización de edificios y fábricas, el seguimiento de activos y los dispositivos wearables. Aunque puede resultar muy potente, la IA de borde requiere un procesamiento integrado flexible y de consumo ultrabajo, conectividad inalámbrica, así como una especial atención a la seguridad y a los recursos de memoria.

Para muchos equipos, recopilar e integrar todos los elementos de un diseño eficaz, para luego ponerlo en práctica y dar soporte al mismo sobre el terreno, puede suponer un reto.

En este artículo se describen brevemente las ventajas y los retos que plantea la IA de borde para los diseñadores de sistemas integrados. A continuación, presenta un SoC inalámbrico y el kit de desarrollo, el software y el asistente de IA asociados de Nordic Semiconductor, mostrando cómo simplifican el desarrollo, la implementación y la gestión de la IA de borde.

¿Qué es la IA de borde y por qué es necesaria?

El término "IA de borde" (Edge AI) hace referencia a la inferencia o al aprendizaje automático (ML) que se lleva a cabo fuera del centro de datos, en dispositivos que van desde pasarelas, computadoras portátiles y teléfonos móviles hasta dispositivos para vestir y sensores inteligentes (Figura 1). Los dispositivos de IA de borde bien diseñados pueden analizar datos de forma eficiente a nivel local y responder adecuadamente, conectándose a la nube o a un servidor local únicamente cuando sea necesario transmitir datos relevantes o cuando se requieran actualizaciones del firmware o de los modelos de IA. En muchos diseños inalámbricos alimentados por batería, en los que las transmisiones pueden suponer un consumo de energía relativamente importante, la reducción del tiempo de activación y del número de transmisiones permite ahorrar energía, lo que podría permitir meses o años de funcionamiento con una sola carga (dependiendo de la carga de trabajo y del ciclo de trabajo).

La IA de borde también reduce la latencia para agilizar la toma de decisiones, garantiza la privacidad y la seguridad al mantener los datos de forma local en el dispositivo o el nodo sensor, libera ancho de banda de la red inalámbrica y permite el funcionamiento incluso en caso de interrupción de la red.

Figura 1: La IA de borde (Edge AI) consiste en la inferencia o el aprendizaje automático que se lleva a cabo fuera del centro de datos, en dispositivos que van desde pasarelas y computadoras portátiles hasta teléfonos móviles, dispositivos para vestir y sensores industriales. (Fuente de la imagen: Nordic Semiconductor)

La implementación de la IA de borde, especialmente en dispositivos con recursos limitados, como los dispositivos para vestir y los sensores industriales, requiere centrarse en un procesamiento integrado flexible y de consumo energético ultrabajo, así como en la conectividad inalámbrica, con el fin de dar respuesta a las cargas de trabajo de IA en constante evolución y a la conectividad en redes heterogéneas. Los desarrolladores también deben hacer hincapié en la seguridad para evitar ataques informáticos y garantizar que la memoria tenga la capacidad adecuada para soportar protocolos inalámbricos, modelos de inteligencia artificial y tipos de datos cada vez más complejos.

Dadas las presiones en materia de costos y plazos de comercialización en un ámbito en rápida evolución, las decisiones relativas al hardware de un diseño deben estar estrechamente vinculadas a las herramientas del proveedor y a la compatibilidad con la IA de borde, con el fin de facilitar el desarrollo y garantizar el éxito a largo plazo una vez implementado.

Una plataforma integral diseñada para la IA de borde

Con el fin de acelerar el desarrollo de soluciones de IA de borde para sistemas integrados, Nordic Semiconductor ha incorporado el nRF54LM20B (Figura 2) a su serie nRF54L de sistemas en chip (SoC) inalámbricos de consumo ultrabajo. El nRF54LM20B combina una unidad de microcontrolador (MCU) eficiente basada en un Arm Cortex-M33 a 128 MHz con conectividad inalámbrica de consumo ultrabajo a través de Bluetooth LE, Matter, Thread, Zigbee o protocolos propios de 2.4 gigahercios (GHz), con velocidades de transmisión de datos de hasta 4 megabits por segundo (Mbits/s). También se incluye un coprocesador RISC-V de 128 MHz, junto con un completo conjunto de periféricos.

Figura 2: El SoC nRF54LM20B ofrece una capacidad de procesamiento flexible y conectividad inalámbrica optimizada para un bajo consumo. (Fuente de la imagen: Nordic Semiconductor)

Lo que distingue al nRF54LM20B del resto de la serie nRF54L es su capacidad de memoria relativamente elevada (2 megabytes (Mbytes) de memoria no volátil (NVM) y 512 kilobytes (Kbytes) de memoria de acceso aleatorio (RAM)), así como la incorporación de la unidad de procesamiento neuronal (NPU) Axon, propiedad de Nordic (Figura 3), que funciona a 120 MHz.

Figura 3: La NPU Axon del nRF54LM20B acelera de forma eficaz la ejecución de los operadores de redes neuronales con una intervención mínima de la CPU. (Fuente de la imagen: Nordic Semiconductor)

Por lo general, incorporar aceleración mediante IA a dispositivos IoT integrados o inalámbricos implica seleccionar e integrar una NPU discreta, lo que supone un aumento del coste, de la complejidad y de las ineficiencias en la inferencia. Estas ineficiencias se acentúan a medida que aumentan las cargas de trabajo de IA más exigentes, como el audio, las imágenes y los datos de sensores de alta frecuencia.

La NPU de Axon aborda estos problemas y está orientada a casos de uso limitados y con fuertes restricciones, en los que la memoria, la energía y el espacio son recursos muy valiosos. Diseñada para la ejecución rápida y energéticamente eficiente de operadores de redes neuronales con una intervención mínima de la CPU, la NPU cuenta con un acceso directo a memoria (DMA) flexible, una canalización de ejecución que admite funciones más allá de los operadores tradicionales de redes neuronales y una compatibilidad total con la cadena de herramientas de Nordic.

Por ejemplo, la NPU de Axon mejora la velocidad y la eficiencia de los modelos de TensorFlow Lite (TFL).

Nordic considera que es 15 veces más rápido que ejecutar los mismos modelos en la CPU y estima que Axon es 8 veces más eficiente y realiza la inferencia 7 veces más rápido que los productos de la competencia. Esta eficiencia y este rendimiento lo hacen adecuado para aplicaciones como la detección de anomalías, la biometría y el reconocimiento de sonidos, palabras clave e imágenes.

Abordar las cuestiones relacionadas con la memoria y la seguridad

Si bien la amplia memoria del nRF54LM20B facilita el procesamiento de cargas de trabajo de IA más voluminosas, Nordic también ha abordado el problema de la memoria desde otro punto de vista. Sus modelos de IA de borde ultracompactos Neuton, personalizados y con un tamaño de 5 Kbytes, se crean a partir de los propios datos del desarrollador utilizando el algoritmo patentado de Nordic para el crecimiento de redes. Estos modelos funcionan, por tanto, en cualquier SoC o sistema en paquete (SiP) de Nordic. Según las cifras de Nordic, estos modelos ocupan 10 veces menos memoria que los modelos TFL y son 10 veces más rápidos y eficientes desde el punto de vista energético que la ejecución de modelos TFL en la CPU.

Para garantizar la seguridad de los datos tratados localmente en un dispositivo de IA de borde y que dicho dispositivo pueda cumplir con múltiples requisitos normativos, el nRF54LM20B cuenta con arranque seguro, actualización y almacenamiento seguros del firmware, un entorno de ejecución TrustZone, un acelerador criptográfico, detección de fugas por canales laterales y detectores de manipulación.

El kit simplifica el desarrollo de la IA de borde

Para iniciarse en el diseño de soluciones de IA de borde, los desarrolladores pueden utilizar el nRF54LM20-DK (figura 4). Basado en el SoC nRF54LM20B en un encapsulado CSP98 (como el nRF54LM20B-PAAA-R), el kit incluye antenas de 2.4 GHz y NFC, firmware preprogramado, documentación, esquemas de hardware y archivos de diseño. Se ofrece soporte completo para el desarrollo de software a través del nRF Connect SDK, un kit de software unificado y flexible para el desarrollo de productos inalámbricos de IoT. El kit se basa en el proyecto de código abierto Zephyr y también incluye software propio de Nordic. "Desde el primer momento", ofrece ejemplos, pilas inalámbricas, protocolos de red, controladores y funciones de seguridad.

Figura 4: El kit nRF54LM20-DK se basa en un SoC nRF54LM20B en un encapsulado CSP98 e incluye antenas de 2.4 GHz y NFC, firmware, documentación, esquemas, archivos de diseño y recursos en línea. (Fuente de la imagen: Nordic Semiconductor)

Una vez finalizado el desarrollo, los siguientes pasos son la implementación, la supervisión, la actualización y la observabilidad. Con el paso del tiempo, gestionar todo esto puede resultar complicado, a medida que se añaden nuevas funciones y aumenta el número de nodos de la red. Para facilitar esta tarea, Nordic ofrece nRF Cloud. Esta herramienta basada en la nube actualiza y gestiona los dispositivos de forma segura, supervisa su estado y resuelve problemas, y realiza un seguimiento de la ubicación a nivel mundial con un bajo consumo energético.

Asistente de IA para la creación de prototipos y la gestión de flotas

El nRF54LM20B-DK cuenta con el apoyo de un asistente de IA (Figura 5), lo que permite a los desarrolladores dedicar menos tiempo a tareas repetitivas y más tiempo a funciones diferenciadoras. Por ejemplo, el asistente puede crear un prototipo, realizar pruebas, generar documentación y llevar a cabo tareas de depuración, todo ello mientras el desarrollador sigue al mando y supervisa el resultado.

Figura 5: Un asistente de inteligencia artificial permite a los desarrolladores dedicar menos tiempo a tareas repetitivas y más tiempo a funciones diferenciadoras. (Fuente de la imagen: Nordic Semiconductor)

Aunque los desarrolladores están acostumbrados a utilizar modelos de lenguaje a gran escala (LLM) en su flujo de trabajo, estos modelos se entrenan con datos genéricos. Aunque esto puede funcionar en muchos casos de uso, el asistente de IA de Nordic utiliza una implementación del Protocolo de Contexto del Modelo (MCP) para proporcionar datos contextuales verificados procedentes del SDK, entre los que se incluyen documentación, referencias de API, configuraciones de dispositivos y datos de campo de nRF Cloud. Esto mejora la precisión y permite un uso más eficiente de los tokens.

El asistente de IA se integra con los modelos preferidos por el usuario, entre los que se incluyen Claude Code, Cursor, GitHub y Copilot, y abarca todo el ciclo de vida, desde la creación de prototipos hasta la gestión de los productos implementados.

Conclusión

La IA de borde (Edge AI) en dispositivos IoT inalámbricos alimentados por batería ofrece numerosas ventajas, pero su implementación y gestión eficaces resultan complejas en entornos con recursos limitados. El SoC inalámbrico multiprotocolo nRF54LM20B de Nordic Semiconductor, equipado con NPU, junto con su kit, su software y su asistente de IA, reúne los elementos clave para simplificar y acelerar la creación de prototipos, el desarrollo, la implementación y la gestión.