¡El cómputo de IA es más que el SoC principal! Una mirada clara al papel real del RK1820 en el sistema RK3588

¿Por qué cada vez más dispositivos edge hablan de NPUs y coprocesadores? El RK3588 ya es un potente SoC de 6 TOPS (INT8), pero en escenas complejas como la inferencia multitarea, el paralelismo de modelos y el análisis de video-IA, el límite de cálculo de un solo chip sigue presente. El RK1820 se creó precisamente para hacerse cargo de esa porción de carga y aliviar la “ansiedad de cálculo” del SoC principal. En los equipos de IA-edge, el procesador host ya no lucha solo; cuando las tareas de IA superan la capacidad de programación de la CPU/NPU tradicional, el coprocesador interviene silenciosamente y asume parte de la carga de trabajo inteligente.

El RK1820 es un coprocesador diseñado específicamente para la inferencia de IA y la expansión del cálculo; se empareja de forma flexible con SoCs host como el RK3588 y el RK3576 y se comunica con ellos de manera eficiente a través de interfaces PCIe o USB.

En el sistema RK3588 + RK1820, la tubería de tareas de IA se descompone en una arquitectura de cuatro niveles:
Aplicación → Middleware → Ejecución del coprocesador → Control y presentación.
Host RK3588: maneja la programación de tareas, el preprocesamiento de datos y la salida de resultados, gobernando todo el flujo de trabajo.
Coprocesador RK1820: dedicado a la inferencia de IA de alto cálculo, acoplado al host a través de PCIe, formando un modelo de colaboración de “control ligero + cálculo pesado”.

La capa de aplicación es donde comienza cada tarea de IA; traduce los requisitos del usuario (análisis de imágenes, detección de objetos, preguntas y respuestas de LLM en el borde, etc.) en comandos de tareas ejecutables por el sistema y los pasa a la capa de middleware a través de API estandarizadas. Esta capa es manejada completamente por el host RK3588, que gestiona la interacción del usuario, la lógica empresarial y los datos periféricos.

Recepción de tareas: adquiere comandos del usuario a través de cámaras, paneles táctiles, Ethernet, UART, etc.

• Seguridad inteligente: detectar personas en los fotogramas de video
• Inspección industrial: identificar defectos superficiales en los productos
• LLM edge: convertir la entrada de voz a texto y formar una tarea de preguntas y respuestas

Estandarización de comandos: convierte la entrada no estructurada en parámetros de tareas estructurados

• Tarea de visión: resolución de entrada, versión del modelo, requisitos de salida
• Tarea LLM: tokens de entrada, versión del modelo, longitud máxima de salida

La capa de middleware es el centro de colaboración: juzga cada tarea, asigna recursos, preprocesa datos y gobierna el tráfico del bus. Decide si la tarea se ejecuta en el host o se descarga al coprocesador.
Solo RK3588; RK1820 no participa en la configuración de PCIe ni en la gestión de interrupciones; simplemente ejecuta los trabajos de inferencia despachados por el host.

Clasificación y programación de tareas

• Procesamiento local: las tareas de bajo cálculo o críticas para la latencia (escalado de imágenes, inferencia de IA ligera) son manejadas por la CPU/NPU/RGA del RK3588.
• Descarga al RK1820: las tareas de alto cálculo (detección multiclasificación YOLOv8, inferencia LLM, segmentación semántica) se envían al RK1820. Una vez que el RK1820 se hace cargo, la CPU/NPU del host se libera para otro trabajo.

Preprocesamiento de datos

• Visión: recortar, eliminar ruido, normalizar, reordenar canales.
• Texto: tokenizar, rellenar, codificar.

Control de comunicación del bus

• Establece el enlace a través de PCIe o USB3.
• La transferencia de datos utiliza DMA, sin intervención de la CPU.
• Emite comandos de control de inferencia: iniciar NPU, establecer la precisión, activar la interrupción de finalización.

Esta capa es el núcleo de inferencia, impulsado exclusivamente por el coprocesador RK1820, dedicado a la inferencia de IA de alto cálculo.
RK1820 activo; RK3588 no interfiere con la inferencia, solo espera los resultados. El tiempo de espera o las excepciones son manejados por el RK3588 a través de comandos de reinicio PCIe.

Recepción y preparación de tareas

Recibe datos, pesos del modelo y comandos despachados por el RK3588; los escribe en la DRAM local de alto ancho de banda, carga el modelo y configura la NPU.

Cálculo de inferencia de la NPU

• Detección de objetos (YOLOv8n): conv → BN → activar → pool → post-proceso NMS.
• Inferencia LLM (Qwen2.5 3B): prellenar tokens de entrada → generar token por token de decodificación.
• Optimización de la inferencia: fusión de operadores, compresión de pesos.

Retorno de resultados

• Devuelve las coordenadas del cuadro delimitador, los ID de clase y las puntuaciones de confianza para la detección.
• Devuelve la matriz de tokens para el LLM.

Esta capa es el punto final de cada tarea de IA: convierte los resultados de inferencia sin procesar del RK1820 en una salida visual o lista para la empresa y cierra el ciclo.
RK3588 activo; RK1820 solo proporciona los datos de inferencia sin procesar.

Post-procesamiento de resultados

• Mapear las coordenadas de nuevo al tamaño de la imagen original.
• Decodificar los tokens en lenguaje natural.
• Contar los defectos en la inspección industrial.

Control del sistema y salida de retroalimentación

• Seguridad inteligente: mostrar video con superposiciones de detección, activar alarmas.
• Inspección industrial: línea de comandos para rechazar productos defectuosos.
• LLM edge: mostrar texto + anuncio de voz.

Valor de la sinergia: no solo más rápido, sino más inteligente

En pocas palabras: el RK3588 dirige el espectáculo y mantiene todo en marcha, mientras que el RK1820 ofrece ráfagas de cálculo sin procesar; juntos hacen que los dispositivos de IA-edge sean “más inteligentes, más rápidos y sin problemas”.
Síganos para obtener más noticias sobre el RK1820 y actualizaciones del SDK, tutoriales nuevos y demostraciones listas para usar.