La nueva placa complementaria de Raspberry Pi tiene 8 GB de RAM para ejecutar modelos de IA de generación

Raspberry Pi está lanzando una nueva placa complementaria capaz de ejecutar modelos de IA generativa localmente en Raspberry Pi 5. Anunciado el juevesel $130 SOMBRERO AI+ 2 es una versión mejorada (y más cara) del módulo lanzado el año pasadoque ahora ofrece 8 GB de RAM y un chip Hailo 10H con 40 TOPS de rendimiento de IA.

Una vez conectada, la Raspberry Pi 5 utilizará AI HAT+ 2 para manejar cargas de trabajo relacionadas con la IA y dejará la CPU Arm de la placa principal disponible para completar otras tareas. A diferencia del AI HAT+ anterior, que se centra en el procesamiento de IA basado en imágenes, el AI HAT+ 2 viene con RAM integrada y puede ejecutar modelos de IA de pequeña generación como Llama 3.2 y DeepSeek-R1-Distill, junto con una serie de modelos Qwen. También puedes entrenar y ajustar modelos de IA utilizando el dispositivo.

A demostración compartida por Raspberry Pi muestra cómo se puede utilizar la placa complementaria para impulsar un modelo de IA capaz de generar una descripción basada en texto de una transmisión de cámara, así como responder una pregunta sobre si hay personas en la escena. Otro muestra cómo puede traducir texto del francés al inglés con Qwen2.

Sin embargo, el YouTuber tecnológico Jeff Geerling encontrado que una Raspberry Pi 5 independiente con 8 GB de RAM generalmente superó a la AI HAT+ 2 en todos los modelos compatibles. Geerling relaciona el menor rendimiento con el consumo de energía, ya que el Pi 5 puede funcionar hasta 10 vatios, mientras que el AI HAT+ 2 está limitado a 3W.

Aunque el AI HAT+ 2 puede ser ideal para casos de uso específicos, Geerling señala que los 8 GB de RAM adicionales de la placa adicional «no son suficientes para darle a este HAT una ventaja sobre el simple pago por el Pi más grande de 16 GB con más RAM, que será más flexible y ejecutará los modelos más rápido». El AI HAT+ lanzado el año pasado también puede manejar el procesamiento de imágenes AI por un precio inicial más económico de $70.

Raspberry Pi dice que se están preparando más modelos de IA «más grandes» para recibir actualizaciones y deberían estar disponibles para instalar poco después del lanzamiento.