Raspberry nyní nabízí vylepšenou variantu kitu pro AI HAT+ 2 pro počítače Pi. Jeho NPU nyní zvyšuje výkon na 40 AI TOPS.
V polovině roku 2024 se pro počítače Raspberry Pi 5 představil AI kit Hailo-8L. Nyní tu máme nový AI HAT+ 2, který obsahuje nový výkonnější akcelerátor Hailo-10H (NPU). Pokud potřebujete efektivní výpočty algoritmů umělé inteligence, hodí se zvýšený výkon na 40 TOPS v datovém formátu INT4. Pro představu, původní Hailo-8L mělo výkon jen 13 TOPS, Hailo 8 pak 26 TOPS. Umožňuje tak rychlejší zpracovávání lokálně běžících algoritmů AI.
Oproti svému předchůdci má nová verze AI HAT+ 2 svou vlastní RAM o kapacitě 8 GB, díky čemuž umožňuje běh větších LLM nebo VLM než doposud, a zvládne také různé generativní AI, které na původních verzích nebyly schopné běžet. U modelů DeepSeek-R1-Distill, Qwen2.5-Coder, Qwen2.5-Instruct a Qwen2 pojme modely s 1,5 miliardou parametrů, u modelu Llama3.2 je to pak 1 bilion parametrů.
Např. v případě VLM (Vision-Language Models) umožní běh algoritmů pro rozpoznávání objektů nebo pózy, zvládne také např. segmentaci obrazu. K tomu přijde vhod také podpora softwaru pro práci s kamerami (libcamera, rpicam-apps, and Picamera2).
Pokud jde o cenu novinky, AI HAT+ 2 vyjde na 130 USD. Na GitHubu je pak k dispozici spousta ukázek nebo frameworků pro obrazové i jiné generativní AI systémy včetně hlasových asistentů a rozpoznávání řeči.
