Raspberry Pi AI HAT+ 2: Локална моќ на вештачка интелигенција со мобилна пресметкаска револуција
Враќајќи се на светот, Raspberry Pi изворно се гледаше како најев PROVIDEDет компјутер, но денес таа ни претставува платформа која нуди ефикасни решенија и во областа на вештачката интелигенција. По претставувањето на додатокот Raspberry Pi AI HAT+ минатата година, сега нова картичка за проширување ја започнува новата ера која е фокусирана на продуктивната вештачка интелигенција. Raspberry Pi AI HAT+ 2 со стандардниот приклучок користи Hailo-10H ускорувачот за постигнување на скоро 40 TOPS перформанси во форматот INT4. Предната генерација користеше моторчиња Hailo-8 со 26 TOPS (8-бит) и 13 TOPS (8-бит); новиот модел нуди посилна инфраструктура.
Со оваа надоградба, е можно да се работат големи јазични модели како Deepseek и Qwen; исто така, картичката сега е опремена со 8GB вградена RAM и може да обработува јазични модели локално без потреба од мрежна врска. Апликации кои се интегрираат со прегледач-базирани интерфејси за разговори поддржуваат широк екосистем како детекција на објекти, сегментација на сцени и камерен апликации. Додатокот може да работи модели од 1 милијарда до 7 милијарди параметри; за поголеми модели, постојат насоки за користење поголеми капацитети, но резултатите добиени со картичката се сметаат за заслужуваат.
За развивачите, на GitHub на Hailo се достапни примероци, демонстрации и софтверски рамки. Цена за продажба на Raspberry Pi AI HAT+ 2 изнесува 130 долари.
Додатокот за вештачката интелигенција го прави уште еден напредок и носи нова вредност за перформансите. Базираниот на Hailo-10H, овој картон понуди околу 40 TOPS калкулациска моќност во форматот INT4, а неговата вградена меморија од 8GB овозможува функционирање без поврзаност со мрежа. На тој начин, дури и без хардверска инфраструктура, може да се работат јазичните модели локално.
Оваа новина дозволува тестирање на големи модели како Deepseek и Qwen, и претставува значително подобрување во однос на преносливоста и лесната интеграција. Апликациите кои соработуваат со прегледач-базирани интерфејси за комуникација нудат практично искуство за корисникот и ја поддржуваат работата со модели од 1 до 7 милијарди параметри со додатокот.
За развивачите, дополнително има многуprojectи, демонстрации и рамки достапни на GitHub страницата на Hailo. Овој картон со цена од 130 долари е одговорен за широк спектар на проекти, од мали вештачки интелигенции до локални решенија.
