Raspberry Pi AI HAT+ 2: これはRaspberry Pi 5向けの新しいローカルAIです

の到着 ラズベリーパイ AI HAT+ 2 これは、人工知能を直接操作したい人にとって新たな一歩となる。 ラズベリーパイ5 クラウドに恒久的に依存することなく、この拡張ボードは専用のニューラルアクセラレータと独自のメモリを追加することで、AI処理の大部分をメインCPUから切り離し、より野心的な生成AIやコンピュータービジョンプロジェクトを可能にします。

推奨価格は約 130ドル （スペインおよびその他のヨーロッパ諸国における最終価格は、税金および正規代理店のマージンによって変動します。）AI HAT+ 2は、組み込みAIエコシステムにおいて比較的手頃な価格の選択肢として位置付けられています。大規模サーバーや専用GPUと競合することはありませんが、コスト、消費電力、パフォーマンスのバランスが非常に優れています。 IoT、自動化、教育、プロトタイピング.

Raspberry Pi AI HAT+ 2 とは何ですか? 第 1 世代とどう違うのですか?

Raspberry Pi AI HAT+ 2は 公式延長プレート Raspberry Pi 5向けに設計されたこの製品は、マザーボードに統合されたPCI Expressインターフェースを介して接続し、GPIOコネクタを使用して取り付けます。これは、アクセラレータを搭載したバージョンが提供されていた2024年にリリースされた最初のAI HAT+の直接の後継です。 Hailo-8L (13 TOPS) および Hailo-8 (26 TOPS) コンピュータービジョンのタスクに非常に重点を置きました。

この第2世代では、Raspberry Piは Hailo-10H ニューラルネットワークアクセラレータ 伴う 8 GBのLPDDR4Xメモリ カード自体に専用のメモリが搭載されています。この組み合わせは、 エッジにおける生成AIコンパクト言語モデル、視覚言語モデル、画像とテキストを組み合わせたマルチモーダルアプリケーションなど。

法人化の事実 統合DRAM つまり、AIモデルの実行はRaspberry Pi 5のメインメモリを直接消費しません。マザーボードはアプリケーションロジック、ユーザーインターフェース、接続性、ストレージなどに集中でき、NPUが推論の大部分を処理できます。実際には、これによりAIモデルがバックグラウンドで実行されている間もシステムを使用可能に保つことができます。

Raspberry Pi自体によると、最初のAI HAT+からこの新しいモデルへの移行は 実質的に透明 すでに Hailo-8 アクセラレータを使用しているプロジェクトでは、同社のカメラ環境およびソフトウェア スタックとの統合が維持されるため、大規模な書き換えが回避されます。

ハードウェア、パフォーマンス、消費電力: Hailo-10H NPUで最大40 TOPS

AI HAT+ 2の心臓部は ハイロ-10H低消費電力デバイスで効率的に推論を実行するために設計された、特殊なニューラルネットワークアクセラレータ。Raspberry PiとHailoは最大 40 TOPSのパフォーマンス （テラオペレーション/秒）、量子化で得られた数値 INT4とINT8モデルがエッジにデプロイされる場合に非常に一般的です。

重要な点の1つは、チップの電力が約 消費電力3Wこれにより、冷却要件や電気代を大幅に増加させることなく、コンパクトな筐体や組み込みプロジェクトに統合できます。これは、24時間365日稼働するデバイスにとって重要です。しかし、この制限は、 粗利回り 特定の高度に最適化されたワークロードで CPU と GPU が限界まで押し上げられた場合、Raspberry Pi 5 自体が提供できる性能よりも常に優れているとは限りません。

以前のモデルと比較すると、その飛躍は明らかです。 13/26 TOPS with Hailo-8L/Hailo-8 Hailo-10Hでは40TOPSの演算性能を達成し、初めて8GBの専用オンボードメモリを搭載しました。初代AI HAT+は物体検出、姿勢推定、シーンセグメンテーションといったタスクに優れていましたが、新バージョンではこれらのアプリケーションを継承しつつ、より幅広い用途に焦点が当てられています。 言語モデルとマルチモーダル利用.

それでも、Raspberry Pi自体が、特定の視覚操作ではHailo-10Hの実用的なパフォーマンスが 26 TOPSに似ている Hailo-8は、ワークロードの分散方法とアーキテクチャの違いにより、性能面で大きな差があります。コンピュータービジョンの性能そのものよりも、LLMやローカル生成モデルの可能性を広げる点が、Hailo-8の大きな改善点です。

プレートには オプションのヒートシンク NPU用です。消費電力は限られていますが、特に長時間にわたるAIタスクや厳しいパフォーマンステストを実行する場合は、温度によるチップの周波数低下を防ぐため、これをインストールすることが推奨されます。

サポートされている言語モデルとローカル LLM の使用

AI HAT+ 2の最も印象的な特徴の一つは、 言語モデルをローカルで実行する Raspberry Pi 5で、外部サーバーにデータを送信することなく、データ通信を行うことができます。プレゼンテーションでは、Raspberry PiとHailoが、以下のモデルを紹介しました。 1.000万から1.500万のパラメータ 出発点として。

発売時に提供される互換性のあるLLMには、 DeepSeek‑R1‑Distill、Llama 3.2、Qwen2、Qwen2.5‑Instruct、Qwen2.5‑Coderこれらは比較的コンパクトなモデルであり、基本的なチャット、テキストの作成と修正、コード生成、簡単な翻訳、画像やテキスト入力からのシーンの説明などのタスク向けに設計されています。

同社が示した初期テストには、 言語間の翻訳 AI HAT+ 2を搭載したRaspberry Pi 5上で、シンプルな質問への回答を低レイテンシで完全に実行します。システム全体の使い勝手に大きな影響を与えることはありません。処理はHailo-10Hコプロセッサ上で行われ、デバイスをクラウドに接続する必要はありません。

このソリューションは、フルバージョンなどの大量市場向けモデルを対象としていないことを明確にする必要があります。 ChatGPT、Claude、またはMetaのより大きなLLMそのサイズは数千億、あるいは数兆の​​パラメータで測定されます。このような場合、問題は計算能力だけでなく、何よりも 必要なメモリ モデルとそのコンテキストをホストします。

ラズベリーパイ自体は、ユーザーが作業しているものが より限定されたデータセットで訓練されたより小さなモデルこの制限を補うために、次のような技術に重点が置かれています。 LoRA（低ランク適応）これにより、モデルを完全に再トレーニングする必要なく、既存のベースの上に軽量の適応レイヤーを追加して、モデルを特定の使用ケースに合わせて調整できるようになります。

メモリ、制限、16GB Raspberry Pi 5との比較

の包含 8 GBの専用LPDDR4X RAM これはAI HAT+ 2の主要な新機能の一つですが、実行可能なモデルの種類も明確に定義しています。特に幅広いコンテキストを扱う場合、中規模の量子化LLMの多くは、 10 GBのメモリしたがって、このアクセサリは軽量モデルやコンテキスト ウィンドウが狭いモデル向けになっています。

例えば、 ラズベリーパイ5 16GB HATがなくても、比較的大きなモデルをRAMに直接ロードする場合、メモリ容量の大きいマザーボードの方が有利です。ただし、メモリの大部分をAI専用に割り当て、他のタスクを犠牲にする必要があります。その場合、統合されたCPUとGPUがすべての推論を処理するため、ワークロードが増加します。

AI HAT+ 2の提案は、 別々の責任Hailo-10H NPU に AI 計算を任せ、Raspberry Pi 5 を解放して軽量デスクトップ環境、Web サービス、データベース、自動化、またはアプリケーションのプレゼンテーション層を維持できるようにします。

1つだけ欲しい人向け 現地アシスタント AI HAT+ 2は比較的シンプルで、チャット、テキスト翻訳、あるいはサードパーティにデータを送信することなく軽微なプログラミングタスクの支援などが可能であり、そのパワー、消費電力、コストのバランスは十分と言えるでしょう。しかし、大規模なモデルや極めて広範なコンテキストを必要とするプロジェクトでは、より多くのメモリを搭載したデバイスやクラウドインフラストラクチャを使用する方が現実的でしょう。

もう一つ考慮すべき点は、HATの8GBはメモリのオフロードには役立ちますが、 Raspberry Pi 5の16GB 総容量では依然としてアドイン ボードを上回るため、特定の RAM 集約型ワークフローでは、この構成が引き続き好ましいものとなります。

コンピュータビジョンと同時モデル実行

AI HAT+ 2は、第一世代を人気にした機能を放棄していません。 コンピュータービジョンアプリケーションHailo-10H は、物体検出および追跡モデル、人間の姿勢推定、シーンのセグメンテーションを実行でき、そのパフォーマンスは実際には Hailo-8 が 26 TOPS で提供していたものと同等です。

Raspberry Piは、新しいボードが 視覚モデルと言語モデルを同時に実行するそのため、カメラとテキスト処理を連携させる必要があるプロジェクトにとって魅力的な選択肢となります。例えば、イベントを分類して説明を生成する監視システム、現場で何が起こっているかを説明するスマートカメラ、視覚認識とレポート生成を組み合わせたデバイスなどです。

具体的なシナリオでは、家族モデルについて言及されています。 YOLO リアルタイムの物体検出では、モデルの解像度と複雑さに応じて、約30フレーム/秒のリフレッシュレートを実現します。NPUがこのタスクを処理し、Raspberry Pi 5がストレージ、ネットワーク、通知、ディスプレイを管理するという考え方です。

Raspberry Pi上のAIを取り巻くソフトウェアエコシステムはまだ成熟段階にあります。 例、フレームワーク、ツール Raspberry Pi と Hailo の両方において、複数のモデル (ビジョン、言語、マルチモーダル) の並列実行は進化を続ける分野であり、各プロジェクトで微調整が必​​要になる場合があります。

いずれにせよ、 公式Raspberry Piカメラスタック これにより、既に同ブランドのカメラモジュールをご利用のお客様の作業が簡素化されます。AI HAT+ 2は既存の環境に直接統合されるため、多くの既存のビジョンプロジェクトを比較的わずかな変更で新しいボードに移行できます。

スペインとヨーロッパのユースケース：産業、IoT、教育プロジェクト

低消費電力、小型、そして ローカルAI処理 これは、スペインをはじめとするヨーロッパ諸国で推進されているデジタル化のトレンドとよく一致しています。安定したクラウドアクセスが常に保証されているとは限らない、あるいは厳格な機密保持要件が求められる産業分野において、この種のソリューションは特に魅力的です。

公式文書で最も頻繁に使用される用語には、 産業オートメーション、プロセス制御、施設管理生産ラインの視覚検査システム、リアルタイムの異常検出、アクセス制御、建物内の人数カウントなどは、ビジョンと軽量言語モデルの組み合わせによって、はるかに高価な AI インフラストラクチャを導入することなく付加価値を生み出せる例です。

の分野では 家庭とビジネスのIoTAI HAT+ 2は、Raspberry Pi 5上で動作するローカルアシスタント、センサーデータを解釈するダッシュボード、シーンを描写するカメラ、外部サーバーに画像をアップロードせずにビデオを分析するデバイスなどの基盤として機能します。このアプローチは、ますます厳格化する欧州連合（EU）のデータ保護規制への準拠に役立ちます。

これはまた、興味深いツールにもなり得る。 開発キット Hailo-10Hチップを最終製品に組み込むことを検討している欧州企業およびスタートアップ企業向け。Raspberry Piでパフォーマンスと安定性をテストすることで、カスタムハードウェア設計に投資する前にコンセプトを検証できます。

教育分野では、スペインの職業訓練センター、大学、専門アカデミーがAI HAT+ 2を実践プラットフォームとして活用し、 組み込みAIと生成AI 他の高価なシステムに比べて、アクセスしやすく比較的安価なハードウェアで学生に提供します。

ユーザープロファイルと対象となるプロジェクトの種類

Raspberry Pi AI HAT+ 2は複数のプロファイルを対象としています。一方で、 メーカーと愛好家 すでに Raspberry Pi 5 を使用しており、専用 GPU を搭載したワークステーションに移行したり、クラウド サービスに完全に依存したりすることなく、生成 AI や高度なビジョンをプロジェクトに取り入れたいと考えている方。

一方、彼は誘惑しようとする プロの開発者とスタートアップ 組み込みAIのテストプラットフォームを必要とするお客様に最適です。産業用PCにeGPUやNPUを統合したソリューションと比較して、このボードはコンパクトなフォームファクタ、非常に低い消費電力、そして低い総コストを実現しますが、はるかに高価なプラットフォームに比べるとパフォーマンスの上限は低くなります。

最初の AI HAT+ をすでに使用した経験のある人にとっては、移行は比較的簡単に思えます。 既存のソフトウェアとの統合 カメラスタックは、必要な変更を最小限に抑えるよう慎重に設計されています。これは、既に進行中のプロジェクトで、すべてを書き換えることなくパフォーマンス向上のメリットを活用したい場合に役立ちます。

一方、最大限のメモリマージンでローカル言語モデルを実行することだけを考えているユーザーにとっては、 ラズベリーパイ5 16GB HAT がない場合、統合された CPU と GPU がすべての推論を処理すると想定すると、消費電力はいくらか高くなります。

つまり、このアクセサリは中間的なソリューションとしてニッチな市場を切り開いているようだ。特定のAIタスクを単独で実行するRaspberry Pi 5よりも強力で柔軟だが、サーバーや専用GPUのパフォーマンスには遠く、 低消費電力、プライバシー、コスト抑制.

Hailoソフトウェアの統合、リソース、サポート

ソフトウェアの観点から、Raspberry Piはセットアッププロセスを可能な限り簡素化することを目指しました。AI HAT+ 2は、 PCIeインターフェース Raspberry Pi 5 のものであり、公式のオペレーティング システムによってネイティブに認識されるため、環境にすでに精通しているユーザーであれば、過度に複雑なセットアップ手順を実行することなく AI アプリケーションを実行できます。

Hailoはユーザーに GitHubのリポジトリと開発者ゾーン 生成AIとコンピュータービジョンの両方向けに設計されたコードサンプル、事前設定済みモデル、チュートリアル、フレームワークが含まれています。また、量子化の管理、サードパーティモデルの読み込み、特定のワークフローの最適化のためのツールも含まれています。

同社はローンチ時にいくつかの すぐにインストールできる言語モデルカタログを拡張し、より大規模なバリエーションや、非常に特殊なユースケースに適応したバリエーションを追加することが期待されます。さらに、LoRaなどの技術を活用することで、膨大なデータセットでゼロから学習させることなく、各プロジェクトのニーズに合わせてモデルを調整することが可能になります。

こうしたタイプのソリューションではよくあることですが、実際の体験は ソフトウェアエコシステムの成熟度一部のアナリストは、ツール、安定性、複数モデルの同時実行のサポートにはまだ改善の余地があると指摘していますが、Raspberry Pi エコシステムの傾向は、ますます洗練された統合へと向かっています。

いずれにせよ、スペインや他のヨーロッパ諸国でプロジェクトを開発する場合、公式ドキュメント、実用的な例、活発なコミュニティがあれば、低コストのデバイスで組み込み型 AI や生成型 AI を試すための参入障壁が大幅に下がります。

スペインとヨーロッパにおける価格、入手可能性、実用面

Raspberry Pi AI HAT+ 2は参考価格で発売されました。 130ドルスペインとヨーロッパの他の国々では、最終的な金額は 為替レート、税金、各販売店のポリシーそのため、店舗や国によって多少の違いが生じることが予想されます。

このマザーボードは、 ラズベリーパイ51GBのRAMを搭載したモデルから16GBのバージョンまで、互換性のあるRaspberry Piは、おなじみのHAT形式で取り付けられます。ボードにネジ止めし、GPIOヘッダーとPCIeインターフェースを介して接続します。そのため、このインターフェースを備えていない以前のRaspberry Piモデルは、互換性リストから除外されています。

発表後の初期段階では、一部の専門販売業者は、 在庫限りこれは、Raspberry Piの公式ハードウェアリリースではもはや一般的な手順です。短期間でユニットを確保したい方は、ヨーロッパの正規代理店の在庫状況や、場合によっては待機リストに載る可能性に注意する必要があります。

ハードウェアに加えて、Raspberry PiとHailoの技術ドキュメントとソフトウェアリソースへのアクセスも含まれています。GitHubのサンプル、ステップバイステップガイド、組み込みAI初心者向けの資料などが含まれます。これにより、個人ユーザーと中小企業の両方が、追加の開発ツールに投資することなく、簡単に実験を始めることができます。

ヨーロッパの文脈では、 データプライバシー そして、エネルギー効率がますます重要になるにつれて、AI HAT+ 2は次のようなことを可能にするものとして提示されます。 機密情報をローカルで処理する リモート データ センターへの依存が軽減されるため、より制御された AI ソリューションを求める行政機関、中小企業、独立系開発者にとって魅力的となる可能性があります。

Raspberry Pi AI HAT+ 2は、クラウドと大規模AIサーバーの中間的なソリューションとして位置付けられています。コンピュータービジョンと軽量言語モデルを1つのデバイスに組み合わせる、比較的アクセスしやすい方法を提供し、消費電力を抑え、プライバシーを尊重しますが、その代わりにプロジェクトを設計する必要があります。 力と記憶の限界の中で 低消費電力と低コストを実現するよう設計されたハードウェアの典型です。