NVIDIA Jetson Orin を使った映像分析開発の効率化

世界中で使用されているネットワークカメラは10億台を超え、IoTにおけるセンサでは最も多く導入されているものの一つとなっています。エッジコンピューティングにおけるAIベースのビデオ分析は、多くの業界で不可欠なものとなっています。

これらのシステムでは、セキュリティ強化、トラフィック管理、カメラからのリアルタイムデータのキャプチャと各フレームでの分析からイベント抽出、データの保存などを行います。これにより、企業は映像から貴重な知見を得ることができます。

ただ、膨大な量の映像の管理は困難です。映像の分析を担当するチームは時間とリソースが限られており、すべての映像を確認することは難しく、ヒューマンエラーのリスクが常に発生します。そのため、映像データの多くが十分に活用されないままになっています。

このブログでは、NVIDIA Jetson Orinプラットフォームで、映像解析のソリューションの開発をどのように改善すべきかを紹介します。複数のライブ映像をサポートするJetsonのハードウェア設計と性能を検証し、Jetsonが理想的な選択である理由を説明していきます。

Jetsonで特筆すべきなのは、NVIDIAのエコシステムが製品を市場に投入するまでのエンジニアリング時間を短縮できることです。

最新のJetPack 6アップデートでは、Jetson Platform Services（JPS）というモジュラアーキテクチャが導入されています。JPSはビジョンAIアプリケーションを構築するためのカスタマイズ可能なソフトウェアと、再利用可能なマイクロサービスの包括的コレクションを特徴としています。インフラストラクチャ機能のための基本的なサービス、知見を生成するためのAIサービス、セキュアなエッジ・ツー・クラウド接続のためのリファレンス・クラウドを提供します。

ハードウェア設計とパフォーマンス： 複数のライブ映像のサポート

NVIDIA Jetson Orinは複数のカメラ映像の分析や、複雑な分析のタスクを処理するための理想的な選択肢です。特に高性能や低レイテンシ、かつ効率的でコンパクトな設計が重要なエッジコンピューティングの場面では最適です。

大規模なデプロイを行う場合では、サーバによる解析が依然として主流の選択肢となっていますが、NVIDIA Jetson Orinではエッジコンピューティングにバランスの取れたソリューションを提供し、効率的でコンパクトなハードウェアによって高いリアルタイム性能を提供します。

例えば、Jetson Orin NX 16 GBは、最大18ストリームの1080p30を扱うことができ、スーパーマーケット、ガソリンスタンド、小売店などの中規模のシナリオに適しています。

専用GPUを搭載したエッジサーバは、高解像度（4K）または複数の1080 p映像を含む大規模なライブ映像を処理するように設計されているため、通常はビデオ分析に使用されます。しかし、エッジサーバは消費電力が大きく、より複雑なシステム統合を必要とするため、100ストリーム未満の小規模なセットアップでは経済的ではありません。

一方で、マイクロコントローラのような低消費電力プロセッサもビジョンAIソリューションで普及していますが、リアルタイム分析には性能不足のため、単一のストリームの検出のみを行うシナリオに適しています。これらのプロセッサは通常、ビデオストリームではなく画像データを送信するため、リアルタイムビデオの複雑な解析タスクには適していません。

プロジェクトに適したフレームレートと、1台のデバイスに接続できるカメラの最大台数を決定するには、wikiのチュートリアルのカメラ台数とモデル性能のベンチマークを比較する方法を参考にしてください。

並列処理の解放： 複数のディープラーニングモジュールの実行

NVIDIA Jetson Orinシリーズは、並列コンピューティングを得意とするように設計されており、強固な並列処理が可能です。例えば、交通流分析とブロックスケジューリングのためのビデオ分析ソリューションを考えてみましょう。このような複雑なタスクは、単一の物体検出モデルだけでは対応できません。

リアルタイムでの交通状況を総合的に理解するためには、ピーク時やオフピーク時の交通の流れの分析による渋滞予測、車両数計測、分類、ナンバープレート認識、不正な転回の検知、横断歩道上の歩行者検知など、複数の分析タスクを統合する必要があり、それぞれのタスクには、特定のAIモデルやアルゴリズムが必要となります。したがって、複数の分析モデルを同時に実行する場合、エッジデバイスがどのように機能するかが重要な課題になります。

Jetson Orinシリーズは、最大275 TOPSのAI性能（Jetson MLPerf推論ベンチマークを参照）を発揮し、他のほとんどの組み込みAIシステムを凌駕する優れたGPU性能を誇ります。この充実したAI能力により、コンピュータビジョンモデルだけでなく視覚言語モデル（VLM）のような大規模モデルの実行も可能になり、視覚機能とLLMを組み合わせることで、画像やビデオの意味の理解を実現します。

NVIDIA Jetson Orinを使用したビデオ解析における生成AIの将来については、こちらのブログで詳しく紹介しています。NVIDIA Jetsonデバイスと互換性のある実用的な開発ソフトウェアソリューションについては、ビデオ分析ソリューションのページをご覧ください。

reServer Jetson Orinシリーズ： AI NVRのためのローカル推論センター設計

複雑なモデルや膨大なデータを処理するために、私たちはreServer Jetson Orinシリーズをお勧めします。以下の特徴により最小限のメンテナンスで最高のプライバシー保護を実現します。

• 十分なローカルストレージ：ローカルSSD/HDD用の二つのドライブベイを装備し、完全なローカルで動作しながら、ビデオ映像を一時的にキャッシュすることができます。長期保存の場合は、重要なイベントのみをクラウドに保存することで、クラウド伝送における帯域幅の管理に役立ちます。
• ハイブリッド接続：複数のリアルタイム処理ストリーム用に五つのRJ45 GbEを搭載しています。このうち4ポートは802.3af PSEのため、電源とデータ伝送ポートを統合したレイアウト設計を行うことができます。

開発を加速する強力なNVIDIAエコシステム

エッジコンピューティングは、ハードウェア、オペレーティングシステム、ネットワーキング、データ処理など、さまざまなテクノロジーとコンポーネントを統合した複雑な分野です。この複雑さによって、高度なAIアプリケーションを構築する場合に、開発サイクルの長期化やプロジェクトリスクの増大につながることが多くあります。開発者は、システムの複雑さ、ハードウェアの互換性、ソフトウェアの開発サイクルといった課題を管理するために、分野横断的なスキルとAIテクノロジーに関する深い専門知識を必要としています。

Jetson Platform Servicesの紹介：新たなモジュール式の柔軟なアーキテクチャ

アプリケーション開発に対する開発者の不安を解消するため、NVIDIAはJetson Platform Services（JPS）を導入しました。NVIDIA JetPack SDKの一部であるJPSは、NVIDIA Jetsonモジュール向けに設計されており、エンドツーエンドのアクセラレートされたAIアプリケーションを構築するための包括的なソリューションを提供します。JetPack 6バージョンは、マイクロサービスや多数の新機能を導入することで、Jetsonプラットフォームの柔軟性と拡張性をさらに向上させ、2024年で最も人気のあるJetPackバージョンとなっています。

Jetson Platform Services（JPS）は、オールインワンのツールボックスのように機能し、ビジョンAIアプリケーションの構築を強力にサポートします。JPSは、モジュラーアーキテクチャを採用しており、カスタマイズ可能なソフトウェアコンポーネントや再利用可能なマイクロサービスを多数含んでいます。これらのマイクロサービスは、開発者が自由に組み合わせて、ビジョンAIアプリケーション向けのさまざまな機能を作り出せるビルディングブロックのような役割を果たします。

ツールボックスには実用的なマイクロサービスが数多く用意されています。例えば、Video Storage Toolkit（VST） は、カメラからのビデオストリームを簡単に管理できるようにサポートします。また、AI Perception Service は、NVIDIA DeepStreamをベースにした高度なディープラーニング技術を使用し、機械が人間のように世界を「理解」できるようにします。さらに、生成AI推論サービスや分析サービスも含まれており、AIアプリケーション向けに強力な洞察力と分析能力を提供します。

実フィールドでの展開の成功事例

セキュリティ管理: AI NVRとして自宅や全体の作業スペースで侵入検知を完了させるセキュリティ管理システムを展開しました。イタリア国内の20か所にある自動車ディーラー倉庫向けに導入したセキュリティソリューションをぜひご覧ください。

交通分析: 多角的な車両検出、ナンバープレート検出、交通流量モニタリング、駐車場の占有率検知、違法な左折・右折、ラインの越境などを実装しています。コード不要のLumeo AIプラットフォームを使って、どのようにインテリジェントな交通ソリューションを構築できるかをご覧ください。