開発の熱気の中で、 人工知能 処理速度を測定するための特定の測定単位の使用が広く普及しています: TOPS (1 秒あたりのテラ操作数)、他の分野でも使用されていることは事実ですが、 技術分野。この投稿では説明します qトップスは何ですか そしてその機能は何ですか。
しかし、これらの測定単位について何を言っているのでしょうか? TOP は 1 秒あたり少なくとも 10 億回 (a»b») の操作に相当します。 NPU が処理できる 1 秒あたりの操作の数。このように、40 TOPS プロセッサは 40 秒あたり XNUMX 億回の演算を処理できることになります。本当に印象的です。
「演算」について話すとき、私たちは、演算によって生成される計算の数を指します。 ニューラルネットワーク 異なる性質の大量のデータを掛け合わせることで。 TOPSの数値が高いほど、 コンピューティング能力が高いほど、処理速度も速くなります。.
数十億、さらには兆で表される絶対数は、人間の脳が処理するには大きすぎます。宇宙の銀河や距離について話すときのように。だからこそTOPSを使う必要があるのです。新たなニーズに応える新たな指標。
地球に戻って、この値の重要性を理解するためにいくつかの例を示します。Qualcomm Snapdragon PC Copilot Plus にはすでに 45 TOPS が搭載されていますが、新しい AMD AI 300 チップはラップトップ向けに 50 TOPS の容量を約束します。すべては、次のことを示しています。 AIコンピュータの次世代時代、 最低要件 任意の ニューラル プロセッシング ユニット (NPU) に位置しています 40トップス。
コンピューターと人工知能
そうです。TOPS は、何かを測定する際に使用しなければならない測定単位です。 AIシステムを搭載したコンピューター。 つまり、すでに市場に出始めている新世代のコンピューターです。 PC の NPU のパフォーマンスを決定する有効なリソース。
この用語に慣れる必要があります。 NPU、人工知能機能を担当するプロセッサ ますます多くのコンピューターに組み込まれています。
コンピューターの仕様を読むときに、TOPS で表現されている図が AI の動作を完全に正確に反映しているわけではないことを知っておくことも重要です。がある その他の要因 それは最終的なパフォーマンスにも影響します。たとえば、特定のハードウェア コンポーネントの AI モデルを最適化すると、間違いなく結果に影響します。これは、別の変数を追加することを意味します。
ただし、NPU の実際の速度やその他の関連問題に関する参考情報として使用できます。
- まず第一に、それは素晴らしいです AIアプリケーション実行速度指標 コンピューターの場合: TOPS が多いほど、応答時間は短くなります。
- それも良いです 新しいアルゴリズムとニューラルネットワークの開発の参考レベル コンピューターの場合: TOPS が多いほど、コンピューティング能力が高くなります。
- 一方で (これはすでに家庭用コンピューターの通常のタスクを超えていますが)、TOPS は次のことを行う良い方法です。 人工知能のトレーニングプロセスの進行状況を測定します。
便利だが非公式のメーター
ただし、TOPS は重要ではありますが、人工知能の標準的かつ普遍的な測定単位としてはまだ受け入れられていません。 テクノロジー業界は、TOPS を測定する正しい方法に関して合意に達していません そして彼は決してそれをしない可能性が非常に高いです。現時点では、各メーカーが独自の方法で計算しているため、信頼性が大幅に低下します。
これに付け加えなければならないのは、AI の実際のパフォーマンス、特に AI が機能するときのパフォーマンスがどのようなものであるかについては、まだ多くの詳細が不明であるということです。 さまざまな要因が何らかの形で結果に影響を与える可能性があります。
ほとんどの経験豊富なユーザーは、この種の問題をすでに認識しています。CPU は速度をギガヘルツ (GHz) 単位で示しますが、 ゲーマー 彼らは別のメーターである TFLOPS (1 秒あたりの浮動小数点演算数)、測定単位 これは、ほとんどのビデオ カードやゲーム機の仕様リストで使用されています。これは、メモリなどの他の側面には触れず、パフォーマンスについてのみ話している場合の話です。
つまり、特殊な AI タスクを担当するのは NPU とローカル GPU であるため、TOPS のような測定単位を使用して PC の AI パフォーマンスを完全に定義することはできません。
それで今のところ私たちが話さなければならないのは 貴重で非常に実用的な指標ですが、決定的なものではありません。 もちろん、いざというときの参考にはなりますが、 新しいコンピューターの NPU を AI と比較する すでに市場に出てきているもの。