機械学習でフォトニックテクノロジーを使用するための新しいアプローチ

Applied PhysicsReviewの記事「PhotonicProcessorsEnable More Performance Machine Learning」の中で、米国ジョージワシントン大学電気コンピュータ工学科の著者MarioMiskulloとVolkerSorgerは、ニューラルネットワーク計算を実行するための新しいアプローチについて説明しています。グラフィックスプロセッシングユニット（GPU）の代わりにフォトニックテンソルカーネルを使用した機械学習。

Mario Miskulloは、ジョージワシントン大学の電気およびコンピューター工学科の助教授です。マリオは、Volcker J.Sorger博士が率いるOPENLabニューロモーフィックコンピューティングチームのサブグループリーダーです。マリオは、ハーバード/ MITで研究者として働いている間、トリノ工科大学で電気およびコンピューターエンジニアリングの修士号を取得しました。彼は、国立研究所の分子鋳造所で研究助手として働いている間、イタリア工科大学のジェノア大学でオプトエレクトロニクスの博士論文を擁護しました。バークレーのローレンス。彼の関心は、ナノ光学と光と物質の相互作用、メタサーフェス、フーリエ光学、フォトニックニューロモーフィックコンピューティングなどの科学と工学にまで及びます。



著者らは、このアプローチの結果として、光データストリームの処理パフォーマンスがGPUの処理パフォーマンスよりも2〜3桁高くなる可能性があることを示唆しています。著者はまた、フォトニックプロセッサが5Gネットワ​​ークの周辺機器で非常にうまく機能すると信じています。

— , (OPEN) . , .



, , - . — , , PMAC/s . , (PECASE), AFOSR , . - , OSA , OSA , SPIE . - IEEE, OSA SPIE.



研究中のアプローチでは、フォトンテンソルカーネルがマトリックス乗算を並行して実行することにより、深層学習の速度と効率が向上します。ニューラルネットワークは、制御されていない決定を実行し、目に見えないデータの分類を構築する方法を学ぶ方法を学びます。ニューラルネットワークがデータを処理するようにトレーニングされると、オブジェクトやパターンを認識して分類し、データ内の署名を見つけることを推測できます。



TPU Photonic Processorは、光メモリを効率的に読み書きできる電気光学接続を使用してデータを並列に保存および処理し、PhotonicTPUは他のアーキテクチャと相互作用します。



「光メモリを内蔵したフォトニックプラットフォームは、テンソルプロセッサと同じ操作を実行できることがわかりました。同時に、それらはより少ないエネルギーを消費し、はるかに生産的です。それらを使用して、光の速度で計算を実行できます」と、開発者の1人であるMarioMiskullo氏は述べています。



ほとんどのニューラルネットワークは、人間の脳の働きを模倣するために、相互接続されたニューロンの複数の層を解明します。これらのネットワークを表す効率的な方法は、行列とベクトルを乗算する複合関​​数です。このビューにより、行列乗算などのベクトル化された操作に特化したアーキテクチャを介して並列操作を実行できます。

出典： MarioMiskulloとVolkerSorgerによる記事。



（a） Photonic Tensor Core（PTC）は、16個のライトガイドで構成されており、その性質上、ラインごとの乗算とポイントごとの累積を独立して実行します。



（b） . WDM, (, -) . J- . , , (MRR), ( ), , , MAC.



タスクが難しく、予測精度の要件が高いほど、ネットワークは複雑になります。このようなネットワークでは、計算に大量のデータが必要であり、そのデータを処理するためにより多くの電力が必要です。グラフィックス処理ユニット（GPU）やテンソル処理ユニット（TPU）など、深層学習に適した最新のデジタルプロセッサは、必要な電力のために、複雑で高精度の操作を実行するのに制限があります。また、プロセッサとメモリ間の電子データの転送が遅いためです。



この記事の開発者と著者は、TPUのパフォーマンスが電気TPUのパフォーマンスよりも2〜3桁高くなる可能性があることを示しています。フォトンは、5Gなどのネットワークのエッジで高帯域幅のインテリジェントタスクを実行するコンピューティングネットワークおよびノー​​ド間操作に最適です。監視カメラ、光学センサー、およびその他のソースからのデータ信号は、すでにフォトンの形式である可能性があります。



「フォトニック専用プロセッサは、応答と処理時間を短縮することで、膨大な量のエネルギーを節約できます」とMiskullo氏は付け加えました。エンドユーザーにとって、これは、この場合、データの大部分が前処理されるため、データがはるかに高速に処理されることを意味します。つまり、一部のデータのみをクラウドまたはデータセンターに送信できます。

光学的および電気的データ伝送のための新しいアプローチ

この記事では、機械学習タスクを実行するための光ルートを選択する例を示します。相互接続されたニューロン/ノードの複数のレイヤーを公開するほとんどのニューラルネットワーク（NN）では、各ニューロンとレイヤー、およびネットワーク自体の接続が、ネットワークがトレーニングされたタスクにとって重要です。検討中の接続層では、ニューラルネットワークはベクトル行列の数学的演算に大きく依存しており、入力データと重みの大きな行列が学習プロセスに従って乗算されます。複雑な多層ディープニューラルネットワークは、効率と速度を犠牲にすることなく大規模なマトリックス乗算を実行するために必要な操作を満たすために、かなりの帯域幅と低遅延を必要とします。



これらの行列をどのように効率的に乗算しますか？汎用プロセッサでは、マトリックス操作が順番に実行されるため、キャッシュメモリへの常時アクセスが必要になり、フォンノイマンアーキテクチャにボトルネックが生じます。 GPUやTPUなどの特殊なアーキテクチャは、いくつかの強力な機械学習モデルを有効にすることで、これらのボトルネックを軽減するのに役立ちます。



GPUとTPUは、CPUよりも特に便利です。ただし、ディープニューラルネットワークのトレーニングに使用して、画像などの大規模な2次元データセットの推論を実行すると、多くのエネルギーを消費し、より長い計算時間（数十ミリ秒以上）を必要とする可能性があります。それほど複雑でない推論タスクのマトリックス乗算は、主にさまざまなメモリ階層へのアクセス制限とGPUの各命令の待ち時間が原因で、依然として待ち時間の問題に悩まされています。



この論文の著者は、この文脈を考えると、行列代数が永続的なメモリアクセスに依存する最新の論理コンピューティングプラットフォームの運用パラダイムを研究し、再発明する必要があることを示唆しています。この点で、光の波の性質と、干渉や回折などの関連する固有の操作は、ニューロモーフィックプラットフォームの消費電力を削減しながら、計算スループットを向上させる上で重要な役割を果たすことができます。



開発者は、将来のテクノロジーが、独自の物理操作を使用して、時変入力のドメインで計算タスクを実行する必要があることを想定しています。この観点から、フォトンは分散ネットワークの計算に理想的であり、データ信号がフォトンの形式（たとえば、ビデオ監視カメラ、光学センサーなど）ですでに存在している可能性があるネットワークエッジ（たとえば、5G）でビッグデータに対してインテリジェントタスクを実行します。 。）したがって、データセンターおよびクラウドシステムに向けることができるデータトラフィックの量を事前にフィルタリングし、インテリジェントに調整します。



ここで、トレーニングされたカーネルを使用して4x4マトリックスの乗算と累積を1つのステップで（つまり、繰り返しではなく）実行できるPhotonic Tensor Kernel（PTC）を使用して新しいアプローチを打ち破ります。言い換えると、トレーニング後、ニューラルネットワークの重みは4ビットのマルチレベルフォトニックメモリに保存され、チップに直接実装されます。追加の電気光学回路や動的ランダムアクセスメモリ（DRAM）は必要ありません。フォトニックメモリは、平面化された導波路上に配置されたG2Sb2Se5導体に基づく低損失の位相変化ナノフォトニック回路を備えており、電熱スイッチングによってアップグレードできるため、完全に光学的に読み取ることができます。電熱スイッチングは、位相変化メモリ（PCM）センサーと通信するタングステン加熱電極を使用して実行されます。



テーブル。テンソルカーネルのパフォーマンスの比較。

出典： MarioMiskulloとVolkerSorgerによる記事。



電子的に供給されるフォトニックテンソルコア（PTC）（左の列）は、NvidiaのT4およびA100よりもスループットが2〜8倍向上し、光学データ（カメラなど）の場合、倍率は約60倍（面積）です。微小回路は1つの結晶（〜800 mm2）に制限されています。



テストによると、フォトニックチップの性能は現在市販されているものの2〜3倍です。それらのデータ処理速度は毎秒2ペタフロップに達する可能性がありますが、約80ワットのエネルギーを消費し、そのうち95％がチップの保守に費やされ、わずか5％が計算に費やされます。



この記事の著者は、この作業が、データを格納して並列に処理するフォトンテンソルプロセッサを実装するための最初のアプローチであることを強調しています。このようなプロセッサは、乗算累積（MAC）操作の数を数桁拡張できると同時に、既存のハードウェアアクセラレータと比較して電力消費と遅延を大幅に削減し、リアルタイム分析を提供します。



ロジックゲートに依存するデジタルエレクトロニクスとは異なり、統合フォトニクスでは、光物質信号の電磁的性質によって提供される固有の並列性を利用して、多重累積および他の多くの線形代数演算を非反復的に実行できます。この点で、統合フォトニクスは、ハードウェアで特定の複雑な操作を表示するための理想的なプラットフォームです。