ムーアの法則が有効だった時代は、CPUの性能もそれに従って向上しており、全てのソフトがハードの進化の恩恵を受けていた。今後はCPUの性能向上が見込めないので「プロセッサをソフトに特化させていく必要がある」(Holzle氏)。TPUはGoogleの社内エンジニアが開発した、完全に同社独自のプロセッサであり、社外に販売する予定は無い。

 Holzle氏は本誌の取材に対して「TPUは(これまでのCPUなどと同じ)ノイマン型アーキテクチャだ」と説明する。現在はIBMなどが、ニューロン(脳神経細胞)の働きを模した「ニューロシナプティック・コンピュータ・チップ」などの非ノイマン型アーキテクチャのプロセッサの研究開発も進めているが、「TPUは脳型プロセッサのようなものではない」(Holzle氏)。

浮動小数点数の計算の精度を抑えた設計

写真4●TPU搭載ボード
出典:米Google
[画像のクリックで拡大表示]

 同社によればTPUの消費電力当たりの性能がGPUなどに比べて高いのは、浮動小数点演算の精度を抑えることで、計算に必要となるトランジスターを減らしているからだとしている。ディープラーニング用のプロセッサで浮動小数点演算の精度を抑えるアプローチは、GPU大手の米NVIDIAも、2016年4月に発表した新GPU「Tesla P100」で採用している(関連記事:米NVIDIAが深層学習用スパコン「DGX-1」、1台1400万円で170テラFlops)。

写真5●TPUを搭載したサーバー
出典:米Google
[画像のクリックで拡大表示]

 TPUを搭載したボード(写真4)は、Googleがデータセンターで使用するサーバーのハードディスクのスロットに収まるサイズ。Googleは既にTPUを搭載するサーバーをデータセンターで稼働しており(写真5)、Google検索のアルゴリズムである「RankBrain」や「ストリートビュー」、AlphaGoなどでのディープラーニングの処理に利用中だ。TPUに関するこれら以外の技術的な詳細は、2016年秋に公開する研究論文で明らかにするとしている。