この項目で混ざったもの
ハード側AI専用のチップを自社で作ったソフト側TensorFlowに合わせて設計した
2016年5月18日、Googleのフェロー（技術職の最上位の一つ）Norm Jouppi氏が、公式ブログでTPU（Tensor Processing Unit）を公表しました。TPUは機械学習のために作った専用のチップ（ASIC）で、TensorFlowという機械学習のソフトウェアに合わせて作られている、とGoogleは説明しています。データセンターのラックにあるハードディスクの差し込み口に入る大きさの基板に載っていて、公表の時点で1年以上、データセンターで動いていたそうです。使われていた例として、検索結果の関連性を上げるRankBrain、地図や道案内の品質を上げるストリートビュー、囲碁のイ・セドル棋士と対戦したAlphaGoが挙がっています。
何が混ざったのかというと、ソフトウェアの会社だったGoogleが、計算を行うチップそのものを自分で設計した、という点です。2017年の論文（原著）によると、TPUの中心は、8ビットの小さな数の掛け算と足し算を65,536個ぶん並べた回路で、ピークは毎秒92兆回（92 TOPS）、チップの上に28MiBのメモリを持っています。この論文は、TPUが2015年からデータセンターで、学習済みのニューラルネットワークを使う側（推論）を速くするために動いていたと述べています。比べた相手は、同じデータセンターにあったIntelのHaswell CPUとNvidiaのK80 GPUで、TPUは平均して約15〜30倍速く、1ワットあたりの性能は30〜80倍良いと報告しています。また、Googleのデータセンターの推論の需要の95%を占める、TensorFlowで書かれた実際のプログラムで測っています。
なぜ自分で作ったのかについて、ブログは「すばらしいソフトウェアは、すばらしいハードウェアの上でいちばん輝く」と説明し、数年前に、機械学習用の自前のアクセラレータ（計算を速める部品）で何ができるかを試す計画を静かに始めたと書いています。精度をあえて落としてよい計算に絞ることで、1回の計算に必要なトランジスタが減り、より多くの計算を詰め込めるとも説明しています。
ブログはさらに、TPUを自社の基盤に組み込み、TensorFlowとCloud Machine Learningを使う開発者にも、この加速の機能を届ける予定だと書いています。自社のサービスのための専用チップを、ほかの人にも使える形へ広げていく流れです。
- ブログの公表日
- 2016年5月18日
- 論文の投稿日（arXiv）
- 2017年4月16日（ISCA 2017で発表予定と記載）
- 論文が述べる速さ・効率
- CPU/GPUより平均約15〜30倍速く、1ワットあたり30〜80倍
- ブログが述べる開発速度
- 最初のシリコンの動作確認からデータセンターで稼働まで22日
確認できていない点
- TPUを最初に社内で使い始めた正確な日付（ブログは『1年以上』、論文は『2015年から』とだけ書く）
- Cloud TPUの現行の仕様（今回は調べていない）
- Googleのブログ記事の公開日の表示は2016年5月18日だが、ページのメタデータには2018-07-06とある（本文の日付を採用）
出典
- Google supercharges machine learning tasks with TPU custom chip（Google Cloud Blog, 2016年5月18日）
- In-Datacenter Performance Analysis of a Tensor Processing Unit（Jouppi ほか, arXiv:1704.04760）
2026年10月18日に、上の出典（会社・研究機関の公式の資料と原著論文）を読んで確かめました。製品の仕様や提供状況は変わることがあります。この記事は、製品を試した記録ではありません。