PEZYは簡単に言えばGPUのCUDAコアをCPUの置き換えたようなもの
GPUに近いわけ

NVIDIA、Voltaアーキテクチャ採用5,120 CUDAコア/210億トランジスタの新GPU「Tesla V100」
https://pc.watch.impress.co.jp/docs/news/1058966.html

Pascalアーキテクチャの「Tesla P100」の後継となるモデルで、Voltaアーキテクチャを採用。
新たにAI向けのTensor Core 640基を内蔵し、深層学習性能は120TFLOPSに達する。

 Tesla V100は地球上でもっとも集積度の高い半導体としており、トランジスタ数はついに210億に達した。
TSMCの12nm FinFETプロセスを用いて製造され、ダイサイズは815平方mmと、かつてないサイズとなっている(P100は610平方mm)。

 CUDAコア数は5,120基、ブーストクロックは1,455MHz。テクスチャユニット数は320基。
浮動小数点演算性能は64bit精度で7.5TFLOPS、32bit精度で10TFLOPSとされている。
メモリは16GB、4,096bitのHBM2で、バンド幅は900GB/s。
L2キャッシュサイズは6,144KB。また、300GB/sのNVLinkを備える。TDPは300W。