lpu算法原理

IPU是一種可編程網絡設備，旨在使雲和通信服務提供商減少在中央處理器 (CPU) 方面的開銷，並充分釋放性能價值。利用 IPU，客戶能夠部署安全穩定且可編程的解決方案，從而更好地利用資源，平衡數據處理與存儲的工作負載。

IPU裏面有1216個核，我們稱之爲Tile，每個Tile裏都有計算單元和內存。由於同時有上千個處理器工作，所以單個IPU的存儲帶寬能達到45TB，比性能最快的HBM提升了50倍以上，在相同算力下，功耗也降低了一半。