Tensor Processing Unit
 | |
|---|---|
| Tervező | |
| Bevezetés | 2015[1] |
| Típus | neurális hálózat gépi tanulás |
A tenzorfeldolgozó egység (vagy TPU, az angol Tensor Processing Unit kifejezésből) egy meghatározott célra tervezett alkalmazásspecifikus integrált áramkör (ASIC). Ebben az esetben a TPU célja vagy funkciója gépi tanulás támogatása a számítógépes rendszerekben. Az első TPU-kat a Google fejlesztette ki és 2016-ban jelentette be ezek első generációját. A Google által kifejlesztett TPU-kat kifejezetten a TensorFlow[2] szoftvergyűjteményhez tervezték. A TPU-k képezik az alapját minden gépi tanulást használó Google-szolgáltatásnak. A TPU-k alkalmazási területei között szerepel a robotika és a mesterséges intelligencia.[3][4][5]
Az ok, amiért a TPU-k felülmúlják a legjobb általános CPU-kat és GPU-kat (grafikus processzorokat), az, hogy 64 bites struktúrában 8 bites adatformátumokkal dolgoznak, így növelik a párhuzamos feldolgozási kapacitást.[6]
Architektúra
[szerkesztés | forrásszöveg szerkesztése]A TPU egy olyan gép (integrált áramkörös megvalósítású automata), amely 8 bites adatokat szoroz össze mátrixszerkezetben. A processzor CISC típusú utasításokkal működik. A Google TPU első generációját 28 nanométeres technológiával gyártották, integrált áramköri lapkájának mérete 331 mm2, órajele 700 MHz, energiafogyasztása 28–40 W. 28 MiB memóriával és 4 MiB méretű belső regisztertárral rendelkezik.[7]
Termékek
[szerkesztés | forrásszöveg szerkesztése]Tensor Processing Unit:[8]
| TPUv1 | TPUv2 | TPUv3 | TPUv4 | TPUv5e | TPUv5p | v6e (Trillium) | |
|---|---|---|---|---|---|---|---|
| Bevezetés | 2015 | 2017 | 2018 | 2021 | 2023 | 2023 | 2024 |
| Gyártási folyamat | 28 nm | 16 nm | 16 nm | 7 nm | ? | ? | |
| Lapkaméret (mm2) | 331 | < 625 | < 700 | < 400 | 300–350 | ? | |
| Belső memória (MiB) | 28 | 32 | 32 | 32 | 48 | 112 | |
| Órajel (MHz) | 700 | 700 | 940 | 1050 | ? | 1750 | |
| Memória | 8 GiB DDR3 | 16 GiB HBM | 32 GiB HBM | 32 GiB HBM | 16 GiB HBM | 95 GiB HBM | 32 GiB |
| Sávszélesség | 34 GiB/s | 600 GiB/s | 900 GiB/s | 1200 GiB/s | 819 GiB/s | 2765 GiB/s | 1640 GiB/s |
| TDP (W) | 75 | 280 | 220 | 170 | ? | ? | |
| TOPS (tera-művelet másodpercenként) | 23 | 45 | 123 | 275 | 197 (bf16)
393 (int8) |
459 (bf16)
918 (int8) |
918 (bf16)
1836 (int8) |
| TOPS/W | 0,31 | 0,16 | 0,56 | 1,62 | ? | ? |
Összehasonlítás
[szerkesztés | forrásszöveg szerkesztése]| CPU család | FLOPS | Év |
|---|---|---|
| AMD ATI RADEON HD4800 | 1 teraFLOPS | 2008 |
| Intel Core I7 980 XE | 109 gigaFLOPS | 2010 |
| Nvidia Tesla GPU | 515 gigaFLOPS | 2010 |
| Google TPU | 92 teraFLOPS | 2017 |
Jegyzetek
[szerkesztés | forrásszöveg szerkesztése]- ↑ Jouppi, Norman; et al. (2017). "In-Datacenter Performance Analysis of a Tensor Processing Unit". Proceedings of the 44th annual international symposium on computer architecture. International Symposium on Computer Architecture. Toronto: Association for Computing Machinery. 1–12. o. arXiv:1704.04760. doi:10.1145/3079856.3080246.
- ↑ Jeff Dean, Rajat Monga (2015. november 9.). "TensorFlow - Google's latest machine learning system, open sourced for everyone". Google Research Blog (angol nyelven). Google. Hozzáférés: 2016. június 29..
- ↑ "Google's Tensor Processing Unit explained: this is what the future of computing looks like" (angol nyelven). TechRadar. 2017. április 9.
- ↑ "Google Calls for Switch Chip API | EE Times" (angol nyelven). www.eetimes.com. 2019. január 1. dátummal az eredeti címről archiválva. Hozzáférés: 2017. április 9..
- ↑ "First In-Depth Look at Google's TPU Architecture" (angol nyelven). www.nextplatform.com. 2017. április 5. Hozzáférés: 2017. április 9..
- ↑ "TPU Beat Intel, Nvidia, says Google | EE Times" (angol nyelven). www.eetimes.com. Hozzáférés: 2017. április 9..
- ↑ "ISCApaperv3 (2).pdf". 2017. április 9. 2017. július 3. dátummal az eredeti címről archiválva. Hozzáférés: 2017. április 9..
{{cite journal}}: Cite journal requires|journal=(súgó); Unknown parameter|publicació=ignored (súgó) - ↑ "So what is a Tensor processing unit (TPU) and why will it be the future of Machine Learning?". 2024. augusztus 7. Hozzáférés: 2024. november 24..
{{cite web}}: Unknown parameter|llengua=ignored (súgó)
Fordítás
[szerkesztés | forrásszöveg szerkesztése]Ez a szócikk részben vagy egészben az Unitat de processament de tensors című katalán Wikipédia-szócikk ezen változatának fordításán alapul. Az eredeti cikk szerkesztőit annak laptörténete sorolja fel. Ez a jelzés csupán a megfogalmazás eredetét és a szerzői jogokat jelzi, nem szolgál a cikkben szereplő információk forrásmegjelöléseként.
Források
[szerkesztés | forrásszöveg szerkesztése]További információk
[szerkesztés | forrásszöveg szerkesztése]- Tenzorfeldolgozó egységek (TPU-k) a felhőben (Google Cloud dokumentáció)
- Fotó a Google TPU chipjéről és lapkájáról
- Fotó a Google TPU v2 lapjáról Archiválva 2021. augusztus 9-i dátummal a Wayback Machine-ben.
- Fotó a Google TPU v3 lapjáról Archiválva 2021. március 8-i dátummal a Wayback Machine-ben.
- Fotó a Google TPU v2 podjáról Archiválva 2021. augusztus 9-i dátummal a Wayback Machine-ben.
Kapcsolódó szócikkek
[szerkesztés | forrásszöveg szerkesztése]- CISC, RISC-V architektúrák
- Gépi tanulás
- Robotika
- Mesterséges intelligencia
- FLOPS: lebegőpontos műveletek száma másodpercenként
- TensorFlow szoftver
