kembali ke atas
Sabtu, 18 Mei 2024
rumahInternetBisnisMeta: Kecerdasan Buatan yang Ditingkatkan dengan Akselerator MTIA Generasi ke-2

Meta: Kecerdasan Buatan yang Ditingkatkan dengan Akselerator MTIA Generasi ke-2

Η , dalam upayanya untuk menjadi kekuatan terdepan dalam kecerdasan buatan, diumumkan itu dari Meta Training & Inference Accelerator (MTIA) generasi kedua.

Akselerator MTIA yang baru merupakan langkah penting menuju pengembangan sistem AI yang lebih kuat dan efisien untuk mendukung aplikasi inovatif Meta di seluruh platform seperti Facebook dan Instagram.

Peningkatan kinerja untuk pelatihan dan inferensi AI:

Dirancang berdasarkan Ini 5nm , akselerator MTIA baru menawarkan peningkatan kinerja yang signifikan dibandingkan generasi sebelumnya. Dalam pemrosesan matriks GEMM, MTIA mencapai 708 TeraFLOPS di INT8 (mungkin FP8) dengan sparse, 354 TeraFLOPS tanpa sparse, 354 TeraFLOPS di FP16/BF16 dengan sparse, dan 177 TeraFLOPS tanpa sparse.

Arsitektur khusus untuk PyTorch AI:

MTIA dirancang khusus untuk melakukan pelatihan AI dan tugas inferensi dalam kerangka AI PyTorch Meta. Ini dikombinasikan dengan backend Triton open source untuk kinerja dan fleksibilitas optimal.

Solusi terukur untuk penerapan skala rak:

Meta mengambil pendekatan berjenjang, menempatkan dua akselerator MTIA pada satu papan bersama dengan memori LPDDR128 5GB. Setiap board terhubung melalui PCIe Gen 5 dalam sistem yang dapat menampung hingga 12 board. 72 papan dapat dipasang dalam satu rak, menawarkan kinerja total 101,95 PetaFLOPS.

Memperkuat kepemimpinan teknologi:

Perkembangan MTIA menggarisbawahi komitmen Meta terhadap inovasi di bidang kecerdasan buatan. Akselerator baru ini diharapkan memainkan peran penting dalam mendukung aplikasi AI generasi berikutnya dari Meta, memberikan pengalaman pengguna yang lebih baik dan memajukan teknologi. dan pembangunan di bidang-bidang kritis.

Ringkasan:

  • Η Hadiah meta akselerator MTIA generasi kedua untuk meningkatkan pelatihan dan inferensi AI.
  • MTIA menawarkan peningkatan kinerja secara signifikan dan dirancang untuk PyTorch AI.
  • Arsitektur terukur memungkinkan hingga 144 akselerator MTIA dipasang di rak, dengan total kinerja 101,95 PetaFLOPS.
  • MTIA memperkuat posisi Meta sebagai pemimpin dalam kecerdasan buatan.
Marizas Dimitris
Marizas Dimitrishttps://www.techwar.gr
Sebagai penggemar setia ponsel Samsung, Dimitris telah mengembangkan hubungan khusus dengan produk perusahaan, menghargai desain, kinerja, dan inovasi yang mereka tawarkan. Menulis dan membaca berita teknologi dari seluruh dunia.
ARTIKEL TERKAIT

TINGGALKAN BALASAN

masukkan komentar Anda!
silakan masukkan nama Anda di sini

Paling Populer

Artikel Terakhir