Kết nối NVLink tăng tốc dữ liệu giữa GPU và CPU

Công nghệ NVLink do Nvidia và IBM đồng phát triển nhằm mở rộng băng thông dữ liệu giữa GPU và CPU nhanh hơn từ 5 đến 12 lần so với giao tiếp PCI Express đồng thời tiết kiệm năng lượng hơn trong mỗi bit dữ liệu truyền đi.


Sau kiến trúc Maxwell, Nvidia cho biết đã lên kế hoạch tích hợp một kết nối tốc độ cao, có tên gọi NVLink vào thế hệ GPU kiến trúc Pascal của hãng, dự kiến sẽ được tung ra thị trường vào năm 2016.


Kết nối NVLink tăng tốc dữ liệu giữa GPU và CPU
NVLink cung cấp kết nối băng thông tốc độ cao trực tiếp giữa nhiều GPU nhằm khai thác tối đa sức mạnh của chúng.


Công nghệ NVLink do Nvidia và IBM đồng phát triển với mục đích mở rộng băng thông dữ liệu giữa GPU và CPU nhanh hơn từ 5 đến 12 lần so với giao tiếp PCI Express. Điều này giúp loại bỏ tình trạng nghẽn cổ chai trong việc truy xuất dữ liệu đồng thời mở ra khả năng xây dựng siêu máy tính mới thế hệ exa (exascale supercomputer) có khả năng tính toán nhanh gấp 50 - 100 lần so với những hệ thống mạnh nhất hiện nay.


Theo ông Brian Kelleher, phó chủ tịch mảng GPU Engineering của Nvidia cho biết công nghệ NVLink sẽ khai thác hết tiềm năng của GPU bằng việc cải thiện đáng kể tốc độ trao đổi dữ liệu giữa CPU và GPU, giảm thiểu thời gian GPU phải chờ dữ liệu xử lý từ CPU và ngược lại.


Công nghệ NVLink giúp các nhà phát triển dễ dàng chỉnh sửa, phân tích dữ liệu ứng dụng nhanh hơn dựa vào ưu thế kết nối tốc độ cao này. Bên cạnh đó, NVLink tạo kết nối chặt chẽ giữa dòng CPU Power của IBM và GPU Tesla của Nvidia.


Các máy chủ IBM Power có thể tận dụng tốt hơn bộ tăng tốc đồ họa GPU trong các ứng dụng xử lý tính toán phức tạp, phân tích dữ liệu và khả năng máy tính tự học hỏi để đáp ứng nhu cầu người dùng. Công nghệ này là yếu tố quan trọng đóng góp vào sự phát triển hệ sinh thái OpenPOWER, ông Bradley McCredie, đại diện IBM chia sẻ.


Kết nối NVLink tăng tốc dữ liệu giữa GPU và CPU
Sơ đồ khối cho thấy sự khác biệt trong phương thức truy xuất dữ liệu giữa CPU và GPU qua giao tiếp PCI Express (trên) và NVLink (dưới).


Hiện tại, GPU sử dụng kết nối PCI Express để giao tiếp với CPU và băng thông tối đa của giao tiếp này vẫn chậm hơn từ 4 – 5 lần so với băng thông bộ nhớ CPU. Điều này dẫn đến tình trạng nghẽn cổ chai khi GPU cần truy xuất dữ liệu từ bộ nhớ CPU.


Vì vậy việc phát triển kết nối tốc độ cao NVLink với băng thông dữ liệu nhanh hơn từ 5 - 12 lần so với PCI Expres giúp GPU có thể truy cập được bộ nhớ CPU ở băng thông cao nhất có thể, giúp tăng tốc các ứng dụng dựa trên GPU và qua đó cải thiện đáng kể hiệu suất tổng thể của hệ thống.


Ngoài NVLink, GPU kiến trúc Pascal cũng ứng dụng công nghệ bộ nhớ hợp nhất (Unified Memory), trong đó bộ nhớ CPU (host memory) và GPU (device memory) có thể tham chiếu lẫn nhau. Cụ thể bộ nhớ GPU có thể đọc dữ liệu từ bộ nhớ CPU và ngược lại. Unified Memory cho phép xem bộ nhớ CPU và GPU như một thể thống nhất và nhà lập trình có thể quản lý dữ liệu mà không phải lo ngại liệu dữ liệu đang nằm trên bộ nhớ CPU hay GPU.


Kết nối NVLink tăng tốc dữ liệu giữa GPU và CPU
Mẫu GPU kiến trúc đồ họa Pascall hỗ trợ NVLink của Nvidia.


Trong tương lai, Nvidia vẫn tiếp tục hỗ trợ chuẩn giao tiếp PCI Express trong khi công nghệ NVLink sẽ được dùng trong những hệ thống trang bị nhiều GPU, cung cấp kết nối băng thông tốc độ cao trực tiếp giữa nhiều GPU nhằm khai thác tối đa sức mạnh của chúng. Ngoài ra, kết nối NVLink còn mang lại hiệu quả về mặt sử dụng năng lượng trên mỗi bit dữ liệu so với PCI Express.


Đại diện Nvidia cho biết thêm hãng đã thiết kế một module GPU kiến trúc đồ họa Pascall hỗ trợ NVLink. Kích thước mẫu module này chỉ bằng 1/3 so với card đồ họa PCI Express hiện nay và có thể gắn trực tiếp trên bo mạch chủ. Dự kiến những sản phẩm đầu tiên hỗ trợ NVLink sẽ được hãng tung ra thị trường trong năm 2016.









Ket noi NVLink tang toc du lieu giua GPU va CPU


Cong nghe NVLink do Nvidia va IBM dong phat trien nham mo rong bang thong du lieu giua GPU va CPU nhanh hon tu 5 den 12 lan so voi giao tiep PCI Express dong thoi tiet kiem nang luong hon trong moi bit du lieu truyen di.


Sau kien trúc Maxwell, Nvidia cho biet dã lên ke hoach tích hop mot ket noi toc do cao, có tên goi NVLink vào the he GPU kien trúc Pascal cua hãng, du kien se duoc tung ra thi truong vào nam 2016.


Ket noi NVLink tang toc du lieu giua GPU va CPU
NVLink cung cap ket noi bang thông toc do cao truc tiep giua nhieu GPU nham khai thác toi da suc manh cua chúng.


Công nghe NVLink do Nvidia và IBM dong phát trien voi muc dích mo rong bang thông du lieu giua GPU và CPU nhanh hon tu 5 den 12 lan so voi giao tiep PCI Express. Dieu này giúp loai bo tình trang nghen co chai trong viec truy xuat du lieu dong thoi mo ra kha nang xây dung siêu máy tính moi the he exa (exascale supercomputer) có kha nang tính toán nhanh gap 50 - 100 lan so voi nhung he thong manh nhat hien nay.


Theo ông Brian Kelleher, phó chu tich mang GPU Engineering cua Nvidia cho biet công nghe NVLink se khai thác het tiem nang cua GPU bang viec cai thien dáng ke toc do trao doi du lieu giua CPU và GPU, giam thieu thoi gian GPU phai cho du lieu xu lý tu CPU và nguoc lai.


Công nghe NVLink giúp các nhà phát trien de dàng chinh sua, phân tích du lieu ung dung nhanh hon dua vào uu the ket noi toc do cao này. Bên canh dó, NVLink tao ket noi chat che giua dòng CPU Power cua IBM và GPU Tesla cua Nvidia.


Các máy chu IBM Power có the tan dung tot hon bo tang toc do hoa GPU trong các ung dung xu lý tính toán phuc tap, phân tích du lieu và kha nang máy tính tu hoc hoi de dáp ung nhu cau nguoi dùng. Công nghe này là yeu to quan trong dóng góp vào su phát trien he sinh thái OpenPOWER, ông Bradley McCredie, dai dien IBM chia se.


Ket noi NVLink tang toc du lieu giua GPU va CPU
So do khoi cho thay su khác biet trong phuong thuc truy xuat du lieu giua CPU và GPU qua giao tiep PCI Express (trên) và NVLink (duoi).


Hien tai, GPU su dung ket noi PCI Express de giao tiep voi CPU và bang thông toi da cua giao tiep này van cham hon tu 4 – 5 lan so voi bang thông bo nho CPU. Dieu này dan den tình trang nghen co chai khi GPU can truy xuat du lieu tu bo nho CPU.


Vì vay viec phát trien ket noi toc do cao NVLink voi bang thông du lieu nhanh hon tu 5 - 12 lan so voi PCI Expres giúp GPU có the truy cap duoc bo nho CPU o bang thông cao nhat có the, giúp tang toc các ung dung dua trên GPU và qua dó cai thien dáng ke hieu suat tong the cua he thong.


Ngoài NVLink, GPU kien trúc Pascal cung ung dung công nghe bo nho hop nhat (Unified Memory), trong dó bo nho CPU (host memory) và GPU (device memory) có the tham chieu lan nhau. Cu the bo nho GPU có the doc du lieu tu bo nho CPU và nguoc lai. Unified Memory cho phép xem bo nho CPU và GPU nhu mot the thong nhat và nhà lap trình có the quan lý du lieu mà không phai lo ngai lieu du lieu dang nam trên bo nho CPU hay GPU.


Ket noi NVLink tang toc du lieu giua GPU va CPU
Mau GPU kien trúc do hoa Pascall ho tro NVLink cua Nvidia.


Trong tuong lai, Nvidia van tiep tuc ho tro chuan giao tiep PCI Express trong khi công nghe NVLink se duoc dùng trong nhung he thong trang bi nhieu GPU, cung cap ket noi bang thông toc do cao truc tiep giua nhieu GPU nham khai thác toi da suc manh cua chúng. Ngoài ra, ket noi NVLink còn mang lai hieu qua ve mat su dung nang luong trên moi bit du lieu so voi PCI Express.


Dai dien Nvidia cho biet thêm hãng dã thiet ke mot module GPU kien trúc do hoa Pascall ho tro NVLink. Kích thuoc mau module này chi bang 1/3 so voi card do hoa PCI Express hien nay và có the gan truc tiep trên bo mach chu. Du kien nhung san pham dau tiên ho tro NVLink se duoc hãng tung ra thi truong trong nam 2016.


Kết nối NVLink tăng tốc dữ liệu giữa GPU và CPU

Công nghệ NVLink do Nvidia và IBM đồng phát triển nhằm mở rộng băng thông dữ liệu giữa GPU và CPU nhanh hơn từ 5 đến 12 lần so với giao tiếp PCI Express đồng thời tiết kiệm năng lượng hơn trong mỗi bit dữ liệu truyền đi.
Giới thiệu cho bạn bè
  • gplus
  • pinterest

Bình luận

Đăng bình luận

Đánh giá: