NPU vs CPU vs GPU khác nhau ra sao? NPU giúp ích gì cho laptop? AI PC là gì?

ND Minh Đức
28/3/2024 11:23Phản hồi: 48
NPU vs CPU vs GPU khác nhau ra sao? NPU giúp ích gì cho laptop? AI PC là gì?
Nếu như khi xưa chúng ta hay để ý tới 2 thành phần cực kỳ quan trọng quyết định "sức mạnh" của một chiếc máy tính là CPU và GPU thì bây giờ còn có thêm khái niệm NPU. Vậy chính xác NPU khác CPU hay GPU ra sao? Vai trò của nó là gì? AI PC là cái gì? Xin tổng hợp với anh em nhé.



NPU là gì?


Thực ra thì NPU không phải là khái niệm mới xuất hiện gàn đây mà từ năm ngoái thì Intel đã chính thức nói về nó khi cho ra mắt Core Ultra. Xa hơn nữa thì Qualcomm cũng nói về thành phần này trên các con SoC cho cả smartphone lẫn máy tính của họ.

Nếu như
  • GPU là viết tắt của Graphics Processing Units
  • CPU là viết tắt của Central Processing Units
Thì

  • NPU là viết tắt của Neural Processing Unit, con chip được thiết kế riêng để xử lý các tác vụ AI nhanh hơn GPU và CPU.

NPU xuất hiện từ khá lâu, tuy nhiên mãi tới gần đây, khi mà cả thế giới công nghệ, bao gồm cả Microsoft, Google và các nhà phát triển phần mềm đồng loạt ứng dụng AI vào các giải pháp của họ, đòi hỏi một chiếc máy tính cũng cần có phần cứng NPU tương ứng để hoạt động hiệu quả hơn, tận hưởng tốt hơn các ưu điểm mà AI mang lại.

Vai trò của NPU khác GPU và CPU ra sao?


Su kien Lenovo Inovation -03.jpg

Trong một hệ thống máy tính, NPU sẽ đảm nhiệm những tác vụ nhỏ nhưng có tính lặp đi lặp lại thay vì phải đẩy cho CPU hoặc GPU làm như trước đây. Nói cách khác, NPU, CPU hay GPU sẽ đảm nhận một nhiệm vụ riêng tùy vào khả năng của từng cụm, tăng tính chuyên môn hóa và từ đó, góp phần tăng hiệu quả xử lý công việc nói chung của một chiếc máy tính.

Thí dụ như CPU sẽ chịu trách nhiệm sắp xếp công việc, chỉ đạo và xử lý những công việc tức thời, cần tốc độ cực nhanh, GPU sẽ đảm nhận xử lý cùng lúc khối lượng công việc lớn và giống nhau (như render hàng triệu pixel trên một frame hình chẳng hạn) thì NPU sẽ đảm nhiệm các task trí thông minh nhân tạo cơ bản như xử lý vector, tensor, scalar,...

Việc phân chia công việc rõ ràng như trên không chỉ giúp nâng tổng thể hiệu quả hoạt động của một chiếc laptop mà bên từ đó, điện năng tiêu thụ cũng hợp lý hơn, nhiệt lượng thải ra cũng tối ưu hơn, góp phàn tăng cường trải nghiệm sử dụng của người dùng.

NPU và GPU cái nào ngon hơn?


71bb10eb8641e.png

Câu trả lời ở đây là tùy ngữ cảnh mà cái nào sẽ phù hợp hơn. Lấy một thí dụ cụ thể, trên lý thuyết thì cả CPU, GPU và NPU đều có thể dùng để render hình ảnh, tuy nhiên 3 cụm này sẽ thực hiện công việc đó theo 3 cách tiếp cận khác nhau. Đối với chuyện render hình, GPU là phù hợp nhất bởi nó được thiết kế để render, dựng hình, video và gaming. Tuy nhiên, NPU lại được thiết kế để chạy các tác vụ AI vốn chỉ có nhu cầu ngắn, nhẹ và lặp đi lặp lại, thí dụ vận hành một trợ lý AI như Copilot chẳng hạn.

Quảng cáo



Nói cách khác, nếu trước đây không có NPU thì GPU sẽ gánh phần việc của NPU, tuy nhiên vậy thì giống như bắt một 1000 anh thợ hồ đi xây lâu đài cát vậy. Bây giờ có NPU thì nó sẽ làm việc đó, để GPU tập trung hơn vào chuyên môn của cụm này là dựng hình. Cuối cùng, cả hệ thống sẽ được vận hành mượt hơn. Trước một tác vụ, hệ điều hành sẽ đi dò phần cứng máy tính và xác định xem cần xài GPU hay NPU cho phù hợp.

NPU sẽ giúp gì cho chúng ta?


Su kien Lenovo Inovation 2-03.jpg

Một cách ngắn gọn thì những chiếc máy tính sẽ hoạt động hiệu quả hơn, cũng ngần ấy tài nguyên nhưng được tận dụng thông minh hơn, tiết kiệm pin hơn, nóng theo cách hợp lý hơn, OS và các ứng dụng phục vụ công việc người dùng cũng chạy mượt hơn. Đây là lợi ích mà phần cứng mang lại.

Thêm một thí dụ, trên những chiếc laptop AI sẽ có tính năng nhận diện gương mặt để xóa phông phía sau khi đang video call hội họp, việc nhận diện đó sẽ được tiến hành bởi phần cứng NPU. Tương tự, một tính năng khác là tính năng nhận diện text từ voice trong một đoạn video, đó cũng là có đóng góp của NPU, cho phép chúng ta dựng phim trong Premier Pro bằng text thay vì chỉ phụ thuộc vào timeline như xưa giờ chăng hạn.

Tuy nhiên, sự xuất hiện của NPU là hệ quả tất yếu khi các nhà phát triển muốn trang bị AI vào các phần mềm "truyền thống" của họ. Bởi thế, cái lợi mà người dùng sẽ thấy rõ ràng hơn chính là do AI mang lại. Cho tới hiện tại, một loạt những ứng dụng từ quen thuộc (như dựng phim Premier Pro, Davinci Resolve, xử lý hình ảnh Photoshop, xử lý âm thanh Audacity,... ) đều đã được nhà phát triển tăng cường hỗ trợ AI. AI ở đây sẽ chắp thêm công cụ để người dùng xử lý công việc nhanh hơn, tiết kiệm thời gian hơn.

Quảng cáo


Nó tương tự nhu chiếc máy tính bỏ túi hồi anh em đi học vậy. Trước những bài toán phức tạp, đòi hỏi tư duy và logic nhiều hơn, việc tính toán thủ công cộng trừ nhân chia hay lấy căn chúng ta sẽ bấm máy tính, để bộ não (CPU) tập trung suy nghĩ chuyện giải toán. Tương tự AI cũng vậy, chúng ta vẫn dùng nó như một công cụ, có điều là hơi khó nhằn lúc tiếp cận ban đầu chút xíu thôi à.

Định nghĩa của AI PC


Su kien Lenovo Inovation 2-02.jpg

Từ khi có AI xuất hiện nhiều hơn thì bắt đầu người ta đề cập nhiều tới AI PC. Vậy thì như thế nào mới "đạt chuẩn" là một AI PC? Mình vừa dự một workshop thì đại diện Intel có chia sẻ về các yếu tố đòi hỏi hiện tại để đánh giá một chiếc laptop AI PC chính là:
  • Có phím cứng Copilot
  • Có hỗ trợ Copilot trong phần mềm
  • Có phần cứng CPU, NPU, GPU được cập nhật phù hợp

Su kien Lenovo Inovation -48.jpg
Những chiếc máy laptop sắp tới cũng sẽ bắt đầu xuất hiện phím Copilot này như là một tiêu chuẩn

Cũng cách đây không lâu, có thông tin nói chi tiết hơn nữa là NPU cần phải có khả năng tính toán từ 40TOPS trở lên mới đạt chuẩn AI. Gần đây, một đại diện của Microsoft ở Trung Quốc cũng tiết lộ rằng chuẩn một chiếc laptop đáp ứng được AI phải có 32GB RAM. Đó là một vài thông tin gom lại được tới giờ về AI PC cho tới thời điểm hiện tại.

Thế giới AI sẽ tiếp tục còn đi nhanh hơn nữa trong vài tháng tới, các ứng dụng và cả phần cứng của thế giới này cũng sẽ nhanh chóng được nâng cấp. Hãy cùng hóng nhé.
48 bình luận
Chia sẻ

Xu hướng

TOàn những mỹ từ của Tèo phịa ra để bịp người dùng. Ngta giờ đâu cần NPU ghê gớm gì, chỉ cần render nhanh, tiết kiệm điện, pin trâu là quá đủ.
@nguyenchung7 Mình xl thôi chứ hạ sốt clg. NPU cá nhân đi so với doanh nghiệp, bị ngu hay gì ?
@sốt-siêu-vi-sốt-phát-ban-2024 mình sai vì khen bạn hơi sớm
Dường như cách làm chip di động đang được đưa lên PC
NPU chỉ phù hợp trên Laptop thôi, vì NPU giúp tiết kiệm điện khi sử dụng các tính năng AI, nhưng nếu trên PC thì chỉ cần GPU vì GPU rời rất rất rất mạnh, tiết kiệm điện trên PC ko lợi ích so với chi phí thêm nhân NPU
@laiviet Thì trên PC chỉ cần GPU rời của Nvidia là đủ rồi
@centernc Đấy là máy bạn có GPU thì bạn thấy đủ, chứ nhiều người sd thông thường ko có GPU thì mấy con hybrid như này sẽ giúp cật lực.
@centernc Chuẩn, bài viết nói định nghĩa NPU xử lý AI nhanh hơn GPU là sai, nó chỉ tiết kiệm điện năng hơn mà thôi. Định nghĩa của Intel nói rất rõ ràng mà!
@laiviet Với người dùng thì đó vẫn là GPU thôi.
Nói tóm lại là trên PC ko cần chip NPU trong SoC của chip Intel, vì nếu cần xử lý AI người dùng PC chỉ cần mua GPU là đủ rồi
CPU là viết tắt của Central Processing Unit chứ. Ông mod máy móc rồi.
AI bắt đầu ứng dụng như là tất yếu r
chúng ta vẫn chỉ quan tâm cpu trên 4 nhân và gpu
trong cái gpu của rtx có nhân tensor xử lý AI này rồi, cần cpu tèo làm gì
@traitay95 Thì nếu vậy sẽ có 2 nhân chuyên xử lý AI. Càng tốt hơn chứ s… khoan, liệu chúng nó có quay ra cãi nhau ko nhỉ ?
@traitay95 Nhiều ng không hiểu tằng RTX đã có tensor core chính là NPU chỉ khác cái tên.
NPU này mua như thế nào, và lắp vào đâu nhỉ
M4 chấp hết
NPU chả qua là mấy con CPU hàng thải tiến trình cũ k biết làm gì thì nhét vào SoC để nó xử lý các tác vụ riêng để giải phóng CPU chứ có gì đâu
@21stAugust Hàng thải tiến trình cũ đi gia công 6nm thì tôi thấy bạn nên xem lại não của bạn
@Nitro 5 2021 bạn lại bị bịp rồi =)) con NPU nào đc sx 6nm thế =)) các hãng chip toàn lấp liếm việc CPU đc sx 6nm thôi còn nó đóng chiplet thành SoC thì trong đấy các cấu phần đc tận dụng tiến trình khác nhé
Chả qua chia việc ra làm để giảm tải cho CPU thôi chứ NPU khác gì CPU đâu....nó chỉ hỗ trợ tập lệnh khác thôi
@21stAugust https://www.tomshardware.com/news/intels-meteor-lake-begins-production-launches-this-year-on-intel-4-process

Intel's Meteor Lake, Its First PC Chips With TSMC Tech, Launch This Year

'Intel 4,' TSMC 5nm and 6nm, all living in harmony in one chip.
tomshardware.com

Đọc lại nhé, die CPU chính (P+E) chưa chiếm đến nửa diện tích
Còn lại là 5nm+6nm
Intel méo cạnh tranh nổi với AMD, NVIDIA, Apple ở mảng CPU mới bắt đầu vẽ ra cái này. Hiện tại chip AI yếu nhớt, chỉ dùng để video call chứ méo làm được gì. Copilot hoạt động nền web, image generation thì cũng phải dùng card mạnh hoặc dịch vụ web, game muốn nhanh thì phải sử dụng đến card màn hình rời.
@hoatongoc Chuẩn luôn AI gì mấy cái tác vụ vớ va vở vẩn xài bt chỉ lướt web vs excel còn trên văn phòng thì cứ cắm nguồn ;)) ba cái nờ pê u yếu rớt mùng tơi
Trong máy học khâu huấn luyện mô hình là phải đọc một khối lượng lớn dữ liệu để training. Nên phải dùng máy tính card đồ họa mạnh
CPU là central processing unit
GPU là graphical processing unit
Còn NPU là viết tắt của cái gì nhỉ
@lehuuthe1202 Neural Processing Unit
@laiviet Cám ơn bạn
@lehuuthe1202 ko đọc bài à. trên bài nó ghi rõ thế còn gì
CPU -> Tối ưu tính toán với số đơn giản (int, float32, float64)
GPU -> Tối ưu tính toán vector và các phép toán dựng hình, đổ bóng độ chính xác cao (float 32, float 64)
NPU -> Tối ưu tính toán ma trận độ chính xác thấp (fp16, bf16)

Dùng CPU tính vector được không? Được, nhưng không nhanh và không hiệu quả
Dùng GPU tính ma trận được không? Được, khá nhanh, khá hiệu quả, nhưng vẫn không bằng NPU
Trước kia khối lượng công việc dựng ảnh ít, thì ngta sd CPU để làm (thời 1990). Sau này tăng lên thì thiết kế riêng ra con GPU chỉ để dựng ảnh. Rồi ngta thấy GPU tính ma trận nhanh hơn rất nhiều CPU -> Lôi con GPU ra tính ma trận. Nhưng mà khi các tác vụ AI cần tính toán ma trận với khối lượng rất lớn, mà GPU không đảm nhiệm nổi nữa (vì việc của GPU vẫn còn phải dựng hình) thì giờ có riêng con NPU để tính ma trận những phép toán rất đơn giản để GPU làm dựng hình (có nhiều phép dựng hình phức tạp mà NPU không làm được).
@laiviet Cái này mình có thể tìm thêm thông tin ở đâu vậy bạn, bạn có tài liệu nào không ta, thấy hay hay
GLES
ĐẠI BÀNG
một tháng
@thientai2006 https://aws.amazon.com/compare/the-difference-between-gpus-cpus/#:~:text=The CPU handles all the,and finish them in parallel

GPU vs CPU - Difference Between Processing Units - AWS

What's the Difference Between GPUs and CPUs? How to Use GPUs and CPUs with AWS.
aws.amazon.com
Làm màu thôi. Apple có NPU từ lâu rồi nhưng ứng dụng có là bao.
@DAVIDHUY08 Tại bạn không dùng thôi.
Mod nói chung chung nên có thể khó hiểu hoặc hiểu theo nhiều nghĩa. Mình bổ sung 1 ý nhỏ, cơ bản để phân biệt. 3 con đều là chip xử lý nên muốn làm gì chúng làm được hết. Nhưng khác nhau ở chỗ những tập lệnh cơ bản của chúng khác nhau chuyên biệt cho những mảng khác nhau và nó cũng dẫn tới kiến trúc khác nhau như có con cần nhiều nhân, có con cần cache lớn....
Ví dụ dễ hiểu:
- Lấy con CPU đi render, các hàm xử lý hình học cơ bản nó cần input -> process -> output, đoạn process nó tốn time và lặp đi lặp lại nên đẻ ra con GPU. GPU build sẵn các hàm cơ bản, nó nhận input -> output luôn nên nhanh và tiết kiệm tài nguyên hơn. Giống y như việc tính 2^8, người chưa làm lần nào thì lấy 2x2x2... còn đã biết 2^8 ra 256 thì lần sau ai hỏi là cho ra số 256 chứ ko cần tính toán
Lý do sao ko gộp hết luôn thì do gộp hết nó sẽ ra con chip to chà bá lửa, ngốn điện và dư thừa nếu ko dùng.
theo mình hiểu npu là chuyên xử lý tính toán ma trận nhỉ

Xu hướng

Bài mới









  • Chịu trách nhiệm nội dung: Trần Mạnh Hiệp
  • © 2024 Công ty Cổ phần MXH Tinh Tế
  • Địa chỉ: Số 70 Bà Huyện Thanh Quan, P. Võ Thị Sáu, Quận 3, TPHCM
  • Số điện thoại: 02822460095
  • MST: 0313255119
  • Giấy phép thiết lập MXH số 11/GP-BTTTT, Ký ngày: 08/01/2019