Hệ thống Edge AI gồm những gì? Phần cứng và cách chọn
1  2  3  4  5
0/5 - 0 Bình chọn - 36 Lượt xem
  • 13/11/2026
  • 36
Hệ thống Edge AI là tập hợp thiết bị và phần mềm chạy mô hình trí tuệ nhân tạo ngay tại nơi dữ liệu phát sinh, như nhà xưởng, trạm thu phí hay bãi xe, thay vì gửi dữ liệu lên đám mây. Bài viết giải thích 5 lớp của một hệ thống Edge AI, so sánh card GPU/NPU, máy tính dòng AIR, máy chủ AI biên và 6 câu hỏi cần trả lời trước khi chọn phần cứng.

Hệ thống Edge AI gồm những gì? Phần cứng và cách chọn

Tác giả: Nguyễn Văn Huấn, phụ trách R&D và giải pháp, DONGNAMTECH · Cập nhật: 13/11/2026

Hệ thống Edge AI là tập hợp thiết bị và phần mềm chạy mô hình trí tuệ nhân tạo ngay tại nơi dữ liệu phát sinh, như nhà xưởng, trạm thu phí hay bãi xe, thay vì gửi dữ liệu lên đám mây. Một hệ thống hoàn chỉnh thường gồm 5 lớp: thiết bị thu dữ liệu, máy tính suy luận tại biên, card tăng tốc GPU/NPU, máy chủ AI biên và phần mềm quản lý.

Tóm tắt nhanh

  • Edge AI xử lý dữ liệu tại chỗ nên phản hồi tính bằng mili giây, không phụ thuộc internet và giữ dữ liệu nhạy cảm trong doanh nghiệp.
  • Chọn phần cứng theo 3 yếu tố: mô hình AI cần bao nhiêu hiệu năng, có bao nhiêu luồng camera, và môi trường lắp đặt khắc nghiệt đến đâu.
  • Máy tính công nghiệp đang dùng có thể nâng lên Edge AI bằng card M.2 hoặc PCIe nếu còn khe cắm và đủ nguồn.

Edge AI khác Cloud AI ở điểm nào?

Edge AI phù hợp khi cần quyết định tức thì hoặc dữ liệu không được rời khỏi công trình. Cloud AI phù hợp khi cần huấn luyện mô hình lớn hoặc phân tích dữ liệu tổng hợp từ nhiều nơi. Phần lớn dự án công nghiệp kết hợp cả hai: suy luận tại biên, huấn luyện và lưu trữ dài hạn trên máy chủ hoặc đám mây.

Tiêu chí Edge AI Cloud AI
Độ trễ Mili giây, xử lý ngay tại thiết bị Phụ thuộc đường truyền, thường chậm hơn
Khi mất internet Vẫn hoạt động Ngừng xử lý
Chi phí băng thông Thấp, chỉ gửi kết quả Cao khi gửi video liên tục
Dữ liệu nhạy cảm Ở lại trong doanh nghiệp Đi qua máy chủ bên ngoài
Huấn luyện mô hình lớn Hạn chế Mạnh

Xem thêm: Edge AI là gì?

5 lớp của một hệ thống Edge AI

Sơ đồ hệ thống Edge AI gồm 5 lớp: thu dữ liệu, máy tính suy luận tại biên, card tăng tốc AI, máy chủ AI biên, phần mềm và quản lý

Lớp Vai trò Thiết bị điển hình
1. Thu dữ liệu Đưa hình ảnh, tín hiệu cảm biến vào hệ thống Camera công nghiệp, camera AI, card capture video (MIPI-CSI, GMSL, FPD-Link, HDMI, Ethernet)
2. Máy tính suy luận tại biên Chạy mô hình AI ngay cạnh thiết bị, ra quyết định Máy tính Edge AI dòng AIR, máy tính công nghiệp có GPU
3. Card tăng tốc AI Tăng hiệu năng AI cho máy tính Card GPU/NPU chuẩn M.2, MXM, PCIe
4. Máy chủ AI biên Gom dữ liệu nhiều điểm, chạy mô hình lớn, huấn luyện lại tại chỗ Máy chủ GPU, Edge Intelligence Server
5. Phần mềm và quản lý Hệ điều hành, bộ công cụ AI, cập nhật mô hình từ xa Ubuntu/Windows IoT, OpenVINO, TensorRT, Hailo Dataflow Compiler, phần mềm quản lý thiết bị Advantech DeviceOn

Không phải dự án nào cũng cần đủ 5 lớp. Một điểm nhận diện biển số đơn lẻ chỉ cần camera và một máy tính Edge AI. Hệ thống hàng trăm camera nhiều khu vực mới cần thêm máy chủ và phần mềm quản lý tập trung.

Card tăng tốc AI: GPU hay NPU?

Card tăng tốc là cách nhanh nhất để thêm AI vào một máy tính công nghiệp sẵn có. GPU xử lý song song mạnh, chạy được nhiều loại mô hình, kể cả AI tạo sinh, nhưng tốn điện hơn. NPU chỉ làm tính toán mạng nơ-ron, tiết kiệm điện, hợp với thiết bị nhỏ chạy mô hình nhận diện vật thể như YOLO.

Card tăng tốc AI Advantech EAI-1200, EAI-3300, EAI-2100, EAI-3101 cho hệ thống Edge AI

Card Chuẩn Chip Hiệu năng AI Hợp với
EAI-1200 M.2 NPU Hailo-8 26 TOPS Gateway IoT, máy tính nhúng nhỏ, soi chiếu an ninh
EAI-3300 PCIe x16 NPU Hailo-8 52 TOPS, tối đa 15W Kiểm tra lỗi sản phẩm (AOI) nhiều camera
EAI-2100 MXM 3.1 Type A GPU Intel Arc A370E 56 TOPS Robot, xe tự hành AMR (chịu rung dưới 3 Grms)
EAI-3101 PCIe x16 GPU Intel Arc A380E 66 TOPS Phân tích giao thông, video nhiều luồng
NVIDIA RTX 6000 Ada PCIe GPU NVIDIA 91 TFLOPS FP32 AI tạo sinh, robot, máy chủ AI biên

Lưu ý khi so sánh: TOPS thường đo ở độ chính xác INT8, còn TFLOPS FP32 đo ở số thực 32 bit, nên hai con số không so trực tiếp được. Cách đánh giá chính xác nhất là chạy thử chính mô hình của dự án và đo số khung hình mỗi giây. Thông số trên theo tài liệu Advantech.

Xem thêm: So sánh CPU, GPU và NPU

Máy tính Edge AI dòng Advantech AIR

Dòng AIR là máy tính thiết kế sẵn cho AI: có bộ xử lý, tản nhiệt và cổng kết nối dành cho camera, chạy 24/7 trong môi trường công nghiệp. Chọn nhóm theo khối lượng công việc:

Máy tính Edge AI Advantech dòng AIR: AIR-120, AIR-150, AIR-310, AIR-510, AIR-030, AIR-055, AIR-500D, AIR-520

Nhóm Model Bộ xử lý Phù hợp
Nhẹ, tiết kiệm điện AIR-120 Intel Atom x7433RE / N97 / Core i3-N305 Đếm, phân loại, đọc mã, gateway thu thập dữ liệu
Tầm trung AIR-150 Intel Core i3-1315UE / i5-1345UE Nhận diện biển số, kiểm tra ngoại quan với vài camera
Hiệu năng cao AIR-310, AIR-510 Intel Core thế hệ 13/14 Nhiều luồng camera, kết hợp card GPU/NPU
Nền tảng ARM AIR-030, AIR-055 Arm Cortex-A78AE / Qualcomm DragonWing IQ9075 AI tích hợp sẵn trên chip, điện năng thấp, robot và thiết bị di động
Cấp máy chủ AIR-500D, AIR-520 Intel Xeon D / AMD EPYC Gom nhiều điểm camera, chạy mô hình lớn tại chỗ

Xem toàn bộ 14 model tại danh mục Edge AI Inference Systems.

Máy chủ AI biên

Máy chủ AI biên cần khi doanh nghiệp muốn chạy mô hình lớn, phục vụ nhiều người dùng cùng lúc, hoặc huấn luyện lại mô hình tại chỗ mà không đưa dữ liệu ra ngoài. Loại này lắp được nhiều GPU NVIDIA hoặc AMD trong khung rackmount, đặt tại phòng máy của nhà máy. Ví dụ: máy chủ suy luận AI SKY-6200 (2U) và SKY-6400 (4U), xem thêm danh mục GPU Servers.

Ứng dụng thực tế của hệ thống Edge AI

Các dự án DONGNAMTECH đã cung cấp thiết bị tại Việt Nam

Ngành Bài toán Thiết bị sử dụng
[Giao thông: trạm thu phí ETC] [Nhận diện biển số xe qua trạm] [Model đã dùng]
[Bãi giữ xe thông minh] [Nhận diện biển số, đếm chỗ trống] [Model đã dùng]
[Nhà máy ô tô / điện tử] [Kiểm tra lỗi ngoại quan trên dây chuyền] [Model đã dùng]

Dự án tham khảo của Advantech trên thế giới

Ngành Bài toán Kết quả công bố
Sản xuất đầu nối điện Kiểm tra chất lượng bằng AI trên dây chuyền Tỷ lệ lỗi lọt qua dưới 1%; thời gian máy chạy trên 95%
Giao thông đô thị Camera AI điều chỉnh đèn tín hiệu tại nút giao lớn Thời gian chờ giảm 15–78%
Giám sát giao thông Phân tích video 4 làn xe bằng card EAI-3101 Độ trễ giảm 50%; chi phí xây dựng giảm 33% so với giải pháp GPU trước
An ninh sân bay, sự kiện Soi chiếu hành lý bằng card EAI-1200 Tới 4.000 người/giờ
Kiểm tra lỗi sản phẩm AOI dùng card EAI-3300 Tốc độ kiểm tra tăng 40% so với AOI truyền thống
Năng lượng gió Camera AI phát hiện đóng băng, nứt cánh tua-bin Cảnh báo sớm, bảo trì dự đoán
Y tế Nội soi phế quản có robot hỗ trợ, xử lý ảnh bằng GPU RTX A4000 Hai hệ thống máy tính gọn trong một xe đẩy phòng mổ

Nguồn: tài liệu Edge AI Computing Solutions của Advantech.

Cách chọn hệ thống Edge AI: 6 câu hỏi cần trả lời

  1. Mô hình AI nào? Nhận diện vật thể (YOLO), đọc biển số, phân loại lỗi hay AI tạo sinh. Mô hình quyết định cần NPU, GPU tầm trung hay GPU cao cấp.
  2. Bao nhiêu luồng camera, độ phân giải và tốc độ khung hình? Đây là yếu tố làm tăng nhu cầu hiệu năng nhanh nhất.
  3. Dùng bộ công cụ nào? OpenVINO hợp với chip Intel, TensorRT hợp với GPU NVIDIA, Hailo Dataflow Compiler hợp với NPU Hailo. Chọn phần cứng theo bộ công cụ đội phát triển đã quen.
  4. Môi trường lắp đặt? Nhiệt độ, bụi, rung động và nguồn điện DC quyết định cần máy không quạt, gắn ray DIN hay rackmount.
  5. Cần cổng kết nối gì? PoE cấp nguồn camera, cổng COM, DIO điều khiển barrier hoặc PLC, 4G/5G cho trạm xa.
  6. Vận hành bao lâu và quản lý thế nào? Dự án nhiều điểm cần cập nhật mô hình từ xa và tiêu chuẩn bảo mật công nghiệp IEC 62443.

DONGNAMTECH hỗ trợ gì khi bạn triển khai Edge AI?

DONGNAMTECH (Công ty TNHH Phát triển Công nghệ Đông Nam) phân phối máy tính công nghiệp Advantech tại Việt Nam từ năm 2008. Chúng tôi tư vấn cấu hình miễn phí: bạn gửi mô tả bài toán, số camera và môi trường lắp đặt, kỹ sư sẽ đề xuất máy tính, card tăng tốc và phụ kiện phù hợp.

Liên hệ: hotline [số thống nhất] · Zalo [số]

Câu hỏi thường gặp về hệ thống Edge AI

Hệ thống Edge AI là gì?

Là hệ thống chạy mô hình AI ngay tại nơi dữ liệu phát sinh, gồm thiết bị thu dữ liệu, máy tính suy luận, card tăng tốc, máy chủ AI biên và phần mềm quản lý.

Edge AI nên dùng GPU hay NPU?

NPU hợp với mô hình nhận diện cố định và thiết bị cần tiết kiệm điện. GPU hợp khi cần chạy nhiều loại mô hình, mô hình lớn hoặc AI tạo sinh.

Cần bao nhiêu TOPS là đủ?

Không có con số chung. TOPS phụ thuộc mô hình, số camera và tốc độ khung hình; cách chắc chắn nhất là chạy thử mô hình thật trên phần cứng dự kiến.

Máy tính công nghiệp đang dùng có nâng cấp lên Edge AI được không?

Có, nếu máy còn khe M.2 hoặc PCIe trống, nguồn đủ công suất và hệ điều hành có driver cho card. Card NPU M.2 như EAI-1200 là lựa chọn ít thay đổi nhất.

Edge AI có cần internet không?

Không bắt buộc. Việc suy luận chạy tại chỗ; internet chỉ cần để gửi kết quả, cập nhật mô hình hoặc quản lý từ xa.

Bài viết tham khảo tài liệu Edge AI Computing Solutions của Advantech, biên soạn và bổ sung kinh nghiệm triển khai tại Việt Nam của DONGNAMTECH.

Ms. Nhung QTV

Ms. Nhung (22)

  • Chuyên nghiên cứu, cập nhật và chia sẻ các giải pháp phần cứng chuyên sâu, thiết bị phần cứng tự động hóa, máy tính công nghiệp (Industrial PC) và hệ thống Edge AI.

  • Thường xuyên biên soạn các bài viết phân tích xu hướng công nghệ mới nhằm hỗ trợ tối ưu hóa hạ tầng CNTT và tự động hóa cho doanh nghiệp.

Bài viết khác
Hotline 0962920924 Icon-Zalo 0962920924 Icon-Messager Messenger Icon-Youtube Youtube