- 13/11/2026
- 36
Hệ thống Edge AI gồm những gì? Phần cứng và cách chọn
Tác giả: Nguyễn Văn Huấn, phụ trách R&D và giải pháp, DONGNAMTECH · Cập nhật: 13/11/2026
Hệ thống Edge AI là tập hợp thiết bị và phần mềm chạy mô hình trí tuệ nhân tạo ngay tại nơi dữ liệu phát sinh, như nhà xưởng, trạm thu phí hay bãi xe, thay vì gửi dữ liệu lên đám mây. Một hệ thống hoàn chỉnh thường gồm 5 lớp: thiết bị thu dữ liệu, máy tính suy luận tại biên, card tăng tốc GPU/NPU, máy chủ AI biên và phần mềm quản lý.
Tóm tắt nhanh
- Edge AI xử lý dữ liệu tại chỗ nên phản hồi tính bằng mili giây, không phụ thuộc internet và giữ dữ liệu nhạy cảm trong doanh nghiệp.
- Chọn phần cứng theo 3 yếu tố: mô hình AI cần bao nhiêu hiệu năng, có bao nhiêu luồng camera, và môi trường lắp đặt khắc nghiệt đến đâu.
- Máy tính công nghiệp đang dùng có thể nâng lên Edge AI bằng card M.2 hoặc PCIe nếu còn khe cắm và đủ nguồn.
Edge AI khác Cloud AI ở điểm nào?
Edge AI phù hợp khi cần quyết định tức thì hoặc dữ liệu không được rời khỏi công trình. Cloud AI phù hợp khi cần huấn luyện mô hình lớn hoặc phân tích dữ liệu tổng hợp từ nhiều nơi. Phần lớn dự án công nghiệp kết hợp cả hai: suy luận tại biên, huấn luyện và lưu trữ dài hạn trên máy chủ hoặc đám mây.
| Tiêu chí | Edge AI | Cloud AI |
|---|---|---|
| Độ trễ | Mili giây, xử lý ngay tại thiết bị | Phụ thuộc đường truyền, thường chậm hơn |
| Khi mất internet | Vẫn hoạt động | Ngừng xử lý |
| Chi phí băng thông | Thấp, chỉ gửi kết quả | Cao khi gửi video liên tục |
| Dữ liệu nhạy cảm | Ở lại trong doanh nghiệp | Đi qua máy chủ bên ngoài |
| Huấn luyện mô hình lớn | Hạn chế | Mạnh |
Xem thêm: Edge AI là gì?
5 lớp của một hệ thống Edge AI

| Lớp | Vai trò | Thiết bị điển hình |
|---|---|---|
| 1. Thu dữ liệu | Đưa hình ảnh, tín hiệu cảm biến vào hệ thống | Camera công nghiệp, camera AI, card capture video (MIPI-CSI, GMSL, FPD-Link, HDMI, Ethernet) |
| 2. Máy tính suy luận tại biên | Chạy mô hình AI ngay cạnh thiết bị, ra quyết định | Máy tính Edge AI dòng AIR, máy tính công nghiệp có GPU |
| 3. Card tăng tốc AI | Tăng hiệu năng AI cho máy tính | Card GPU/NPU chuẩn M.2, MXM, PCIe |
| 4. Máy chủ AI biên | Gom dữ liệu nhiều điểm, chạy mô hình lớn, huấn luyện lại tại chỗ | Máy chủ GPU, Edge Intelligence Server |
| 5. Phần mềm và quản lý | Hệ điều hành, bộ công cụ AI, cập nhật mô hình từ xa | Ubuntu/Windows IoT, OpenVINO, TensorRT, Hailo Dataflow Compiler, phần mềm quản lý thiết bị Advantech DeviceOn |
Không phải dự án nào cũng cần đủ 5 lớp. Một điểm nhận diện biển số đơn lẻ chỉ cần camera và một máy tính Edge AI. Hệ thống hàng trăm camera nhiều khu vực mới cần thêm máy chủ và phần mềm quản lý tập trung.
Card tăng tốc AI: GPU hay NPU?
Card tăng tốc là cách nhanh nhất để thêm AI vào một máy tính công nghiệp sẵn có. GPU xử lý song song mạnh, chạy được nhiều loại mô hình, kể cả AI tạo sinh, nhưng tốn điện hơn. NPU chỉ làm tính toán mạng nơ-ron, tiết kiệm điện, hợp với thiết bị nhỏ chạy mô hình nhận diện vật thể như YOLO.

| Card | Chuẩn | Chip | Hiệu năng AI | Hợp với |
|---|---|---|---|---|
| EAI-1200 | M.2 | NPU Hailo-8 | 26 TOPS | Gateway IoT, máy tính nhúng nhỏ, soi chiếu an ninh |
| EAI-3300 | PCIe x16 | NPU Hailo-8 | 52 TOPS, tối đa 15W | Kiểm tra lỗi sản phẩm (AOI) nhiều camera |
| EAI-2100 | MXM 3.1 Type A | GPU Intel Arc A370E | 56 TOPS | Robot, xe tự hành AMR (chịu rung dưới 3 Grms) |
| EAI-3101 | PCIe x16 | GPU Intel Arc A380E | 66 TOPS | Phân tích giao thông, video nhiều luồng |
| NVIDIA RTX 6000 Ada | PCIe | GPU NVIDIA | 91 TFLOPS FP32 | AI tạo sinh, robot, máy chủ AI biên |
Lưu ý khi so sánh: TOPS thường đo ở độ chính xác INT8, còn TFLOPS FP32 đo ở số thực 32 bit, nên hai con số không so trực tiếp được. Cách đánh giá chính xác nhất là chạy thử chính mô hình của dự án và đo số khung hình mỗi giây. Thông số trên theo tài liệu Advantech.
Xem thêm: So sánh CPU, GPU và NPU
Máy tính Edge AI dòng Advantech AIR
Dòng AIR là máy tính thiết kế sẵn cho AI: có bộ xử lý, tản nhiệt và cổng kết nối dành cho camera, chạy 24/7 trong môi trường công nghiệp. Chọn nhóm theo khối lượng công việc:

| Nhóm | Model | Bộ xử lý | Phù hợp |
|---|---|---|---|
| Nhẹ, tiết kiệm điện | AIR-120 | Intel Atom x7433RE / N97 / Core i3-N305 | Đếm, phân loại, đọc mã, gateway thu thập dữ liệu |
| Tầm trung | AIR-150 | Intel Core i3-1315UE / i5-1345UE | Nhận diện biển số, kiểm tra ngoại quan với vài camera |
| Hiệu năng cao | AIR-310, AIR-510 | Intel Core thế hệ 13/14 | Nhiều luồng camera, kết hợp card GPU/NPU |
| Nền tảng ARM | AIR-030, AIR-055 | Arm Cortex-A78AE / Qualcomm DragonWing IQ9075 | AI tích hợp sẵn trên chip, điện năng thấp, robot và thiết bị di động |
| Cấp máy chủ | AIR-500D, AIR-520 | Intel Xeon D / AMD EPYC | Gom nhiều điểm camera, chạy mô hình lớn tại chỗ |
Xem toàn bộ 14 model tại danh mục Edge AI Inference Systems.
Máy chủ AI biên
Máy chủ AI biên cần khi doanh nghiệp muốn chạy mô hình lớn, phục vụ nhiều người dùng cùng lúc, hoặc huấn luyện lại mô hình tại chỗ mà không đưa dữ liệu ra ngoài. Loại này lắp được nhiều GPU NVIDIA hoặc AMD trong khung rackmount, đặt tại phòng máy của nhà máy. Ví dụ: máy chủ suy luận AI SKY-6200 (2U) và SKY-6400 (4U), xem thêm danh mục GPU Servers.
Ứng dụng thực tế của hệ thống Edge AI
Các dự án DONGNAMTECH đã cung cấp thiết bị tại Việt Nam
| Ngành | Bài toán | Thiết bị sử dụng |
|---|---|---|
| [Giao thông: trạm thu phí ETC] | [Nhận diện biển số xe qua trạm] | [Model đã dùng] |
| [Bãi giữ xe thông minh] | [Nhận diện biển số, đếm chỗ trống] | [Model đã dùng] |
| [Nhà máy ô tô / điện tử] | [Kiểm tra lỗi ngoại quan trên dây chuyền] | [Model đã dùng] |
Dự án tham khảo của Advantech trên thế giới
| Ngành | Bài toán | Kết quả công bố |
|---|---|---|
| Sản xuất đầu nối điện | Kiểm tra chất lượng bằng AI trên dây chuyền | Tỷ lệ lỗi lọt qua dưới 1%; thời gian máy chạy trên 95% |
| Giao thông đô thị | Camera AI điều chỉnh đèn tín hiệu tại nút giao lớn | Thời gian chờ giảm 15–78% |
| Giám sát giao thông | Phân tích video 4 làn xe bằng card EAI-3101 | Độ trễ giảm 50%; chi phí xây dựng giảm 33% so với giải pháp GPU trước |
| An ninh sân bay, sự kiện | Soi chiếu hành lý bằng card EAI-1200 | Tới 4.000 người/giờ |
| Kiểm tra lỗi sản phẩm | AOI dùng card EAI-3300 | Tốc độ kiểm tra tăng 40% so với AOI truyền thống |
| Năng lượng gió | Camera AI phát hiện đóng băng, nứt cánh tua-bin | Cảnh báo sớm, bảo trì dự đoán |
| Y tế | Nội soi phế quản có robot hỗ trợ, xử lý ảnh bằng GPU RTX A4000 | Hai hệ thống máy tính gọn trong một xe đẩy phòng mổ |
Nguồn: tài liệu Edge AI Computing Solutions của Advantech.
Cách chọn hệ thống Edge AI: 6 câu hỏi cần trả lời
- Mô hình AI nào? Nhận diện vật thể (YOLO), đọc biển số, phân loại lỗi hay AI tạo sinh. Mô hình quyết định cần NPU, GPU tầm trung hay GPU cao cấp.
- Bao nhiêu luồng camera, độ phân giải và tốc độ khung hình? Đây là yếu tố làm tăng nhu cầu hiệu năng nhanh nhất.
- Dùng bộ công cụ nào? OpenVINO hợp với chip Intel, TensorRT hợp với GPU NVIDIA, Hailo Dataflow Compiler hợp với NPU Hailo. Chọn phần cứng theo bộ công cụ đội phát triển đã quen.
- Môi trường lắp đặt? Nhiệt độ, bụi, rung động và nguồn điện DC quyết định cần máy không quạt, gắn ray DIN hay rackmount.
- Cần cổng kết nối gì? PoE cấp nguồn camera, cổng COM, DIO điều khiển barrier hoặc PLC, 4G/5G cho trạm xa.
- Vận hành bao lâu và quản lý thế nào? Dự án nhiều điểm cần cập nhật mô hình từ xa và tiêu chuẩn bảo mật công nghiệp IEC 62443.
DONGNAMTECH hỗ trợ gì khi bạn triển khai Edge AI?
DONGNAMTECH (Công ty TNHH Phát triển Công nghệ Đông Nam) phân phối máy tính công nghiệp Advantech tại Việt Nam từ năm 2008. Chúng tôi tư vấn cấu hình miễn phí: bạn gửi mô tả bài toán, số camera và môi trường lắp đặt, kỹ sư sẽ đề xuất máy tính, card tăng tốc và phụ kiện phù hợp.
Liên hệ: hotline [số thống nhất] · Zalo [số]
Câu hỏi thường gặp về hệ thống Edge AI
Hệ thống Edge AI là gì?
Là hệ thống chạy mô hình AI ngay tại nơi dữ liệu phát sinh, gồm thiết bị thu dữ liệu, máy tính suy luận, card tăng tốc, máy chủ AI biên và phần mềm quản lý.
Edge AI nên dùng GPU hay NPU?
NPU hợp với mô hình nhận diện cố định và thiết bị cần tiết kiệm điện. GPU hợp khi cần chạy nhiều loại mô hình, mô hình lớn hoặc AI tạo sinh.
Cần bao nhiêu TOPS là đủ?
Không có con số chung. TOPS phụ thuộc mô hình, số camera và tốc độ khung hình; cách chắc chắn nhất là chạy thử mô hình thật trên phần cứng dự kiến.
Máy tính công nghiệp đang dùng có nâng cấp lên Edge AI được không?
Có, nếu máy còn khe M.2 hoặc PCIe trống, nguồn đủ công suất và hệ điều hành có driver cho card. Card NPU M.2 như EAI-1200 là lựa chọn ít thay đổi nhất.
Edge AI có cần internet không?
Không bắt buộc. Việc suy luận chạy tại chỗ; internet chỉ cần để gửi kết quả, cập nhật mô hình hoặc quản lý từ xa.
Bài viết tham khảo tài liệu Edge AI Computing Solutions của Advantech, biên soạn và bổ sung kinh nghiệm triển khai tại Việt Nam của DONGNAMTECH.
-
Giải pháp Edge AI Advantech: 6 nhóm sản phẩm và ứng dụng
Edge AI Solutions - 13/11/2026 Giải pháp Edge AI Advantech là hệ sinh thái gồm thiết bị thu hình ảnh, máy tính Edge AI, máy tính công nghiệp tích hợp GPU, máy chủ AI công nghiệp, card tăng tốc GPU/NPU và dịch vụ thiết kế trọn gói, giúp doanh nghiệp chạy ... -
Bài 1: Edge AI Là Gì? - Xu Hướng Tất Yếu Của Trí Tuệ Nhân Tạo
Edge AI Solutions - 18/09/2025 Edge AI đang trở thành xu hướng quan trọng khi trí tuệ nhân tạo được đưa ra xử lý ngay tại thiết bị, mang lại tốc độ nhanh hơn, bảo mật cao hơn và giảm chi phí kết nối đám mây. Advantech với vai trò tiên ... -
Bài 2: Unlocking AI Potential for Every Industry - Mở Khóa Tiềm Năng AI Cho Mọi Ngành Công Nghiệp
Edge AI Solutions - 18/09/2025 Với nền tảng phần cứng đa dạng, phần mềm quản trị thông minh và mạng lưới đối tác toàn cầu, Advantech đang chứng minh rằng Edge AI không chỉ là công nghệ, mà là chìa khóa để mở khóa tiềm năng AI cho mọi ngành công ...
0962920924