17:I[38094,["/_next/static/immutable/chunks/1tf2pn9278k7y.js","/_next/static/immutable/chunks/0zejbk68vic_x.js","/_next/static/immutable/chunks/2qn2vn51tpup6.js","/_next/static/immutable/chunks/2i_8r2yag1tg9.js","/_next/static/immutable/chunks/0hrjgjd5acxye.js"],"ScientificProgress"] 18:I[22016,["/_next/static/immutable/chunks/1tf2pn9278k7y.js","/_next/static/immutable/chunks/0zejbk68vic_x.js","/_next/static/immutable/chunks/2qn2vn51tpup6.js","/_next/static/immutable/chunks/2i_8r2yag1tg9.js","/_next/static/immutable/chunks/0hrjgjd5acxye.js"],""] 19:I[92167,["/_next/static/immutable/chunks/1tf2pn9278k7y.js","/_next/static/immutable/chunks/0zejbk68vic_x.js","/_next/static/immutable/chunks/2qn2vn51tpup6.js","/_next/static/immutable/chunks/2i_8r2yag1tg9.js","/_next/static/immutable/chunks/0hrjgjd5acxye.js"],"ScientificSearchTrigger"] 1a:I[8607,["/_next/static/immutable/chunks/1tf2pn9278k7y.js","/_next/static/immutable/chunks/0zejbk68vic_x.js","/_next/static/immutable/chunks/2qn2vn51tpup6.js","/_next/static/immutable/chunks/2i_8r2yag1tg9.js","/_next/static/immutable/chunks/0hrjgjd5acxye.js"],"PostThemeToggle"] 1b:I[60063,["/_next/static/immutable/chunks/1tf2pn9278k7y.js","/_next/static/immutable/chunks/0zejbk68vic_x.js","/_next/static/immutable/chunks/2qn2vn51tpup6.js","/_next/static/immutable/chunks/2i_8r2yag1tg9.js","/_next/static/immutable/chunks/0hrjgjd5acxye.js"],"TableOfContents"] 1c:I[21562,["/_next/static/immutable/chunks/1tf2pn9278k7y.js","/_next/static/immutable/chunks/0zejbk68vic_x.js","/_next/static/immutable/chunks/2qn2vn51tpup6.js","/_next/static/immutable/chunks/2i_8r2yag1tg9.js","/_next/static/immutable/chunks/0hrjgjd5acxye.js"],"PostReader"] 1d:T634d,

1. Giới thiệu

Trong những năm gần đây, trí tuệ nhân tạo (Artificial Intelligence – AI) đã phát triển mạnh mẽ với sự xuất hiện của ngày càng nhiều mô hình có quy mô lớn. Từ các mô hình thị giác máy tính như YOLO, ResNet đến các mô hình ngôn ngữ lớn (Large Language Model – LLM), số lượng tham số và yêu cầu tính toán ngày càng tăng. Sự phát triển này mang lại khả năng xử lý thông minh vượt trội, nhưng đồng thời cũng tạo ra một thách thức lớn: làm thế nào để triển khai các mô hình AI trên những thiết bị có tài nguyên hạn chế?

Trong môi trường cloud, một mô hình AI có thể được triển khai trên GPU hoặc máy chủ có hiệu năng rất cao. Tuy nhiên, với các ứng dụng như robot tự hành, camera thông minh, hệ thống bãi đỗ xe, thiết bị IoT, drone, thiết bị công nghiệp hoặc các hệ thống giám sát thời gian thực, việc gửi toàn bộ dữ liệu lên cloud không phải lúc nào cũng là lựa chọn tối ưu.

Đây chính là lý do Edge AI ngày càng trở nên quan trọng. Thay vì truyền dữ liệu lên máy chủ để xử lý, mô hình AI được đưa trực tiếp xuống thiết bị biên và thực hiện suy luận ngay tại nơi dữ liệu được tạo ra.

Tuy nhiên, các thiết bị biên thường có bộ nhớ, năng lực tính toán và điện năng hạn chế. Một mô hình sử dụng số thực 32-bit có thể chiếm rất nhiều bộ nhớ và yêu cầu phần cứng mạnh để thực hiện inference. Vì vậy, cần có những kỹ thuật tối ưu mô hình trước khi triển khai. Một trong những kỹ thuật quan trọng nhất là lượng tử hóa mô hình AI (Model Quantization).

2. Edge AI và bài toán giới hạn tài nguyên

Thiết bị biên là những thiết bị trực tiếp thu thập và xử lý dữ liệu gần nguồn phát sinh dữ liệu. Một hệ thống Edge AI có thể bao gồm camera, cảm biến, vi điều khiển, máy tính nhúng hoặc các gateway công nghiệp.

Một kiến trúc AI truyền thống thường có dạng:

Thiết bị
   │
   │ Dữ liệu
   ▼
Internet
   │
   ▼
Cloud Server
   │
   ▼
AI Model
   │
   ▼
Kết quả
   │
   ▼
Thiết bị

Mô hình này có ưu điểm là máy chủ có nhiều tài nguyên tính toán. Tuy nhiên, nó cũng tồn tại một số hạn chế.

Thứ nhất là độ trễ. Dữ liệu phải được truyền từ thiết bị lên server và kết quả phải được gửi ngược trở lại. Với những ứng dụng thời gian thực như robot, xe tự hành hoặc hệ thống điều khiển công nghiệp, độ trễ này có thể ảnh hưởng trực tiếp đến khả năng phản hồi của hệ thống.

Thứ hai là băng thông. Camera có thể tạo ra một lượng dữ liệu rất lớn. Nếu tất cả hình ảnh hoặc video đều được gửi lên cloud, băng thông và chi phí truyền dữ liệu sẽ tăng đáng kể.

Thứ ba là quyền riêng tư. Một số dữ liệu như hình ảnh khuôn mặt, biển số xe, âm thanh hoặc thông tin cảm biến có thể không phù hợp để liên tục truyền lên một máy chủ bên ngoài.

Kiến trúc Edge AI giải quyết vấn đề này bằng cách đưa quá trình suy luận xuống gần nguồn dữ liệu:

Camera / Sensor
      │
      ▼
Edge Device
      │
      ├── AI Inference
      ├── Decision
      └── Local Processing
              │
              ▼
           Kết quả
              │
              ▼
       Cloud / Database

Nhờ đó, hệ thống có thể xử lý dữ liệu ngay tại thiết bị và chỉ gửi những thông tin cần thiết lên cloud.

Nhưng để làm được điều này, mô hình AI phải phù hợp với phần cứng. Đây là lúc lượng tử hóa trở thành một kỹ thuật quan trọng.

3. Lượng tử hóa mô hình AI là gì?

Lượng tử hóa là quá trình giảm độ chính xác số học của các tham số hoặc dữ liệu trung gian trong mô hình AI.

Một mô hình thông thường có thể sử dụng số thực 32-bit, thường được gọi là FP32. Trong quá trình lượng tử hóa, các giá trị này có thể được chuyển sang các định dạng có độ chính xác thấp hơn như FP16, INT8 hoặc INT4.

Ví dụ đơn giản:

FP32
32 bit / giá trị
        │
        ▼
      INT8
8 bit / giá trị
        │
        ▼
      INT4
4 bit / giá trị

Nếu một mô hình có 100 triệu tham số và mỗi tham số được lưu bằng FP32, riêng phần trọng số đã cần khoảng:

100.000.000 × 4 bytes
≈ 400 MB

Nếu chuyển sang INT8:

100.000.000 × 1 byte
≈ 100 MB

Về lý thuyết, dung lượng lưu trữ của trọng số có thể giảm khoảng 4 lần.

Đối với những mô hình lớn hơn, lợi ích này càng rõ rệt. Ngoài giảm bộ nhớ, lượng tử hóa còn có thể giúp giảm bandwidth bộ nhớ và tăng tốc inference khi phần cứng hỗ trợ phép toán số nguyên.

4. Cơ chế lượng tử hóa

Một phương pháp phổ biến là ánh xạ giá trị thực sang miền số nguyên thông qua hai đại lượng là scale và zero-point.

Một dạng công thức đơn giản có thể biểu diễn như sau:

q = round(x / scale) + zero_point

Trong đó:

x là giá trị thực.
q là giá trị sau lượng tử hóa.
scale quyết định độ phân giải của phép ánh xạ.
zero_point xác định vị trí tương ứng với giá trị 0.

Khi cần khôi phục lại giá trị gần đúng ban đầu, có thể thực hiện:

x ≈ (q - zero_point) × scale

Điểm quan trọng là lượng tử hóa không lưu trữ chính xác tuyệt đối giá trị ban đầu. Vì vậy, luôn tồn tại một mức sai số nhất định.

Bài toán của kỹ thuật lượng tử hóa là tìm được sự cân bằng giữa:

Kích thước mô hình
        ↕
Tốc độ inference
        ↕
Mức sử dụng bộ nhớ
        ↕
Độ chính xác

Nếu lượng tử hóa quá mạnh, mô hình có thể giảm độ chính xác đáng kể. Ngược lại, nếu lượng tử hóa quá ít, lợi ích về hiệu năng và bộ nhớ sẽ không rõ rệt.

5. Những phương pháp lượng tử hóa phổ biến

5.1. Post-Training Quantization

Post-Training Quantization, viết tắt là PTQ, là phương pháp lượng tử hóa mô hình sau khi quá trình huấn luyện đã hoàn tất.

Quy trình có thể được mô tả:

Dataset
   │
   ▼
Train model
   │
   ▼
FP32 Model
   │
   ▼
Quantization
   │
   ▼
INT8 Model
   │
   ▼
Deploy

Ưu điểm lớn nhất của PTQ là đơn giản và không cần huấn luyện lại toàn bộ mô hình. Đây là lựa chọn phù hợp khi mô hình đã được huấn luyện hoàn chỉnh và cần nhanh chóng chuyển sang thiết bị edge.

Một số trường hợp PTQ chỉ cần calibration dataset để ước lượng phạm vi activation trước khi lượng tử hóa.

PTQ đặc biệt hữu ích đối với các mô hình triển khai trên Raspberry Pi, NPU, DSP hoặc các accelerator hỗ trợ INT8.

5.2. Quantization-Aware Training

Quantization-Aware Training, viết tắt là QAT, đưa ảnh hưởng của lượng tử hóa vào trong quá trình huấn luyện.

Thay vì:

Train FP32
     ↓
Quantize

QAT hoạt động gần giống:

Train
  ↓
Mô phỏng lượng tử hóa
  ↓
Điều chỉnh trọng số
  ↓
Quantized Model

Trong quá trình huấn luyện, mô hình được mô phỏng tác động của lượng tử hóa. Nhờ đó, mạng neural có thể thích nghi với sai số lượng tử.

QAT thường phù hợp khi yêu cầu độ chính xác cao và PTQ gây ra mức suy giảm kết quả quá lớn.

Đổi lại, QAT có quy trình triển khai phức tạp hơn và thường cần thêm thời gian huấn luyện hoặc fine-tuning.

6. Lượng tử hóa đối xứng và bất đối xứng

Có thể chia kỹ thuật lượng tử hóa thành nhiều kiểu khác nhau. Một trong những cách phân loại phổ biến là lượng tử hóa đối xứng và bất đối xứng.

Lượng tử hóa đối xứng

Miền giá trị được xây dựng đối xứng quanh 0.

Ví dụ:

       -127       0       +127
─────────┬────────┼─────────┬────────

Phương pháp này có ưu điểm là đơn giản và có thể phù hợp với một số loại phần cứng tăng tốc.

Lượng tử hóa bất đối xứng

Miền lượng tử hóa có thể được dịch khỏi 0 thông qua zero-point.

       min                max
────────┬───────────────────┬──────
             ↑
        zero point

Điều này cho phép tận dụng tốt hơn miền giá trị khi dữ liệu không phân bố đối xứng quanh 0.

Việc lựa chọn phương pháp phù hợp phụ thuộc vào kiến trúc mô hình, phân bố dữ liệu và phần cứng mục tiêu.

7. Lượng tử hóa INT8 và lợi ích trên thiết bị biên

INT8 là một trong những định dạng được sử dụng phổ biến trong Edge AI.

So với FP32, một giá trị INT8 chỉ sử dụng 8 bit thay vì 32 bit. Điều này mang lại nhiều lợi ích:

Giảm bộ nhớ

FP32 → 32 bit
INT8 → 8 bit

Về lý thuyết, trọng số INT8 có thể nhỏ hơn khoảng 4 lần so với FP32.

Giảm bandwidth

Khi dữ liệu nhỏ hơn, lượng dữ liệu phải đọc và ghi trong bộ nhớ cũng giảm theo. Điều này rất quan trọng đối với các thiết bị có bandwidth bộ nhớ hạn chế.

Tăng tốc tính toán

Nhiều CPU, DSP, NPU và accelerator hiện đại có thể thực hiện phép toán INT8 hiệu quả hơn phép toán FP32.

Giảm mức tiêu thụ năng lượng

Khi số lượng phép toán và lượng dữ liệu di chuyển trong bộ nhớ giảm, mức tiêu thụ năng lượng cho inference cũng có thể giảm.

Đây là lý do INT8 thường được xem là một trong những lựa chọn cân bằng tốt giữa hiệu năng và độ chính xác cho Edge AI.

8. Lượng tử hóa mô hình Computer Vision

Một ứng dụng rất phổ biến là lượng tử hóa các mô hình nhận diện đối tượng.

Ví dụ với một mô hình YOLO:

YOLO FP32
     │
     ▼
Calibration / QAT
     │
     ▼
YOLO INT8
     │
     ▼
Edge Device
     │
     ├── Camera
     ├── Detection
     └── Decision

Trong một hệ thống camera thông minh, thay vì truyền toàn bộ video lên server:

Camera
  ↓
Cloud
  ↓
GPU
  ↓
Detection

có thể đưa mô hình đã lượng tử hóa xuống thiết bị:

Camera
  ↓
Raspberry Pi / Edge Device
  ↓
YOLO INT8
  ↓
Vehicle Detection
  ↓
Local Decision

Ví dụ trong hệ thống bãi đỗ xe, thiết bị edge có thể sử dụng mô hình đã lượng tử hóa để phát hiện ô tô hoặc xe máy ngay tại camera. Chỉ những dữ liệu cần thiết như số lượng phương tiện, biển số hoặc trạng thái vị trí đỗ mới được gửi lên máy chủ.

Kiến trúc này vừa giảm lưu lượng mạng vừa cải thiện thời gian phản hồi.

9. Lượng tử hóa mô hình ngôn ngữ lớn

Không chỉ các mô hình Computer Vision, lượng tử hóa còn đóng vai trò quan trọng trong việc triển khai Large Language Model.

Một mô hình ngôn ngữ lớn có hàng tỷ tham số có thể yêu cầu lượng bộ nhớ rất lớn nếu lưu trữ hoàn toàn dưới dạng FP16 hoặc FP32.

Ví dụ:

Mô hình 7B
    │
    ├── FP32 → rất lớn
    ├── FP16 → giảm khoảng một nửa
    ├── INT8 → giảm tiếp
    └── INT4 → nhỏ hơn đáng kể

Nhờ lượng tử hóa, các mô hình như Llama, Qwen hoặc các mô hình tương tự có thể được triển khai trên GPU có VRAM hạn chế hoặc thậm chí một số hệ thống CPU.

Các kỹ thuật như GPTQ và AWQ tập trung vào việc giảm độ chính xác của trọng số trong khi cố gắng duy trì chất lượng đầu ra của mô hình.

Một định dạng khác là GGUF, được sử dụng phổ biến trong các hệ sinh thái chạy mô hình local và đặc biệt phù hợp với các mô hình được triển khai thông qua llama.cpp.

10. Những định dạng phổ biến

Có rất nhiều định dạng được sử dụng trong quá trình triển khai mô hình AI.

FP16

FP16 sử dụng 16 bit cho mỗi giá trị.

Ưu điểm:

độ chính xác thường tốt;
được hỗ trợ rộng rãi trên GPU;
dễ triển khai.

Nhược điểm là vẫn yêu cầu bộ nhớ tương đối lớn so với INT8 hoặc INT4.

INT8

INT8 sử dụng 8 bit.

Đây là một lựa chọn rất phổ biến cho Edge AI vì có sự cân bằng tốt giữa kích thước mô hình, tốc độ và độ chính xác.

INT4

INT4 sử dụng 4 bit.

Định dạng này đặc biệt hấp dẫn với LLM vì có thể giảm đáng kể kích thước bộ nhớ. Tuy nhiên, mức suy giảm độ chính xác có thể lớn hơn nếu phương pháp lượng tử hóa không phù hợp.

GGUF

GGUF là một định dạng container phổ biến trong hệ sinh thái triển khai mô hình local. Nó hỗ trợ lưu trữ trọng số lượng tử hóa và metadata cần thiết để chạy mô hình.

11. Các công cụ hỗ trợ lượng tử hóa

Ngày nay có nhiều framework hỗ trợ quá trình chuyển đổi và triển khai mô hình.

Đối với TensorFlow, có thể sử dụng TensorFlow Lite để chuyển mô hình sang dạng tối ưu hơn cho thiết bị biên.

Một pipeline phổ biến:

TensorFlow Model
       │
       ▼
TensorFlow Lite
       │
       ▼
INT8 Quantization
       │
       ▼
.tflite
       │
       ▼
Edge Device

Đối với PyTorch, mô hình có thể được chuyển đổi và tối ưu thông qua các công cụ tương ứng trước khi triển khai.

Trong lĩnh vực Computer Vision, các framework như ONNX Runtime, TensorRT hoặc NCNN cũng thường được sử dụng để tối ưu inference trên những nền tảng phần cứng khác nhau.

Điều quan trọng là định dạng model cuối cùng phải tương thích với backend và accelerator của thiết bị.

12. Quy trình đưa một mô hình AI xuống thiết bị biên

Một quy trình triển khai thực tế có thể gồm các bước:

Bước 1: Huấn luyện mô hình

Mô hình được huấn luyện trên máy tính có tài nguyên lớn.

Dataset
   ↓
Training
   ↓
best.pt / model.h5 / SavedModel

Bước 2: Đánh giá mô hình gốc

Cần lưu lại các chỉ số như:

Accuracy
Precision
Recall
mAP
Latency
Memory usage

Đây là baseline để so sánh sau lượng tử hóa.

Bước 3: Lượng tử hóa

Chọn PTQ hoặc QAT tùy yêu cầu.

FP32
 ↓
INT8

Bước 4: Benchmark

Đánh giá mô hình trên phần cứng thật.

Ví dụ:

                    FP32      INT8
--------------------------------------
Model Size          100 MB     26 MB
Latency             120 ms     52 ms
Memory              450 MB    190 MB
Accuracy             93%       92.5%

Các con số ở trên chỉ là ví dụ minh họa; kết quả thực tế phụ thuộc hoàn toàn vào model, dữ liệu và phần cứng.

Bước 5: Kiểm tra độ ổn định

Không nên chỉ kiểm tra tốc độ. Cần đánh giá cả:

độ chính xác;
độ ổn định;
nhiệt độ;
bộ nhớ;
điện năng;
xử lý trong thời gian dài.

13. Lượng tử hóa không phải lúc nào cũng tốt

Một sai lầm phổ biến là cho rằng càng giảm số bit thì mô hình càng tốt.

Thực tế không phải như vậy.

Ví dụ:

FP32
Accuracy = 93.5%

INT8
Accuracy = 93.1%

INT4
Accuracy = 88.2%

Trong trường hợp này, INT8 có thể là lựa chọn hợp lý hơn INT4.

Bởi vậy, bài toán tối ưu không phải là:

“Giảm mô hình càng nhiều càng tốt.”

Mà là:

“Tìm mức lượng tử hóa phù hợp nhất với yêu cầu của ứng dụng và phần cứng.”

Một hệ thống thời gian thực có thể chấp nhận giảm rất nhỏ độ chính xác để đổi lấy latency thấp hơn. Ngược lại, một hệ thống y tế hoặc kiểm tra lỗi công nghiệp có thể ưu tiên độ chính xác hơn tốc độ.

14. Những thách thức khi triển khai

Mặc dù lượng tử hóa mang lại nhiều lợi ích, kỹ thuật này vẫn tồn tại một số vấn đề.

Sai số lượng tử

Quá trình chuyển đổi từ giá trị liên tục sang miền rời rạc tạo ra sai số.

Không phải mọi layer đều phù hợp

Một số layer có thể nhạy cảm với lượng tử hóa hơn những layer khác.

Phụ thuộc phần cứng

Một mô hình INT8 không tự động chạy nhanh hơn nếu phần cứng không có khả năng tăng tốc INT8.

Khác biệt giữa benchmark và thực tế

Một model có thể có kích thước nhỏ hơn nhưng chưa chắc latency thực tế giảm đáng kể. Việc benchmark phải được thực hiện trên phần cứng mục tiêu.

15. Kết luận

Lượng tử hóa mô hình AI là một trong những kỹ thuật quan trọng nhất để đưa các mô hình trí tuệ nhân tạo từ môi trường máy chủ xuống các thiết bị biên có tài nguyên hạn chế.

Bằng cách chuyển đổi từ FP32 sang FP16, INT8 hoặc INT4, mô hình có thể giảm đáng kể yêu cầu về bộ nhớ và bandwidth, đồng thời có khả năng cải thiện tốc độ inference trên các phần cứng hỗ trợ tương ứng.

Đặc biệt, INT8 đang trở thành một lựa chọn cân bằng cho nhiều ứng dụng Edge AI. Với những yêu cầu cao hơn về độ chính xác, QAT có thể được sử dụng để giúp mô hình thích nghi với quá trình lượng tử hóa. Đối với các mô hình ngôn ngữ lớn, những kỹ thuật như GPTQ, AWQ hoặc các định dạng lượng tử hóa phù hợp có thể giúp giảm đáng kể yêu cầu phần cứng.

Trong tương lai, khi AI tiếp tục được đưa vào robot, camera, phương tiện, thiết bị IoT và hệ thống công nghiệp, khả năng tối ưu mô hình sẽ ngày càng quan trọng. Một mô hình AI tốt không chỉ cần có độ chính xác cao mà còn phải đủ nhỏ, đủ nhanh, đủ tiết kiệm năng lượng và phù hợp với phần cứng mà nó được triển khai.

Đó chính là vai trò cốt lõi của Edge AI và lượng tử hóa mô hình: đưa trí tuệ nhân tạo đến gần nơi dữ liệu được tạo ra, giảm sự phụ thuộc vào cloud và biến những mô hình lớn thành những hệ thống có khả năng hoạt động thực tế trên các thiết bị nhỏ gọn.

9:["$","div",null,{"className":"min-h-screen bg-[#f5f6f8] dark:bg-[#080a0d] text-[#181b21] dark:text-[#e7eaf0] transition-colors duration-500 font-sans","children":[["$","script",null,{"type":"application/ld+json","dangerouslySetInnerHTML":{"__html":"{\"@context\":\"https://schema.org\",\"@type\":\"BlogPosting\",\"headline\":\"Lượng tử hóa mô hình AI để tối ưu trên thiết bị biên\",\"datePublished\":\"2025-07-11T00:00:00.000Z\",\"description\":\"Lượng tử hóa giúp giảm kích thước, bộ nhớ và độ trễ khi triển khai AI trên thiết bị biên.\",\"author\":{\"@type\":\"Person\",\"name\":\"Phan Huỳnh Văn Đô\"}}"}}],["$","$L17",null,{}],["$","header",null,{"className":"sticky top-0 z-[500] h-[66px] flex items-center justify-between px-4 sm:px-8 bg-white/80 dark:bg-[#080a0d]/75 border-b border-black/5 dark:border-white/5 backdrop-blur-[22px]","children":[["$","$L18",null,{"href":"/#posts","className":"flex items-center gap-2 text-[13px] font-medium text-gray-500 hover:text-gray-900 dark:text-[#aeb4c0] dark:hover:text-white transition-colors","children":[["$","svg",null,{"ref":"$undefined","xmlns":"http://www.w3.org/2000/svg","width":24,"height":24,"viewBox":"0 0 24 24","fill":"none","stroke":"currentColor","strokeWidth":2,"strokeLinecap":"round","strokeLinejoin":"round","className":"lucide lucide-arrow-left w-4 h-4","aria-hidden":"true","children":[["$","path","1l729n",{"d":"m12 19-7-7 7-7"}],["$","path","x3x0zl",{"d":"M19 12H5"}],"$undefined"]}],["$","span",null,{"children":"Trở về"}]]}],["$","div",null,{"className":"flex items-center gap-2","children":[["$","$L19",null,{}],["$","$L1a",null,{}]]}]]}],["$","main",null,{"className":"mx-auto max-w-[1840px] px-4 sm:px-8 md:px-10 lg:px-12 py-8 sm:py-12 pb-[100px] grid grid-cols-1 xl:grid-cols-[260px_1fr_320px] xl:gap-9 lg:grid-cols-[230px_1fr] lg:gap-8 items-start relative","children":[["$","aside",null,{"className":"hidden lg:block sticky top-[94px] max-h-[calc(100vh-120px)] overflow-y-auto pr-3 custom-scrollbar","children":[["$","div",null,{"className":"text-[11px] font-extrabold tracking-[0.16em] text-[#737a88] mb-5 uppercase","children":"Nội dung"}],["$","$L1b",null,{"selector":".prose"}]]}],["$","div",null,{"className":"min-w-0 w-full relative z-10","children":["$","$L1c",null,{"title":"Lượng tử hóa mô hình AI để tối ưu trên thiết bị biên","pubDate":"11 Jul 2025","readingTime":15,"contentHtml":"$1d","pdfUrl":null,"authorName":"Phan Huỳnh Văn Đô","authorRole":"AI / Edge Computing","category":"Artificial Intelligence","excerpt":"Lượng tử hóa giúp giảm kích thước, bộ nhớ và độ trễ khi triển khai AI trên thiết bị biên."}]}],"$L1e"]}]]}]