Dấu hiệu đã rõ ràng rằng kỷ nguyên miễn phí đã kết thúc. Hai năm trước chúng ta sống trong ảo tưởng đẹp đẽ, nơi sức mạnh tính toán như nước máy có thể chảy không ngừng. Bây giờ? Mỗi token có giá, và giá của nó tăng mạnh.

Điều thú vị là cách tất cả bắt đầu như thế nào. Khi chi phí API còn rất rẻ, ai cũng có thể sử dụng thoải mái. Chúng ta ném hàng nghìn từ vào prompt mà không suy nghĩ, yêu cầu mô hình tiên tiến nhất làm những nhiệm vụ ngu ngốc như viết hoa chữ cái đầu câu. Tại sao? Vì quá rẻ, được trợ giá bởi các nhà đầu tư khổng lồ. Nhưng sự trợ giá đó giờ đã kết thúc.

Sự thay đổi này không chỉ về giá tăng trên dashboard. Nó về một sự chuyển đổi căn bản trong cách chúng ta phải nghĩ về hạ tầng AI. Tiêu thụ token mà trước đây bị bỏ qua giờ trở thành mục tiêu quan trọng trong bất kỳ trung tâm chi phí nào. Một lần gọi API có thể trị giá hàng nghìn đồng nếu volume cao. Hãy tưởng tượng startup xử lý hàng triệu yêu cầu mỗi ngày—đây không còn là vấn đề tùy chọn nữa, mà là vấn đề sinh tồn.

Có ba nơi mà token của chúng ta thực sự bị mất đi mà không cảm nhận được. Thứ nhất, prompt hệ thống quá dài. Chúng ta thích viết hướng dẫn chi tiết để đảm bảo output ổn định, nhưng mỗi hướng dẫn đó là token phải trả tiền. Mỗi cuộc trò chuyện phải tính lại hàng nghìn token này. Thứ hai, RAG (Retrieval-Augmented Generation) mất kiểm soát. Mô hình lý tưởng của RAG là lấy ba câu phù hợp nhất rồi hỏi mô hình. Thực tế? Cơ sở dữ liệu lấy ra mười PDF dài hàng nghìn từ rồi dump vào mô hình. Chúng ta nghĩ chỉ hỏi câu đơn giản, nhưng thực ra mô hình phải đọc nửa thư viện. Thứ ba, agent bị mắc kẹt trong vòng lặp vô hạn. Nếu logic kém và API bị down, agent có thể cứ quay vòng, mỗi vòng lặp tiêu tốn token output đắt đỏ.

Bây giờ đến phần thú vị—làm thế nào để thoát khỏi cái hố này? Có ba vũ khí hiện trở thành thiết yếu, không còn là tùy chọn nữa. Cache ngữ nghĩa có thể là bước ngoặt vì câu hỏi của người dùng thường lặp lại. Nếu người dùng hỏi "làm thế nào để reset password" nhiều lần, chúng ta có thể cache câu trả lời và trả về ngay mà không cần gọi mô hình lớn. Từ giây chuyển sang mili giây, và không tốn token. Nén prompt bằng thuật toán dựa trên entropy có thể nén 1000 token thành 300 token mà không mất ý nghĩa. Để máy móc giao tiếp với máy móc bằng ngôn ngữ kỳ quặc mà con người không hiểu. Cơ chế attention của mô hình đủ mạnh để hiểu. Chúng ta tiết kiệm được 70% chi phí.

Nhưng phần tinh vi nhất là routing mô hình. Đừng gửi tất cả nhiệm vụ đến mô hình đắt nhất. Trích xuất thực thể đơn giản? Chuyển sang Llama 3 8B hoặc Claude Haiku giá rẻ. Phân tích phức tạp và mã code? Mới dùng GPT-4o hoặc Claude Sonnet. Đây giống như một công ty hiệu quả—thư ký không cần làm phiền CEO cho những việc đơn giản. Ai có thể thực hiện cơ chế routing này mượt mà, người đó có thể giảm chi phí token xuống còn một phần ba so với đối thủ.

Nếu nhìn vào các framework agent hàng đầu như OpenClaw và Hermes, họ đã đi trước xu hướng. OpenClaw cực kỳ chú trọng kiểm soát token. Thay vì xếp chồng toàn bộ ngữ cảnh, họ ép mô hình xuất ra JSON schema hoặc định dạng ngắn gọn hơn. Không "nói chuyện tự do", mà "nộp mẫu đơn". Đây là thao tác tiết kiệm dữ liệu tinh tế trong bối cảnh khan hiếm compute. Cách tiếp cận của Hermes lại khác—cơ chế bộ nhớ động. Bộ nhớ làm việc chỉ lưu 3-5 cuộc trò chuyện cuối cùng. Nếu vượt quá, mô hình nhẹ sẽ tóm tắt cuộc trò chuyện cũ thành các điểm chính rồi lưu vào cơ sở dữ liệu vector. Đây không phải bỏ rác, mà là thao tác bộ nhớ phẫu thuật. Quản lý ngữ cảnh tinh tế này giúp giảm đáng kể chi phí compute ở cấp độ vĩ mô.

Nhưng có một sự chuyển đổi tư duy còn căn bản hơn tất cả các giải pháp kỹ thuật này. Trong thời đại giá rẻ, chúng ta xem token như tâm lý tiêu dùng—nhìn thấy giảm giá là bỏ vào giỏ. Nhiều công ty ngẫu nhiên tích hợp LLM vào hệ thống nội bộ, cấp quyền cho tất cả nhân viên, thậm chí yêu cầu AI tạo menu quán ăn. Kết quả? hóa đơn cuối tháng gây sốc.

Bây giờ cần tư duy đầu tư. Mỗi token tiêu dùng là một khoản đầu tư cần tính ROI. Token này tiêu hao, thì lợi nhuận là gì? Tỷ lệ đóng ticket tăng? Thời gian sửa lỗi giảm? Hay chỉ nhận được phản hồi "haha AI vui nhộn"? Nếu tính năng dùng rule engine chỉ tốn 0.1 nhân dân tệ mà tích hợp LLM tốn 1 nhân dân tệ, và tỷ lệ chuyển đổi chỉ tăng 2%, thì cứ cắt bỏ. Không cần theo đuổi ảo tưởng AI lớn, chuyển sang phương pháp chính xác mục tiêu. Mỗi token phải được đối xử như vàng sẽ được rèn thành.

Cuối cùng, sự tăng giá này không phải là khủng hoảng mà là sự thanh lọc. Đây là cách phá vỡ bong bóng do trợ giá vô hạn tạo ra và buộc mọi người trở lại thực tại. Đây là cách loại bỏ những kẻ chỉ biết viết prompt rồi rong ruổi, chuyển giao cho đội ngũ cốt lõi hiểu rõ kiến trúc, routing mô hình, và cách tối đa hóa compute ở thiết bị biên. Khi nước rút, mới thấy ai đang bơi trần truồng. Lần này, những người còn sống sót và phát triển chính là những ai xem mỗi token như tài nguyên quý giá, tự tin rằng họ có thể thu về nhiều hơn số tiền đã bỏ ra. Họ chính là những người sẽ thống trị kỷ nguyên hạ tầng AI tiếp theo.