Mở khóa tiềm năng AI Agent: Xây dựng trí nhớ dài hạn với n8n và Zep

Chia sẻ bởi Nate Herk

Trong kỷ nguyên mà trí tuệ nhân tạo (AI) đang ngày càng len lỏi vào mọi khía cạnh cuộc sống và công việc, khả năng của các AI agent để ghi nhớ và học hỏi từ những tương tác trong quá khứ là yếu tố then chốt quyết định sự thông minh và hữu ích của chúng. Ai cũng muốn sở hữu một trợ lý AI không chỉ phản hồi nhanh chóng mà còn thực sự hiểu về mình, về công việc của mình và đưa ra những gợi ý phù hợp dựa trên lịch sử tương tác dài lâu. Tuy nhiên, việc trang bị "trí nhớ dài hạn" cho AI agent lại phức tạp hơn nhiều so với hình dung ban đầu của nhiều người.

Là một người đã dành nhiều thời gian nghiên cứu và triển khai các hệ thống AI tự động hóa, tôi nhận thấy rằng việc nâng cấp bộ nhớ cho AI agent từ cơ chế đơn giản lên cấu trúc biểu đồ tri thức (knowledge graph) chính là bước tiến hóa tiếp theo. Nó không chỉ giúp agent thông minh hơn mà còn mở ra vô vàn ứng dụng thực tế. Bài viết này sẽ đi sâu vào cách chúng ta có thể đạt được điều đó, đồng thời chia sẻ những kinh nghiệm tối ưu hóa để đảm bảo hiệu quả về chi phí.

Giới thiệu về trí nhớ AI Agent: Từ ngắn hạn đến dài hạn

Khi mới bắt đầu xây dựng AI agent, hầu hết chúng ta đều quen thuộc với khái niệm "bộ nhớ đệm" hay còn gọi là cửa sổ ngữ cảnh (context window), thường được thể hiện qua các node như Simple Memory (BufferWindow). Cơ chế này hoạt động dựa trên việc lưu trữ các tương tác gần nhất trong bộ nhớ của agent. Chẳng hạn, nếu bạn nói tên mình là Nam, agent sẽ ghi nhớ điều đó và có thể trả lời khi bạn hỏi lại "Tên tôi là gì?".

Hạn chế của bộ nhớ ngắn hạn

Tuy nhiên, bộ nhớ đơn giản có một giới hạn cố hữu: nó chỉ có thể ghi nhớ một số lượng nhất định các tương tác gần nhất. Điều này có nghĩa là, nếu cuộc trò chuyện kéo dài hoặc bạn quay lại sau một thời gian, agent sẽ "quên" những gì đã nói trước đó. Đối với những nhu cầu phức tạp hơn như việc agent cần nhớ các sở thích cá nhân, thông tin chi tiết về doanh nghiệp của bạn, hoặc các dự án đang triển khai, bộ nhớ ngắn hạn hoàn toàn không đáp ứng được.

Hãy thử tưởng tượng một trợ lý AI chỉ có thể nhớ được vài câu chuyện gần đây nhất mà không hề có ký ức về lịch sử công việc, sở thích hay mục tiêu dài hạn của bạn. Trợ lý như vậy sẽ khó lòng đưa ra lời khuyên thực sự hữu ích hoặc cá nhân hóa trải nghiệm. Đây chính là lúc chúng ta cần đến một giải pháp cho "trí nhớ dài hạn".

Sức mạnh của biểu đồ tri tThức (Knowledge Graph) trong AI Agent

Để khắc phục hạn chế của bộ nhớ ngắn hạn, biểu đồ tri thức (knowledge graph) nổi lên như một giải pháp ưu việt. Thay vì chỉ lưu trữ các đoạn hội thoại rời rạc, knowledge graph tổ chức thông tin dưới dạng các thực thể (entities) và mối quan hệ (relationships) giữa chúng. Điều này cho phép AI agent không chỉ nhớ thông tin mà còn "hiểu" được bối cảnh và kết nối giữa các mẩu thông tin khác nhau.

Knowledge Graph là gì?

Knowledge graph giống như một mạng lưới khổng lồ của các thông tin liên kết. Mỗi thông tin là một "thực thể", và cách chúng liên kết với nhau chính là "mối quan hệ". Khi agent có thể truy vấn và hiểu được mạng lưới này, khả năng suy luận và đưa ra phản hồi thông minh của nó sẽ tăng lên đáng kể.

Trong hành trình tìm kiếm giải pháp cho trí nhớ dài hạn, tôi đã khám phá ra sức mạnh của biểu đồ tri thức thông qua nền tảng Zep. Zep là một công cụ mạnh mẽ giúp xây dựng và quản lý các knowledge graph, tích hợp mượt mà với các nền tảng tự động hóa như n8n.

Download workflow: https://romhub.io/n8n/ZEP_Memory

Thông tin sẽ được gửi đến Zep thông qua một node Add Memory. Zep sẽ tự động xử lý cuộc hội thoại này, trích xuất các thực thể và mối quan hệ để xây dựng biểu đồ tri thức. Ví dụ, khi tôi tương tác nhiều lần về kênh YouTube của mình, Zep sẽ tự động hình thành các mối quan hệ như: "Nate" (thực thể) có mối quan hệ "tạo nội dung trên" "YouTube", "chuyên về" "tự động hóa AI". Càng tương tác nhiều, biểu đồ này càng trở nên phong phú và chi tiết.

Tối ưu chi phí và hiệu suất khi sử dụng trí nhớ dài hạn

Mặc dù knowledge graph mang lại khả năng vượt trội, nhưng nó cũng đi kèm với một thách thức lớn: chi phí. Mỗi khi agent truy vấn và xử lý thông tin, nó sẽ tiêu tốn "token". Nếu chỉ đơn giản kết nối AI Agent với một node Zep mặc định, toàn bộ ngữ cảnh (bao gồm tóm tắt, lịch sử hội thoại, các thực thể liên quan) sẽ được gửi đến mô hình ngôn ngữ lớn (LLM), có thể làm tăng chi phí token lên rất nhanh và không hiệu quả.

Giải pháp 1: Truy vấn có chọn lọc qua HTTP Request

Để giải quyết vấn đề này, có một phương pháp tối ưu hơn: sử dụng các node HTTP Request để giao tiếp trực tiếp với Zep API, cho phép kiểm soát chính xác dữ liệu nào được truy xuất.

Cụ thể, quy trình "Zep Memory (HTTP)" hoạt động như sau:

1. Lấy Lịch Sử Hội Thoại: Node Context Window gửi yêu cầu đến Zep API để lấy 10 tin nhắn gần nhất.
2. Tìm Kiếm Tri Thức Liên Quan: Node User Graph gửi một truy vấn tìm kiếm đến biểu đồ tri thức của Zep, chỉ yêu cầu 3 "sự thật" (facts) liên quan nhất với mức độ phù hợp trên 0.7.
3. Xử Lý Dữ Liệu: Hai node Code được sử dụng để làm sạch và định dạng dữ liệu trả về. Một node xử lý lịch sử hội thoại thành các cặp Human: và AI:, node còn lại trích xuất các facts từ kết quả tìm kiếm.
4. Tổng Hợp Ngữ Cảnh: Node Merge kết hợp hai luồng dữ liệu đã được xử lý này.
5. Tạo Phản Hồi: Ngữ cảnh đã được chọn lọc cẩn thận này được đưa vào system prompt của AI Agent 2 để tạo ra phản hồi thông minh và phù hợp.
6. Cập Nhật Bộ Nhớ: Cuối cùng, node Add Memory gửi lại cuộc hội thoại mới (câu hỏi của người dùng và câu trả lời của AI) cho Zep để cập nhật biểu đồ tri thức.

Cách tiếp cận này giúp giảm đáng kể lượng token tiêu thụ bằng cách chỉ cung cấp cho LLM những thông tin thực sự cần thiết cho truy vấn hiện tại.

Giải pháp 2: Mô hình lai (hybrid) - Zep cho dài hạn, PostgreSQL cho ngắn hạn

Để tối ưu hơn nữa, có một mô hình lai trong quy trình "Zep & Postgres Hybrid":

• Zep (Trí nhớ dài hạn): Vẫn được sử dụng để lưu trữ và truy vấn biểu đồ tri thức thông qua node User Graph1 (HTTP Request).
• PostgreSQL (Trí nhớ ngắn hạn): Một node Postgres Chat Memory chuyên dụng được dùng để lưu trữ và truy xuất lịch sử hội thoại gần đây một cách hiệu quả.

Với phương pháp này, khi agent nhận tin nhắn, nó sẽ:

1. Truy vấn Zep để lấy các sự kiện liên quan nhất từ trí nhớ dài hạn.
2. Đồng thời, node Postgres Chat Memory cung cấp lịch sử hội thoại ngắn hạn trực tiếp cho AI Agent 3.
3. Thông tin từ hai nguồn này được kết hợp để tạo ra phản hồi.
4. Sau đó, hệ thống cập nhật cả PostgreSQL (cho lịch sử hội thoại) và Zep (cho biểu đồ tri thức) để đảm bảo dữ liệu luôn đồng bộ.

Mô hình lai này tận dụng tối đa điểm mạnh của từng công cụ, mang lại hiệu suất cao nhất với chi phí được kiểm soát chặt chẽ.

Ứng dụng thực tế của AI Agent có trí nhớ dài hạn

Việc trang bị trí nhớ dài hạn cho AI agent không chỉ là một tiến bộ kỹ thuật mà còn mở ra cánh cửa cho vô số ứng dụng thực tế.

Quản lý phiên (Session ID) cho từng người dùng

Một trong những ứng dụng quan trọng nhất là khả năng duy trì bộ nhớ độc lập cho từng người dùng. Trong workflow, Zep và PostgreSQL đều sử dụng message.chat.id từ Telegram Trigger làm Session ID. Điều này có nghĩa là mỗi người dùng Telegram sẽ có một biểu đồ tri thức và lịch sử hội thoại riêng biệt, giúp agent cá nhân hóa trải nghiệm cho từng người. Khái niệm này có thể mở rộng ra email, user ID trên web, và nhiều nền tảng khác.

Các trường hợp sử dụng cụ thể

Khi kết hợp trí nhớ dài hạn với các khả năng khác của agent, tiềm năng ứng dụng là vô hạn:

• Agent hỗ trợ onboarding: Ghi nhớ chi tiết về từng nhân viên mới, tiến độ học hỏi và các câu hỏi thường gặp.
• Bot giáo dục/gia sư: Ghi nhớ điểm mạnh, điểm yếu và phong cách học của từng học sinh để điều chỉnh phương pháp dạy.
• Hỗ trợ khách hàng nâng cao: Ghi nhớ lịch sử mua hàng, các vấn đề đã gặp và sở thích của khách hàng để cung cấp dịch vụ cá nhân hóa.
• Trợ lý cá nhân/doanh nghiệp: Ghi nhớ các mục tiêu dài hạn, lịch trình và các dự án đang triển khai của bạn.

Kết Luận

Việc nâng cấp bộ nhớ cho AI agent từ cơ chế ngắn hạn đơn giản lên cấu trúc biểu đồ tri thức là một bước tiến quan trọng. Mặc dù việc triển khai có thể phức tạp và tốn kém, nhưng bằng cách sử dụng các phương pháp tối ưu như truy vấn có chọn lọc qua HTTP request hoặc mô hình lai Zep và PostgreSQL, chúng ta hoàn toàn có thể xây dựng các hệ thống AI mạnh mẽ, hiệu quả về chi phí và có khả năng cá nhân hóa sâu sắc.

Nắm vững khái niệm về trí nhớ dài hạn và cách triển khai nó sẽ mở ra cánh cửa cho việc tạo ra những trải nghiệm đột phá, định hình lại cách chúng ta tương tác với công nghệ trong tương lai.