Vì sao AI cần học cách “mơ” và “quên”?

Ở con người, giấc ngủ sâu là lúc bộ não sàng lọc, củng cố và loại bỏ thông tin. Những ký ức quan trọng được giữ lại, còn những thông tin không cần thiết sẽ bị “quên đi”. Quá trình này giúp con người học hỏi hiệu quả hơn và duy trì sự minh mẫn.

Tương tự, các chuyên gia nhận thấy AI cũng cần có cơ chế tương tự để quản lý ký ức. Nếu không, AI sẽ gặp tình trạng “quá tải thông tin”, dẫn đến suy giảm hiệu suất và phản hồi không chính xác.

Bilt và Letta tiên phong áp dụng “tính toán thời gian ngủ” cho AI

Một ví dụ điển hình là công ty Bilt – đơn vị chuyên cung cấp ưu đãi cho người thuê nhà – đã triển khai hàng triệu “tác nhân AI” sử dụng công nghệ của startup Letta.

Các tác nhân này không chỉ học hỏi từ các cuộc trò chuyện trong quá khứ, mà còn chia sẻ ký ức với nhau. Thông qua một quy trình gọi là “tính toán thời gian ngủ” (sleep computation), hệ thống sẽ:

• Xác định thông tin nào nên lưu trữ dài hạn.
• Thông tin nào chỉ cần truy xuất nhanh hoặc có thể xóa bỏ.

Kỹ sư AI Andrew Fitz của Bilt cho biết: “Việc cập nhật một khối bộ nhớ duy nhất có thể thay đổi hành vi của hàng triệu tác nhân. Điều này giúp kiểm soát thông tin mà AI sử dụng một cách hiệu quả và an toàn hơn.”

Vượt qua giới hạn “trí nhớ ngắn hạn” của LLM

Các mô hình ngôn ngữ lớn (LLM) như ChatGPT thường chỉ có khả năng ghi nhớ trong một cửa sổ ngữ cảnh hạn chế. Khi thông tin vượt quá giới hạn này, mô hình dễ bị “nhiễm độc ngữ cảnh”, dẫn đến trả lời sai hoặc thiếu chính xác.

CEO Charles Packer của Letta chia sẻ: “Bộ não con người luôn cải thiện và hấp thụ thông tin như một miếng bọt biển. Ngược lại, nếu để các mô hình ngôn ngữ hoạt động quá lâu mà không làm mới ngữ cảnh, chúng sẽ bị lẫn lộn và giảm hiệu quả.”

Packer cùng đồng sáng lập Sarah Wooders từng phát triển MemGPT – một dự án mã nguồn mở cho phép LLM tự phân loại thông tin nên lưu vào bộ nhớ ngắn hạn hay dài hạn. Letta đã tiếp tục nâng cấp công nghệ này để các tác nhân AI có thể học hỏi liên tục trong môi trường nền, giống như con người học từ trải nghiệm hàng ngày.

Xu hướng phát triển bộ nhớ thực thụ cho AI

Không chỉ Bilt và Letta, nhiều công ty công nghệ khác cũng đang tham gia vào xu hướng trang bị bộ nhớ thực thụ cho AI.

• LangChain – công ty tiên phong trong kỹ thuật ngữ cảnh – cho rằng trí nhớ là yếu tố không thể thiếu để giúp AI phản hồi đúng vào thời điểm thích hợp.
• OpenAI cũng đang triển khai khả năng lưu trữ thông tin trong ChatGPT nhằm cá nhân hóa trải nghiệm người dùng.
• CEO Clem Delangue của Hugging Face (đồng thời là nhà đầu tư vào Letta) nhấn mạnh rằng: “Không chỉ mô hình cần mở, mà cả hệ thống bộ nhớ của AI cũng cần minh bạch để các nhà phát triển dễ dàng kiểm soát.”

Nghệ thuật “lãng quên” trong AI

Một điểm đột phá thú vị là khả năng “lãng quên có chủ đích” – tức là AI có thể xóa thông tin theo yêu cầu hoặc khi nhận thấy không còn cần thiết.

CEO Packer cho biết: “Nếu người dùng yêu cầu xóa một dự án khỏi bộ nhớ, tác nhân AI phải có khả năng quay lại và ghi đè ký ức đó một cách chọn lọc.”

Điều này gợi nhớ đến tiểu thuyết nổi tiếng “Người máy có mơ về cừu điện không?” của Philip K. Dick, nơi những cỗ máy không chỉ biết hành động mà còn có ký ức, cảm xúc và mơ mộng như con người.

Sự phát triển của công nghệ bộ nhớ trong AI đang đưa trí tuệ nhân tạo tiến gần hơn tới khả năng học hỏi, ghi nhớ và thích ứng giống con người. Việc “biết nhớ” và “biết quên” sẽ giúp AI trở nên thông minh hơn, ít mắc lỗi hơn và phục vụ người dùng một cách hiệu quả, an toàn hơn.

Tuy nhiên, đi kèm với đó là những thách thức về quản lý dữ liệu, đạo đức sử dụng và kiểm soát hành vi của AI. Các công ty phát triển và triển khai AI cần có chiến lược rõ ràng, đảm bảo sự minh bạch và khả năng giám sát trong suốt quá trình hoạt động của hệ thống.

Nguồn: Dân Trí

Bài viết được thực hiện bởi Công ty Luật TNHH LHLegal – chuyên tư vấn pháp lý về công nghệ, bảo vệ dữ liệu và chuyển đổi số cho doanh nghiệp. Nếu Quý khách hàng cần tư vấn pháp lý, vui lòng liên hệ hotline để được hỗ trợ nhanh chóng và hiệu quả.