Phát hiện hàng loạt thông tin cá nhân trong nhật ký AI... Trung tâm cuộc gọi và chatbot nội bộ gặp nguy hiểm

Nghiên cứu mới cho thấy thông tin cá nhân có thể bị rò rỉ thông qua nhật ký suy luận của các công ty đã xây dựng dịch vụ AI như trung tâm cuộc gọi và tự động hóa công việc nội bộ bằng API của Anthropic, OpenAI và Google.
 
Theo bài báo được đăng tải trên Hugging Face vào ngày 12, nghiên cứu mang tên 'Đánh cắp dấu vết suy luận từ API LLM độc quyền' chỉ ra rằng các mô hình tiên tiến của ba công ty này phát hiện ra khuyết điểm cấu trúc trong khối 'suy luận mã hóa' mà chúng trả về cho khách hàng.
 
Suy luận mã hóa là phương pháp mà mô hình AI sử dụng để truyền đạt quá trình suy nghĩ nội bộ trước khi đưa ra câu trả lời cuối cùng mà không tiết lộ nguyên văn, nhằm ngăn chặn đối thủ nhìn vào quy trình này và đào tạo (chưng cất) mô hình của riêng họ, đồng thời bảo vệ người dùng khỏi việc lộ quy trình an toàn. Tất cả ba công ty đều áp dụng phương pháp này.
 
Vấn đề là khối mã hóa này có thể tương thích giữa các mô hình AI khác nhau. Khi mô hình cấp cao yêu cầu giải mã khối mã hóa, nó sẽ được trả về dưới dạng văn bản thuần. Bài báo đã chứng minh điều này thông qua thí nghiệm giải mã khối mã hóa do Claude Oupus 4.8 của Anthropic tạo ra bằng mô hình yếu hơn Claude Haiku 4.5. Cũng đã phát hiện ra khuyết điểm cấu trúc tương tự trong các dòng GPT của OpenAI và dòng Gemini của Google.
 
Nhóm nghiên cứu đã giải mã 310.532 khối suy luận từ 6.708 bản ghi hoạt động của các tác nhân thực tế được đăng tải trên kho lưu trữ công khai. Trong số đó, họ đã xác định được 367 trường hợp thông tin cá nhân (PII) và 182 trường hợp thông tin xác thực như khóa API và mật khẩu. Điều này dự kiến sẽ gây ra tác động lớn vì dữ liệu được trích xuất thực sự từ các nhật ký công khai.
 
Các công ty trong nước sử dụng API của ba công ty này cũng có thể đối mặt với nguy cơ rò rỉ thông tin cá nhân. Nhiều công ty dịch vụ AI trong nước đang tích hợp API của Anthropic, OpenAI và Google vào các dịch vụ tư vấn trung tâm cuộc gọi và tự động hóa công việc nội bộ.

Samsung Electronics đã áp dụng API dựa trên ChatGPT cho toàn bộ quy trình phát triển phần mềm, phát triển sản phẩm và marketing. LG Electronics, LG CNS, Samsung SDS, Krafton và Toss cũng đang sử dụng API dựa trên ChatGPT cho tự động hóa công việc nội bộ. Ngành tài chính, bao gồm Shinhan Bank, cũng đang có xu hướng tự động hóa tư vấn trung tâm cuộc gọi bằng AI Contact Center (AICC).
 
Đặc biệt, các dịch vụ chatbot đa lượt cần duy trì ngữ cảnh hội thoại hoặc các tác nhân thực hiện công việc qua nhiều bước sẽ phải trao đổi khối suy luận mã hóa qua từng phiên, do đó dễ bị lộ hơn trước lỗ hổng này. Cần có sự kiểm tra về việc lưu trữ và chia sẻ nhật ký phiên, cùng với việc các cơ quan liên quan cần có biện pháp ứng phó thích hợp.



* Bài viết này được dịch tự động bằng AI.

• #rò rỉ thông tin cá nhân
• #giải mã suy luận
• #an ninh API