Giải pháp AI 'Bedrock' của Amazon giúp giải quyết vấn đề silo trong doanh nghiệp

"Mô hình tự do, quản trị thống nhất"

Giải pháp AI hoàn toàn quản lý 'Bedrock' của Amazon Web Services (AWS) đang thu hút sự chú ý như một giải pháp kỹ thuật để giải quyết vấn đề silo AI khác nhau giữa các phòng ban. Điểm mấu chốt là các phòng ban có thể tự do sử dụng các mô hình mà họ mong muốn trên một nền tảng duy nhất, trong khi tiêu chuẩn về bảo mật và dữ liệu có thể được thống nhất trên toàn công ty.

Vào ngày 19 tháng 8, AWS đã đưa ra giải pháp để giải quyết vấn đề silo AI trong nội bộ doanh nghiệp thông qua Bedrock. Bedrock là một nền tảng tích hợp cung cấp các mô hình nền tảng chính từ các công ty hàng đầu trong ngành như Amazon, Anthropic, OpenAI, Meta, Mistral, Cohere, AI21 Labs thông qua một API duy nhất. Nó được cung cấp dưới dạng không máy chủ mà không cần quản lý hạ tầng, chỉ cần thanh toán dựa trên mức sử dụng.

Ông Choi Young-jun, Tổng Giám đốc Công nghệ AI của AWS, cho biết: "Bedrock cho phép truy cập vào nhiều mô hình nền tảng thông qua một API duy nhất, kết nối và tích hợp kiến thức phân tán trong công ty, và áp dụng chính sách AI có trách nhiệm chung cho toàn công ty thông qua các biện pháp bảo vệ và lõi đại lý".

Điểm cốt lõi của Bedrock là đảm bảo tính tự chủ của các phòng ban và quản trị toàn công ty đồng thời. Đầu tiên, tính năng 'Cơ sở kiến thức được quản lý' kết nối dữ liệu phân tán trong các tài liệu, cơ sở dữ liệu và lưu trữ trong công ty, cung cấp khả năng tạo ra thông tin tăng cường tìm kiếm (RAG) dưới dạng hoàn toàn quản lý. Từ việc thu thập dữ liệu đến phân đoạn, nhúng và quy trình tìm kiếm đều được tự động hóa, giúp loại bỏ sự ngắt quãng thông tin giữa các phòng ban và đảm bảo toàn bộ tổ chức chia sẻ cùng một nguồn kiến thức.

Chính sách bảo mật và AI có trách nhiệm cũng được áp dụng đồng bộ từ trung tâm. Tính năng 'Guardrail' áp dụng các tiêu chuẩn chung cho tất cả các ứng dụng AI, bao gồm lọc nội dung, che giấu thông tin cá nhân (PII), xác minh nguồn để ngăn chặn hiện tượng ảo giác, và bảo vệ chống lại các cuộc tấn công vào lời nhắc. Thêm vào đó, hệ thống quản lý danh tính (IAM) của AWS được kết hợp để kiểm soát chi tiết ai có thể sử dụng mô hình và dữ liệu nào dựa trên vai trò.

Giải pháp cho lĩnh vực đại lý cũng đã được thiết lập. 'Agent Core' của Bedrock là một nền tảng hạ tầng có thể tiếp nhận bất kỳ đại lý nào được phát triển bằng các khung như CrewAI, LangGraph, LlamaIndex, Google ADK.

△ Môi trường thực thi hoàn toàn cách ly hỗ trợ phiên lên đến 8 giờ △ Cổng kết nối chuyển đổi API, Lambda, MCP server thành công cụ tương thích với đại lý △ Chính sách định nghĩa ranh giới hành vi của đại lý bằng ngôn ngữ tự nhiên △ Chức năng đánh giá giám sát chất lượng dựa trên 13 tiêu chí đã được xây dựng trước.

Dù các phòng ban phát triển đại lý một cách độc lập, nhưng chúng vẫn hoạt động trên một hạ tầng quản lý bảo mật, giám sát và chất lượng chung, cho phép mở rộng toàn công ty mà không có khoảng trống trong quản trị.

Ông Choi nhấn mạnh: "Nếu các doanh nghiệp do dự trong việc áp dụng AI, khoảng cách về năng suất sẽ gia tăng, và nếu mỗi phòng ban tự ý áp dụng AI mà không có hệ thống, các tiêu chuẩn về mô hình, dữ liệu và bảo mật sẽ bị phân mảnh, khiến việc triển khai đại lý AI vượt qua ranh giới giữa các phòng ban trở nên khó khăn hơn. Cấu trúc này cho phép đổi mới tự chủ của từng phòng ban và quản trị toàn công ty đồng thời, đây chính là giải pháp kỹ thuật cho vấn đề silo AI".

* Bài viết này được dịch tự động bằng AI.

Kim Seong Hyeon minus1@ajunews.com