Đầu năm 2025, khoảng 29% mã Python mới tại Mỹ được tạo ra bởi AI, gây ra lo ngại trong ngành phần mềm doanh nghiệp, được gọi là 'SaaS-pocalypse'. AI không chỉ là công cụ thụ động mà còn hấp thụ toàn bộ luồng công việc nhận thức, lấy đi quyền phán quyết của con người, báo hiệu sự chuyển giao quyền lực cơ bản.
Giáo sư Park Han-woo từ Đại học Yeungnam nhận định rằng nền kinh tế toàn cầu chưa sẵn sàng cho sự thay đổi này. Trong cuốn sách 'Tài sản kỹ thuật số và hệ điều hành tin cậy trong thời đại AI' xuất bản ngày 20 tháng 4, ông theo dõi quá trình AI phát triển từ trợ lý đơn giản thành các tác nhân tự chủ quyết định tài chính và quản trị.
Ông nhấn mạnh: "Phán quyết là quyền lực. Giao quyền này cho AI mà không có cơ chế kiểm soát có thể gây nguy hiểm." Ông cho rằng AI có thể tạo thông tin nhưng không chịu trách nhiệm, và con người cần kiểm tra kết quả của AI.
Phản ánh sự bất bình đẳng xã hội
Việc giao quyền cho máy móc phơi bày những khiếm khuyết trong xã hội. Ông Park dẫn chứng một thí nghiệm yêu cầu AI tạo hình ảnh người bán tất và nhân viên chứng khoán, kết quả cho thấy định kiến cố hữu khi mô tả người bán tất là người da đen to lớn và nhân viên chứng khoán là người da trắng mặc vest.
Ông Park cho rằng cần có sự can thiệp của con người để ngăn chặn sự phân biệt tự động này, thông qua việc tinh lọc dữ liệu trước khi học, đảm bảo minh bạch trong quá trình kết luận và giám sát của con người trong các quyết định quan trọng.
Thách thức về chủ quyền từ thuật toán
Ông Park đề xuất 'AIDAO' - tổ chức tự trị phi tập trung kết hợp AI, là mô hình kết hợp suy luận xác suất của máy móc và khả năng thực thi không thể thao túng của blockchain.
Trong hệ thống AIDAO, nếu một tác nhân đề xuất di chuyển 20% tài sản theo biến động thị trường, quyết định này chỉ được thực hiện sau khi qua kiểm chứng và phê duyệt cuối cùng của con người.
Ông nhấn mạnh: "Điều này quan trọng vì nó tách biệt phán quyết, thực thi và trách nhiệm."
Trong bối cảnh các nước phương Tây đã đối mặt với tác động của quản trị thuật toán, Hàn Quốc cũng cần chuyển đổi từ nền tảng doanh nghiệp cô lập sang kiến trúc toàn cầu chia sẻ. Hệ điều hành tin cậy yêu cầu bằng chứng có thể kiểm chứng thay vì niềm tin mù quáng.
Ông Park khẳng định: "AI giỏi về 'cách thức' nhưng không thể hỏi 'tại sao'. AI đưa ra câu trả lời, nhưng con người đặt câu hỏi."
Thách thức trong thời đại AI không phải là bước nhảy vọt công nghệ mà là thiết kế kiến trúc tin cậy, và quyền thiết kế này phải thuộc về con người. Thảo luận học thuật về AIDAO tiếp tục diễn ra, và chính phủ Hàn Quốc đã bắt đầu điều chỉnh, yêu cầu đánh dấu watermark trên sản phẩm AI từ tháng 1 năm nay.
* Bài viết này được dịch tự động bằng AI.
© Bản quyền thuộc về Thời báo Kinh tế AJU & www.ajunews.com: Việc sử dụng các nội dung đăng tải trên vietnam. kyungjeilbo.com phải có sự đồng ý bằng văn bản của Aju News Corporation.