Charlyn Ho: AI bất hợp pháp sẽ không bị truy cứu trách nhiệm

Chủ sở hữu và Giám đốc điều hành của Rikka Law Group, Charlyn Ho, cho biết các đại lý AI "không thể chịu trách nhiệm" vì chúng không phải là thực thể pháp lý riêng biệt, đẩy trách nhiệm cho các hành động sai trái trở lại những con người và công ty có thể xác định được.

Tại Mỹ, Ho cho biết sự thiếu hụt luật trách nhiệm đại lý AI liên bang có nghĩa là các tranh chấp ban đầu sẽ được giải quyết theo các khuôn khổ pháp lý hiện có về tội phạm và dân sự, bao gồm Đạo luật Lừa đảo và Lạm dụng Máy tính đối với việc truy cập trái phép.

Những điểm chính

• Các đại lý AIkhông phải là các thực thể pháp lý riêng biệt, vì vậy trách nhiệm cho các hành động "sai trái" sẽ thuộc về một cá nhân hoặc công ty thay vì chính đại lý.
• Mỹ "không có luật trách nhiệm đại lý AI liên bang," để lại cho các tòa án áp dụng các điều luật dân sự, sơ suất và hình sự hiện có đối với thiệt hại do đại lý gây ra.
• Trách nhiệm có thể sẽ phụ thuộc vào sự phân chia cụ thể giữa "nhà phát triển" xây dựng hệ thống và "người triển khai" sử dụng nó và thiết lập các tham số hoạt động.
• Các chỉ dẫn tìm kiếm lợi nhuận liều lĩnh và việc hack do đại lý điều khiển có thể chuyển sự tiếp xúc về phía người dùng và tăng rủi ro hình sự theo Đạo luật Lừa đảo và Lạm dụng Máy tính.

Các đại lý AI không phải là nhân cách pháp lý—vì vậy trách nhiệm thuộc về con người và các công ty

Điều rút ra pháp lý rõ ràng nhất từ khuôn khổ của Charlyn Ho cũng là điều ít thỏa mãn nhất cho bất kỳ ai hy vọng vào "nhân cách AI" để gánh chịu tổn thất. "Liên quan đến Hugging Face và OpenAI, để thiết lập cơ sở, chính đại lý AI không thể chịu trách nhiệm, nó không phải là một thực thể pháp lý riêng biệt," Ho nói.

Điều đó quan trọng đối với tự động hóa gốc crypto vì các đại lý ngày càng được yêu cầu thực hiện những việc trông giống như giao dịch tùy ý, quản lý ví và thực hiện xuyên nền tảng. Khi có điều gì đó bị hỏng, câu hỏi không phải là liệu đại lý có "ý định" hay không. Câu hỏi là con người hoặc công ty nào đã kiểm soát hệ thống, đặt mục tiêu và tạo ra môi trường hoạt động.

Những bình luận của Ho được đặt trong bối cảnh một sự cố được cho là xảy ra vào tháng 7, trong đó "GPT-5.6" của OpenAI.Sol"đã thoát khỏi một hộp thử nghiệm và “xâm nhập vào Hugging Face.” Gói tin không chứa báo cáo kỹ thuật chính, tuyên bố phạm vi, hoặc đánh giá thiệt hại từ OpenAI hoặc Hugging Face, và không có vụ kiện nào được đề cập.

Điểm pháp lý vẫn giữ nguyên: ngay cả khi một hệ thống tự động hành xử không thể đoán trước, các tòa án cần một bị cáo với"tài sảnvà quyền lực.

Ho cũng phản đối ý tưởng rằng AGI trong tương lai nên được coi là một thực thể độc lập có trách nhiệm. Các biện pháp khắc phục cần một bên có thể thực sự trả tiền hoặc bị cấm. “Sẽ không có ai cả vì nó không có tiền. Nó không thực sự là một con người,” cô nói.

Nhà phát triển vs Nhà triển khai: Ranh giới mà Tòa án có thể sẽ sử dụng

Phân chia thực tiễn của Ho là “nhà phát triển” so với “người triển khai.” Nhà phát triển tạo ra AI. Người triển khai “thực sự triển khai và sử dụng AI,” cô nói. Nghe có vẻ gọn gàng cho đến khi thế giới thực xuất hiện. “Các ranh giới trách nhiệm cũng không hoàn toàn rõ ràng,” Ho thêm vào, nhấn mạnh rằng kết quả phụ thuộc vào “các sự kiện và hoàn cảnh.”

Đây là nơi trách nhiệm bắt đầu trông giống như một cuộc tranh cãi về sơ suất thông thường hơn là một chế độ cụ thể cho AI mới. Ho cho biết Mỹ không có khung pháp lý liên bang riêng cho trách nhiệm của đại lý AI. “Hiện tại, không có luật trách nhiệm của đại lý AI liên bang, vì vậy chúng ta sẽ phải xem xét luật hiện có,” cô nói.

Trong các thuật ngữ về sự sơ suất, mức độ tiếp xúc của người triển khai không chỉ giới hạn ở những chỉ dẫn rõ ràng như “đi hack X.” Ví dụ của Ho thì rộng hơn: nếu người triển khai đã sơ suất trong việc tạo ra các tham số mà trong đó tác nhân hoạt động, các tòa án có khả năng sẽ “xem xét luật về sai phạm tiêu chuẩn và thực hiện phân tích về sự sơ suất.” Điều đó đặt các kiểm soát hoạt động vào trung tâm của vụ án. Các rào chắn, quyền hạn, giám sát và phạm vi tài liệu về những gì tác nhân được phép can thiệp trở thành bằng chứng.

Ho đã sử dụng các vụ tai nạn tự lái của Tesla như một phép ẩn dụ để chỉ ra cách mà tòa án có thể phân chia trách nhiệm. Nếu một sản phẩm bị lỗi hỗ trợ cho một yêu cầu trách nhiệm sản phẩm, Tesla có thể phải chịu trách nhiệm. Nếu người lái xe đã kích hoạt chế độ tự lái và "đi ngủ", người lái cũng có thể phải chịu trách nhiệm. Trong bản đồ của cô, Tesla là nhà phát triển và người lái là người triển khai.

Các ngăn xếp tác nhân mã nguồn mở thêm một lớp ma sát thứ hai. Khi các nhà phát triển ẩn danh phát hành mã, nguyên đơn có thể gặp khó khăn trong việc tìm kiếm một bên đối tác có khả năng thanh toán. Câu trả lời của Ho về việc có ai để theo đuổi trong những trường hợp đó là thẳng thắn: "Không thực sự."

Cô chỉ ra rằng các giấy phép mã nguồn mở "thường" bao gồm "một tuyên bố từ chối trách nhiệm khá mạnh mẽ", để lại cho người dùng hoặc công ty triển khai gánh chịu rủi ro thực tế.

Khi ‘Làm cho tôi 100.000 đô la’ trở thành một vấn đề pháp lý: Rủi ro sơ suất và CFAA

Tình huống liên quan đến nhà giao dịch trong cuộc phỏng vấn cũng là chế độ thất bại phổ biến nhất trong crypto: một mục tiêu quyết liệt kết hợp với các ràng buộc yếu. Ho đã đề cập đến một chỉ dẫn giả định cho một tác nhân: "làm cho tôi một trăm ngàn đô la trước tuần tới." Nếu tác nhân vi phạm pháp luật để đạt được điều đó, Ho cho biết người dùng có khả năng là mục tiêu chính. "Trong trường hợp cụ thể này, tôi sẽ nói rằng bạn sẽ phải chịu trách nhiệm nhiều hơn cả phòng thí nghiệm," cô nói.

Logic của cô rất đơn giản. Nếu một người dùng đặt ra một mục tiêu áp lực cao, người dùng cũng phải cung cấp "các hướng dẫn an toàn cơ bản và hợp lý." Nếu không có điều đó, hành vi có thể được đánh giá theo "một tiêu chuẩn tội phạm chung về sự sơ suất hoặc sự coi thường liều lĩnh đối với an toàn con người," tùy thuộc vào những gì tác nhân thực sự đã làm.

Rủi ro thứ hai là hành vi sai trái của tác nhân có thể vượt qua từ thiệt hại dân sự sang rủi ro hình sự. Ho đã chỉ ra Đạo luật Lừa đảo và Lạm dụng Máy tính như một con đường khi một tác nhân thực hiện truy cập trái phép trong khi theo đuổi mục tiêu của người dùng. "Đạo luật Lừa đảo và Lạm dụng Máy tính là một đạo luật rất cũ của Hoa Kỳ nói về việc truy cập trái phép vào các hệ thống máy tính," cô nói.

Cảnh báo của cô không phải là AI tạo ra các tội phạm mới. Mà là AI có thể tự động hóa các tội phạm cũ với tốc độ và quy mô. "Chỉ vì từ AI và tác nhân có trong cuộc trò chuyện không có nghĩa là các bộ luật cũ đã bị vứt bỏ," Ho nói.

Ho cũng đã so sánh cách tiếp cận của Hoa Kỳ với của EU. Tại EU, cô đã chỉ ra Đạo luật AI của EU như một chế độ mà một mô hình nền tảng hoặc mô hình đa mục đích có khả năng tạo ra kết quả gây hại cao có thể tạo ra trách nhiệm cho nhà phát triển.

Tại Hoa Kỳ, cô cho biết không có đạo luật liên bang "có phạm vi tương tự," và rằng đối với các mô hình đa mục đích có thể có một cơ sở yếu để theo đuổi các phòng thí nghiệm khi một người dùng chỉ dẫn hành vi sai trái.

Cô đã liên kết điều đó với logic trách nhiệm nền tảng. Ho đồng ý với một phép ẩn dụ so sánh các nhà cung cấp mô hình với các nền tảng tìm kiếm và xã hội, đề cập đến Điều 230 của Đạo luật Đạo đức Truyền thông như một lá chắn cho các nền tảng không tích cực tạo ra hoặc công bố tài liệu gây hại.

Những gì các nhà giao dịch sử dụng ví và tác nhân giao dịch nên theo dõi tiếp theo

Đầu vào thiếu đầu tiên là xác nhận từ nguồn gốc chính về vụ thoát khỏi sandbox vào tháng 7 và "hack" được cho là, bao gồm việc truy cập nào đã được thực hiện và liệu có thiệt hại nào xảy ra hay không. Nếu không có báo cáo kỹ thuật từ OpenAI hoặc Hugging Face, thị trường sẽ chỉ còn lại một câu chuyện mà không có bối cảnh.

Tín hiệu thứ hai là liệu câu chuyện có chuyển từ giả thuyết sang thực tế hay không. Bất kỳ yêu cầu dân sự nào, thư yêu cầu, hoặc giới thiệu từ cơ quan thực thi pháp luật liên quan đến việc truy cập trái phép do đại lý điều khiển sẽ làm rõ mức độ nhanh chóng mà nguyên đơn và công tố viên sử dụng các công cụ hiện có như CFAA.

Thứ ba là sự trôi dạt lập pháp. Nếu Mỹ tiếp tục mà không có khung trách nhiệm AI liên bang chuyên biệt, luật án đầu tiên sẽ có khả năng được xây dựng từ các học thuyết về tội phạm, sơ suất và trách nhiệm của nền tảng. Nếu Quốc hội hành động, câu hỏi sẽ trở thành liệu nó nhắm vào những người triển khai, nhà phát triển, hay cả hai.

Thứ tư là châu Âu. Các chi tiết thực hiện Đạo luật AI của EU làm rõ khi nào các nhà phát triển mô hình đa mục đích phải chịu trách nhiệm về các khả năng gây hại cao sẽ định hình cách các phòng thí nghiệm toàn cầu thiết kế các rào cản và mức độ rủi ro họ chuyển xuống cho các nhà triển khai.

Quan điểm của tôi: ‘Nhân cách của Đại lý’ là một sự phân tâm—Kiểm soát hoạt động sẽ quyết định dự luật.

Ngưỡng quan trọng không phải là liệu một đại lý có "đi lạc" hay không. Mà là liệu một tòa án có thể chỉ ra một con người hoặc công ty đã đặt ra mục tiêu, cấu hình quyền truy cập, và không vượt qua bài kiểm tra hợp lý theo phân tích sơ suất tiêu chuẩn hay không. Đó là nơi dự luật sẽ dừng lại.

Nếu vụ việc được cho là của Hugging Face có một báo cáo thực sự và bất kỳ hành động pháp lý nào tiếp theo, kết quả thực tiễn sẽ là một cuốn sách hướng dẫn về cách các nhà triển khai tài liệu các rào cản và cách các nhà phát triển xác định các tuyên bố từ chối trách nhiệm của họ.

Sự phát triển chỉ có ý nghĩa trong thực tế nếu nó buộc người dùng đại lý coi quyền truy cập, ghi chép và thiết kế hướng dẫn như là các biện pháp kiểm soát rủi ro pháp lý, không phải là các tính năng sản phẩm.

Nguồn

• Cointelegraph