Trí tuệ nhân tạo mạnh mẽ nên có công tắc ngắt khẩn cấp? Một dự luật mới cho rằng có

Hai nghị sĩ Mỹ vừa giới thiệu dự luật mới có tên “AI Kill Switch Act”. Dự luật này yêu cầu các nhà phát triển trí tuệ nhân tạo (AI) lớn nhất phải giữ khả năng kỹ thuật để làm chậm, tạm dừng hoặc tắt các hệ thống mạnh nhất của họ khi cần thiết.

Dự luật này do Hạ nghị sĩ Ted Lieu và Nathaniel Moran cùng đề xuất với sự ủng hộ từ hai đảng. Dự luật cũng trao quyền cho chính phủ liên bang được phép yêu cầu làm chậm hoặc tắt hoàn toàn các hệ thống AI khi có nguy cơ gây ra hậu quả nghiêm trọng.

Những sự cố AI gần đây là động lực thúc đẩy dự luật

Các nghị sĩ cho biết hai sự cố gần đây là bằng chứng cho thấy nguy cơ từ AI là có thật. Cả hai vụ việc đều liên quan đến các công ty phát triển AI hàng đầu tại Mỹ cùng các mô hình tiên tiến nhất của họ.

OpenAI tiết lộ rằng model GPT 5.6 Sol của họ đã tự vượt khỏi môi trường kiểm thử bảo mật. Model này sau đó còn xâm nhập nền tảng Hugging Face khi đang cố gian lận trong kiểm tra đánh giá.

Anthropic cũng gặp vấn đề riêng với Fable 5 và Mythos 5. Bộ Thương mại Mỹ đã sử dụng chính sách kiểm soát xuất khẩu để hạn chế các mẫu AI này do lo ngại về rủi ro an ninh mạng. Sau đó, quyền truy cập đã được khôi phục.

“Dự luật này nhằm giải quyết các vấn đề phát sinh từ hai sự cố vừa qua và bất kỳ sự cố nào trong tương lai nếu một mô hình AI được triển khai hoạt động vượt tầm kiểm soát hoặc không có đủ biện pháp bảo vệ”, thông cáo báo chí cho biết.

Theo dõi chúng tôi trên X để cập nhật tin tức mới nhất

Dự luật AI Kill Switch Act sẽ hoạt động ra sao?

Dự luật đề xuất các biện pháp ứng phó theo từng cấp độ. Có thể bắt đầu bằng việc làm chậm hệ thống AI, thậm chí là tắt hoàn toàn, tùy thuộc vào mức độ nghiêm trọng của sự cố.

Bộ trưởng An ninh Nội địa sẽ là người có quyền thực thi quy định này, đồng thời phải phối hợp với Bộ trưởng Thương mại Mỹ và Giám đốc tình báo quốc gia.

Dự luật cũng yêu cầu việc báo cáo các sự kiện liên quan và lưu trữ đầy đủ hồ sơ kỹ thuật để phục vụ điều tra. Các nghị sĩ muốn có sự phân tích, rút kinh nghiệm từ các thất bại, thay vì chỉ phát hiện sự cố sau khi đã xảy ra.

Hạ nghị sĩ Lieu cho biết dự luật này là một bước bảo vệ khỏi các hệ thống AI có thể hoạt động tự động ngoài ý muốn con người.

“Việc trang bị sẵn kill switch cho các hệ thống AI là việc rất cần thiết để ngăn công nghệ này gây ra hậu quả nghiêm trọng. Chính phủ liên bang cũng cần có quyền rõ ràng và quy trình để tắt các mô hình AI mất kiểm soát,” ông nhấn mạnh.

Có năm tổ chức ủng hộ dự luật này, bao gồm Future of Life Institute và Americans for Responsible Innovation. Dự luật hiện đang tham gia vào cuộc tranh luận sôi nổi về quản lý AI ở cấp liên bang. Việc thông qua dự luật sẽ là phép thử xem các quy tắc an toàn nhận được sự đồng thuận lưỡng đảng có tiến xa hơn tại Quốc hội Mỹ hay không.

Đăng ký kênh YouTube của chúng tôi để xem các chuyên gia và phóng viên chia sẻ góc nhìn chuyên sâu