Sáng kiến này do Trung tâm An toàn AI của Pháp (CeSIA), The Future Society và Đại học UC Berkeley khởi xướng, nhằm kêu gọi các chính phủ đưa ra thỏa thuận quốc tế về những giới hạn tuyệt đối mà AI không bao giờ được phép vượt qua trước cuối năm 2026. 

Với hơn 200 nhân vật nổi tiếng và 70 tổ chức từ chính trị, khoa học, xã hội và công nghiệp ủng hộ lời kêu gọi, trong số những người ký tên vào đề xuất trên có cựu Thủ tướng Italy Enrico Letta, cựu Tổng thống Ireland Mary Robinson (hiện là Cao ủy Nhân quyền Liên hợp quốc), các nghị sỹ Nghị viện châu Âu (EP), cùng 10 người đoạt giải Nobel và các nhà lãnh đạo công nghệ như đồng sáng lập của công ty OpenAI và giám đốc kỹ thuật của tập đoàn Google. Những người ký tên khẳng định nếu không có các tiêu chuẩn toàn cầu, nhân loại có nguy cơ phải đối mặt với các mối đe dọa do AI gây ra, từ các đại dịch được tạo ra bằng công nghệ và các chiến dịch tung tin giả đến các vi phạm nhân quyền quy mô lớn và việc con người mất quyền kiểm soát đối với các hệ thống tiên tiến.

Ông Charbel-Raphaël Segerie, Giám đốc điều hành CeSIA, nhấn mạnh: “Nếu các quốc gia chưa thể đồng thuận về điều họ muốn làm với AI, ít nhất phải thống nhất điều AI tuyệt đối không được làm".

Một số khu vực đã đặt ra giới hạn, như Đạo luật AI của Liên minh châu Âu hay thỏa thuận Mỹ - Trung về việc vũ khí hạt nhân luôn do con người kiểm soát. Tuy nhiên, vẫn chưa có sự đồng thuận toàn cầu.

Theo bà Niki Iliadis (người đứng đầu danh mục Quản trị AI toàn cầu củaThe Future Society) cho rằng những cam kết tự nguyện của doanh nghiệp “chưa đủ sức ràng buộc”. Bà kêu gọi cần có một tổ chức quốc tế độc lập, có thẩm quyền để định nghĩa và giám sát các “lằn ranh đỏ”.

Giáo sư Stuart Russell (Đại học UC Berkeley) cho rằng ngành AI cần chọn con đường công nghệ an toàn ngay từ đầu, giống như ngành năng lượng hạt nhân chỉ xây nhà máy sau khi tìm ra cách kiểm soát rủi ro. Ông khẳng định: đặt “lằn ranh đỏ” không cản trở phát triển kinh tế, mà ngược lại giúp AI phục vụ con người an toàn, bền vững.

Theo những người ủng hộ đề xuất trên, các quy định của Liên minh châu Âu về AI là đáng hoan nghênh, nhưng việc chắp vá một cách rời rạc của các quy tắc AI cấp quốc gia và Liên minh châu Âu sẽ không đủ để điều chỉnh một công nghệ vốn được thiết kế để vượt qua các biên giới. Họ kêu gọi thành lập một cơ quan hoặc tổ chức độc lập để đảm nhiệm việc thực thi các quy tắc đó.