Kể từ khi ra mắt vào cuối tháng 11/2022, ChatGPT đã trở thành một trong những dịch vụ internet phát triển nhanh nhất, vượt mốc 100 triệu người dùng trong vòng hai tháng đầu tiên. Nhờ khả năng tạo văn bản giống con người dựa trên những dữ liệu sẵn có tiện lợi chưa từng có nên mô hình này đã lan truyền nhanh chóng.
Các mô hình ngôn ngữ lớn có thể được sử dụng cho nhiều mục đích khác nhau, như ChatGPT của Open AI, có thể mang lại lợi ích cho doanh nghiệp và người dùng cá nhân. Tuy nhiên, cơ quan cảnh sát châu Âu nhấn mạnh rằng họ cũng đặt ra một thách thức cho việc thực thi pháp luật vì những kẻ xấu có thể khai thác chúng.
Báo cáo cho biết: “Tội phạm đã nhanh chóng khai thác các công nghệ mới và kịp thời đưa ra các cách thức hoạt động tội phạm, các dấu hiệu tội phạm mạng đã xuất hiện chỉ vài tuần sau khi ChatGPT được phát hành công khai”.
Báo cáo này được tổng kết từ một loạt hội thảo do Phòng thí nghiệm đổi mới của Europol tổ chức để thảo luận về khả năng sử dụng ChatGPT trong tội phạm như một ví dụ nổi bật nhất về các mô hình ngôn ngữ lớn và cách thức sử dụng các mô hình AI này để hỗ trợ công việc điều tra.
Điểm yếu của hệ thống
Europol chỉ ra thực tế rằng các quy tắc kiểm duyệt của ChatGPT có thể bị phá vỡ thông qua cái gọi là kỹ thuật mau lẹ (prompt engineering), từ yêu cầu cung cấp đầu vào trong mô hình AI một cách chính xác để có được đầu ra cụ thể.
Vì ChatGPT là một công nghệ tương đối mới, các lỗ hổng liên tục được tìm thấy mặc dù các bản vá được liên tục cập nhật. Những sơ hở này có thể ở dạng yêu cầu AI đưa ra lời nhắc, yêu cầu AI giả vờ là một nhân vật hư cấu hoặc cung cấp câu trả lời bằng mã.
Các cách lách luật khác có thể thay thế các từ kích hoạt hoặc thay đổi ngữ cảnh sau này trong quá trình tương tác. Cơ quan EU nhấn mạnh rằng các giải pháp thay thế hiệu quả nhất, quản lý để bẻ khóa mô hình khỏi mọi ràng buộc, liên tục phát triển và trở nên hết sức phức tạp.
Ứng dụng hoạt động tội phạm
Các chuyên gia đã xác định một loạt các trường hợp sử dụng bất hợp pháp trong ChatGPT cũng đã xuất hiện trong các mô hình tiên tiến nhất của OpenAI, GPT-4, trong đó khả năng phản hồi có hại của hệ thống thậm chí có một số trường hợp còn cao hơn trong mô hình ChatGPT.
Vì ChatGPT có thể tạo thông tin có thể đọc để sử dụng nên Europol cảnh báo rằng, công nghệ mới nổi này có thể đẩy nhanh quá trình nghiên cứu một tác nhân độc hại mà không cần biết trước về lĩnh vực tội phạm tiềm ẩn như đột nhập vào nhà, khủng bố, tội phạm mạng hoặc lạm dụng tình dục trẻ em.
“Mặc dù tất cả thông tin mà ChatGPT cung cấp đều có sẵn miễn phí trên internet, nhưng khả năng sử dụng mô hình để cung cấp các bước cụ thể bằng cách đặt câu hỏi theo ngữ cảnh có nghĩa là hacker sẽ dễ dàng hiểu rõ hơn và sau đó thực hiện nhiều loại tội phạm khác nhau,” báo cáo cho biết.
Lừa đảo, hành vi gửi email giả mạo để khiến người dùng nhấp vào liên kết, là một lĩnh vực ứng dụng quan trọng. Trước đây, những trò gian lận này có thể dễ dàng bị phát hiện do lỗi ngữ pháp hoặc ngôn ngữ, trong khi văn bản do AI tạo ra cho phép những trò mạo danh này có tính thực tế cao.
Tương tự như vậy, gian lận trực tuyến có thể được tăng cường hình ảnh về tính hợp pháp bằng cách sử dụng ChatGPT để tạo ra sự tương tác giả mạo trên mạng xã hội, có thể biến đổi một đề nghị gian lận là hợp pháp. Nói cách khác, nhờ các mô hình này, “các loại lừa đảo trực tuyến và lừa đảo này có thể được tạo ra nhanh hơn, xác thực hơn nhiều và ở quy mô tăng lên đáng kể”.
Ngoài ra, khả năng mạo danh phong cách và lời nói của một người cụ thể của AI có thể dẫn đến một số trường hợp lạm dụng liên quan đến tuyên truyền, ngôn từ kích động thù địch và thông tin sai lệch.
Bên cạnh văn bản, ChatGPT cũng có thể tạo mã bằng các ngôn ngữ lập trình khác nhau, mở rộng khả năng của các tác nhân độc hại có ít hoặc không có kiến thức về phát triển CNTT để biến ngôn ngữ tự nhiên thành phần mềm độc hại.
Ngay sau khi phát hành ChatGPT ra công chúng, công ty bảo mật Check Point Research đã tường trình về cách thức mô hình AI được sử dụng để tạo ra một luồng lây nhiễm hoàn chỉnh bằng cách tạo các email lừa đảo từ lừa đảo trực tiếp đến chạy một shell ngược chấp nhận các lệnh bằng tiếng Anh.
“Điều quan trọng là các biện pháp bảo vệ ngăn ChatGPT cung cấp mã độc tiềm ẩn chỉ hoạt động nếu mô hình hiểu những gì nó đang làm. Nếu các lời nhắc được chia thành các bước riêng lẻ, thì việc bỏ qua các biện pháp an toàn này là rất dễ dàng,” báo cáo cho biết thêm.
Tương lai của các mô hình AI
ChatGPT được coi là một mô hình AI có mục đích chung, một mô hình mà có thể được điều chỉnh để thực hiện các nhiệm vụ khác nhau.
Hiện nay, Nghị viện Châu Âu đang xây dựng về Đạo luật AI, các MEP đã thảo luận về việc đưa ra một số yêu cầu nghiêm ngặt đối với mô hình nền tảng này, bao gồm quản lý rủi ro, độ ổn định và tính kiểm soát chất lượng của hệ thống.
Europol đánh giá rằng, thách thức do các hệ thống AI đặt ra sẽ là tăng lên khi chúng ngày càng trở nên phổ biến và tinh vi, chẳng hạn như với việc tạo ra các nội dung giả mạo sâu có sức thuyết phục cao.
Một rủi ro khác là các mô hình ngôn ngữ lớn này có thể xuất hiện trên web đen mà không có bất kỳ biện pháp bảo vệ nào và được đào tạo bằng dữ liệu đặc biệt có hại. Loại dữ liệu sẽ cung cấp cho các hệ thống này và cách thức chúng có thể được kiểm soát là những dấu hỏi lớn cho tương lai.
Nguyễn Khang
08:00 | 28/03/2023
07:00 | 24/04/2023
09:00 | 01/08/2023
09:00 | 05/06/2023
16:00 | 11/04/2023
10:00 | 22/04/2024
10:00 | 27/03/2023
15:00 | 16/02/2023
14:00 | 10/11/2023
16:00 | 23/06/2023
18:00 | 22/09/2023
15:00 | 16/04/2024
Theo báo cáo của The Times of India, một số công ty, tổ chức đang mua lỗ hổng Zero-day trên iPhone với giá lên đến 7 triệu USD và 5 triệu USD đối với điện thoại Android.
13:00 | 15/04/2024
Hội thảo quốc tế IEEE lần thứ nhất về mật mã và an toàn thông tin (VCRIS 2024) dự kiến sẽ được tổ chức trong 02 ngày 03-04/12/2024 tại Học viện Kỹ thuật mật mã, Ban Cơ yếu Chính phủ. Hội thảo nhằm mục đích tạo lập và phát triển môi trường trao đổi học thuật, thúc đẩy các hoạt động nghiên cứu khoa học cơ bản, khoa học ứng dụng về mật mã và an toàn thông tin tại Việt Nam và thế giới.
13:00 | 05/04/2024
Chính phủ Hoa Kỳ đang cảnh báo thống đốc các bang về việc tin tặc nước ngoài đang thực hiện các cuộc tấn công mạng gây rối loạn hệ thống nước và nước thải trên khắp đất nước.
13:00 | 23/01/2024
Báo cáo mới nhất về chỉ số sẵn sàng trí tuệ nhân tạo toàn cầu cho thấy, Việt Nam đứng thứ 5/10 trong ASEAN, tăng một bậc so với năm trước.
Khoảng giữa năm 1995, cơ quan An ninh Quốc gia Mỹ (National Security Agency - NSA) bắt đầu công bố hàng nghìn thông điệp được giải mật từ dự án VENONA. Đó là các thông điệp được truyền trong hoạt động ngoại giao và hoạt động tình báo của Liên Xô được trao đổi từ năm 1940. Trong đó, có chứa các thông tin liên quan đến Cơ quan tình báo trung ương Liên Xô (Komitet Gosudarstvennoy Bezopasnosti - KGB), Cơ quan Tình báo Quân đội Nga (Glavnoye Razvedyvatel’noye Upravleniye - GRU), Cơ quan Dân ủy Nội vụ (Narodnyy Komissariat Vnutrennikh Del - NKVD)…. Đây là kết quả hợp tác truyền thông tình báo của Mỹ, Anh và một số nước đồng minh. Bài viết dưới đây trình bày khái quát các kết quả chính và nguyên nhân thám mã thành công của dự án VENONA.
15:00 | 30/12/2018
Đoàn Công tác số 8 đi thăm các chiến sĩ và nhân dân trên quần đảo Trường Sa đã thành công tốt đẹp. Hành trình để lại nhiều cảm xúc với các thành viên đoàn công tác nhất là khi tham dự những buổi Lễ đặc biệt như: Lễ Giỗ Tổ Hùng Vương, Lễ dâng hương tưởng niệm các anh hùng liệt sĩ hi sinh khi làm nhiệm vụ trên quần đảo Trường Sa, Lễ chào cờ trên đảo Trường Sa.
11:00 | 26/04/2024
Hướng tới kỷ niệm 80 năm Ngày truyền thống ngành Cơ yếu Việt Nam (12/9/1945 - 12/9/2025), Ban Cơ yếu Chính phủ đã ban hành Kế hoạch phát động Cuộc thi sáng tác nghệ thuật thơ, ca khúc về Ngành Cơ yếu Việt Nam.
10:00 | 16/04/2024