Kể từ khi ra mắt vào cuối tháng 11/2022, ChatGPT đã trở thành một trong những dịch vụ internet phát triển nhanh nhất, vượt mốc 100 triệu người dùng trong vòng hai tháng đầu tiên. Nhờ khả năng tạo văn bản giống con người dựa trên những dữ liệu sẵn có tiện lợi chưa từng có nên mô hình này đã lan truyền nhanh chóng.
Các mô hình ngôn ngữ lớn có thể được sử dụng cho nhiều mục đích khác nhau, như ChatGPT của Open AI, có thể mang lại lợi ích cho doanh nghiệp và người dùng cá nhân. Tuy nhiên, cơ quan cảnh sát châu Âu nhấn mạnh rằng họ cũng đặt ra một thách thức cho việc thực thi pháp luật vì những kẻ xấu có thể khai thác chúng.
Báo cáo cho biết: “Tội phạm đã nhanh chóng khai thác các công nghệ mới và kịp thời đưa ra các cách thức hoạt động tội phạm, các dấu hiệu tội phạm mạng đã xuất hiện chỉ vài tuần sau khi ChatGPT được phát hành công khai”.
Báo cáo này được tổng kết từ một loạt hội thảo do Phòng thí nghiệm đổi mới của Europol tổ chức để thảo luận về khả năng sử dụng ChatGPT trong tội phạm như một ví dụ nổi bật nhất về các mô hình ngôn ngữ lớn và cách thức sử dụng các mô hình AI này để hỗ trợ công việc điều tra.
Điểm yếu của hệ thống
Europol chỉ ra thực tế rằng các quy tắc kiểm duyệt của ChatGPT có thể bị phá vỡ thông qua cái gọi là kỹ thuật mau lẹ (prompt engineering), từ yêu cầu cung cấp đầu vào trong mô hình AI một cách chính xác để có được đầu ra cụ thể.
Vì ChatGPT là một công nghệ tương đối mới, các lỗ hổng liên tục được tìm thấy mặc dù các bản vá được liên tục cập nhật. Những sơ hở này có thể ở dạng yêu cầu AI đưa ra lời nhắc, yêu cầu AI giả vờ là một nhân vật hư cấu hoặc cung cấp câu trả lời bằng mã.
Các cách lách luật khác có thể thay thế các từ kích hoạt hoặc thay đổi ngữ cảnh sau này trong quá trình tương tác. Cơ quan EU nhấn mạnh rằng các giải pháp thay thế hiệu quả nhất, quản lý để bẻ khóa mô hình khỏi mọi ràng buộc, liên tục phát triển và trở nên hết sức phức tạp.
Ứng dụng hoạt động tội phạm
Các chuyên gia đã xác định một loạt các trường hợp sử dụng bất hợp pháp trong ChatGPT cũng đã xuất hiện trong các mô hình tiên tiến nhất của OpenAI, GPT-4, trong đó khả năng phản hồi có hại của hệ thống thậm chí có một số trường hợp còn cao hơn trong mô hình ChatGPT.
Vì ChatGPT có thể tạo thông tin có thể đọc để sử dụng nên Europol cảnh báo rằng, công nghệ mới nổi này có thể đẩy nhanh quá trình nghiên cứu một tác nhân độc hại mà không cần biết trước về lĩnh vực tội phạm tiềm ẩn như đột nhập vào nhà, khủng bố, tội phạm mạng hoặc lạm dụng tình dục trẻ em.
“Mặc dù tất cả thông tin mà ChatGPT cung cấp đều có sẵn miễn phí trên internet, nhưng khả năng sử dụng mô hình để cung cấp các bước cụ thể bằng cách đặt câu hỏi theo ngữ cảnh có nghĩa là hacker sẽ dễ dàng hiểu rõ hơn và sau đó thực hiện nhiều loại tội phạm khác nhau,” báo cáo cho biết.
Lừa đảo, hành vi gửi email giả mạo để khiến người dùng nhấp vào liên kết, là một lĩnh vực ứng dụng quan trọng. Trước đây, những trò gian lận này có thể dễ dàng bị phát hiện do lỗi ngữ pháp hoặc ngôn ngữ, trong khi văn bản do AI tạo ra cho phép những trò mạo danh này có tính thực tế cao.
Tương tự như vậy, gian lận trực tuyến có thể được tăng cường hình ảnh về tính hợp pháp bằng cách sử dụng ChatGPT để tạo ra sự tương tác giả mạo trên mạng xã hội, có thể biến đổi một đề nghị gian lận là hợp pháp. Nói cách khác, nhờ các mô hình này, “các loại lừa đảo trực tuyến và lừa đảo này có thể được tạo ra nhanh hơn, xác thực hơn nhiều và ở quy mô tăng lên đáng kể”.
Ngoài ra, khả năng mạo danh phong cách và lời nói của một người cụ thể của AI có thể dẫn đến một số trường hợp lạm dụng liên quan đến tuyên truyền, ngôn từ kích động thù địch và thông tin sai lệch.
Bên cạnh văn bản, ChatGPT cũng có thể tạo mã bằng các ngôn ngữ lập trình khác nhau, mở rộng khả năng của các tác nhân độc hại có ít hoặc không có kiến thức về phát triển CNTT để biến ngôn ngữ tự nhiên thành phần mềm độc hại.
Ngay sau khi phát hành ChatGPT ra công chúng, công ty bảo mật Check Point Research đã tường trình về cách thức mô hình AI được sử dụng để tạo ra một luồng lây nhiễm hoàn chỉnh bằng cách tạo các email lừa đảo từ lừa đảo trực tiếp đến chạy một shell ngược chấp nhận các lệnh bằng tiếng Anh.
“Điều quan trọng là các biện pháp bảo vệ ngăn ChatGPT cung cấp mã độc tiềm ẩn chỉ hoạt động nếu mô hình hiểu những gì nó đang làm. Nếu các lời nhắc được chia thành các bước riêng lẻ, thì việc bỏ qua các biện pháp an toàn này là rất dễ dàng,” báo cáo cho biết thêm.
Tương lai của các mô hình AI
ChatGPT được coi là một mô hình AI có mục đích chung, một mô hình mà có thể được điều chỉnh để thực hiện các nhiệm vụ khác nhau.
Hiện nay, Nghị viện Châu Âu đang xây dựng về Đạo luật AI, các MEP đã thảo luận về việc đưa ra một số yêu cầu nghiêm ngặt đối với mô hình nền tảng này, bao gồm quản lý rủi ro, độ ổn định và tính kiểm soát chất lượng của hệ thống.
Europol đánh giá rằng, thách thức do các hệ thống AI đặt ra sẽ là tăng lên khi chúng ngày càng trở nên phổ biến và tinh vi, chẳng hạn như với việc tạo ra các nội dung giả mạo sâu có sức thuyết phục cao.
Một rủi ro khác là các mô hình ngôn ngữ lớn này có thể xuất hiện trên web đen mà không có bất kỳ biện pháp bảo vệ nào và được đào tạo bằng dữ liệu đặc biệt có hại. Loại dữ liệu sẽ cung cấp cho các hệ thống này và cách thức chúng có thể được kiểm soát là những dấu hỏi lớn cho tương lai.
Nguyễn Khang
08:00 | 28/03/2023
07:00 | 24/04/2023
09:00 | 05/06/2023
16:00 | 11/04/2023
09:00 | 01/08/2023
10:00 | 27/03/2023
15:00 | 16/02/2023
10:00 | 22/04/2024
16:00 | 23/06/2023
14:00 | 10/11/2023
18:00 | 22/09/2023
14:00 | 06/09/2024
Nhân Kỷ niệm 79 năm Ngày truyền thống ngành Cơ yếu Việt Nam (12/9/1945 - 12/9/2024), Nhạc sĩ Trương Quý Hải đã sáng tác ca khúc Mật mã Pha Long dành tặng ngành Cơ yếu. Ca khúc trân trọng sự hy sinh thầm lặng của những người lính cơ yếu, những anh hùng đã góp phần viết nên những trang sử vàng cho dân tộc.
20:00 | 31/08/2024
Ngày 23/8, tại TP. Hồ Chí Minh, Cục An toàn thông tin – Bộ Thông tin và Truyền thông, Sở Thông tin và Truyền thông Tp. Hồ Chí Minh và Hiệp hội An toàn Thông tin Việt Nam – Chi hội phía Nam (VNISA phía Nam) phối hợp đồng tổ chức Hội thảo và Triển lãm An toàn thông tin khu vực phía Nam 2024 với chủ đề “Đảm bảo an toàn thông tin cho hạ tầng số, dữ liệu số và kinh tế số trước tội phạm mạng”.
10:00 | 28/08/2024
Thế giới công nghệ phát triển không ngừng, mang lại vô vàn tiện ích cho cuộc sống, nhưng cũng mở ra không ít cơ hội cho những kẻ lừa đảo tinh vi. Một trong những chiêu trò mới nhất, đang khiến nhiều người “tiền mất tật mang”, chính là giả danh nhân viên giao hàng để chiếm đoạt tài sản. Số vụ lừa đảo theo hình thức này tăng vọt trong thời gian gần đây, Bộ TT&TT cảnh báo cần hết sức chú ý và cảnh giác trước những chiêu trò của kẻ gian.
16:00 | 07/08/2024
Sáng ngày 07/8/2024, tại Hà Nội, Tạp chí An toàn thông tin đã tổ chức Hội nghị Hội đồng biên tập Ấn phẩm An toàn thông tin năm 2024. Đồng chí Thiếu tướng, TS. Nguyễn Hữu Hùng, Phó Trưởng ban Ban Cơ yếu Chính phủ, Chủ tịch Hội đồng biên tập Ấn phẩm An toàn thông tin chủ trì Hội nghị. Tham dự Hội nghị có các đồng chí trong Hội đồng biên tập Ấn phẩm An toàn thông tin; đại diện lãnh đạo một số cơ quan, đơn vị thuộc Ban và cán bộ thuộc Tạp chí An toàn thông tin.
08:00 | 11/01/2024 | Chính sách - Chiến lược
09:00 | 10/01/2024 | Giải pháp khác
09:00 | 05/01/2024|Chính sách - Chiến lược
09:00 | 05/01/2024|An ninh – Quốc Phòng
Khoảng giữa năm 1995, cơ quan An ninh Quốc gia Mỹ (National Security Agency - NSA) bắt đầu công bố hàng nghìn thông điệp được giải mật từ dự án VENONA. Đó là các thông điệp được truyền trong hoạt động ngoại giao và hoạt động tình báo của Liên Xô được trao đổi từ năm 1940. Trong đó, có chứa các thông tin liên quan đến Cơ quan tình báo trung ương Liên Xô (Komitet Gosudarstvennoy Bezopasnosti - KGB), Cơ quan Tình báo Quân đội Nga (Glavnoye Razvedyvatel’noye Upravleniye - GRU), Cơ quan Dân ủy Nội vụ (Narodnyy Komissariat Vnutrennikh Del - NKVD)…. Đây là kết quả hợp tác truyền thông tình báo của Mỹ, Anh và một số nước đồng minh. Bài viết dưới đây trình bày khái quát các kết quả chính và nguyên nhân thám mã thành công của dự án VENONA.
15:00 | 30/12/2018
Việc xử lý các đơn vị quảng cáo sử dụng tên định danh được cấp để phát tán tin nhắn, cuộc gọi rác là biện pháp đang được Bộ Thông tin và Truyền thông (TT&TT) thực hiện để bảo vệ người dùng dịch vụ viễn thông.
14:00 | 17/09/2024
Chương trình “Vinh quang thầm lặng 2024” do Ban Cơ yếu Chính phủ chỉ đạo, Tạp chí An toàn thông tin phối hợp với Oscar Media tổ chức đặc biệt chào mừng Kỷ niệm 80 năm ngày thành lập QĐND Việt Nam (22/12/1944-22/12/2024), 35 năm Ngày Quốc phòng toàn dân (22/12/1989-22/12/2024) và Kỷ niệm 79 năm Ngày thành lập ngành Cơ yếu Việt Nam (12/9/1945-12/9/2024). Chương trình diễn ra tại Trung tâm Hội nghị Quốc gia Hà Nội ngày 06/9/2024, phát sóng trực tiếp trên kênh Truyền hình Quốc phòng Việt Nam, với sự tài trợ chính của Công ty Cổ phần Sản xuất và Kinh doanh VinFast.
10:00 | 10/09/2024
