Một số người đã sử dụng mô hình AI của công ty này để tạo và đăng nội dung tuyên truyền trên các nền tảng mạng xã hội, cũng như dịch nội dung của họ sang nhiều ngôn ngữ. Theo báo cáo, không có chiến dịch nào tiếp cận được lượng lớn khán giả.
Khi AI sáng tạo trở thành một ngành công nghiệp đang bùng nổ, các nhà nghiên cứu và nhà lập pháp ngày càng lo ngại về khả năng tăng số lượng và chất lượng của thông tin sai lệch. Các công ty AI như OpenAI (phát triển ChatGPT) đã nhiều lần cố gắng làm dịu những lo ngại này và đặt rào chắn quanh công nghệ của họ.
Báo cáo dài 39 trang của OpenAI là một trong những báo cáo chi tiết nhất của một công ty AI về việc sử dụng phần mềm của họ để tuyên truyền. OpenAI cho biết, các nhà nghiên cứu của họ đã phát hiện và cấm các tài khoản liên quan hoạt động gây ảnh hưởng bí mật trong ba tháng qua, đến từ cả các chủ thể nhà nước và tư nhân.
Ở Nga, hai hoạt động được tạo ra nhằm lan truyền nội dung chỉ trích Mỹ, Ukraine và một số quốc gia vùng Baltic. Một trong những hoạt động đã sử dụng mô hình OpenAI để tạo bot đăng trên ứng dụng nhắn tin Telegram. Hoạt động của phía Trung Quốc là tạo ra văn bản bằng tiếng Anh, tiếng Trung, tiếng Nhật và tiếng Hàn, sau đó đăng lên Twitter và Medium.
Một số nguồn từ Iran đã tạo ra các bài báo chỉ trích Mỹ và Israel, sau đó được dịch sang tiếng Anh và tiếng Pháp. Một công ty Israel tên là Stoic đã điều hành một mạng lưới tài khoản mạng xã hội giả mạo nhằm sáng tạo nhiều nội dung, bao gồm các bài đăng cáo buộc cuộc biểu tình của sinh viên Mỹ chống lại cuộc chiến của Israel ở Gaza là theo chủ nghĩa bài Do Thái.
Một số kẻ phát tán thông tin sai lệch thông qua OpenAI đã được các nhà nghiên cứu và chính quyền để ý. Hồi tháng 3, Mỹ đã xử phạt hai người đàn ông Nga được cho là đứng sau một trong những chiến dịch bị OpenAI phát hiện, trong khi Meta cũng cấm Stoic khỏi nền tảng trong năm nay vì vi phạm chính sách của họ.
Báo cáo cũng nhấn mạnh cách AI đang được đưa vào các chiến dịch phát tán thông tin sai lệch như một phương tiện cải thiện nội dung, như tạo các bài đăng bằng tiếng nước ngoài thuyết phục hơn, nhưng nó không phải là công cụ duy nhất để tuyên truyền.
“Tất cả các hoạt động này đều sử dụng AI ở một mức độ nào đó, nhưng không có hoạt động nào sử dụng chỉ riêng AI”, báo cáo cho biết. “Thay vào đó, thông tin do AI tạo ra chỉ là một trong nhiều loại nội dung các đối tượng đăng, bên cạnh các định dạng truyền thống hơn như văn bản hoặc hình ảnh được sao chép từ khắp nơi trên Internet”.
Dù không có chiến dịch nào có tác động đáng chú ý, nó cho thấy rằng một số kẻ đã tận dụng AI để cho phép họ mở rộng quy mô tuyên truyền. Giờ đây, việc viết, dịch và đăng nội dung đều có thể được thực hiện hiệu quả hơn thông qua việc sử dụng các công cụ AI, vượt qua nhiều rào cản trong việc tạo ra thông tin sai lệch.
Năm qua, nhiều cá nhân khắp thế giới đã sử dụng AI để cố gắng gây ảnh hưởng đến chính trị và dư luận. Công nghệ deepfake, hình ảnh do AI tạo ra và các chiến dịch dựa trên văn bản đều được sử dụng để gây nhiễu các chiến dịch bầu cử, dẫn đến việc các công ty như OpenAI phải tăng cường việc hạn chế sử dụng các công cụ của họ.
Văn Thủy
14:00 | 22/05/2024
16:00 | 18/05/2024
08:35 | 07/07/2015
22:00 | 30/01/2025
Nhân dịp Xuân mới Ất Tỵ 2025, Tạp chí An toàn thông tin trân trọng gửi lời chúc mừng năm mới và lời cảm ơn sâu sắc nhất tới Lãnh đạo Ban Cơ yếu Chính phủ, Lãnh đạo các Bộ, ban, ngành Trung ương và địa phương, các cơ quan, đơn vị, hiệp hội, tổ chức, doanh nghiệp, cùng quý bạn đọc và cộng tác viên đã đồng hành, ủng hộ để Tạp chí hoàn thành tốt nhiệm vụ và có những bước phát triển mới trong năm qua.
17:00 | 28/01/2025
Fortinet mới đây đã cảnh báo một chiến dịch lừa đảo mới lợi dụng tính năng của Microsoft 365 để gửi yêu cầu thanh toán cho người dùng, dụ dỗ họ đăng nhập vào tài khoản và trao quyền kiểm soát tài khoản PayPal cho kẻ tấn công.
16:00 | 22/01/2025
Trân trọng kính mời các chuyên gia, các cán bộ giảng dạy, nhà nghiên cứu tham gia viết bài cho Hội thảo Khoa học quốc gia “Khoa học tự nhiên và Ứng dụng trong thời đại số” do Học viện Công nghệ Bưu chính Viễn thông phối hợp với Trường Đại học Sư phạm kỹ thuật Hưng Yên và Trường Đại học Kinh tế - Kỹ thuật Công nghiệp tổ chức. Hội thảo dự kiến tổ chức vào ngày 06/6/2025 tại Hà Nội.
09:00 | 30/12/2024
Là công cụ tìm kiếm phổ biến nhất trên Internet hiện nay, Google được xem như một cuốn bách khoa toàn thư trực tuyến, nơi người dùng có thể tìm kiếm thông tin và giải đáp các thắc mắc của bản thân. Không ít người dùng lựa chọn nhấn vào trang web hiện ra đầu tiên sau khi tìm kiếm trên Google. Tuy nhiên, thói quen này có thể khiến họ vô tình gặp nguy hiểm.
Khoảng giữa năm 1995, cơ quan An ninh Quốc gia Mỹ (National Security Agency - NSA) bắt đầu công bố hàng nghìn thông điệp được giải mật từ dự án VENONA. Đó là các thông điệp được truyền trong hoạt động ngoại giao và hoạt động tình báo của Liên Xô được trao đổi từ năm 1940. Trong đó, có chứa các thông tin liên quan đến Cơ quan tình báo trung ương Liên Xô (Komitet Gosudarstvennoy Bezopasnosti - KGB), Cơ quan Tình báo Quân đội Nga (Glavnoye Razvedyvatel’noye Upravleniye - GRU), Cơ quan Dân ủy Nội vụ (Narodnyy Komissariat Vnutrennikh Del - NKVD)…. Đây là kết quả hợp tác truyền thông tình báo của Mỹ, Anh và một số nước đồng minh. Bài viết dưới đây trình bày khái quát các kết quả chính và nguyên nhân thám mã thành công của dự án VENONA.
15:00 | 30/12/2018
Khép lại năm 2024, Lãnh đạo Ban Cơ yếu Chính phủ, cấp ủy, lãnh đạo các cấp trong toàn lực lượng cơ yếu, nhất là đội ngũ cán bộ chủ chốt đã chủ động bám sát yêu cầu nhiệm vụ và thực tiễn, cùng với sự nỗ lực rất lớn của toàn thể cán bộ, nhân viên ngành Cơ yếu Việt Nam tổ chức triển khai đồng bộ, toàn diện trên các mặt công tác, hoàn thành tốt nhiệm vụ được giao, trong đó có nhiều nhiệm vụ hoàn thành xuất sắc, tiếp tục khẳng định vị thế, vai trò đặc biệt quan trọng của hoạt động cơ yếu. Dưới đây là 10 dấu ấn nổi bật trong năm 2024 của ngành Cơ yếu Việt Nam.
08:00 | 29/01/2025
ByteDance - công ty mẹ TikTok vừa giới thiệu mô hình trí tuệ nhân tạo (AI) mới có tên OmniHuman-1, có khả năng sản xuất video deepfake mà người dùng thông thường gần như không thể phân biệt với video thật.
08:00 | 07/02/2025