Sự bùng nổ của các mô hình ngôn ngữ lớn (LLM) đã thúc đẩy việc triển khai chatbot AI sâu rộng trong các tổ chức. Tuy nhiên, điều này cũng mở ra những bề mặt tấn công mới, thách thức các mô hình an toàn thông tin truyền thống. Bài báo tập trung phân tích các nguy cơ an toàn thông tin đặc thù khi sử dụng chatbot AI như rò rỉ dữ liệu qua hành vi sử dụng, tấn công Prompt Injection (trực tiếp và gián tiếp), rủi ro từ cơ chế RAG (Retrieval-Augmented Generation) và hiện tượng "shadow AI". Trên cơ sở đó, tác giả đề xuất các giải pháp quản trị và kỹ thuật dựa trên khung an toàn của NIST và OWASP nhằm bảo đảm an toàn cho các hệ thống AI trong môi trường cơ quan, doanh nghiệp.

Chính phủ Canada vừa chính thức đưa ra một dự luật an toàn kỹ thuật số mới, trong đó đề xuất lệnh cấm sử dụng mạng xã hội đối với trẻ em dưới 16 tuổi và thiết lập các tiêu chuẩn an toàn khắt khe cho các chatbot trí tuệ nhân tạo (AI).

Mới đây, tin tặc đang nhắm mục tiêu vào các hệ thống máy tính hiệu năng cao trong một chiến dịch tấn công chiếm đoạt tiền điện tử thông qua một hoạt động đầu độc SEO (poisoning) cùng thao túng các đề xuất của chatbot AI.

Việc ứng dụng chatbot AI trong soạn thảo văn bản hành chính giúp nâng cao hiệu quả công việc nhưng đồng thời làm phát sinh nhiều rủi ro mới về an toàn thông tin và trách nhiệm quản lý. Bài viết phân tích các nguy cơ chủ yếu như rò rỉ dữ liệu từ dữ liệu đầu vào, hiện tượng “Shadow Data” trên hạ tầng đám mây, rủi ro sai lệch nội dung và làm mờ ranh giới trách nhiệm cá nhân. Trên cơ sở đó, bài viết đề xuất một số khuyến nghị quản lý nhằm kiểm soát rủi ro và bảo đảm việc sử dụng AI trong lĩnh vực hành chính theo hướng thận trọng, có kiểm soát và dựa trên rủi ro.

[ATTT số 6 (088) 2025] - ChatGPT đang ngày càng trở thành một công cụ đắc lực được nhiều người sử dụng trong công việc và cuộc sống. Nhưng đằng sau sự tiện lợi ấy là nỗi lo về quyền riêng tư. Vậy làm sao để ngăn công cụ này sử dụng dữ liệu của người dùng mà vẫn tận dụng được lợi ích mà AI mang lại? Bài viết sẽ giúp giải đáp thắc mắc và hướng dẫn người dùng cách giảm thiểu nguy cơ lộ lọt dữ liệu khi sử dụng ChatGPT một cách hiệu quả.    

Tại Việt Nam, việc sử dụng AI, trợ lý ảo đang ngày càng trở nên phổ biến hơn. Không chỉ các doanh nghiệp, hiện tại nhiều cán bộ, công chức và người lao động trong các cơ quan nhà nước đã ứng dụng AI, sử dụng trợ lý ảo hỗ trợ công việc hàng ngày. Chính vì vậy, ngày 31/3/2025, Bộ Khoa học và Công nghệ (KH&CN) đã ban hành phiên bản đầu tiên: “Tài liệu hướng dẫn một số nguyên tắc chung với công chức, viên chức và người lao động trong cơ quan nhà nước sử dụng trợ lý ảo - chatbot AI phục vụ công việc”.  

Chatbot AI DeepSeek đang tạo ra làn sóng chấn động trên Phố Wall và ảnh hưởng mạnh mẽ đến Nvidia, khiến cổ phiếu công ty này bốc hơi 600 tỷ USD chỉ trong một ngày. Không chỉ có vậy, DeepSeek cũng đã vượt qua chatbot AI ChatGPT để vươn lên dẫn đầu trên App Store về danh mục ứng dụng miễn phí. Sự phát triển nhanh chóng mặt này đã khiến các công ty trí tuệ nhân tạo (AI) cũng như các chính phủ phương Tây và Cơ quan Hàng không Vũ trụ Mỹ (NASA) phải lên tiếng cảnh báo.

Không chỉ dừng lại ở việc trò chuyện, ChatGPT nay đã được OpenAI trang bị thêm tính năng tìm kiếm với sự hỗ trợ của AI, hứa hẹn tạo nên làn sóng cạnh tranh mới trong lĩnh vực tìm kiếm trực tuyến vốn đang bị thống trị bởi Google.

Công ty được mệnh danh là “Google của Trung Quốc” - Baidu cho biết chatbot AI của hãng này, Ernie Bot đã có hơn 200 triệu người dùng trong bối cảnh cạnh tranh ngày càng khốc liệt.

Trí tuệ nhân tạo dù có nhiều khả năng phát triển theo hướng xấu nếu không được kiểm soát, tuy nhiên, công nghệ này cũng có nhiều tiềm năng hữu ích.