Sự phát triển của nền kinh tế thể hiện qua việc thị trường sẽ hoạt động để đáp ứng nhu cầu của người mua. Tín hiệu mua gia tăng sẽ thúc đẩy sự phát triển, triển khai và đưa ra các giải pháp một cách nhanh chóng vào thị trường.

Ví dụ, vào những năm đầu tiên của Internet thương mại, sự ra đời của điều khiển từ xa dùng cho giám sát và thu thập dữ liệu (SCADA) và quá trình sản xuất, phát triển nhanh chóng của các ứng dụng điện thoại thông minh. Trong các trường hợp này, bảo mật không phải là điều đầu tiên mà nhà phát triển nghĩ đến mà thời gian dành cho tiếp thị mới là ưu tiên hàng đầu. Tiếp thị tăng lên khi sử dụng các sản phẩm thương mại ngoài giá bán (COTS) nhằm tiết kiệm vì cảm biến, mạch tích hợp, các bộ chức năng, các bộ điều khiển điện và các thiết bị lưu trữ có thể được mua trên thị trường dân sự với một phần chi phí nhỏ. Các sản phẩm COTS này cắt giảm chi phí quốc phòng an ninh đồng thời rút ngắn thời gian kết thúc chu trình phát triển và triển khai.

Trong lĩnh vực phòng thủ, việc sử dụng AI có thể đại diện cho cả cơ hội và nguy hiểm do thiếu sự giám sát của con người đối với hoạt động của các hệ thống vũ khí hỗ trợ. AI có thể dẫn đến các hành động và hành vi phạm tội vi phạm các quy tắc quốc gia về việc tiến hành chiến tranh. Những hệ thống không tôn trọng phẩm giá con người, bị lạm dụng bởi các chủ thể phi nhà nước cũng là những rủi ro cần xem xét. AI có thể được triển khai để giảm bớt gánh nặng hậu cần, cải thiện thu thập và giải thích dữ liệu, đảm bảo ưu thế công nghệ quân sự và tăng cường thời gian chiến đấu. Bất kể AI được xem xét như thế nào, rõ ràng ứng dụng của nó vào không gian quốc phòng có khả năng đặt ra câu hỏi về đặc tính tương lai của chiến tranh và khả năng tự chủ về chiến lược.

Bộ Quốc phòng Mỹ đã áp dụng năm nguyên tắc chuẩn mực cho việc ứng dụng AI trong các hoạt động của Bộ. Đó là: có trách nhiệm, công bằng, có thể truy vết, đáng tin cậy và có thể quản lý. Điểm chung của năm nguyên tắc này là an ninh mạng. Nếu độ đáp ứng về an ninh mạng của ứng dụng AI không thỏa đáng thì năm nguyên tắc đã được thông qua này có thể bị đe dọa, thậm chí có thể không còn định hướng được cho việc thực thi AI của Bộ Quốc phòng nữa.

Việc triển khai AI trong tương lai làm tăng bề mặt tấn công hoàn toàn và điều đáng quan tâm là khả năng phát hiện thao tác của các quy trình, bởi vì, đối với người vận hành, các quy trình AI về cơ bản không được hiểu rõ hoặc quan sát một cách rõ ràng. Một hệ thống phát hiện mục tiêu từ hình ảnh hoặc từ quay video trực tiếp, nơi AI được sử dụng để xác định đặc điểm nhận diện mục tiêu, sẽ tạo ra hỗ trợ quyết định có thể dẫn đến việc tiêu diệt những mục tiêu này. Các mục tiêu được tham gia và vô hiệu hóa. Một trong những nguyên tắc cho áp dụng là “có trách nhiệm”. Làm cách nào để có thể đảm bảo rằng việc nhắm mục tiêu là chính xác? Làm cách nào để có thể bảo vệ thuật toán không bị hỏng hoặc các cảm biến không bị giả mạo để tạo ra dữ liệu giả? Điều này đã trở thành một vấn đề an ninh quan trọng.

Trong năm nguyên tắc thì nguyên tắc “công bằng” là lĩnh vực con người có khả năng kiểm soát tốt nhất, thậm chí khi việc kiểm soát được gắn với các thành kiến và trong một quy trình rất khó dò tìm.

Nguyên tắc “đáng tin cậy” thì liên quan trực tiếp tới công tác an ninh bởi nó yêu cầu các hệ thống phải duy trì tính bảo mật, tính toàn vẹn và tính khả dụng. Nếu nguyên tắc “đáng tin cậy” yêu cầu an ninh mạng hiệu đính và thử nghiệm, thì các hệ thống AI là thành phần của các cấu trúc kỹ thuật phức tạp với một bề mặt tấn công trải rộng.

Nguyên tắc “chịu trách nhiệm” vẫn có thể có hiệu lực, bởi vì nhân viên được triển khai đưa ra các quyết định đúng chuẩn mực dựa trên thông tin được cung cấp ngay cả khi hệ thống bị xâm phạm và cung cấp thông tin giả cho người ra quyết định.

Nguyên tắc “có thể quản lý” hoạt động như một biện pháp bảo vệ chống lại những điều không mong muốn. Điều chưa biết là khoảng thời gian kể từ khi xảy ra hậu quả không mong muốn đến khi những người vận hành hệ thống bị xâm nhập hiểu rằng hệ thống đã bị xâm nhập.

Có thể quan sát được các hiệu ứng, nếu không thì những điều không mong muốn sẽ được xác định, đặc biệt là trong chiến trường đa miền linh hoạt. Một hệ thống AI sẽ bị xâm nhập và tổn hại khi thu thập mục tiêu có thể bị nhắm nhầm mục tiêu giả (thu được các mục tiêu ẩn không phải là mục tiêu sẽ gây lãng phí tài nguyên và ảnh hưởng đến khả năng của hệ thống vũ khí), làm lộ các lực lượng cùng phe.

Các chuyên gia nhận định an ninh mạng sẽ là vấn đề mấu chốt cho sự thành công của AI. Không nghi ngờ rằng vai trò của AI đối với an ninh quốc gia của nước Mỹ sẽ ngày càng được nâng lên và là vấn đề được ưu tiên hàng đầu ở Mỹ và các quốc gia đối tác. Nhưng ưu tiên hàng đầu của những đối thủ tiềm tàng cũng là theo đuổi và tìm cách thỏa hiệp để các hệ thống này trở thành của riêng họ.