Nhiều AI chiến trường hơn sẽ khiến sương mù chiến tranh trở nên nguy hiểm hơn

Hoa Kỳ quân đội không còn là lực lượng vô địch như trước nữa, nhưng Alexandr Wang, CEO của công ty khởi nghiệp AI quy môđã nói với một ủy ban quốc hội vào tuần trước rằng họ có thể thiết lập một lợi thế mới bằng cách khai thác trí tuệ nhân tạo.

“Chúng tôi có đội khí tài quân sự lớn nhất thế giới,” Wang nói với Tiểu ban Dịch vụ Vũ trang Hạ viện về Mạng, Công nghệ Thông tin và Đổi mới. “Nếu chúng ta có thể thiết lập và trang bị đúng cách dữ liệu đang được tạo ra này… thì chúng ta có thể tạo ra lợi thế dữ liệu không thể vượt qua khi sử dụng trí tuệ nhân tạo cho quân đội.”

Công ty của Wang rất quan tâm đến tầm nhìn đó vì họ thường xuyên làm việc với Lầu Năm Góc để xử lý số lượng lớn dữ liệu đào tạo cho các dự án AI. Nhưng có một niềm tin trong giới quân sự Hoa Kỳ rằng việc tăng cường sử dụng AI và học máy là điều gần như không thể tránh khỏi—và cần thiết. Gần đây tôi đã viết về phong trào đang phát triển đó và cách một đơn vị Lầu Năm Góc đang sử dụng phần mềm AI và robot sẵn có để giám sát hiệu quả hơn những vùng biển rộng lớn ở Trung Đông.

Bên cạnh dữ liệu quân sự tuyệt vời của đất nước, Wang nói trong phiên điều trần quốc hội rằng Mỹ có lợi thế là quê hương của các nhà sản xuất chip AI tiên tiến nhất thế giới, như Nvidia, và có chuyên môn AI tốt nhất thế giới. Ông nói: “Mỹ là nơi lựa chọn của các nhà khoa học AI tài năng nhất thế giới.

Mối quan tâm của Wang đối với AI quân sự cũng rất đáng được quan tâm vì AI quy mô đang đi đầu trong một cuộc cách mạng AI khác: phát triển các mô hình ngôn ngữ lớn mạnh mẽ và các chatbot tiên tiến như ChatGPT.

Chưa có ai nghĩ đến việc đưa ChatGPT vào nghĩa vụ quân sự, mặc dù đã có một số thử nghiệm liên quan đến việc sử dụng mô hình ngôn ngữ lớn trong các trò chơi chiến tranh quân sự. Nhưng các nhà quan sát coi những bước nhảy vọt gần đây của các công ty Mỹ về hiệu suất AI là một lợi thế quan trọng khác mà Lầu Năm Góc có thể khai thác. Do công nghệ này đang phát triển nhanh như thế nào và nó vẫn còn nhiều vấn đề như thế nào, điều này đặt ra những câu hỏi mới về những biện pháp bảo vệ nào có thể cần thiết đối với AI quân sự.

Bước nhảy vọt về khả năng AI này diễn ra khi thái độ của một số người đối với việc sử dụng AI trong quân sự đang thay đổi. Năm 2017, Google phải đối mặt với phản ứng dữ dội vì giúp Không quân Hoa Kỳ sử dụng AI để diễn giải hình ảnh trên không thông qua cơ quan của Lầu Năm Góc. Dự án Maven. Nhưng cuộc xâm lược Ukraine của Nga đã làm dịu đi thái độ chính trị và công chúng đối với sự hợp tác của khu vực tư nhân với các công ty công nghệ và chứng minh tiềm năng của máy bay không người lái tự hành giá rẻ và AI thương mại để phân tích dữ liệu. Lực lượng Ukraine đang sử dụng thuật toán học sâu thần kinh để phân tích hình ảnh và cảnh quay trên không. Công ty Palantir của Mỹ cho biết họ đang cung cấp phần mềm nhắm mục tiêu cho Ukraine. Và Nga đang ngày càng tập trung vào AI cho các hệ thống tự hành.

Bất chấp những lo ngại lan rộng về “robot sát thủ”, công nghệ này vẫn chưa đủ tin cậy để sử dụng theo cách này. Và trong khi báo cáo về tham vọng AI của Lầu Năm Góc, tôi không gặp bất kỳ ai trong Bộ Quốc phòng, lực lượng Hoa Kỳ hoặc các công ty khởi nghiệp tập trung vào AI mong muốn tung ra vũ khí tự động hoàn toàn.

Nhưng việc sử dụng AI nhiều hơn sẽ tạo ra ngày càng nhiều các cuộc chạm trán quân sự trong đó con người bị loại hoặc bị loại khỏi phương trình. Và trong khi một số người so sánh AI với vũ khí hạt nhân, nguy cơ trước mắt là sức tàn phá của các hệ thống AI quân sự kém hơn so với khả năng làm sâu thêm sương mù chiến tranh và khiến chúng trở nên nguy hiểm hơn. nhân loại có nhiều khả năng xảy ra lỗi hơn.

Khi tôi nói chuyện với John Richardson, đô đốc bốn sao đã nghỉ hưu, từng giữ chức chỉ huy các hoạt động hải quân của Hải quân Hoa Kỳ từ năm 2015 đến năm 2018, ông tin rằng AI sẽ có tác động đến sức mạnh quân sự tương tự như cuộc cách mạng công nghiệp và thời đại nguyên tử. Và ông chỉ ra rằng bên nào khai thác được những cuộc cách mạng trước đó đã giành chiến thắng tốt nhất trong hai cuộc chiến tranh thế giới vừa qua.

Nhưng Richardson cũng nói về vai trò của sự kết nối giữa con người với nhau trong việc quản lý các tương tác quân sự được thúc đẩy bởi công nghệ mạnh mẽ. Trong thời gian giữ chức vụ Tư lệnh Hải quân, ông đã cố gắng tìm hiểu những người đồng cấp của mình trong hạm đội các quốc gia khác. Anh nói: “Mỗi lần gặp gỡ hoặc nói chuyện, chúng tôi lại hiểu nhau hơn. “Điều tôi thực sự muốn làm là đảm bảo rằng nếu có điều gì đó xảy ra – một kiểu tính toán sai lầm hay điều gì đó – tôi có thể gọi cho họ ngay lập tức. Bạn chỉ không muốn đó là cuộc gọi đầu tiên của mình thôi.”

Bây giờ sẽ là thời điểm tốt để các nhà lãnh đạo quân sự trên thế giới bắt đầu nói chuyện với nhau về những rủi ro và hạn chế của AI.

Leave a Comment

Your email address will not be published.