Anthropic: AI sẽ sớm tự nhân bản, gây nguy hiểm cho an ninh mạng

Anthropic cảnh báo mô hình AI sẽ "sớm tự nhân bản trong vài tháng tới" và có thể gây thiệt hại nghiêm trọng, đặc biệt về an ninh mạng.

"Các thí nghiệm của chúng tôi cho thấy, chỉ trong vài tháng tới, những mô hình AI nhỏ có thể đủ khả năng tự nhân bản trên các thiết bị IoT phổ biến, như lò nướng thông minh hay box TV Android không chính hãng", Anthropic viết trên blog ngày 12/10. "Dù quá trình nhân bản chậm (thời gian nhân đôi khoảng vài ngày), một công cụ như vậy vẫn rất khó bị vô hiệu hóa do không phụ thuộc vào một điểm điều khiển trung tâm".

Anthropic cho biết đã thử nghiệm các mô hình AI 30 tỷ tham số trở xuống và nhận thấy dù vẫn mắc một số lỗi khi kết hợp với nhau, hầu hết đã có thể hoàn thành nhiều bước sao chép riêng lẻ. Những mô hình mạnh hơn, chẳng hạn GLM-5.2 của Zhipu (Trung Quốc), có khả năng sao chép từ đầu đến cuối.

Với thiết bị IoT, Anthropic đánh giá chúng thường có dung lượng bộ nhớ hạn chế, nhưng một số kỹ thuật giúp triển khai mô hình AI gọn nhẹ trên nhiều máy cùng lúc. Chẳng hạn, mạng botnet Kimwolf bị triệt phá đầu năm nay lợi dụng kỹ thuật suy luận phân tán Petals để lây nhiễm hơn hai triệu thiết bị, chủ yếu là các box TVAndroid không chính hãng. Chúng thường sử dụng phiên bản Android tùy chỉnh từ Dự án mã nguồn mở Android (AOSP) vốn thiếu năng lực bảo mật cần thiết. Với cấu hình RAM 4 GB kết hợp mô hình được lượng tử hóa xuống 4-bit, hệ thống có thể chạy mô hình 9 tỷ tham số khi kết hợp từ bốn thiết bị trở lên, hoặc mô hình 26 tỷ tham số với ít nhất 10 thiết bị.

"Nếu mô hình nhỏ cải thiện với tốc độ như hiện có, chúng sẽ đạt khả năng tự sao chép vào cuối năm nay", Anthropic đánh giá.

Anthropic gọi khả năng mới của AI là "Tự sao chép và thích nghi tự động" (ARA), tức một mô hình tự triển khai và lan truyền mà không cần sự kiểm soát của con người. So với sâu máy tính (worm) thông thường, "sâu máy tính AI" nguy hiểm hơn nhiều, đặc biệt là ở lĩnh vực an ninh mạng khi có thể quét mạng, thực thi một lỗ hổng bảo mật và sao chép trọng số mô hình sang máy mục tiêu thông qua cụm GPU.

Bên cạnh đó, "sâu máy tính AI" cũng có thể tự nhân bản và chạy suy luận trực tiếp trên phần cứng bị xâm nhập. Theo thời gian, Anthropic đánh giá trong vòng một năm tới hoặc thậm chí sớm hơn, AI có thể chiếm quyền kiểm soát "toàn bộ Internet" bằng "một mạng botnet hoạt động liên tục".

Theo TechCrunch, báo cáo từ Anthropic làm tăng mối lo ngại rủi ro an ninh liên quan đến AI tự chủ, gồm cả khả năng tự động hóa tấn công mạng, né tránh sự giám sát của con người và tự vượt rào các biện pháp bảo vệ. Trước đó, Bill Gates cũng dự đoán tội phạm mạng có thể dùng AI tiên tiến để phá vỡ hệ thống tài chính và tống tiền doanh nghiệp.

"Lĩnh vực biến động rõ rệt nhất năm tới là tấn công mạng, vì ở đó tồn tại những mô hình kinh doanh đã được biết đến, mối đe dọa là gì và có ai đó trả tiền. Đó cũng có thể là hành động làm gián đoạn hoặc thay đổi điều gì đó trên thị trường chứng khoán, hay tác động làm thay đổi kết quả một số hoạt động cá cược", Gates nói với CNN hôm 11/10.

Các chuyên gia đồng tình với Anthropic sau bài viết. PGS Zhengxiong Li, giảng dạy chuyên ngành khoa học máy tính và kỹ thuật tại Đại học Colorado Denver, đánh giá dù các thử nghiệm nằm trong vòng kiểm soát, ông vẫn thấy lo lắng nếu AI tăng sức mạnh cho "sâu máy tính". "Nếu nó hoạt động trên nhiều thiết bị mà không phụ thuộc vào một dịch vụ trung tâm, có thể sẽ không có một nơi duy nhất để vô hiệu hóa chúng", ông Li nói với Reuters.

Dù vậy, một số chuyên gia cũng tỏ ra hoài nghi về cảnh báo của Anthropic. "Câu nói Chúng tôi đã chạy được một mô hình nhỏ trên những chiếc TV giá rẻ không tạo nên một cuộc khủng hoảng an ninh mạng", Ciaran Martin, cựu giám đốc Trung tâm An ninh mạng Quốc gia Anh, nói, thêm rằng bài đăng giống như "báo cáo kỹ thuật thú vị nhưng có phần phóng đại từ phía nhà cung cấp".

Số khác đánh giá chỉ nên xem những gì Anthropic đưa ra là giả thuyết hơn là dự đoán. Nhà phân tích Jessica Ji tại Trung tâm An ninh và Công nghệ mới nổi của Đại học Georgetown, cho rằng việc xem xét khả năng mô hình AI tự nhân bản là điều nên làm nếu xét đến những gì liên quan đến AI "bất hảo" xuất hiện trong ba tháng qua. Tuy nhiên, bà cũng lưu ý mọi thứ "nên thận trọng".

"Chúng ta vẫn chưa biết xác suất điều đó thực sự xảy ra là bao nhiêu phần trăm. Nó không phải bằng không, nhưng cũng không phải chắc chắn", bà Li nói.

Bảo Lâm tổng hợp

• Nhà sáng tạo vật lộn chứng minh 'tính người' thời AI
• Bill Gates: AI thúc đẩy làn sóng tấn công mạng
• Anthropic cấm người dùng 'bắt nạt' chatbot Claude
• Mô hình Anthropic hoang báo về vụ giết người ở thành phố Mỹ