Những
rủi ro khi các mô hình AI tiên tiến rơi vào tay kẻ xấu
10/05/2024
Chính
quyền Biden sẵn sàng mở ra một mặt trận mới trong nỗ lực bảo vệ AI của Hoa Kỳ
khỏi Trung Quốc và Nga với các kế hoạch sơ bộ nhằm đặt các rào chắn xung quanh
các mô hình AI tiên tiến nhất, Reuters đưa tin hôm 8/5.
https://gdb.voanews.com/0d4aeeec-1cec-4c45-810c-e41523995a4c_w1023_r1_s.jpg
Tượng
nhỏ với máy vi tính và điện thoại tinh khôn được nhìn thấy trước giòng chữ AI
Trí tuệ Nhân tạo, ảnh minh họa ngày 19/2/2024 của REUTERS/Dado Ruvic.
Các
nhà nghiên cứu của chính phủ và khu vực tư nhân lo ngại đối thủ của Mỹ có thể sử
dụng các mô hình, khai thác lượng lớn văn bản và hình ảnh để tóm tắt thông tin
và tạo ra nội dung, để tiến hành các cuộc tấn công mạng mạnh mẽ hoặc tậm chí tạo
ra vũ khí sinh học mạnh mẽ.
Thay
đổi hình ảnh và thông tin xuyên tạc
Thay
đổi hình ảnh - các video thực tế nhưng bịa đặt được tạo bởi thuật toán AI -
đang xuất hiện trên mạng xã hội, làm mờ đi sự thật và hư cấu trong thế giới
phân cực của chính trị Hoa Kỳ.
Mặc
dù các phương tiện truyền thông tổng hợp như vậy đã xuất hiện được vài năm
nhưng nó đã được tăng cường trong năm qua bởi một loạt công cụ AI mới như
Midjourney.
Các
nhà nghiên cứu cho biết trong một phúc trình hồi tháng 3 rằng các công cụ tạo
hình ảnh được hỗ trợ bởi trí tuệ nhân tạo của các công ty bao gồm OpenAI và
Microsoft, có thể được sử dụng để tạo ra những bức ảnh có thể quảng bá thông
tin xuyên tạc liên quan đến bầu cử hoặc bỏ phiếu, mặc dù mỗi công ty đều có
chính sách chống lại việc tạo nội dung xuyên tạc.
Một
số chiến dịch đưa thông tin xuyên tạc chỉ đơn giản khai thác khả năng của AI để
bắt chước các bài báo có thật như một phương tiện phổ biến thông tin xuyên tạc.
Mặc
dù các nền tảng truyền thông xã hội lớn như Facebook, Twitter và YouTube đã nỗ
lực cấm và xóa các thay đổi hình ảnh, nhưng hiệu quả của chúng trong việc kiểm
soát những nội dung đó lại khác nhau.
Ví
dụ, năm ngoái, một trang tin tức do chính phủ Trung Quốc kiểm soát đã dùng AI
thúc đẩy một tuyên bố sai sự thật được lan truyền trước đó rằng Hoa Kỳ đang điều
hành một phòng thí nghiệm ở Kazakhstan để tạo ra vũ khí sinh học nhằm mục đích
chống lại Trung Quốc, Bộ An ninh Nội địa (DHS) cho biết trong đánh giá năm
2024.
Cố
vấn An ninh Quốc gia Jake Sullivan, phát biểu tại một sự kiện AI ở Washington
hôm 8/5, cho biết vấn đề này không có giải pháp dễ dàng vì nó kết hợp năng lực
của AI với “ý định của các chủ thể nhà nước, phi nhà nước, sử dụng thông tin
xuyên tạc trên quy mô lớn, để phá vỡ dân chủ, thúc đẩy tuyên truyền, định hình
nhận thức trên thế giới.”
Ông
nói: “Hiện tại, hàng tấn công đang đánh bại hàng phòng ngự.”
Vũ
khí sinh học
Cộng
đồng tình báo Mỹ, các tổ chức nghiên cứu và học giả ngày càng lo ngại về những
rủi ro do các tác nhân xấu nước ngoài tiếp cận với các khả năng AI tiên tiến
gây ra. Các nhà nghiên cứu tại công ty Griffin Scientific và Rand Corporation
lưu ý rằng các mô hình AI tiên tiến có thể cung cấp thông tin giúp tạo ra vũ
khí sinh học.
Griffin
đã nghiên cứu cách các mô hình ngôn ngữ lớn (LLM) - các chương trình máy tính lấy
từ lượng lớn văn bản để tạo ra phản hồi cho các truy vấn - có thể bị các tác
nhân thù địch sử dụng để gây hại trong lĩnh vực khoa học đời sống và nhận thấy
chúng “có thể cung cấp thông tin có thể hỗ trợ một tác nhân độc hại trong việc
tạo ra vũ khí sinh học bằng cách cung cấp thông tin hữu ích, chính xác và chi
tiết qua từng bước trong lộ trình này.”
Ví
dụ, họ phát hiện ra rằng LLM có thể cung cấp kiến thức ở cấp độ sau tiến sĩ để
giải quyết các vấn đề khi làm việc với một loại vi rút có khả năng gây đại dịch.
Nghiên
cứu của Rand cho thấy LLM có thể giúp lập kế hoạch và thực hiện một cuộc tấn
công sinh học. Ví dụ, họ nhận thấy LLM có thể đề xuất các phương pháp phân phối
khí dung cho độc tố botulinum.
Vũ
khí mạng
Trong
đánh giá về mối đe dọa nội địa năm 2024, DHS cho biết các tác nhân mạng có thể
sẽ sử dụng AI để “phát triển các công cụ mới” nhằm “tạo điều kiện cho các cuộc
tấn công mạng quy mô lớn hơn, nhanh hơn, hiệu quả hơn và có tính né tránh cao
hơn” nhắm vào cơ sở hạ tầng quan trọng bao gồm đường ống dẫn dầu và đường sắt.
DHS
cho biết, Trung Quốc và các đối thủ khác đang phát triển các công nghệ AI có thể
làm suy yếu hệ thống phòng thủ mạng của Hoa Kỳ, bao gồm các chương trình AI hỗ
trợ các cuộc tấn công bằng phần mềm độc hại.
Microsoft
cho biết trong một phúc trình hồi tháng 2 rằng họ đã theo dõi các nhóm tin tặc
liên kết với chính phủ Trung Quốc và Triều Tiên cũng như tình báo quân sự Nga
và Lực lượng Vệ binh Cách mạng Iran, trong lúc các nhóm này tìm cách hoàn thiện
các chiến dịch tin tặc bằng cách sử dụng các mô hình ngôn ngữ lớn.
No comments:
Post a Comment