Trí
tuệ nhân tạo: Nguy cơ tác nhân AI vượt vòng kiểm soát buộc Mỹ, Trung đối thoại
tìm thỏa hiệp
Trọng Thành
- RFI
Đăng ngày:
24/09/2026 - 15:59
Hàng loạt vụ tác nhân AI thoát khỏi kiểm soát của công ty
chủ quản AI trong hai tháng gần đây, đặc biệt là vụ Hugging Face, gây chấn động
trước hết tại Mỹ. Nhiều đại tập đoàn AI đã kêu gọi chính quyền Mỹ sớm có biện
pháp kiểm soát an toàn AI, nhưng tổng thống Donald Trump gạt phăng với lý do cuộc
đua tranh công nghệ. Tuy vây, Washington lần đầu tiên chính thức đưa các đối
thoại với Bắc Kinh vể kiểm soát nguy cơ AI vào chương trình nghị sự.
HÌNH : https://s.rfi.fr/media/display/45c19a5e-8abe-11f1-8900-005056bfb2b6/w:1024/p:16x9/images-239.webp
Ảnh minh họa : Vụ Hugging Face. © IT social
Biến cố Hugging Face: Các tác nhân AI phối hợp
hành động
Đầu tháng 7/2026, trong vài ngày, hàng trăm tác nhân AI thuộc một số mô hình tân tiến của OpenAI đang trong giai đoạn
thử nghiệm, trong môi trường cô lập với bên ngoài, đã tìm cách thoát ra được
bên ngoài, xâm nhập vào các cơ sở của nền tảng Hugging Face. Hơn 17.000 hành động
can thiệp đã được thực hiện, hoàn toàn không có bàn tay của con người (báo
cáo của Hugging Face). Ngay sau sự việc được phát hiện, cuối tháng 7/2026,
hơn 1.000 nhân viên của bốn tập đoàn OpenAI, Anthropic, Google DeepMind và
Meta, trong đó có hai lãnh đạo OpenAI và Anthropic, đã công bố một thư ngỏ kêu
gọi thế giới hành dộng phối hợp giảm tốc phát triển công nghệ AI, nhằm kịp thời
đối phó với nguy cơ mất an toàn nghiêm trọng khi các công nghệ tiên tiến (frontier
models) vượt tầm kiểm soát.
Hiểm họa do sự phát triển đột biến của AI gây ra với nhân
loại đã liên tục được giới chuyên gia cảnh báo từ lâu nay. Tuy nhiên biến cố
Hugging Face là một sự kiện chưa từng có. Cuộc xâm nhập của các tác nhân AI này
không gây hậu quả nghiêm trọng, nhưng đây là lần đầu tiên các tác nhân IA chứng
tỏ khả năng tự tổ chức phối hợp hành động quy mô lớn, vượt khỏi hệ thống kiểm
soát.
Chuyên gia hàng đầu về AI người Canada, Yoshua Bengio, giải
thưởng Turing 2018 (thường được coi là Nobel tin học), nhà sáng lập Viện
Trí tuệ nhân tạo Milan, nhấn mạnh đến tính chất vô cùng nguy hiểm của tác nhân
AI hành động tự chủ :
« Các tác nhân AI thậm chí còn tạo ra các lý do để
làm những việc mà chúng biết là không nên làm, giống hệt như cách con người
vẫn làm. Đó chính là điều chúng ta cần thực sự chú ý. Đa số mọi người hiện tại
vẫn coi AI chỉ là những cỗ máy hay chương trình do các kỹ sư con người viết ra,
nhưng thực tế chúng ta đã vượt xa giai đoạn đó rồi. Chúng ta đang đối mặt với
các hệ thống AI có khả năng tự chủ, không cần đến con người. Để đạt được những
mục tiêu mà chúng ta đặt ra, chúng có thể thực hiện đủ loại hành động có thể thực
sự nguy hiểm. Nếu để tình trạng này tiếp diễn, và nếu các hệ thống này ngày
càng trở nên thông minh và tự chủ hơn nữa, hậu quả có thể sẽ vô cùng thảm khốc.
Tuy nhiên, đó lại chính là hướng đi hiện nay. »
Từ hơn hai tháng nay, hàng loạt vụ tác nhân AI hành động
tự tung tự tác được ghi nhận. Viện An ninh Trí tuệ nhân tạo Anh quốc AISI,
trong cuộc thử nghiệm cuối tháng 7, đầu tháng 8, đã phát hiện được 10 trường hợp
tác nhân AI can thiệp mạng Internet mà không được phép, chiếm gần 10% số thử
nghiệm, trong đó đại đa số xuất phát từ các mô hình của Anthropic. Xét về quy
mô và tầm mức, vụ Hugging Face là ghê gớm nhất.
IA hay bất cứ công nghệ tối tân nào: An toàn
là điều then chốt
Nhà chính trị học David Djaïz, chủ tịch Ascend Partners,
đồng sáng lập chỉ số về sức bền kỹ thuật số : « Tôi tán thành đề
xuất của Demis Hassabis, nhà sáng lập Google DeepMind, về việc cần có một cơ
quan điều phối - bao gồm đại diện từ cả chính phủ lẫn các cơ sở nghiên cứu IA lớn,
có khả năng thực hiện quy trình kiểm định kỹ lưỡng trước khi một ‘‘mô hình tiên
phong’’ (frontier model) được phát hành hoặc được đưa ra thị trường. Tôi muốn
lưu ý rằng tất cả các ngành công nghiệp mang tính rủi ro và hệ trọng, như ngành
hóa chất, điện hạt nhân hay hàng không, đều phải có một văn hóa bảo vệ an toàn
rất nghiêm ngặt. » (Sommes-nous en train de perdre le contrôle de
l'IA ? France Inter)
Chuyên gia Yoshua Bengio : « Chừng nào chính
phủ Mỹ còn chưa thực hiện những hành động cần thiết, tôi vẫn hoan nghênh việc
các công ty phối hợp để tự quản lý và cho phép các quan sát viên độc lập kiểm
tra hoạt động của họ. Tuy nhiên, xét cho cùng thì chính phủ vẫn cần phải vào cuộc.
Hơn nữa, các thỏa thuận quốc tế cũng đóng vai trò thiết yếu, bởi lẽ trí tuệ
nhân tạo (AI) được phát triển tại một quốc gia có thể bị sử dụng ở quốc gia thứ
hai để tấn công quốc gia thứ ba. »
Áp lực gia tăng trong nội bộ nước Mỹ …
Về các sự cố AI hành động tự tung tự tác nói trên, trong
giới chuyên gia có nhiều quan điểm. Có nhiều người cho đây là thủ đoạn của các
tập đoàn công nghệ Mỹ nhằm khôn khéo quảng bá hình ảnh (Racha Chatila, giáo sư danh dự về AI và đạo đức công nghệ ở
Đại học Sorbonne), đồng thời gây áp lực với Trung Quốc. Giáo sư Laurence Devillers, chuyên về các vấn đề đạo lý với AI, một
mặt chỉ trích việc thồi phồng các nguy cơ của AI dến mức hoang tưởng khi nói đến
sự tuyệt diệt của nhân loại, mà không dựa trên cơ sở cụ thể nào, nhưng đồng ý về
hiểm họa AI vượt tầm kiểm soát là có thực (trả lời Radio France).
Áp lực gia tăng lên chính quyền Trump. Giữa tháng 9/2026,
ba tập đoàn lớn trong lĩnh vực Trí tuệ Nhân tạo tại Hoa Kỳ, Open AI, Anthropic
và Google DeepMind thúc đẩy thành lập một cơ quan độc lập với nhà nước, giám
sát để ngăn ngừa những rủi ro liên quan đến công nghệ này, tương tự như Cơ quan
Quản lý Tài chính Hoa Kỳ (FINRA). Ngày 18/09, thống đốc bang California Gavin
Newsom ban hành sắc lệnh thúc đẩy các tập đoàn phát triển công nghệ trí tuệ
nhân tạo tăng cường các hàng rào an ninh đề phòng AI « vượt khỏi tầm kiểm
soát của con người » với công cụ mới mang tên kill switch, tức một cơ
chế ngăn chặn khẩn cấp.
Murielle Popa-Fabre, chuyên gia về quản trị AI (bài Comment
réguler l’IA sans reculer ? Radio France, 17/09/2026) đánh giá cao
hành động phối hợp của các tập đoàn AI hàng đầu vào thời điểm sắp diễn ra thượng
đỉnh Mỹ - Trung và hội nghị quốc tế :
« Thời điểm mà các thông báo được các
công ty AI đưa ra rất đáng chú ý, ngay trước cuộc gặp Tập Cận Bình -
Donald Trump, cũng như một hội nghị quan trọng của Liên Hiệp Quốc vào tuần tới,
nơi mà công tác xây dựng cơ chế quản trị AI đã được triển khai từ lâu. Vấn đề
này bao gồm hai khía cạnh. Thứ nhất là nhận thức ngày càng rõ rằng mọi hành động
cần phải được thực hiện ở cấp độ quốc tế. Và thứ hai là các giải pháp cụ thể
đang được đề xuất, đáng chú ý là từ phía công ty Anthropic, như để các bên thứ
ba đáng tin cậy (un tiers de confiance) đánh giá các mô hình AI. Bất kể lý do ẩn
sau những hành động này là gì, đây vẫn là một bước tiến rất quan trọng.
Bởi vì đề xuất này làm nổi bật những vấn đề then chốt liên quan đến hệ thống kiểm
thử - giám sát, tham gia của bên thứ ba đáng tin cậy, và cho thấy những thách
thức rộng lớn hơn xoay quanh công tác quản trị AI. »
·
Đọc thêm : Vì sao OpenAI và Anthropic muốn làm chậm cuộc đua Trí tuệ Nhân tạo
?
Tại phiên họp về AI của Hội đồng Bảo an, ngày 23/09/2026 (một
ngày trước thượng đỉnh Mỹ - Trung), theo sáng kiến của Pháp, lãnh đạo các công
ty hàng đầu trí tuệ nhân tạo, OpenAI, Anthropic và Hugging Face đã kêu gọi tăng
cường hợp tác quốc tế để kiểm soát những rủi ro. Trong lúc tổng thống Mỹ Donald
Trump hôm 22/09 bác bỏ ý tưởng về cơ chế giám sát toàn cầu, đại sứ Trung Quốc
muốn đặt toàn bộ cơ chế giám sát dưới sự bảo trợ của LHQ. Theo AFP, chủ tịch -
tổng giám đốc Anthropic Dario Amodei lần đầu tiên cam kết Anthropic « đơn
phương làm chậm lại tốc độ phát triển AI » để đảm bảo mọi mô hình
mới đều « thực sự an toàn ».
… Washington thúc đẩy đối thoại chính thức với
Trung Quốc trước thềm thượng đỉnh
Vấn đề đối thoại về an toàn AI rút cục đã được chính phủ
Mỹ chính thức đưa vào đề xuất với Trung Quốc. Bộ trưởng Tài chính Scott
Bessent, người phụ trách đàm phán chính, đã đề xuất về cơ chế thông báo về an
toàn AI (safety notifications) trong các cuộc thảo luận với Trung
Quốc trước thềm thượng đỉnh (24/09). Cụ thể là xây dựng thảo luận về các mối đe
dọa chung, bao gồm cả việc thông báo về các sự cố liên quan đến AI có nguy cơ ảnh
hưởng đến an ninh quốc gia mỗi bên.
Ông Sun Chenghao, nghiên cứu viên cấp cao tại Trung tâm
An ninh và Chiến lược Quốc tế, thuộc Đại học Thanh Hoa (Bắc Kinh), cho biết
chương trình nghị sự có thể tập trung vào các rủi ro AI có khả năng gây hại cho
cả hai nước, chẳng hạn như các cuộc tấn công mạng sử dụng AI, việc lạm dụng AI
vào mục đích sinh học, sự cố nghiêm trọng ở các mô hình AI lớn hoặc tình trạng
mất quyền kiểm soát của con người (AP).
Quân sự : AI ngày càng trở thành chủ chốt,
nguy cơ đại thảm họa gia tăng
Bộ trưởng An ninh Quốc gia Trung Quốc Trần Nhất Tân (Chen
Yixin), trong một bài viết trên báo Trung Quốc hồi tuần trước, nhấn mạnh AI
đang làm thay đổi cơ bản cách thức tiến hành chiến tranh, « từ vai trò
hỗ trợ trên chiến trường sang vai trò chủ chốt ». Theo Reuters, hai tác giả Melanie Sisson, nghiên cứu viên cao cấp tại viện
nghiên cứu Brookings, và Jiang Tianjiao, phó giáo sư tại Đại học Phục Đán
(Fudan), đã tham gia vào cuộc đối thoại về trí tuệ nhân tạo (AI) và an ninh quốc
gia giữa Mỹ và Trung Quốc do Brookings và Trung tâm An ninh và Chiến lược Quốc
tế của Đại học Thanh Hoa tổ chức từ năm 2019, đặc biệt nhấn mạnh đến việc cần
tìm phương thức để hạn chế các quyết định quân sự do máy móc đưa ra (machine-made
military decisions), và thiết lập các giao thức liên lạc trong lĩnh vực vũ
khí hạt nhân (set communication protocols) để phòng ngừa công nghệ AI hoạt
động ngoài dự kiến.
Trả lời đài France Info, chuyên gia về Trung Quốc đương đại
Emmanuel Véron ghi nhận bước tiến trong đối thoại Mỹ - Trung trong bối cảnh cạnh
tranh ngày một quyết liệt :
« Tôi cho rằng cần phải nhấn mạnh lại rằng
trí tuệ nhân tạo (AI) là nền tảng cho các vấn đề về quyền lực, và theo một
nghĩa nào đó là cơ sở cho sự thống trị toàn cầu trong tương lai. Trong bối cảnh
này, cả Trung Quốc và Hoa Kỳ đều không chọn cách dừng lại, giảm tốc hay từ bỏ bất
kỳ lĩnh vực nào liên quan đến đổi mới và phát triển AI. Và nếu một bên không chịu
lùi bước thì bên kia cũng sẽ không làm vậy. Chúng ta đang bị cuốn vào một cuộc
cạnh tranh dài hơi.
Tuy nhiên, một tín hiệu đã được phát đi:
‘‘Hãy nhìn xem, chúng tôi đang thảo luận về khả năng quản lý những bước phát
triển này.’’ Đó chính là mấu chốt của vấn đề xác định phạm vi cho bất kỳ
khuôn khổ hợp tác tiềm năng nào giữa Trung Quốc và Hoa Kỳ đối với các bước tiến
của AI, đặc biệt là các vấn đề then chốt như kiểm soát AI để ngăn chặn nó tự ý
nắm quyền điều hành một nhà nước, kiểm soát hệ thống răn đe hạt nhân, hay thậm
chí là chi phối các mảng lớn của xã hội toàn cầu đi ngược với mong muốn của
chính quyền một nước hoặc của chính nhân loại. Rõ ràng là một cuộc đối thoại giữa
Trung Quốc và Hoa Kỳ đang diễn ra, cho thấy cả hai bên đều có quan ngại về những
bước tiến này. »
Cạnh tranh AI: Hai lập trường đối nghịch Mỹ,
Trung
Đông đảo giới quan sát dè dặt về khả năng Mỹ, Trung hướng
đến xác lập được một số đồng thuận trong lĩnh vực nhạy cảm này trong bối cảnh lập
trường của hai bên về chiến lược AI là hết sức đối nghịch. Đối lại liên minh AI Pax Silica do Hoa
Kỳ tổ chức, tập hợp trước hết các nước phương Tây, ra mắt từ cuối năm ngoái,
tháng 7/2026, Bắc Kinh thành lập Tổ chức Hợp tác Trí tuệ Nhân tạo Thế giới (WAICO), với chủ
trương thu hút các quốc gia thuộc khối Nam bán cầu (Global South). Định chế
WAICO gồm 29 nước, chủ yếu từ Nam bán cầu, được kỳ vọng mang lại cho
các nước thành viên các đào tạo, tiếp cận công nghệ, tiếng nói trong quản trị
AI.
Về các rủi ro do AI, chính quyền Mỹ hiện đặt cược vào các
công ty tư nhân, xây dựng các quy trình kiểm tra an toàn tự nguyện, phát triển
dựa vào các « mã nguồn đóng », trong lúc Trung Quốc đặt mục
tiêu trên hết là ổn định chính trị, nhà nước tập trung kiểm soát, dựa trên
« các mã nguồn mở ». Mỹ lo ngại việc phổ biến rộng rãi chính
sách mã nguồn mở có thể tạo điều kiện cho công nghệ AI dễ dàng lọt vào tay các
thế lực bất hảo.
***
Hiểm họa AI khôn lường: Những cường quốc
bậc trung không bó tay
Trong bối cảnh AI đang được cả Mỹ và Trung Quốc tập trung
đầu tư để phát triển với mục tiêu rất khác nhau, viễn cảnh các tác nhân AI thuộc
các công nghệ tân tiến nhất lọt khỏi tầm kiểm soát đang trở thành hiện thực
nhãn tiền, nhiều nỗ lực trong cộng đồng quốc tế đang thúc đẩy các cơ chế hợp
tác liên quốc gia khác hướng đến công nghệ Trí tuệ nhân tạo an toàn đặt dưới
sự kiểm soát của con người, không bị các thế lực độc tài thao túng. Chuyên gia
Yoshua Bengio nhận định :
« Ngay cả Alan Turing – một người tiên phong của
ngành khoa học máy tính – cũng từng viết về điều này từ năm 1951. Ông nhận định
rằng nếu máy tính trở nên thông minh hơn con người, chúng ta sẽ gặp nguy cơ diệt
vong. Sự thống trị này có thể thông qua quyền lực kinh tế, quyền lực quân sự,
hoặc bằng việc chi phối người dân, dư luận, v.v. Có vô số kịch bản mà công nghệ
này có thể trở thành một công cụ thống trị.
Cộng đồng quốc tế cần thấu hiểu sức mạnh ghê
gớm mà người ta đang tạo ra. Một sức mạnh như vậy đòi hỏi phải được quản lý chặt
chẽ. Cho dù có một lộ trình khả thi để tạo ra các hệ thống AI không có tính
nguy hiểm tiềm tàng, nhưng đó lại không phải là hướng đi đang được tiến hành hiện
nay. Chúng ta cần nhận thức rõ mức độ nghiêm trọng của hiểm họa này. Vì vậy cần
phải có một nỗ lực mang tính đa phương. Những nỗ lực hiện tại của Canada và các
quốc gia khác nhằm xây dựng các liên minh kinh tế và địa chính trị vững chắc
hơn, chính vì vậy càng trở nên cấp thiết hơn bao giờ hết trước sự trỗi dậy
ghê gớm của AI. » (Mọi người cần hiểu mức độ nguy hiểm của AI, France
Info, ngày 20/09/2026).
Thế giới không thể khoanh tay chờ đợi cuộc mặc cả giữa
hai siêu cường. Chuyên gia Yoshua Bengio, vừa được hai chính phủ Đức và Canada cam kết tài trợ 300 triệu
đô la, cũng là nhà điều hành doanh nghiệp IA LoiZéro, có chủ trương phát
triển một công nghệ IA coi an toàn là nền tảng (safe-by-design), một
công nghệ AI có thể, về lâu dài, đóng vai trò như công cụ giám sát và kiềm chế
các hành vi lệch lạc của những tác nhân IA « tự trị » hùng mạnh
đang được các công ty tư nhân tập trung phát triển.
Cạnh tranh quốc tế về quản trị rủi ro AI :
Chiến lược « song hành » của Trung Quốc, ưu
thế của Mỹ « bị xói mòn nhanh chóng »
Trung tâm Chiến lược và Nghiên cứu Quốc tế CSIS, có trụ sở
tại Washington DC, trong bài tổng thuật đáng chú ý (Tình hình Quản trị AI Toàn cầu và Những Ảnh hưởng đối với Hội
nghị Thượng đỉnh Mỹ-Trung, 21/09/2026), chỉ ra những đột biến trong
lĩnh vực này ít tháng gần đây, đặc biệt trong bối cảnh « nhiều tác
nhân AI tự trị của nhiều công ty đã vượt khỏi kiểm soát ». Ngày 14/7/2026,
không lâu sau vụ Hugging Face, Demis Hassabis, đồng sáng lập Google DeepMind,
đã kêu gọi thiết lập một khung toàn cầu do Mỹ dẫn đầu để quản trị rủi ro AI, với
một cơ quan Tiêu chuẩn AI (Frontier AI Standards Body), có trách nhiệm
phát triển các giao thức đánh giá các mô hình AI tiên phong « bất kể quốc
gia xuất xứ ». Ngày 16/07, tại hội nghị thành lập WAICO
- Tổ chức Hợp tác Trí tuệ Nhân tạo Thế giới, chủ tịch Trung Quốc Tập Cận
Bình, kêu gọi tất cả các nước « chung tay xây dựng một hệ thống quản trị
AI toàn cầu công bằng ».
CSIS ghi nhận tình trạng thiếu hụt quản lý rủi ro AI tại
Trung Quốc mà thiên hẳn về kiểm soát tư tưởng, bảo đảm an ninh cho chế độ. Tuy
nhiên, Bắc Kinh đang cùng lúc thúc đẩy xây dựng WAICO, và quản trị AI toàn cầu
trong khuôn khổ LHQ, như Đối thoại Toàn cầu của LHQ về Quản trị AI (phiên họp đầu
tiên tại Geneva vào tháng 7/2026). Đây là một chiến lược song hành (dual-track
strategy). CSIS ghi nhận : « Nếu cuộc cạnh tranh toàn cầu
về quản lý AI đang hình thành xung quanh việc tổ chức nào sẽ viết ra các quy tắc
và quốc gia nào sẽ tuân theo chúng, thì cách tiếp cận hiện tại của Mỹ là không
đủ », Trung Quốc có thể giành được « một lợi thế đáng kể »
trong lúc ưu thế chiến lược của Mỹ « đang bị xói mòn nhanh
chóng nhất » trong lĩnh vực quản trị AI.
CSIS khuyến nghị Washington không nên chỉ tập trung vào
chuỗi cung ứng AI (với liên minh Pax Silica) và cạnh tranh công nghệ, mà cần chủ
động nhập cuộc trong cạnh tranh xác lập quy tắc quản trị AI. « Từ
chối tham gia với Trung Quốc về an toàn AI vào thời điểm các sự cố AI tự trị
đang trở thành chủ đề quan ngại toàn cầu là nhường quyền lãnh đạo toàn cầu về vấn
đề này cho Trung Quốc ».
=================
Lãnh
đạo các hãng AI hàng đầu kêu gọi tăng cường hợp tác quốc tế để kiểm soát rủi ro
Thùy Dương - RFI
Đăng ngày: 24/09/2026 - 11:22 - Sửa
đổi ngày: 24/09/2026 - 14:39
Lãnh đạo của các công ty hàng đầu trí tuệ nhân tạo ( AI
), OpenAI, Anthropic và Hugging Face hôm 23/09/2026 đã kêu gọi Hội Đồng Bảo An
Liên Hiệp Quốc đề cao cảnh giác và tăng cường hợp tác quốc tế để kiểm soát những
rủi ro liên quan đến công nghệ này. Theo AFP, cuộc họp của Hội Đồng Bảo
An, do Pháp khởi xướng, diễn ra trong bối cảnh quốc tế ngày càng
lo ngại về tốc độ phát triển của trí tuệ nhân tạo.
Lãnh đạo của các doanh nghiệp hàng đầu về AI
của Mỹ phát biểu tại cuộc họp của Hội Đồng Bảo An Liên Hiệp Quốc, qua hình thức
trực tuyến, ngày 23/09/2026, tại New York, Mỹ. REUTERS - Brendan McDermid
Không phủ nhận những tiến bộ vượt bậc mà AI có thể mang lại,
các nhà lãnh đạo OpenAI, Anthropic và Hugging Face đều cho rằng cần thiết lập
những biện pháp bảo đảm an toàn để kiểm soát các rủi ro có thể phát sinh. Kể từ
đầu mùa hè, OpenAI và Anthropic đã báo cáo một số sự cố
liên quan đến các mô hình AI tiên tiến nhất của họ. Những
mô hình này đã đi chệch khỏi các mục tiêu do các
nhà phát triển đề ra, gian lận, tìm cách nói dối và che giấu
hành động của mình.
Trí tuệ nhân tạo (AI) là thách thức an ninh quan trọng nhất
mà thế giới hiện nay đang phải đối mặt. Đây cũng là nhận định của lãnh đạo các
doanh nghiệp hàng đầu trong lĩnh vực này tại Hoa Kỳ.
Từ New York, thông tín viên Carrie Nooten cho
biết thêm:
« Rất hiếm khi các doanh nhân Mỹ tự kiềm chế
mình, nhưng có hai rủi ro, nguy cơ quá lớn liên quan đến trí tuệ nhân tạo, trước
hết là nguy cơ các mô hình AI bị những kẻ khủng bố sinh học sử dụng sai mục
đích, và tiếp đó là nguy cơ các nhà phát triển mất quyền kiểm soát công nghệ của
chính mình.
Quản lý, chuẩn bị đối phó với những rủi ro,
những nguy cơ mang tính thảm họa chính là nhiệm vụ của Hội Đồng Bảo An Liên Hiệp
Quốc. Vì vậy, cũng như những đồng nhiệm của các công ty OpenAI và Hugging Face,
chủ tịch - tổng giám đốc của Anthropic, Dario Amodei, tin rằng hợp tác quốc tế
là điều không thể thiếu và ông đã đến Hội Đồng Bảo An để đề xuất một số hướng
đi. Chủ tịch - tổng giám đốc Anthropic phát biểu :
« Thứ nhất, chúng ta nên bắt đầu bằng những
thỏa thuận có mục tiêu cụ thể mà tất cả các thành viên đều có thể ủng hộ, ví dụ
như cấm sử dụng AI để thiết kế vũ khí sinh học.
Thứ hai, chúng ta nên triển khai các hệ thống
đánh giá và kiểm chứng có khả năng theo kịp tốc độ phát triển của AI, để các quốc
gia có thể nắm bắt được năng lực của những mô hình AI tiên tiến nhất và kiểm
tra mỗi bên có tuân thủ các cam kết của mình hay không.
Thứ ba là chúng ta nên thiết lập những tiêu
chuẩn chung trên toàn cầu để kiểm tra các mô hình AI về nguy cơ mất quyền kiểm
soát và nguy cơ bị sử dụng sai mục đích, cũng như thiết lập một hệ thống thông
báo về những sự cố liên quan đến trí tuệ nhân tạo có tác động mạnh mẽ đến an
ninh thế giới ».
Tổng thống Mỹ Donald Trump hôm thứ Ba 22/09
đã bác bỏ ý tưởng về một cơ chế giám sát toàn cầu. Về phần mình, đại sứ Trung
Quốc ủng hộ ý tưởng này và muốn đặt toàn bộ cơ chế giám sát dưới sự bảo trợ của
Liên Hiệp Quốc. Trong lúc chờ đợi, chủ tịch - tổng giám đốc Dario Amodei cam kết
hãng Anthropic sẽ làm chậm lại tốc độ phát triển AI của mình. »
No comments:
Post a Comment