NỘI DUNG :
‘Bố
già AI’ rời Google, cảnh báo về các hiểm họa công nghệ
.
‘Cha đỡ đầu’ của AI cảnh báo về mối đe dọa từ
Chatbot sau khi nghỉ việc ở Google
BBC News Tiếng Việt
===================================================
.
.
‘Bố già AI’ rời Google, cảnh báo về các hiểm họa công nghệ
03/05/2023
https://www.voatiengviet.com/a/bo-gia-ai-roi-google-canh-bao-ve-hiem-hoa-cong-nghe/7075938.html
Nhà nghiên cứu tiên phong và được mệnh danh là “Bố già của AI”, Geoffrey Hinton, nghỉ việc
tại Google để có thể tự do lên tiếng về mối nguy hiểm của công nghệ mà ông đã
giúp tạo ra.
https://gdb.voanews.com/01000000-0aff-0242-3857-08db4b38ec0c_w1023_r1_s.jpg
Nhà nghiên cứu tiên phong và được mệnh danh là “Bố
già của AI”, chụp ảnh trước trụ sở của Google ở Mountain View, California, ngày
25/3/2015.
Trong sự nghiệp nhiều chục
năm của mình, công trình tiên phong của ông Hinton về học sâu và mạng thần kinh
đã giúp đặt nền móng cho phần lớn công nghệ AI mà chúng ta thấy ngày nay.
Đã có một loạt các giới
thiệu về AI trong những tháng gần đây. Công ty khởi nghiệp OpenAI có trụ sở tại
San Francisco, công ty phát triển ChatGPT được Microsoft hậu thuẫn, đã tung ra
mô hình trí tuệ nhân tạo mới nhất của mình, GPT-4, vào tháng Ba. Những công ty
công nghệ khổng lồ khác đã đầu tư vào các công cụ cạnh tranh — bao gồm cả
“Bard” của Google.
Ông Hinton nói với BBC rằng
một số mối nguy hiểm của chatbot AI là “khá đáng sợ”. “Bây giờ nó chưa thông
minh hơn chúng ta nhưng sẽ chẳng bao lâu nữa đâu.”
Trong một cuộc phỏng vấn
với tờ MIT Technology Review, ông Hinton cũng chỉ ra “những kẻ xấu” có thể sử dụng
AI theo những cách có thể gây tác động bất lợi cho xã hội — chẳng hạn như thao
túng bầu cử hoặc xúi giục bạo lực.
Ông Hinton, 75 tuổi, cho
biết ông đã nghỉ việc tại Google để có thể phát biểu cởi mở về những rủi ro tiềm
ẩn khi không còn làm việc cho công ty công nghệ khổng lồ.
“Tôi muốn nói về các vấn đề an toàn của AI mà không phải lo lắng về sự ảnh
hưởng tới hoạt động kinh doanh của Google,” ông nói với MIT Technology Review.
“Chừng nào tôi còn được Google trả tiền, thì tôi không thể làm điều đó.”
Kể từ khi thông báo về sự
ra đi của mình, ông Hinton đã khẳng định rằng Google đã “hành động rất có trách
nhiệm” đối với AI. Ông nói với MIT Technology Review rằng cũng có “rất nhiều điều
hay về Google” mà ông muốn nói đến — nhưng những nhận xét đó sẽ “đáng tin cậy
hơn nhiều nếu tôi không còn ở Google nữa”.
Google xác nhận rằng ông
Hinton đã nghỉ hưu sau 10 năm giám sát nhóm Nghiên cứu của Google ở Toronto.
Trọng tâm các tranh cãi về
AI là liệu các mối nguy hiểm là trong tương lai hay hiện tại. Một bên là các
tình huống giả định về rủi ro tồn tại do máy tính thay thế trí thông minh của
con người gây ra. Mặt khác là những lo ngại về công nghệ tự động đã được các
doanh nghiệp và chính phủ triển khai rộng rãi và có thể gây ra những tác hại
trong thế giới thực.
Bà Alondra Nelson, người đứng đầu Văn phòng Chính sách Khoa học và Công nghệ Tòa Bạch Ốc
cho đến tháng 2, nói: “Dù tốt hay không, những gì chatbot đã làm là biến AI trở
thành đề tài bàn tán cấp quốc gia và quốc tế không chỉ bao gồm các chuyên gia
và nhà phát triển AI.”
“AI không còn trừu tượng
nữa, và tôi nghĩ chúng ta bắt đầu bàn về cách chúng ta muốn thấy một tương lai
dân chủ và một tương lai không bóc lột với công nghệ như thế nào,” bà Nelson
nói trong một cuộc phỏng vấn vào tháng trước .
Một số nhà nghiên cứu AI
từ lâu đã bày tỏ lo ngại về chủng tộc, giới tính và các hình thức thiên vị khác
trong các hệ thống AI, bao gồm các mô hình ngôn ngữ dựa trên văn bản được đào tạo
trên kho chữ viết khổng lồ của con người và có thể khuếch đại sự phân biệt đối
xử tồn tại trong xã hội.
Bà Sarah Myers West, giám đốc điều hành của Viện AI Now phi lợi nhuận, cho biết: “Chúng ta
cần lùi lại một bước và thực sự suy nghĩ xem nhu cầu của ai đang được đặt lên
hàng đầu và là trung tâm trong cuộc thảo luận về rủi ro.” “Những tác hại do các
hệ thống AI gây ra ngày nay thực sự không được phân bổ đồng đều. Nó đang làm trầm
trọng thêm các mô hình bất bình đẳng hiện có.”
Ông Hinton là một trong ba nhà tiên phong về AI đã giành
được Giải thưởng Turing vào năm 2019, một vinh dự được biết đến như
là phiên bản giải Nobel của ngành công nghệ. Hai người chiến thắng khác, Yoshua Bengio và
Yann LeCun, cũng bày tỏ lo ngại về
tương lai của AI.
Ông Bengio, giáo sư tại Đại
học Montreal, đã ký một bản kiến nghị vào cuối tháng 3 kêu gọi các công ty công
nghệ đồng ý tạm dừng 6 tháng trong công cuộc phát triển các hệ thống AI mạnh mẽ,
trong khi ông LeCun, nhà khoa học AI hàng đầu tại công ty mẹ của Facebook,
Meta, đã đưa ra một cách tiếp cận lạc quan hơn.
====================
LIÊN QUAN
Elon Musk
nói sẽ tung ra đối thủ của ChatGPT hiện do Microsoft đứng sau
.
Bill
Gates: Lời kêu gọi tạm dừng AI không 'giải quyết được các thách thức'
.
Tỷ
phú Elon Musk và những người khác kêu gọi tạm dừng AI, với lý do ‘rủi ro cho xã
hội’
Nghiên
cứu: Trung Quốc dẫn trước Mỹ trong cuộc cạnh tranh về công nghệ mới nổi quan trọng
================================================
.
.
‘Cha đỡ đầu’
của AI cảnh báo về mối đe dọa từ Chatbot sau khi nghỉ việc ở Google
BBC
News Tiếng Việt
2 tháng 5 năm 2023
https://www.bbc.com/vietnamese/articles/ceq6y7dx541o
Geoffrey Hinton, nhà khoa học máy
tính được mệnh danh là “cha đỡ đầu của trí tuệ nhân tạo” đã nghỉ việc, cảnh báo
về những mối nguy hiểm ngày càng gia tăng từ những phát triển trong lĩnh vực
này.
Tuyên bố từ chức ở Google
trong một lá thư gửi cho tờ New York Times, ông Hinton, 75 tuổi cho biết giờ
đây ông rất hối hận về công việc của mình.
Trao đổi với BBC, nhà
khoa học cho biết một số nguy cơ của chatbot AI "khá đáng sợ".
"Ngay bây giờ, tôi có thể nói chúng không thông minh hơn chúng ta.
Nhưng tôi nghĩ là sẽ sớm thôi."
Nghiên cứu tiên phong của
Tiến sĩ Hinton về học sâu (deep learning) và mạng lưới nơ-ron đã mở đường cho
các hệ thống AI hiện tại như ChatGPT.
Nhưng nhà tâm lý học nhận
thức kiêm nhà khoa học máy tính người Canada gốc Anh nói với BBC rằng chatbot
có thể sớm vượt qua mức độ thông tin mà bộ não con người nắm giữ.
"Ngay bây giờ, những gì chúng ta đang thấy là những thứ như GPT-4 vượt
một người về lượng kiến thức chung và lấn át hẳn họ về chặng đường dài. Về mặt lý luận, nó không
tốt bằng, nhưng nó đã thực hiện được suy luận đơn giản.
"Và với tốc độ tiến bộ, chúng tôi dự trù mọi thứ sẽ cải thiện khá
nhanh. Vì vậy, chúng ta cần phải lo lắng về điều đó."
OpenAI ra mắt GPT-4, 'cao thủ hơn' ChatGPT
Việt Nam phải làm gì nếu nổ ra chiến tranh
công nghệ cao?
ChatGPT: 'OpenAI đã sử dụng lao động rẻ ở
Kenya, để dán nhãn lại dữ liệu'
Trong bài báo trên New York Times, Tiến sĩ Hinton đã đề cập đến
"những kẻ xấu", những người sẽ cố gắng sử dụng AI cho "những điều
xấu".
Khi được BBC yêu cầu phân
giải thêm về điều này, ông đáp:
"Đây chỉ là một tình huống xấu nhất, một tình huống ác mộng.
"Quý vị có thể tưởng tượng, ví dụ, một số kẻ xấu như [Tổng thống Nga
Vladimir] Putin đã quyết định trao cho robot khả năng tạo ra các mục tiêu con của
riêng chúng."
Nhà khoa học cảnh báo rằng
điều này cuối cùng có thể "tạo ra các mục tiêu con như 'Tôi cần có thêm
quyền lực'".
Ông nói thêm:
“Tôi đã đi đến kết luận rằng loại trí thông minh mà chúng ta đang phát
triển rất khác với loại trí thông minh mà chúng ta có.
"Chúng ta là những hệ thống sinh học còn đây là những hệ thống kỹ
thuật số. Và sự khác biệt lớn là đối với các hệ thống kỹ thuật số, quý vị có
nhiều bản sao của cùng một bộ trọng lượng, cùng một mô hình thế giới.
"Và tất cả những bản sao này có thể học mọi thứ một cách riêng biệt
nhưng chia sẻ kiến thức với nhau tức thì. Vì vậy, giống như bạn có 10.000 người và bất cứ
khi nào một người học được điều gì đó, mọi người sẽ tự động hiểu điều đó. Và đó
là cách những chatbot này có thể hiểu biết vượt xa hơn bất kỳ con người
nào."
Trí tuệ nhân tạo sẽ biến cả loài người thành
nô lệ của độc tài?
'Cơn sốt' ChatGPT: 'Nô lệ chính trị không nguy
hiểm bằng nô lệ kỹ thuật'
Giải mã ChatGPT: Cơn sốt chatbot tại Việt Nam
và trên toàn cầu
Tiến sĩ Hinton cũng cho
biết có một số lý do khác để nghỉ việc.
"Một là, tôi đã 75
tuổi. Vì vậy, đã đến lúc về hưu. Điều nữa là, tôi thực sự muốn nói một số điều
tốt đẹp về Google. Và sẽ đáng tin hơn nếu tôi không còn làm việc cho
Google."
Ông nhấn mạnh rằng ông
không muốn chỉ trích Google và gã khổng lồ công nghệ đã "rất có trách nhiệm".
Trong một tuyên bố, nhà
khoa học lãnh đạo của Google Jeff Dean cho
biết:
"Chúng tôi vẫn cam kết thực
hiện một cách tiếp cận có trách nhiệm đối với AI. Chúng tôi không ngừng học hỏi
để hiểu những rủi ro mới nổi cộm, đồng thời cũng mạnh dạn đổi mới."
================================
LIÊN QUAN
OpenAI ra mắt GPT-4, 'cao thủ hơn' ChatGPT
15 tháng 3 năm 2023
·
Việt Nam phải làm gì nếu nổ ra chiến tranh công nghệ cao?
28 tháng 2 năm 2023
·
ChatGPT: 'OpenAI đã sử dụng lao động rẻ ở Kenya, để dán nhãn lại dữ liệu'
22 tháng 2 năm 2023
·
'Cơn sốt' ChatGPT: 'Nô lệ chính trị không nguy hiểm bằng nô lệ kỹ thuật'
16 tháng 2 năm 2023
·
Thảm cảnh khi độc tài kiểm soát trí tuệ nhân tạo
20 tháng 11 năm 2020
·
Giải mã ChatGPT: Cơn sốt chatbot tại Việt Nam và trên toàn cầu
1 tháng 2 năm 2023
No comments:
Post a Comment