'BỐ GIÀ AI' RỜI GOOGLE , CẢNH BÁO VỀ CÁC HIỂM HỌA CÔNG NGHỆ (AP)

NỘI DUNG :

‘Bố già AI’ rời Google, cảnh báo về các hiểm họa công nghệ

‘Cha đỡ đầu’ của AI cảnh báo về mối đe dọa từ Chatbot sau khi nghỉ việc ở Google

BBC News Tiếng Việt

===================================================

‘Bố già AI’ rời Google, cảnh báo về các hiểm họa công nghệ

03/05/2023

https://www.voatiengviet.com/a/bo-gia-ai-roi-google-canh-bao-ve-hiem-hoa-cong-nghe/7075938.html

Nhà nghiên cứu tiên phong và được mệnh danh là “Bố già của AI”, Geoffrey Hinton, nghỉ việc tại Google để có thể tự do lên tiếng về mối nguy hiểm của công nghệ mà ông đã giúp tạo ra.

https://gdb.voanews.com/01000000-0aff-0242-3857-08db4b38ec0c_w1023_r1_s.jpg

Nhà nghiên cứu tiên phong và được mệnh danh là “Bố già của AI”, chụp ảnh trước trụ sở của Google ở Mountain View, California, ngày 25/3/2015.

Trong sự nghiệp nhiều chục năm của mình, công trình tiên phong của ông Hinton về học sâu và mạng thần kinh đã giúp đặt nền móng cho phần lớn công nghệ AI mà chúng ta thấy ngày nay.

Đã có một loạt các giới thiệu về AI trong những tháng gần đây. Công ty khởi nghiệp OpenAI có trụ sở tại San Francisco, công ty phát triển ChatGPT được Microsoft hậu thuẫn, đã tung ra mô hình trí tuệ nhân tạo mới nhất của mình, GPT-4, vào tháng Ba. Những công ty công nghệ khổng lồ khác đã đầu tư vào các công cụ cạnh tranh — bao gồm cả “Bard” của Google.

Ông Hinton nói với BBC rằng một số mối nguy hiểm của chatbot AI là “khá đáng sợ”. “Bây giờ nó chưa thông minh hơn chúng ta nhưng sẽ chẳng bao lâu nữa đâu.”

Trong một cuộc phỏng vấn với tờ MIT Technology Review, ông Hinton cũng chỉ ra “những kẻ xấu” có thể sử dụng AI theo những cách có thể gây tác động bất lợi cho xã hội — chẳng hạn như thao túng bầu cử hoặc xúi giục bạo lực.

Ông Hinton, 75 tuổi, cho biết ông đã nghỉ việc tại Google để có thể phát biểu cởi mở về những rủi ro tiềm ẩn khi không còn làm việc cho công ty công nghệ khổng lồ.

“Tôi muốn nói về các vấn đề an toàn của AI mà không phải lo lắng về sự ảnh hưởng tới hoạt động kinh doanh của Google,” ông nói với MIT Technology Review. “Chừng nào tôi còn được Google trả tiền, thì tôi không thể làm điều đó.”

Kể từ khi thông báo về sự ra đi của mình, ông Hinton đã khẳng định rằng Google đã “hành động rất có trách nhiệm” đối với AI. Ông nói với MIT Technology Review rằng cũng có “rất nhiều điều hay về Google” mà ông muốn nói đến — nhưng những nhận xét đó sẽ “đáng tin cậy hơn nhiều nếu tôi không còn ở Google nữa”.

Google xác nhận rằng ông Hinton đã nghỉ hưu sau 10 năm giám sát nhóm Nghiên cứu của Google ở Toronto.

Trọng tâm các tranh cãi về AI là liệu các mối nguy hiểm là trong tương lai hay hiện tại. Một bên là các tình huống giả định về rủi ro tồn tại do máy tính thay thế trí thông minh của con người gây ra. Mặt khác là những lo ngại về công nghệ tự động đã được các doanh nghiệp và chính phủ triển khai rộng rãi và có thể gây ra những tác hại trong thế giới thực.

Bà Alondra Nelson, người đứng đầu Văn phòng Chính sách Khoa học và Công nghệ Tòa Bạch Ốc cho đến tháng 2, nói: “Dù tốt hay không, những gì chatbot đã làm là biến AI trở thành đề tài bàn tán cấp quốc gia và quốc tế không chỉ bao gồm các chuyên gia và nhà phát triển AI.”

“AI không còn trừu tượng nữa, và tôi nghĩ chúng ta bắt đầu bàn về cách chúng ta muốn thấy một tương lai dân chủ và một tương lai không bóc lột với công nghệ như thế nào,” bà Nelson nói trong một cuộc phỏng vấn vào tháng trước .

Một số nhà nghiên cứu AI từ lâu đã bày tỏ lo ngại về chủng tộc, giới tính và các hình thức thiên vị khác trong các hệ thống AI, bao gồm các mô hình ngôn ngữ dựa trên văn bản được đào tạo trên kho chữ viết khổng lồ của con người và có thể khuếch đại sự phân biệt đối xử tồn tại trong xã hội.

Bà Sarah Myers West, giám đốc điều hành của Viện AI Now phi lợi nhuận, cho biết: “Chúng ta cần lùi lại một bước và thực sự suy nghĩ xem nhu cầu của ai đang được đặt lên hàng đầu và là trung tâm trong cuộc thảo luận về rủi ro.” “Những tác hại do các hệ thống AI gây ra ngày nay thực sự không được phân bổ đồng đều. Nó đang làm trầm trọng thêm các mô hình bất bình đẳng hiện có.”

Ông Hinton là một trong ba nhà tiên phong về AI đã giành được Giải thưởng Turing vào năm 2019, một vinh dự được biết đến như là phiên bản giải Nobel của ngành công nghệ. Hai người chiến thắng khác, Yoshua Bengio và Yann LeCun, cũng bày tỏ lo ngại về tương lai của AI.

Ông Bengio, giáo sư tại Đại học Montreal, đã ký một bản kiến nghị vào cuối tháng 3 kêu gọi các công ty công nghệ đồng ý tạm dừng 6 tháng trong công cuộc phát triển các hệ thống AI mạnh mẽ, trong khi ông LeCun, nhà khoa học AI hàng đầu tại công ty mẹ của Facebook, Meta, đã đưa ra một cách tiếp cận lạc quan hơn.

====================

LIÊN QUAN

Elon Musk nói sẽ tung ra đối thủ của ChatGPT hiện do Microsoft đứng sau

Bill Gates: Lời kêu gọi tạm dừng AI không 'giải quyết được các thách thức'

Tỷ phú Elon Musk và những người khác kêu gọi tạm dừng AI, với lý do ‘rủi ro cho xã hội’

Nghiên cứu: Trung Quốc dẫn trước Mỹ trong cuộc cạnh tranh về công nghệ mới nổi quan trọng

================================================

‘Cha đỡ đầu’ của AI cảnh báo về mối đe dọa từ Chatbot sau khi nghỉ việc ở Google

BBC News Tiếng Việt

2 tháng 5 năm 2023

https://www.bbc.com/vietnamese/articles/ceq6y7dx541o

Geoffrey Hinton, nhà khoa học máy tính được mệnh danh là “cha đỡ đầu của trí tuệ nhân tạo” đã nghỉ việc, cảnh báo về những mối nguy hiểm ngày càng gia tăng từ những phát triển trong lĩnh vực này.

Tuyên bố từ chức ở Google trong một lá thư gửi cho tờ New York Times, ông Hinton, 75 tuổi cho biết giờ đây ông rất hối hận về công việc của mình.

Trao đổi với BBC, nhà khoa học cho biết một số nguy cơ của chatbot AI "khá đáng sợ".

"Ngay bây giờ, tôi có thể nói chúng không thông minh hơn chúng ta. Nhưng tôi nghĩ là sẽ sớm thôi."

Nghiên cứu tiên phong của Tiến sĩ Hinton về học sâu (deep learning) và mạng lưới nơ-ron đã mở đường cho các hệ thống AI hiện tại như ChatGPT.

Nhưng nhà tâm lý học nhận thức kiêm nhà khoa học máy tính người Canada gốc Anh nói với BBC rằng chatbot có thể sớm vượt qua mức độ thông tin mà bộ não con người nắm giữ.

"Ngay bây giờ, những gì chúng ta đang thấy là những thứ như GPT-4 vượt một người về lượng kiến thức chung và lấn át hẳn họ về chặng đường dài. Về mặt lý luận, nó không tốt bằng, nhưng nó đã thực hiện được suy luận đơn giản.

"Và với tốc độ tiến bộ, chúng tôi dự trù mọi thứ sẽ cải thiện khá nhanh. Vì vậy, chúng ta cần phải lo lắng về điều đó."

OpenAI ra mắt GPT-4, 'cao thủ hơn' ChatGPT

Việt Nam phải làm gì nếu nổ ra chiến tranh công nghệ cao?

ChatGPT: 'OpenAI đã sử dụng lao động rẻ ở Kenya, để dán nhãn lại dữ liệu'

Trong bài báo trên New York Times, Tiến sĩ Hinton đã đề cập đến "những kẻ xấu", những người sẽ cố gắng sử dụng AI cho "những điều xấu".

Khi được BBC yêu cầu phân giải thêm về điều này, ông đáp:

"Đây chỉ là một tình huống xấu nhất, một tình huống ác mộng.

"Quý vị có thể tưởng tượng, ví dụ, một số kẻ xấu như [Tổng thống Nga Vladimir] Putin đã quyết định trao cho robot khả năng tạo ra các mục tiêu con của riêng chúng."

Nhà khoa học cảnh báo rằng điều này cuối cùng có thể "tạo ra các mục tiêu con như 'Tôi cần có thêm quyền lực'".

Ông nói thêm:

“Tôi đã đi đến kết luận rằng loại trí thông minh mà chúng ta đang phát triển rất khác với loại trí thông minh mà chúng ta có.

"Chúng ta là những hệ thống sinh học còn đây là những hệ thống kỹ thuật số. Và sự khác biệt lớn là đối với các hệ thống kỹ thuật số, quý vị có nhiều bản sao của cùng một bộ trọng lượng, cùng một mô hình thế giới.

"Và tất cả những bản sao này có thể học mọi thứ một cách riêng biệt nhưng chia sẻ kiến thức với nhau tức thì. Vì vậy, giống như bạn có 10.000 người và bất cứ khi nào một người học được điều gì đó, mọi người sẽ tự động hiểu điều đó. Và đó là cách những chatbot này có thể hiểu biết vượt xa hơn bất kỳ con người nào."

Trí tuệ nhân tạo sẽ biến cả loài người thành nô lệ của độc tài?

'Cơn sốt' ChatGPT: 'Nô lệ chính trị không nguy hiểm bằng nô lệ kỹ thuật'

Giải mã ChatGPT: Cơn sốt chatbot tại Việt Nam và trên toàn cầu

Tiến sĩ Hinton cũng cho biết có một số lý do khác để nghỉ việc.

"Một là, tôi đã 75 tuổi. Vì vậy, đã đến lúc về hưu. Điều nữa là, tôi thực sự muốn nói một số điều tốt đẹp về Google. Và sẽ đáng tin hơn nếu tôi không còn làm việc cho Google."

Ông nhấn mạnh rằng ông không muốn chỉ trích Google và gã khổng lồ công nghệ đã "rất có trách nhiệm".

Trong một tuyên bố, nhà khoa học lãnh đạo của Google Jeff Dean cho biết:

"Chúng tôi vẫn cam kết thực hiện một cách tiếp cận có trách nhiệm đối với AI. Chúng tôi không ngừng học hỏi để hiểu những rủi ro mới nổi cộm, đồng thời cũng mạnh dạn đổi mới."

================================

LIÊN QUAN

OpenAI ra mắt GPT-4, 'cao thủ hơn' ChatGPT

15 tháng 3 năm 2023

Việt Nam phải làm gì nếu nổ ra chiến tranh công nghệ cao?

28 tháng 2 năm 2023

ChatGPT: 'OpenAI đã sử dụng lao động rẻ ở Kenya, để dán nhãn lại dữ liệu'

22 tháng 2 năm 2023

'Cơn sốt' ChatGPT: 'Nô lệ chính trị không nguy hiểm bằng nô lệ kỹ thuật'

16 tháng 2 năm 2023

Thảm cảnh khi độc tài kiểm soát trí tuệ nhân tạo

20 tháng 11 năm 2020