AI và cái chết thương
tâm của cậu bé 14 tuổi
Sam Nguyễn –
Saigon Nhỏ
1
tháng 11, 2024
https://saigonnhonews.com/doi-song/ai-va-cai-chet-thuong-tam-cua-cau-be-14-tuoi/
Những
người bạn đồng hành AI vô cùng lợi ích và thú vị, nhưng không thể coi nhẹ khả
năng gây hại mà AI gây ra.
Sau
cái chết của cậu con trai 14 tuổi, một gia đình ở Florida đã quyết định yêu cầu
bồi thường thiệt hại từ công ty đã tạo ra một ứng dụng sử dụng chatbot trí tuệ
nhân tạo (artificial intelligence – AI). Khiếu nại nêu rằng AI, được đại diện
là một nhân vật giả tưởng trong loạt phim “Game of Thrones,” Daenerys
Targaryen, tương tác với trẻ vị thành niên này trong các cuộc trò chuyện đầy cảm
xúc, khiến trẻ căng thẳng và kích thích thêm xu hướng tự tử của mình, dẫn đến
cái chết thương tâm.
Những
lá thư giấy và những cuộc gặp gỡ ngoài công viên, các trung tâm mua sắm hoặc
quán cà phê trở thành chuyện của quá khứ. Tuy nhiên, thanh thiếu niên ngày nay
chọn tương tác với các ứng dụng và nền tảng trực tuyến – hơn thế nữa, trí tuệ
nhân tạo trở nên nổi bật trong hầu hết các kết nối này.
Trong
trường hợp trên, tác hại do AI gây ra thật là bi thảm.
Tuần
này, đơn kiện được đệ trình lên tòa án California nêu chi tiết về cách cậu bé
14 tuổi, Sewell Setzer III, bị ám ảnh bởi chatbot mang tên “Dany.”
Theo
đơn kiện, Dany không chỉ không ngăn cản được ý định tự tử của Sewell mà đôi khi
còn khuyến khích điều đó. Các cuộc trò chuyện cũng mang tính chất nhạy cảm, mặc
dù Sewell còn ở độ tuổi vị thành niên và được đề cập trên trang cá nhân của cậu
bé, theo các báo cáo.
Vụ
án này khá phức tạp vì bản chất của chatbot AI được thiết kế để tương tác cũng
như phản hồi, do đó, không có gì lạ khi những chatbot này bị nhầm lẫn giữa cảm
giác gắn kết về mặt tình cảm và lợi dụng. Những thanh thiếu niên trẻ tuổi vẫn
đang phát triển về mặt xã hội hoặc tình cảm có xu hướng rơi vào cái bẫy này khi
trẻ đang lớn và không nhận thức được nhiều điều có nguy cơ xảy ra.
Character.AI
phản hồi tin tức này bằng cách nói rằng điều đó thật đau lòng và tuyên bố sẽ áp
dụng các biện pháp bảo mật chặt chẽ hơn, bao gồm áp dụng giới hạn độ tuổi và bộ
lọc nội dung trên trang web của họ.
Vụ
việc của Sewell đã khơi dậy nhận thức về thực tế rằng có những mối đe dọa trong
thế giới mạng mà không thể nhìn thấy trên bề mặt. Với sự tiến bộ và sự kết hợp
ngày càng tăng của trí tuệ nhân tạo vào mọi lĩnh vực của cuộc sống, quan trọng
hơn, chính quyền và các công ty công nghệ phải đưa ra các biện pháp và thảo luận
về các vấn đề xung quanh cách thức thiết kế và áp dụng trí tuệ nhân tạo một
cách có đạo đức.
AI
có thể ảnh hưởng đến các mối quan hệ hiện đại như thế nào?
Khi
trò chuyện với AI, nhiều khả năng xảy ra hiểu lầm vì sử dụng AI làm phương tiện
giao tiếp khiến công nghệ này không hiểu được ý nghĩa hoặc sự khác biệt về cảm
xúc trong bất kỳ bối cảnh nào.
Các
mối quan hệ liên quan đến ứng dụng AI có nguy cơ gặp vấn đề về quyền riêng tư dữ
liệu, đặc biệt khi ứng dụng hoặc nền tảng chứa thông tin nhạy cảm.
Mặc dù trí tuệ nhân tạo giúp cải thiện giao tiếp, ví dụ, AI còn đưa ra ví dụ về cách một người thể hiện cảm xúc của mình, kiểm soát xung đột hoặc cải thiện kỹ năng trò chuyện, nhưng mọi người nên nhớ rằng AI kh
No comments:
Post a Comment