Quan
điểm của Giáo hoàng về AI. (một cảm nhận riêng)
Phan Dương Hiệu
28/09/2026
11:13
https://www.diendan.org/phe-binh-nghien-cuu/quan-diem-cua-giao-hoang-ve-ai-mot-cam-nhan-rieng
Tuần
này Giáo hoàng Léon XIV thăm Paris. Ông là người có cách nhìn rất bản chất về
AI và sự nguy hiểm của nó với con người. Thông điệp MAGNIFICA HUMANITAS được
đưa ra mới đây (15/05/2026) rất đáng để chúng ta đọc kỹ.
Khi
chỉ nhìn vào phần ngọn của AI với những công cụ mà nó mang lại, thì việc tranh
luận về lợi hay hại của chúng mới chỉ là phần nổi của vấn đề. Khi AI giải được
một bài toán thiên niên kỷ, ý nghĩa toán học của điều đó tuy đáng quan tâm
nhưng trên hết nó chính là hồi chuông cảnh báo cho công chúng về sức mạnh ngầm
của một công nghệ mà gần như không ai hiểu thực hư thế nào bên trong nó.
Vì
lẽ đó, điều chúng ta đáng tìm hiểu là những gì nằm đằng sau các công cụ ấy: cả
một thế giới công nghệ AI đang vận hành ra sao, con người chúng ta ở đâu trong
cơ chế đó, và khi quyền lực AI nằm ngoài các nhà nước thì sẽ dẫn đến những xáo
trộn gì. Đó là những vấn đề căn bản mà Giáo hoàng Léon XIV đã đi thẳng vào bản
chất để thảo luận. Ông nói sáng sủa các nguy cơ và cùng đó là những giải pháp.
I.
Nguy cơ.
Ông
có một mạch tư duy logic rất rõ ràng. Khởi đầu là đặt vấn đề khi con người bị số
hoá, khi phẩm giá con người, tư duy con người, khả năng con người, những sai lầm
của con người đều trở thành đối tượng số để bị thuật toán AI xem xét, định giá.
Từ sự số hoá đó, sự xâm phạm từng cá thể đó, mà sẽ dần tới chủ nghĩa thực dân dữ
liệu. Ông cho rằng "căn bệnh" sâu xa và thường không được nhận biết
là "con người hiện đại bị thuyết phục một cách sai lầm rằng họ là tác giả
duy nhất của chính mình, của cuộc đời mình và của xã hội. Đây là một sự tự phụ
phát sinh từ việc khép kín một cách vị kỷ nơi chính mình. Hệ quả là, con người
tin rằng họ có thể kiến tạo thực tại, và bất cứ điều gì phù hợp nhất với các
yêu sách của họ đều tương ứng với những gì là chân thật."
Và
chân thật ư? Đó chính là điều độc tài số có thể dẫn dụ (làm mỗi con người từ bỏ
những giá trị phổ quát để tự định hình "chân lý" của riêng mình), rồi
từ đó tinh vi điều khiển và áp đặt điều nó muốn người ta tin. "Những kẻ
nắm giữ các tài nguyên công nghệ, kinh tế quyền lực cùng với nguồn vốn nhân lực
to lớn cho việc can thiệp, sở hữu các năng lực ý nghĩa để ảnh hưởng đến sự thay
đổi văn hóa. Xét cho cùng, họ có thể ảnh hưởng đến một số lượng lớn người dân
liên quan đến chân lý về con người, thế giới, ý nghĩa của sự hiện hữu, gia đình
và thậm chí cả Thiên Chúa. Đó là thứ quyền lực thuần túy tách rời khỏi chân lý,
một cách tinh vi hay công khai áp đặt điều nó muốn người khác chấp nhận như là
chân thật."
Các
đế chế số nắm quyền tái định nghĩa lại giới hạn cơ hội của mỗi con người, và ở
đó ông hiển nhiên đặt trọng tâm vào những người yếu thế. Người yếu thế không
còn được bảo vệ, bất công xã hội trong hình thức mới. Ông viết : "việc ủy
thác trên thực tế cho một thuật toán quyền năng chọn lựa ai là người xứng đáng
hay không, mà không có ai chịu trách nhiệm cho sự phán xét đó, chính là trao lại
nhiệm vụ tái định nghĩa các ranh giới của các khả năng của con người. Trong tiến
trình này, trách nhiệm chính trị cũng bị đánh mất, chứ không chỉ là sự thấu cảm
đối với những người bị loại trừ, điều mà suy cho cùng, có thể được mô phỏng. Sự
loại trừ những người dễ bị tổn thương trở nên được che đậy trong một lớp vỏ
trung lập và khách quan, điều mà trước đó trở nên khó khăn để đưa ra các sự phản
đối. Bằng cách này, bất công đi vào mà không bị chú ý, và lòng trắc ẩn, lòng
thương xót cùng sự tha thứ - được hiểu không phải như các vẻ bề ngoài đơn thuần
mà như các hành động chính trị thực sự - dần dần biến mất khỏi tầm nhìn."
Không
chỉ về con người, ông nói về việc sở hữu dữ liệu rất sắc. Ông nói về việc chiếm
đoạt sở hữu dữ liệu, nói về sự nguy hiểm của việc các công nghệ khai thác những
dữ liệu riêng tư nhất của con người, dữ liệu y tế, di truyền, dịch tễ. Điều đó
hiển nhiên cần phải đặt nặng một chiến lược trọng tâm trong việc hạn chế thu thập
những dữ liệu này, bằng không sẽ bị các đế chế số thôn tính. Ông viết: "Chủ
nghĩa thực dân cũng đảm nhận các hình thức mới. Nó không còn thống trị duy chỉ
các thân thể, mà chiếm đoạt dữ liệu, biến đổi đời sống cá nhân thành thông tin
có thể bóc lột. Toàn bộ các vùng miền, cách riêng là những nơi bị đánh dấu bởi
sự mong manh mang tính cấu trúc và tầm quan trọng địa chính trị giới hạn, hiện
tại đang bị đặt dưới một tâm thức khai thác mới: tâm thức khai thác dữ liệu sức
khỏe, các hồ sơ dịch tễ học, các bản đồ di truyền và thông tin nhân khẩu học.
Những thứ này đã trở thành các "đất hiếm" mới của quyền lực: các dữ
liệu sống còn mà một khi được tổng hợp và phân tích, có thể được sử dụng để huấn
luyện các mô hình dự đoán, hướng dẫn các chiến lược đầu tư, dự kiến các cuộc khủng
hoảng và trên hết là quyết định ai và cái gì được coi là quan trọng. Những kẻ
kiểm soát dữ liệu sức khỏe của toàn bộ các dân tộc - thường được thu thập dưới
cái cớ cứu trợ, nghiên cứu hay đổi mới - sở hữu một đòn bẩy mang tính cấu trúc
trên tương lai, vì họ có thể định hình các nhu cầu và các thị trường. Họ cũng có
thể quyết định, trước những người khác, thuốc men, các khoản đầu tư và các sự bảo
vệ sẽ được phân bổ cho ai."
Cũng
từ sự kiểm soát dữ liệu cá nhân đó, ông nhấn mạnh sự nguy hiểm của việc giám
sát trên diện rộng, kiểm soát xã hội, đánh đổ tự do con người (đoạn 171):
"Một rủi ro xa hơn, ít hiển nhiên hơn nhưng không kém phần nghiêm trọng,
là rủi ro về sự kiểm soát xã hội được làm cho khả thi bởi việc thu thập dữ liệu
khổng lồ và việc sử dụng các hệ thống thuật toán. Khi mỗi hành động - các chuyển
động, các khoản mua sắm, các mối tương quan và các sự ưu tiên - để lại một dấu
vết, một hình thức quyền lực mới sẽ nổi lên, cụ thể là quyền lực lập hồ sơ, dự
đoán và ảnh hưởng đến hành vi, thường là khi các cá nhân không hoàn toàn ý thức
về nó. Nếu các loại hình dữ liệu như vậy được sử dụng để đưa ra các quyết định ảnh
hưởng đến các cơ hội cụ thể - chẳng hạn như sự tiếp cận tín dụng, việc làm hay
các dịch vụ thiết yếu - có một nguy cơ làm suy yếu tự do và phân biệt đối xử chống
lại những người dễ bị tổn thương nhất. Hơn nữa, sự kiểm soát được thực thi
không chỉ qua các sự cấm đoán công khai, mà còn qua kiến trúc của sự hiển thị:
những gì được khuếch đại hoặc làm cho vô hình, những gì được khen thưởng hay bị
phạt, rốt cuộc định hình các ý kiến và chọn lựa, thúc đẩy sự tuân thủ và sự tự
kiểm duyệt. "
II.
Giải pháp
Cùng
các nguy cơ trên, ông có nhiều đề xuất:
Về
sự chia sẻ tri thức, dữ liệu, ông viết "một trong những thách đố đạo đức
cấp bách nhất của thời đại chúng ta: đảm bảo rằng tri thức được sẻ chia trở
thành một công ích thực sự thay vì là một công cụ của sự thống trị. Điều này
đòi hỏi việc khôi phục cho các cá nhân không chỉ dữ liệu mô tả họ, mà còn cả
năng lực quyết định cách thức nó được sử dụng, bởi ai và vì lợi ích của ai. Nếu
không, thời đại kỹ thuật số sẽ không phải là hậu thực dân, mà là thực dân dưới
một hình thức khác." Ông viết trong phần 108. "quyền sở hữu dữ
liệu không thể bị bỏ mặc riêng cho các bàn tay tư nhân, mà phải được điều tiết
cách thích hợp. Dữ liệu là sản phẩm của nhiều người đóng góp và không được đối
xử như một thứ gì đó để đem bán hoặc phó thác cho một số ít người được chọn. Cần
phải suy nghĩ cách sáng tạo để quản lý dữ liệu như một tài sản chung…"
Về
tôn trọng phẩm giá con người, ông viết ở phần 105, 106. "Để AI tôn trọng
phẩm giá con người và thực sự phục vụ công ích, trách nhiệm phải được định
nghĩa rõ ràng ở mọi giai đoạn: từ những người thiết kế và phát triển các hệ thống
này cho đến những người sử dụng chúng và tin cậy vào chúng cho các quyết định cụ
thể. Tuy nhiên, trong nhiều trường hợp, các tiến trình nội bộ dẫn đến một kết
quả vẫn mang tính mơ hồ, làm cho việc gán trách nhiệm và sửa chữa các sai lầm
trở nên khó khăn hơn. Đây là nơi mà trách nhiệm giải trình trở nên quyết định:
khả năng xác định ai là người phải “giải trình” cho các quyết định, biện minh
cho chúng, giám sát chúng, và khi cần thiết, thách đố chúng và khắc phục bất kỳ
tác hại nào gây ra.(...) Không đủ nếu chỉ kêu gọi đạo đức một cách trừu tượng;
các khuôn khổ pháp lý vững chắc, sự giám sát độc lập, những người dùng được
thông tin và một hệ thống chính trị không thoái thác trách nhiệm của mình là những
điều được đòi hỏi. Nếu không, sự thay đổi sẽ chỉ được quản trị bởi tư duy kỹ trị
và được trình bày như là cần thiết và không thể tránh khỏi, rốt cuộc áp đặt các
quy tắc được định hình bởi những kẻ kiểm soát dữ liệu, cơ sở hạ tầng và năng lực
điện toán."
Về
bảo vệ tự do con người, ông viết "tự do trong thời đại kỹ thuật số
không đơn thuần là một vấn đề của nội tâm mà còn là một mối bận tâm công cộng.
Đòi hỏi các quy tắc rõ ràng, sự minh bạch, khả năng khiếu nại và các giới hạn
tương xứng trên việc sử dụng các công nghệ xâm nhập, để công nghệ sẽ giữ mình ở
sự phục vụ nhân vị và không trở thành một hình thức kiểm soát trên các lương
tâm."
Về
việc thao túng trong việc định nghĩa lại các giá trị trong thế giới số, ông đề
nghị (đoạn 71.) "kẻ độc chiếm chuyên môn, dữ liệu và thẩm quyền đưa ra
quyết định, bao gồm các công ty và các nền tảng định nghĩa các điều kiện tiếp cận,
các quy tắc hiển thị, các hình thức tương tác, và thậm chí cả các cơ hội kinh tế.
Nguyên tắc bổ trợ đòi hỏi các tiến trình đó không được áp đặt từ trên xuống một
cách mơ hồ và đơn phương, mà thay vào đó phải được định hướng về công ích với sự
minh bạch, trách nhiệm giải trình và các hình thức tham gia có ý nghĩa (bao gồm
các sự kiểm tra độc lập, sự minh bạch liên quan đến các thuật toán, sự tiếp cận
công bằng đối với dữ liệu và các nẻo đường khiếu nại)."
Điều
căn cốt nhất là sự khẳng định phẩm giá con người "thuộc về mọi con người
chỉ vì họ hiện hữu, không do lập công, cũng không cần biện minh",
chúng ta đừng để nó bị số hoá và trở thành một đối tượng khô cứng, trơ trụi
trong thuật toán của các đế chế công nghệ!
Đây
chỉ là một số nét tôi cảm nhận, nó không đại diện cho toàn bộ thông điệp của
ông, mà là sự cảm nhận riêng, bởi nó rất gần với những suy nghĩ của tôi. Các bạn
nên đọc toàn bộ và có cảm nhận của riêng mình.
Toàn
bài bản gốc chính thức tiếng Anh: https://www.vatican.va/.../20260515-magnifica-humanitas.html
Bản
dịch tiếng Việt ở đây (các câu trích trên kia tôi lấy theo bản dịch này): https://www.ephatacatholic.com/ban-dich-toan-van-thong.../
Sự
đồng điệu với những suy nghĩ này cũng đã đến với tôi từ lâu, năm 2019 tôi cũng
đã trả lời trên Lao Động về việc tính điểm công dân sẽ làm robot hoá con người,
khi nêu "hai vấn đề quan trọng: độ đo để định lượng điểm cao thấp và cách
thức cùng phương tiện để thực hiện điều đó." để dẫn đến kết luận "Hệ
thống tính điểm công dân là một ứng dụng khoa học công nghệ cần phải tránh. Một
sự đánh giá chỉ dựa trên những thước đo định lượng là một sự đánh giá nghèo nàn
và nguy hiểm, nó đưa cái phong phú đa dạng của cuộc sống cho vừa khuôn của một
bộ quy tắc.". Các bạn quan tâm có thể đọc trên mặt báo này, hoặc trên FB
của tác giả, bài đề ngày 7.6.2019.
Chính
vì rất nhiều ý đồng cảm nên tôi thực sự trân quý thông điệp của Giáo hoàng -
Bienvenue à Paris!
Giáo
hoàng Léon XIV
Phan
Dương Hiệu
Nguồn: FB của tác giả. Diễn Đàn trân trọng cảm ơn GS Phan Dương Hiệu
đã cho phép đăng lại bài này.
Quan
điểm của Giáo hoàng về AI. (một cảm nhận riêng)
No comments:
Post a Comment