Nguồn: Adrienne Mayor, “An AI Wake-Up Call From Ancient Greece”, Project Syndicate, 15/10/2018.
Biên dịch: Phan Nguyên
Trong các cuộc thảo luận về tác động của trí thông minh nhân tạo
(AI), một số người luôn nhắc lại huyền thoại Hy Lạp cổ đại về chiếc hộp
Pandora. Trong phiên bản hiện đại của câu chuyện thần thoại này, Pandora
được mô tả như một người phụ nữ trẻ tò mò mở một chiếc hộp niêm kín và
vô tình để những nỗi thống khổ vĩnh cửu thoát ra gây hại cho loài người.
Giống như vị thần đã thoát khỏi cái chai, con ngựa đã chạy trốn khỏi
chuồng, và con tàu đã rời khỏi sân ga, huyền thoại này đã trở thành một
cách so sánh kinh điển.
Và câu chuyện thực sự của Pandora cũng phù hợp với cuộc
tranh luận về AI và máy học hơn so với những gì nhiều người nhận ra. Câu
chuyện cho thấy tốt hơn là nên lắng nghe những người như Promethus,[1] những người quan tâm đến tương lai của nhân loại, hơn những người như Epimetheus,[2] những người dễ dàng bị lóa mắt trước những lợi ích ngắn hạn.
Là một trong những huyền thoại lâu đời nhất của Hy Lạp, câu chuyện về
Pandora lần đầu tiên được ghi lại hơn 2.500 năm trước, trong thời của
Homer. Trong bản gốc, Pandora không phải là một cô gái ngây thơ đã đầu
hàng trước cám dỗ để mở cái lọ cấm. Thay vào đó, như nhà thơ Hesiod kể
với chúng ta, Pandora được “tạo ra, chứ không phải được sinh ra.” Được
ủy quyền bởi thần Zeus toàn năng và được thiết kế mang những tính xấu
bởi Hephaestus, vị thần sáng chế, theo yêu cầu của thần Zeus, Pandora là
một “robot android sống động” được tạo ra dưới hình hài một cô gái có
pháp thuật. Mục đích của cô là để dụ dỗ con người theo kiểu “cái ác ẩn
giấu trong cái đẹp.”
Tên của Pandora có nghĩa là “tất cả quà tặng” và phản ánh thực tế
rằng tất cả các vị thần đều đóng góp vào việc tạo ra cô. Sau khi cô được
tạo ra trong xưởng của thần Hephaestus, Hermes hộ tống “cô gái trẻ”
xinh đẹp xuống trần và gả cô cho Epimetheus. Của hồi môn của cô là chiếc
lọ niêm kín định mệnh trong đó chứa nhiều “món quà” hơn nữa.
Epimetheus là em trai của Prometheus, người khổng lồ nổi loạn, người
đã giúp đỡ, và theo một số thần thoại, đã tạo ra loài người. Prometheus
lo ngại về tính dễ bị tổn thương của con người, do đó ông đã dạy cho con
người cách sử dụng lửa và các công cụ khác một cách có trách nhiệm.
Nhưng điều này làm phật lòng thần Zeus, một bạo chúa tàn nhẫn, người đã
quyết tâm bảo vệ sự độc quyền của mình trong việc tiếp cận công nghệ. Để
trừng phạt, Zeus buộc Prometheus vào một tảng đá và phái một con đại
bàng – giống như một chiếc máy bay drone – và cũng được tạo ra bởi
Hephaestus – xuống moi gan của Prometheus.
Về phần mình, Pandora đã được cố tình tạo ra nhằm trừng phạt con
người do đã dám nhận món quà là lửa từ Prometheus. Về cơ bản giống như
một robot nữ AI quyến rũ, cô không có cha mẹ, ký ức tuổi thơ, hay cảm
xúc, cũng không bao giờ già đi hay chết đi. Cô đã được lập trình để thực
hiện một nhiệm vụ độc ác: đóng giả một con người trần thế và sau đó mở
chiếc lọ ra.
Nhưng đó vẫn chưa phải là toàn bộ câu chuyện. Như Plato kể cho chúng
ta, tên của Prometheus có nghĩa là “tầm nhìn xa”, bởi vì anh ta luôn
nhìn về phía trước, không giống như người em trai vô tư của mình,
Epimetheus, người có tên nghĩa là “tầm nhìn ngắn.” Là người luôn hoài
nghi và biết tư duy hợp lý, Prometheus cố cảnh báo em trai mình không
chấp nhận món quà nguy hiểm của Zeus. Nhưng Epimetheus đã bị Pandora
quyến rũ và vô tình chào đón cô bước vào cuộc đời mình. Chỉ sau đó
Epimetheus mới nhận ra sai lầm khủng khiếp của mình.
Các hình ảnh phổ biến vẽ cảnh Pandora chạy lùi ra sau trong sợ hãi
trước một đám mây ác tà thoát ra khỏi chiếc lọ chỉ là một sáng tạo thời
hiện đại. Tương tự là hình ảnh của Hi vọng nổi lên từ con tàu cuối cùng
để xoa dịu linh hồn con người. Trong thần thoại Hy Lạp cổ điển, Pandora
được mô tả như một kẻ xảo quyệt: bức tranh vẽ trên bình hoa nổi tiếng
nhất của cô miêu tả cô là một phụ nữ trẻ với một nụ cười ma quái.
Hơn nữa, trong thần thoại cổ đại, Hy vọng được nhân cách hóa thành
một phụ nữ trẻ tên là Elpis, và thường thiếu tầm nhìn xa. Thay vì là một
lợi ích, Hy vọng tượng trưng cho việc thiếu khả năng nhìn về phía trước
và lựa chọn một cách hợp lý những kết quả có thể xảy ra; cô đại diện
cho những mơ ước viễn vông, chứ không phải là sự lạc quan hợp lý trong
cuộc sống. Và đối với người Hy Lạp, cô cũng chỉ là một hiện thân khác
của cái xấu ẩn mình trong cái đẹp được các vị thần áp đặt lên con người.
Do đó, ít nhất một nghệ sĩ cổ đại mô tả Elpis/Hi vọng, cũng giống như
Pandora, với nụ cười xảo trá.
Với việc máy học/AI nhanh chóng phát triển thành một công nghệ “hộp
đen”, biểu tượng chiếc lọ kín của Pandora đã mang ý nghĩa mới. Chẳng mấy
chốc, logic vận hành của các hệ thống ra quyết định AI sẽ trở nên không
thể hiểu được không chỉ đối với người dùng mà còn đối với ngay cả những
người sáng tạo ra chúng. Trong số các mối đe dọa khác nhau, khả năng
rằng các hệ thống AI sẽ bị chiếm quyền điều khiển bởi những kẻ xấu, hoặc
được sử dụng bởi những kẻ khủng bố và những tên bạo chúa, hiện ngày
càng trở nên lớn hơn.
Khi người sáng lập Facebook Mark Zuckerberg, Andrew McAfee của MIT,
Lili Cheng của Microsoft, và những người lạc quan khác về AI đảm bảo với
chúng ta rằng AI sẽ mang lại những lợi ích to lớn, người ta không thể
không nghĩ đến Epimetheus và Elpis. Chúng ta có nên thực sự tin tưởng
rằng nhân loại có thể điều chỉnh và giải quyết được các vấn đề do AI gây
ra khi chúng nảy sinh hay không?
Dường như sẽ là khôn ngoan hơn nếu chú ý đến các nhà tư tưởng giống
Prometheus thời hiện đại như Stephen Hawking, người sáng lập Microsoft
Bill Gates, và 115 nhà lãnh đạo công nghệ khác, những người vào năm 2017
đã nói về mối đe dọa của việc vũ khí hóa AI và robot. “Chúng ta không
có nhiều thời gian để hành động,” họ cảnh báo. “Một khi chiếc hộp
Pandora này được mở ra, nó sẽ rất khó để đóng lại.” Hơn nữa, những mối
quan ngại này đã được lặp lại bởi người đồng sáng lập Google Sergey Brin
và các nhà đạo đức học về AI như Joanna Bryson và Patrick Lin, những
người cảnh báo chống lại việc liều lĩnh chấp nhận những “món quà” từ AI
trước khi tìm ra cách để kiểm soát chúng.
Các cuộc thăm dò gần đây cho thấy sự lạc quan về lợi ích tiềm năng
của AI đã giảm đáng kể trong số những người đang thực sự phát triển các
hệ thống AI. Hiểu được cách hoạt động của AI dường như đã dẫn đến những
kỳ vọng thực tế hơn. Thay vì hi vọng một cách mù quáng, viễn kiến dựa
trên tri thức và kinh nghiệm nên chi phối cách chúng ta quản lý tương
lai của công nghệ này và mối quan hệ của nó với chúng ta.
Adrienne Mayor, nhà nghiên cứu về các tác phẩm kinh điển, lịch sử
và triết học khoa học tại Đại học Stanford, là học giả tại Trung tâm
Nghiên cứu cấp cáo về Khoa học Hành vi, Đại học Stanford. Cô là tác giả
của cuốn sách sắp xuất bản Gods and Robots: Myth, Machines, and Ancient
Dreams of Technology (11/2017
)1]
Prometheus là một nhân vật trong thần thoại Hi Lạp, người bị các vị
thần trừng phạt vì dám ăn trộm lửa từ thiên đường để trao cho con người.
[2] Epimetheus là em trai của Prometheus, và là một người được miêu tả là ngu ngốc, thiếu tầm nhìn..
Không có nhận xét nào:
Đăng nhận xét