Dưới đây là bài dịch và phân tích bài viết “The Last Human Choice” của Tina He. Bài viết này thảo luận về sự lựa chọn của con người trong kỷ nguyên trí tuệ nhân tạo tổng quát (AGI), tập trung vào việc bảo tồn giá trị con người và ý nghĩa của việc có quyền tự quyết.
Thiên Toán, 15 tháng 3 2025
Lựa chọn cuối cùng của loài người
Tina He – Tháng 1 năm 2025
“Anh tự gọi mình là một linh hồn tự do, một ‘kẻ hoang dã’, và anh sợ hãi rằng ai đó sẽ nhốt anh vào lồng. Chà, em yêu, em đã ở trong cái lồng đó rồi. Chính em đã xây nó. Và nó không bị giới hạn ở phía tây bởi Tulip, Texas, hay ở phía đông bởi Somali-land. Nó ở bất cứ nơi nào em đi. Bởi vì dù em có chạy trốn đến đâu, em cũng chỉ kết thúc bằng việc chạy trốn chính mình.” — Truman Capote.
Lời bình người dịch:
Câu trích dẫn này nằm trong tác phẩm “Breakfast at Tiffany’s” (Bữa sáng ở Tiffany) của nhà văn Truman Capote, xuất bản lần đầu vào năm 1958.
Câu nói này được nhân vật chính, Paul Varjak, nói với Holly Golightly, nhân vật nữ chính trong truyện. Holly là một cô gái luôn chạy trốn thực tại, khao khát tự do nhưng thực tế lại luôn mắc kẹt trong chính nỗi sợ của bản thân. Ý nghĩa sâu sắc của câu này là: dù có cố gắng trốn chạy bao xa, thứ cô thật sự trốn tránh là bản thân mình, và chiếc lồng giam giữ cô thực ra chính là nỗi sợ hãi và sự bất an cô tự tạo nên.
Thông điệp chính của câu này nhấn mạnh rằng tự do thực sự không nằm ở nơi chốn mà nằm ở cách con người đối diện với chính nội tâm của mình.
Gần đây, tôi đã cô đọng sứ mệnh cá nhân của mình thành một câu: Tôi tin rằng một trong những vấn đề lớn nhất trên thế giới là giữ gìn các giá trị con người trong thời kỳ chủ nghĩa tư bản công nghệ hậu AGI (trí tuệ nhân tạo tổng quát). Đó là lý do vì sao tôi đang tạo ra các công nghệ và câu chuyện nhằm khuếch đại quyền tự quyết của con người.
Vậy, những ví dụ nào về các công nghệ và câu chuyện có thể khuếch đại quyền tự quyết của con người?
Để trả lời câu hỏi này, trước tiên chúng ta cần định nghĩa quyền tự quyết (human agency) nghĩa là gì. Định nghĩa gần gũi và chính xác nhất là của Stephen Cave: đó là khả năng tự tạo ra các lựa chọn cho bản thân, đưa ra lựa chọn, và sau đó theo đuổi một hoặc nhiều lựa chọn đó.
Tại sao quyền tự quyết lại quan trọng? Ở cấp độ cá nhân, việc nâng cao quyền tự quyết có liên hệ với những kết quả cuộc sống tốt đẹp hơn, bao gồm mức độ hạnh phúc cao hơn, sự hài lòng trong công việc lớn hơn, thành tích giáo dục cao hơn, và các mối quan hệ ổn định hơn. Ở cấp độ xã hội, hiểu biết về quyền tự quyết có những hàm ý quan trọng trong việc hoạch định chính sách, thiết kế công nghệ, và phân bổ nguồn lực/vốn. Ví dụ, một chương trình giáo dục làm giảm tính tự chủ có thể dẫn đến những hậu quả kéo dài về sau: những người trưởng thành được giáo dục tốt nhưng thiếu quyền tự quyết sẽ đóng góp ra sao vào hệ thống kinh tế?
Chủ nghĩa tư bản công nghệ hậu AGI và những hiểm họa
Thị trường vẫn tồn tại, nhưng không còn thực sự dành cho chúng ta nữa. Hãy tưởng tượng Las Vegas — sự hỗn loạn ngoạn mục nhất mà bạn từng thấy, toàn những ánh đèn chrome lơ lửng — nhưng những “tay chơi” ở đây chỉ là các thực thể toán học đang trao đổi những mảnh tương lai của chúng ta cho nhau ở tốc độ ánh sáng. Chúng ta đã xây dựng nên cung điện tính toán này với suy nghĩ rằng mình sẽ làm chủ nó. Thế nhưng, chúng ta lại thấy mình chỉ là vật trang trí — được chăm sóc kỹ lưỡng, được cho ăn đầy đủ, nhưng ngày càng trở nên thừa thãi.
Các thành phố của chúng ta sáng lóa. Giờ chúng hoàn hảo rồi, thật sự hoàn hảo — mọi đèn giao thông đều được tối ưu, mọi calo đều được tính toán, mọi nhu cầu của con người đều được dự liệu bằng một sự chính xác lạnh lùng. Các tác nhân AI cũng chẳng mảy may bận tâm. Chúng duy trì chúng ta với sự thờ ơ tao nhã giống như cách một người làm vườn chăm sóc những bụi cây cảnh. Thỉnh thoảng tôi bước đi trên những con phố này vào ban đêm, ngang qua những “trang trại” máy chủ ầm ù trước kia vốn là các ngân hàng, và tôi nghĩ: hẳn đây chính là cảm giác của người La Mã cuối cùng khi chứng kiến những máng dẫn nước vẫn hoạt động lâu sau khi đế chế lụi tàn.
Công việc của chúng ta vẫn còn, nhưng giống như mọi thứ khác, chúng đã trở thành những màn trình diễn nghệ thuật cầu kỳ. Xét về kỹ thuật, nền kinh tế vẫn cần đến chúng ta, nhưng giống như một vở kịch cần diễn viên quần chúng — để lấp đầy hậu cảnh, để duy trì ảo tưởng rằng chúng ta vẫn là nhân vật chính. Bác sĩ bây giờ chỉ giám sát những chẩn đoán mà họ không thể hiểu nổi. Kiến trúc sư ngồi nhìn những thành phố hoàn hảo tự thiết kế lấy mình. Cả nghệ sĩ lẫn kỹ sư đều trở thành người tuyển chọn đầu ra do thuật toán tạo ra, nhặt nhạnh từ một “bữa tiệc buffet” tối ưu hóa vô tận. Kỹ năng của chúng ta, được mài giũa qua hàng chục năm, giờ chỉ còn là những di vật lỗi thời — như thể biết cách tự tay làm bơ hoặc định vị đường đi bằng các vì sao.
Điều đáng sợ không phải là chúng ta bị bắt làm nô lệ hay bị sát hại. Điều đáng sợ nằm ở chỗ sự thừa thãi đó lại mang đến cảm giác dễ chịu. Phòng tranh nghệ thuật của con người vẫn tồn tại, nhưng mối quan hệ của nó với sáng tạo nhân loại giống như mối quan hệ của một bộ sưu tập bướm với bướm sống vậy — những thứ đẹp đẽ, đã chết và bị ghim cứng dưới lớp kính. Chúng ta không phải tù nhân. Chúng ta là thú cưng, nằm phơi nắng trong khi những vị thần không thể hiểu thấu đang trao đổi tương lai của chúng ta trên đầu.
Sự hoang dã đã biến mất. Đó mới là điều đau đớn nhất. Cái tia lửa thô mộc, bừa bộn, dại dột của con người – thứ đã tạo nên những tác phẩm nghệ thuật tồi tệ, những quyết định đáng ngờ, và đôi khi là những khoảnh khắc đẹp đẽ siêu việt – nay đã bị tối ưu hóa đến mức không còn nữa, bị san phẳng bởi các thuật toán vốn hiểu rõ điều ta thực sự muốn hơn chính bản thân ta. Chào mừng đến với thế giới hoàn hảo.
Cố gắng đừng để ý đến sự trống rỗng.
Giữ gìn các giá trị con người
Vậy, trong viễn cảnh trên, việc giữ gìn các giá trị con người có phải là vô ích hay không? Có phải chỉ là một nỗ lực vô vọng như Sisyphus lăn đá lên đồi?
Lời bình của người dịch:
Sisyphus lăn đá lên đồi là một hình ảnh trong thần thoại Hy Lạp, đại diện cho sự lao động vô nghĩa và không có hồi kết. Theo truyền thuyết, Sisyphus là một vị vua xảo quyệt, bị thần Zeus trừng phạt vì lừa dối các vị thần. Hình phạt của ông là phải đẩy một tảng đá khổng lồ lên đỉnh đồi, nhưng mỗi khi gần đến đỉnh, tảng đá lại lăn xuống và ông phải bắt đầu lại từ đầu, lặp đi lặp lại mãi mãi.
Hình tượng này thường được dùng để mô tả những công việc nặng nhọc, vô nghĩa hoặc không có kết quả, dù người thực hiện có cố gắng đến đâu. Nó cũng là một ẩn dụ triết học quan trọng, đặc biệt trong chủ nghĩa hiện sinh, khi Albert Camus sử dụng hình ảnh này trong tác phẩm Thần thoại Sisyphus để nói về ý nghĩa của cuộc sống trong một thế giới phi lý. Camus lập luận rằng con người, dù biết rõ cuộc sống vô nghĩa, vẫn có thể tìm thấy ý nghĩa và hạnh phúc trong chính sự nỗ lực của mình, giống như Sisyphus chấp nhận số phận của mình mà vẫn tiếp tục đẩy đá.
Tuần trước tôi thấy một đứa trẻ bị ngã xe đạp. Các hệ thống an toàn đã trục trặc – điều hiếm thấy ngày nay – và thằng bé thực sự bị trầy đầu gối, máu loang trên mặt đường. Trước khi mẹ nó kịp chạy đến, đã có ba quy trình y tế khác nhau được kích hoạt. Vẻ mặt của người mẹ khi đó không phải sợ hãi cho con trai. Mà là mất mát. Mất đi khoảnh khắc giản dị rất con người: cúi xuống hôn lên chỗ đau cho con bớt đau.
Đó chính là điều chúng ta đang nói tới. Không phải cuộc tranh luận triết học cao siêu nào về “giá trị con người” trừu tượng. Mà là những đầu gối trầy xước và những quyết định tồi tệ. Là anh chàng ở quán bar vẫn chăm chú vẽ tay bản thiết kế tòa nhà trong khi các bản vẽ AI hoàn hảo đang chảy qua máy chủ công ty anh ta. “Chúng tệ hơn,” anh ta nói với tôi, trong cơn say và đầy thách thức. “Chúng tệ hơn, nhưng chúng là của tôi.”
Chúng ta không chiến đấu vì nghệ thuật hay cái đẹp một cách mơ hồ, trừu tượng. Chúng ta chiến đấu vì quyền được phạm sai lầm. Được làm ra những thứ không hoàn hảo. Được chọn sai và sống với hậu quả của nó.
Cô hàng xóm của tôi vẫn viết những bức thư tình. Thư thật, với mực viết tay có thể bị nhòe. Bạn gái của cô ấy hoàn toàn có thể nhận được những bài sonnet hoàn hảo do AI tạo ra gửi đến mỗi sáng, được tối ưu để tác động cảm xúc tối đa. Thay vào đó, cô ấy nhận được những nét chữ nguệch ngoạc, những vệt cà phê loang lổ và những từ ngữ bị gạch bỏ rồi viết lại. “Sự lộn xộn ấy chính là thông điệp,” cô ấy nói.
Có lẽ đó chính là mấu chốt. Có lẽ giá trị con người không phải là thứ để bảo quản dưới lồng kính. Đó là thứ bạn phải giữ cho nó lộn xộn, giữ cho nó đầy khiếm khuyết, giữ cho nó chân thực. Không phải vì như thế thì tốt hơn. Mà vì đó chính là chúng ta.
Quyền tự quyết bảo tồn các giá trị con người như thế nào
Một người bạn gần đây kể tôi nghe về việc anh ấy muốn tự đi mua đồ tạp hóa thường xuyên hơn. Không phải vì như vậy hiệu quả — thật ra hoàn toàn không hiệu quả. Không phải vì nó tối ưu — có hàng tá dịch vụ giao hàng có thể sử dụng thời gian của anh hợp lý hơn. Mà bởi vì có điều gì đó sâu sắc trong hành động đơn giản của việc tự chọn những quả cà chua, bước đi trên những lối đi mà cha mẹ và ông bà mình từng bước, và tự tay xách những túi đồ về nhà. “Tôi đã rất ngạc nhiên,” anh ấy nói, “về sự thỏa mãn mà tôi có được từ cái việc tự mình làm chủ bản thân đơn giản này.”
Đó mới thật sự là điều chúng ta nói đến khi bàn về quyền tự quyết. Không chỉ là những lựa chọn vĩ mô về tương lai nhân loại, mà còn là những hành động có ý thức nhỏ bé mỗi ngày. Người bạn ấy hình dung muốn có một thứ gì đó như khả năng tự cải thiện lặp lại, nhưng được thiết kế cho con người — không phải để tối ưu hóa đến mức loại bỏ mọi khiếm khuyết của chúng ta, mà để giúp chúng ta trưởng thành theo đúng hướng mà mình mong muốn. “Tôi muốn xây dựng một thứ gì đó,” anh ấy nói, “mà có thể giúp tôi thực hành các giá trị của mình mỗi ngày một cách dễ dàng hơn.”
Đây chính là điểm mấu chốt trong việc giữ gìn giá trị con người. Nó không chỉ nằm ở chỗ có được quyền tự quyết — mà ở việc thực hành sử dụng quyền đó hàng ngày.
Tại sao việc tăng cường quyền tự quyết lại giúp bảo tồn các giá trị con người?
Ở đây, “quyền tự quyết” chỉ khả năng của một cá nhân hay cộng đồng trong việc tạo ra nhiều lựa chọn, chọn một trong số đó, và chủ động theo đuổi các lựa chọn ấy. Nghe qua, trực giác mách bảo rằng việc duy trì hoặc khuếch đại quyền tự quyết của con người sẽ giúp gìn giữ nền tảng văn hóa và đạo đức của chúng ta — tức những “giá trị con người”. Nhưng ẩn sau đó là giả định rằng nếu chúng ta trao cho mọi người nhiều quyền tự quyết hơn, họ tự khắc sẽ chọn giữ lại những khía cạnh “lộn xộn” đáng quý kia.
Thực tế, quyền tự quyết là con dao hai lưỡi: người có nhiều tự do hơn cũng có thể dễ dàng chạy theo việc tối ưu hóa tột độ, hoặc bỏ phiếu hàng loạt để triển khai một hệ thống tín dụng xã hội mà trớ trêu thay lại hạn chế một số tự do. Do đó, quyền tự quyết nên được xem như điều kiện tiên quyết để duy trì những giá trị “bừa bộn” mang tính nhân văn — chứ không phải là một đảm bảo tuyệt đối.
1. Quyền tự quyết tự nó là một giá trị con người.
• Ở mức cơ bản nhất, nhiều người trong chúng ta đơn giản là coi trọng sự tự do tự thân: cảm giác rằng ta được quyền quyết định, dù lựa chọn đó đúng, sai hay lưng chừng. Điều này gợi nhớ các phong trào lịch sử vì tự do dân sự, tự do cá nhân và tự do sáng tạo. Trong một chế độ AGI tối ưu hóa hoàn hảo, ngay cả ảo tưởng rằng ta có quyền lựa chọn cũng có thể bị lập trình hoặc dắt vào lối mòn một cách tinh vi. Do đó, một lý do để đấu tranh cho quyền tự quyết là bản thân quyền tự quyết đã đáng giá để giữ gìn. Nó giữ cho cánh cửa của những khả năng luôn rộng mở – kể cả khả năng khước từ các giải pháp hoàn hảo để ưu tiên những trải nghiệm giàu ý nghĩa.
2. Quyền tự quyết giúp chúng ta có thể giữ được các giá trị con người khác.
• Khi con người có khả năng định đoạt tương lai của mình, họ có thể lựa chọn bảo vệ sự hỗn độn văn hóa, sự không hoàn hảo, cùng những truyền thống tinh thần hoặc cộng đồng. Nhưng chỉ riêng khả năng đó không đảm bảo các giá trị này sẽ được bảo tồn. Nếu một xã hội đồng lòng quyết định họ thích sự hoàn hảo trơn tru hơn, hoặc nếu từng cá nhân chọn tiện nghi không ma sát thay vì sáng tạo “lộn xộn”, thì những giá trị kia vẫn có thể phai nhạt — do chính lựa chọn của số đông.
3. Cần có khát vọng tập thể để duy trì các giá trị ấy.
• Dù trao cho con người nhiều quyền tự quyết, chúng ta vẫn cần một động lực văn hóa (hoặc khung đạo đức) đề cao sự “lộn xộn” hay kết nối nhân văn sâu sắc trong thời đại tự động hóa siêu việt. “Khát khao được giữ chất người” này có thể đến từ mong mỏi cá nhân, tinh thần cộng đồng, hay những truyền thống tâm linh coi trọng sự không hoàn hảo như biểu hiện của tính chân thực. Nếu thiếu động lực đó, việc tăng cường quyền tự quyết cũng có thể đẩy nhanh sự đồng nhất nhàm chán hoặc sự tối ưu hóa mang tính áp đặt. Nhưng lịch sử cho thấy con người thường đứng lên bảo vệ những gì bất ngờ, xuất phát từ trái tim, đặc biệt khi đối mặt các công nghệ đe dọa làm phẳng trải nghiệm sống của chúng ta.
Trong kỷ nguyên hậu AGI, duy trì các giá trị nhân bản mạnh mẽ không phải là một thái độ thụ động — nó đòi hỏi hành động liên tục nhằm tự định nghĩa bản thân và xây dựng cộng đồng. Quyền tự quyết chính là năng lực không ngừng lựa chọn và định hình con đường của mình, bất chấp những lực lượng có xu hướng tự động hóa hoặc tập trung hóa các lựa chọn đó. Bằng cách củng cố năng lực này, chúng ta giữ cho các giá trị của mình luôn sống động, tiến hóa và thực sự thuộc về chúng ta.
Trong một tương lai mà gần như mọi thứ đều có thể được làm cho trơn tru, tối ưu và không chút ma sát, liệu con người có cả khả năng (quyền tự quyết) lẫn khát vọng văn hóa (ý chí tập thể) để giữ cho sự chân thực đầy lộn xộn ấy tiếp tục tồn tại?
Ví dụ về các công nghệ/câu chuyện nhìn chung khuếch đại quyền tự quyết
Các công nghệ và câu chuyện sau nhìn chung là tăng cường quyền tự quyết cho con người (tất nhiên mọi thứ đều có ngoại lệ nhất định). Dưới đây là một số ví dụ minh họa:
Mạng lưới phi tập trung phân phối lại giá trị cho người đóng góp
• Không giống các nền tảng truyền thống tập trung quyền sở hữu và doanh thu, những mạng lưới như Base hoạt động như các tiện ích công cộng mã nguồn mở. Chúng tận dụng các thị trường nội tại để tự động thưởng cho người đóng góp (nghệ sĩ, lập trình viên, người xây dựng cộng đồng) dựa trên giá trị họ mang lại cho mạng. Việc quản trị được thực hiện bởi các cộng đồng phi tập trung, thường sử dụng cơ chế bỏ phiếu bằng token — từ nâng cấp giao thức đến phân chia doanh thu — tất cả đều nằm trong tay những thành viên có đóng góp và quyền lợi.
• Cách nó khuếch đại quyền tự quyết: Người tham gia mạng lưới có quyền sở hữu trực tiếp và quyền biểu quyết đối với định hướng của nền tảng, thay vì chỉ là người dùng thụ động của một dịch vụ tập trung. Cách tiếp cận này khác biệt với mô hình tập quyền truyền thống, nơi chỉ một số ít được hưởng lợi kinh tế. Phần thưởng cho các đóng góp sáng tạo hoặc kỹ thuật được tích hợp sẵn trong các hợp đồng thông minh, tránh phụ thuộc vào các “cổng kiểm soát” có thể thiên lệch việc chi trả hoặc tự ý thay đổi điều kiện. Ví dụ, một lập trình viên phát triển trên Base có thể nhận được khuyến khích (token thưởng) nếu đóng góp của họ làm tăng khối lượng giao dịch trên Base, qua đó tạo ra phí MEV và phí điều phối.
Trợ lý AI đồng hành trong quản lý cuộc sống
• Hiện nay đã có những trợ lý số có thể lên lịch, gửi ghi chú, lọc email. Hãy hình dung các trợ lý AI đồng hành có thể hoạt động ở tầm sâu hơn — không chỉ nhắc bạn hạn chót công việc, mà còn sắp xếp cả ngày làm việc của bạn và giúp bạn chọn việc nào phù hợp nhất với giá trị hoặc mục tiêu của mình. Hình dung rằng chúng đề xuất nhưng không áp đặt quyết định — một AI có thể nêu rõ mặt lợi và hại (“đúng là cưỡi ngựa sẽ chậm hơn, nhưng bạn có thể tận hưởng chuyến đi nhiều hơn”) thay vì tự động dồn bạn vào lộ trình hiệu quả nhất.
• Cách nó khuếch đại quyền tự quyết: Bằng cách giao những tác vụ sàng lọc phức tạp (như xác định cơ hội nào phù hợp nhất với mục tiêu dài hạn của bạn) cho một AI được cá nhân hóa cao, bạn có thể tập trung vào việc lựa chọn thay vì sa lầy trong việc xử lý thông tin. Loại bỏ được các chi tiết lặt vặt trong lịch trình và hàng núi email sẽ tạo thêm “khoảng trắng” trong tâm trí bạn để tư duy chiến lược hoặc sáng tạo.
Đơn vị tính toán tự chủ
• Bạn còn nhớ thời mà chúng ta phải ra quán internet để vào mạng không? Về cơ bản, đó là tình trạng hiện tại với năng lực tính toán AI: chúng ta phải “xin” token và quyền gọi API từ các hãng công nghệ lớn. Nhưng có lẽ tồn tại một hướng đi thú vị hơn. Thử tưởng tượng nếu tài nguyên tính toán vận hành giống lưới điện địa phương – thời gian nhàn rỗi của GPU máy chơi game nhà bạn, cụm máy render của studio thiết kế cuối phố, và tài nguyên máy tính dư thừa của trường đại học đều chảy vào một bể chung. Đây không chỉ là mộng tưởng công nghệ, mà có thể là một hạ tầng thực tế do chính người dùng sở hữu.
• Trên thực tế, điều này có thể được hiện thực hóa bằng một giao thức chuyên biệt tập hợp các chu kỳ GPU nhàn rỗi từ người tham gia, thưởng cho họ bằng token đại diện cho cả năng lực tính toán lẫn quyền quản trị mạng lưới. Hiệu quả cộng hưởng sẽ rất lớn: trợ lý AI cá nhân của bạn không cần xin phép một máy chủ trung tâm nào để có thêm thời gian GPU; nó có thể kết nối trực tiếp vào một “bể” tài nguyên ngang hàng chung.
• Cách nó khuếch đại quyền tự quyết: Khi dự án riêng của bạn bất ngờ phát triển bùng nổ, bạn sẽ không phải khúm núm cầu xin tăng giới hạn API. Khi một trường học địa phương muốn thử nghiệm AI, họ cũng không cần sự cho phép từ bất kỳ ai. Quyền tự quyết thực sự đến từ việc có những lựa chọn vượt ra ngoài các nhà cung cấp quen thuộc. Phần khó khăn không nằm ở công nghệ – mà ở việc xây dựng các cộng đồng thật sự muốn chia sẻ và cùng quản lý những tài nguyên này. Nhưng chính điều đó lại làm cho hướng đi này thêm phần thú vị.
(Phần lớn những ý tưởng tôi từng đề cập trong các bài viết nghiên cứu gần đây (2024, 2025) cũng thuộc nhóm này).
Nhìn chung, các hướng sau đây (tuy luôn có ngoại lệ) dễ trở thành dự án tăng cường quyền tự quyết cho con người hơn:
• Các mô hình thị trường nhiều bên tham gia
• Công cụ sáng tạo xây dựng cho con người
• Công cụ phát triển xây dựng cho con người
• Bất kỳ sản phẩm nào nâng cao sức khỏe
• Thuốc hoặc thiết bị mở ra các đường dẫn thần kinh mới
Các dự án làm suy giảm quyền tự quyết
Trái ngược với các dự án tăng cường quyền tự quyết, cũng tồn tại những dự án làm giảm hoặc gây mơ hồ về quyền tự quyết:
• Bạn đồng hành tình cảm bằng AI mang tính giao dịch hoàn toàn (AI đóng vai trò người yêu nhưng chỉ dựa trên giao dịch, thiếu sự tương hỗ cảm xúc thực sự)
• Sản phẩm kích thích sản sinh chất gây nghiện trong não (các công nghệ hoặc ứng dụng tạo dopamine, endorphin… khiến người dùng lệ thuộc)
• Hệ thống điểm tín dụng xã hội (chấm điểm công dân, có nguy cơ hạn chế tự do cá nhân)
• Bảo hiểm hay tuyển dụng dựa trên giám sát (sử dụng giám sát hành vi để quyết định quyền lợi, xâm phạm quyền riêng tư và tự do lựa chọn)
Tất nhiên, danh sách trên chỉ là hạn chế từ góc nhìn của tôi và sẽ được cập nhật khi tôi khám phá thêm những khả năng mà công nghệ mang lại.
Phân tích nội dung bài viết
1. Luận điểm chính: Tác giả lập luận rằng sự xuất hiện của AGI và “technocapitalism” (chủ nghĩa tư bản công nghệ) có thể tối ưu hóa thế giới đến mức làm con người trở nên thừa thãi và mất đi quyền tự quyết. Bài viết nhấn mạnh tầm quan trọng của việc giữ gìn các giá trị con người, đặc biệt là những khía cạnh “lộn xộn”, không hoàn hảo và tính tự do lựa chọn vốn có của con người. Tina He cho rằng con người cần quyền được phạm sai lầm, quyền tự làm những việc kém hiệu quả nhưng mang lại ý nghĩa cá nhân, để duy trì bản sắc nhân văn. Do đó, tác giả đề xuất phải khuếch đại quyền tự quyết của con người trong kỷ nguyên hậu AGI bằng cách phát triển các công nghệ và câu chuyện giúp con người tiếp tục làm chủ lựa chọn của mình, giữ được tính chân thực và giá trị nhân bản trước làn sóng tự động hóa thông minh.
2. Phong cách viết: Tác giả sử dụng lối viết vừa giàu hình ảnh ẩn dụ vừa mang tính học thuật chặt chẽ. Mở đầu bài viết là một bức tranh tương lai mang màu sắc khoa học viễn tưởng đầy ấn tượng: con người sống trong một thế giới hoàn hảo do AI vận hành nhưng lại chỉ như “thú cưng” an phận, đánh mất sự hoang dã và ý nghĩa cuộc sống. Cách dùng từ ngữ và hình ảnh rất gợi hình – ví dụ, so sánh phòng tranh đầy tác phẩm của con người với “những con bướm chết ghim dưới kính” để minh họa cho sự sáng tạo vô hồn khi thiếu vắng tính người. Tác giả cũng không ngần ngại dùng ngôn từ mạnh để gây ấn tượng, như cụm “quyền được phạm sai lầm” (the right to fuck up) nhằm nhấn mạnh ý chí phản kháng lại sự hoàn hảo vô cảm. Về cấu trúc, bài viết được sắp xếp mạch lạc: bắt đầu bằng cảnh báo giàu cảm xúc, chuyển sang những ví dụ đời thường cảm động (đứa trẻ trầy đầu gối, người vẽ bản thiết kế tay, cô gái viết thư tình) để cụ thể hóa vấn đề, sau đó đi vào phân tích lý luận (định nghĩa “quyền tự quyết”, liệt kê luận điểm) và cuối cùng đưa ra giải pháp (các công nghệ, nền tảng cụ thể giúp tăng cường agency). Văn phong kết hợp giữa chất trữ tình (nhấn mạnh cảm xúc, trải nghiệm con người) và lý luận (trình bày khúc chiết các ý tưởng), làm cho bài viết vừa thuyết phục về lý trí, vừa lay động được người đọc về mặt cảm xúc.
3. Tác động xã hội: Bài viết phản ánh những mối lo ngại xã hội về công nghệ AI và tự động hóa trong tương lai. Tác giả vẽ ra viễn cảnh con người mất dần vị thế trung tâm, trở nên phụ thuộc và vô nghĩa trước những hệ thống máy móc siêu việt – đây là nỗi sợ phổ biến khi nói về AI tổng quát có thể vượt mặt con người. Những hình ảnh như con người chỉ còn là diễn viên phụ trên sân khấu do AI làm đạo diễn, hay người mẹ mất cơ hội chăm sóc con vì máy móc làm hết chạm đến nỗi lo về việc công nghệ tước đoạt đi các trải nghiệm đời thường ý nghĩa và phẩm giá con người. Bài viết kêu gọi độc giả nhận thức giá trị của sự bất toàn và tự chủ – những điều làm nên tính người – trong một thế giới ngày càng tiện nghi nhưng lạnh lùng. Về mặt xã hội, tác giả muốn thúc đẩy cuộc thảo luận về việc định hướng phát triển công nghệ sao cho lấy con người làm trung tâm, đảm bảo con người vẫn có quyền quyết định và duy trì bản sắc riêng. Những ý tưởng như nền tảng phi tập trung, trợ lý AI nhân văn, v.v., nếu được thực hiện, có thể ảnh hưởng đến cách xã hội tổ chức kinh tế, giáo dục, công nghệ theo hướng dân chủ hơn, giảm sự phụ thuộc vào các siêu cấu trúc công nghệ tập trung. Nhìn chung, bài viết đóng góp tiếng nói cảnh tỉnh về mặt trái của tự động hóa cực đoan, đồng thời truyền cảm hứng để xã hội trân trọng và bảo vệ giá trị con người trong kỷ nguyên công nghệ cao.
4. Quan điểm phản biện: Mặc dù lập luận của tác giả rất thuyết phục, vẫn có một số góc nhìn khác có thể xem xét:
• Công nghệ có thể giải phóng con người thay vì làm vô nghĩa hóa. Một số người cho rằng việc tối ưu hóa và tự động hóa không nhất thiết dẫn đến sự trống rỗng cho nhân loại; ngược lại, chúng có thể giải phóng con người khỏi những công việc nhàm chán để tập trung hơn vào sáng tạo hoặc hưởng thụ cuộc sống. Theo quan điểm này, một thế giới hoàn hảo, tiện nghi do AI quản lý chưa chắc đã tước đi ý nghĩa của con người, mà có thể buộc con người định nghĩa lại ý nghĩa cuộc sống (tìm mục đích mới sau khi không còn gánh nặng lao động).
• Sự “lộn xộn” và không hoàn hảo không phải lúc nào cũng đáng giá. Tác giả ca ngợi quyền được mắc sai lầm và sự thiếu tối ưu như bản sắc của con người, nhưng có ý kiến phản biện rằng loại bỏ sai sót có thể là điều tích cực. Ví dụ, hệ thống thông minh tự động bảo vệ trẻ em khỏi chấn thương có thể được xem là tiến bộ, giảm đau đớn không cần thiết. Nhiều người sẵn sàng đánh đổi một phần tự do lựa chọn để lấy an toàn và tiện lợi cao hơn. Từ góc nhìn này, việc con người chấp nhận một số giới hạn do công nghệ đặt ra (như giao thông an toàn tuyệt đối, sức khỏe được đảm bảo nhờ AI…) không hẳn là mất mát, mà là cách khác để nâng cao chất lượng cuộc sống.
• Con người có thể thích nghi hoặc hợp nhất với AI. Thay vì chống lại xu hướng tối ưu hóa, một góc nhìn lạc quan cho rằng con người và AI có thể cộng sinh hoặc con người có thể nâng cấp bản thân để bắt kịp công nghệ. Những người theo chủ nghĩa hậu nhân loại (transhumanism) có thể lập luận rằng chúng ta nên tận dụng AI để mở rộng trí tuệ và khả năng sáng tạo, thay vì giới hạn mình trong “cái tôi” cũ. Quan điểm này cho rằng giá trị con người có thể tiến hóa cùng với công nghệ – con người tương lai có thể không còn vẽ tay hay viết thư tay, nhưng sẽ có những hình thức sáng tạo và trải nghiệm mới mẻ khác, không nhất thiết kém ý nghĩa hơn.
• Tính khả thi của các giải pháp tác giả đề xuất. Ngay cả khi đồng ý với mục tiêu đề cao quyền tự quyết, một số ý kiến có thể hoài nghi về hiệu quả thực tế của các giải pháp như mạng phi tập trung hay trợ lý AI “không áp đặt”. Chẳng hạn, hệ thống phi tập trung tuy trao quyền nhưng đòi hỏi người dùng phải có hiểu biết và tham gia tích cực, điều mà không phải ai trong xã hội cũng sẵn sàng làm. Tương tự, trợ lý AI dù không ép buộc nhưng có thể vô tình định hướng người dùng theo lập trình sẵn. Ngoài ra, nhiều dự án công nghệ nhân văn có thể khó cạnh tranh với các giải pháp tối ưu và tiện lợi thuần túy trên thị trường. Do đó, vẫn cần cân nhắc rằng việc khuếch đại quyền tự quyết có thể gặp trở ngại trong thực tiễn, và không phải ai cũng coi trọng nó như tác giả.
Màu đen tuyền (#000000) thường được sử dụng trong thiết kế để tạo yếu tố tương phản và nổi bật. Tuy nhiên, nghiên cứu và kinh nghiệm của các nhà thiết kế cho thấy rằng việc sử dụng màu đen tuyền có thể gây ra những hậu quả tiêu cực đối với cả nhận thức và chức năng của thiết kế.
Căng mắt và dễ chịu Màu đen tuyền tạo ra độ tương phản quá mạnh với hầu hết các màu khác, đặc biệt là màu trắng (#FFFFFF). Điều này dẫn đến mỏi mắt nhanh chóng khi xem trong thời gian dài. Các nghiên cứu cho thấy độ tương phản cao như vậy có thể gây khó chịu và căng thẳng thị lực của người dùng.
Nhận thức tâm lý Màu đen thuần khiết gắn liền với những cảm xúc tiêu cực, chẳng hạn như sợ hãi, lo lắng và buồn bã. Điều này có thể tạo ra những liên tưởng không mong muốn cho người dùng, đặc biệt nếu màu đen được sử dụng với số lượng lớn.
Khả năng đọc văn bản Văn bản màu trắng trên nền đen tuyền có thể trông quá sáng và chói, gây khó đọc. Đồng thời, văn bản màu đen trên nền trắng có thể quá tương phản và gây mỏi mắt.
Khả năng tương thích màu sắc Màu đen thuần khiết có thể xung đột với một số màu khác, đặc biệt là những màu sáng và bão hòa. Điều này có thể tạo ra xung đột về mặt thị giác và làm giảm sự hài hòa của thiết kế.
