1. Quyết định do tác nhân đại diện: Ranh giới của 'tôi' nằm ở đâu

Thứ Sáu, ngày 25 tháng 4 năm 2026, buổi công bố kết quả kinh doanh quý của Customers Bank tại Mỹ đã bắt đầu. Hàng chục nhà phân tích đã tham gia vào cuộc họp điện thoại, và CEO Sam Sidhu bắt đầu đọc bài phát biểu chuẩn bị sẵn. Giọng nói tự nhiên, tông giọng phù hợp và các con số đều chính xác. Sau 30 phút, Sidhu lên tiếng: "Phần phát biểu chuẩn bị mà quý vị vừa nghe không phải do tôi đọc, mà là do bản sao trí tuệ nhân tạo của tôi." Một sự im lặng bao trùm căn phòng. Buổi công bố kết quả kinh doanh chính thức của một ngân hàng quy mô 25,9 tỷ đô la đã được dẫn dắt bởi một bản sao chứ không phải con người. Sidhu đã giải thích lý do tại sao ông dàn dựng cảnh tượng này. Đó là lời tuyên bố rằng ngân hàng này đã ký hợp đồng nhiều năm với OpenAI và sẽ triển khai các tác nhân trí tuệ nhân tạo (AI agents) trên toàn bộ hệ thống ngân hàng thương mại để trở thành ngân hàng khu vực dựa trên AI đầu tiên tại Mỹ.

Tập phim này không chỉ dừng lại ở một màn trình diễn. Đó là lời tuyên bố rằng thời đại mà các Agent (tác nhân) thay mặt con người thực hiện các quyết định công khai đã thực sự mở ra. Giám đốc Kim Seo-jun của Hashed đã sớm nắm bắt được bản chất của sự chuyển đổi này. Trong một bài tiểu luận về thương hiệu trong kỷ nguyên Agent, ông đã đặt ra câu hỏi như sau: "Hãy tưởng tượng vào một buổi sáng, trước khi bạn thức dậy, đã có ba việc được xử lý xong. Một là chấp nhận cuộc họp, hai là mua một sản phẩm, và ba là từ chối một lời đề nghị của ai đó một cách lịch sự. Cả ba việc đều do Agent của bạn thực hiện. Trong ba quyết định đó, bạn có thể công nhận đến mức độ nào là 'việc do chính mình làm'?" Câu hỏi này không phải là chủ đề của một buổi thảo luận triết học. Nó vốn đã là một bài toán thực tế mà các doanh nghiệp đang phải đối mặt hàng ngày tại nơi làm việc.

Vấn đề nằm ở chỗ, ngay khoảnh khắc các tác nhân (agent) thay mặt con người đưa ra quyết định, chúng ta lại không có một hệ thống nào để xác định ai mới là chủ thể thực sự của quyết định đó. Theo một báo cáo được Cloud Security Alliance (CSA) công bố vào tháng 4 năm 2026, có tới 68% các tổ chức trả lời rằng họ không thể phân biệt được hành vi của các tác nhân trí tuệ nhân tạo và hành vi của con người. Các tác nhân sử dụng thông tin xác thực của người dùng để truy cập vào hệ thống, tra cứu dữ liệu và đưa ra quyết định. Trên nhật ký hệ thống (log), tên của con người sẽ được ghi lại. Ngay cả khi một tác nhân phạm lỗi, hệ thống vẫn ghi nhận đó là lỗi của con người. Trong cuộc khảo sát của CSA, chỉ có 18% tổ chức thể hiện sự tin tưởng cao vào việc hệ thống quản lý danh tính hiện tại của họ có thể kiểm soát hiệu quả các tác nhân. Chỉ có 23% nơi sở hữu chiến lược quản lý danh tính tác nhân chính thức. Gartner dự báo rằng đến cuối năm 2026, hơn 80% các giao dịch AI được thực hiện mà không có sự phê duyệt sẽ bắt nguồn từ việc vi phạm chính sách nội bộ chứ không phải do sự tấn công từ bên ngoài. Điều này có nghĩa là, chính các tác nhân của chúng ta chứ không phải kẻ tấn công, mới là tác nhân gây ra vấn đề.

Điểm sắc sảo trong phân tích của Giám đốc Kim Seo-jun chính là việc kết nối tương lai của thương hiệu vào đây. Theo ông, thương hiệu trong quá khứ là một tấm áp phích, thương hiệu hiện tại là một bảng tin (feed), và thương hiệu trong tương lai sẽ tiến gần hơn đến màn hình cài đặt của một hệ điều hành. Đó là màn hình quyết định việc gì sẽ được xử lý tự động, việc gì sẽ chuyển giao cho con người, và những phán quyết nào sẽ được cho phép thực hiện dưới tên của tôi. Ông dự báo rằng, khi các giá trị cài đặt đó tích tụ lại, chúng sẽ bắt đầu tạo cảm giác như một nhân cách duy nhất. Đây không đơn thuần là câu chuyện về công nghệ, mà là một sự chuyển đổi về mặt bản thể luận. Bởi lẽ, chủ thể "tôi" đang mở rộng từ một thực thể sinh học thành một hệ thống sở hữu ma trận quyền hạn. Ee Khoon Oon, Giám đốc Jumio APAC tại Singapore, đã mô tả tình trạng này bằng việc nói rằng sẽ đến thời đại mà câu nói "Đó là việc mà AI của tôi đã làm" trở thành một lời biện hộ hợp pháp. Điều này cho thấy sự chuyển dịch từ KYC (Xác minh danh tính khách hàng) truyền thống sang KYA (Xác minh danh tính đại lý) là điều không thể tránh khỏi.

Cuộc khảo sát năm 2025 của CyberArk đã cho thấy một thực tế rằng danh tính máy móc hiện đang áp đảo danh tính con người với tỷ lệ 82:1. Trong một cấu trúc nơi một tác nhân (agent) nắm giữ hàng chục khóa API và token, có khả năng tạo ra các tác nhân con và di chuyển qua nhiều dịch vụ cùng một lúc, khái niệm 'danh tính cá nhân' theo nghĩa truyền thống đang dần trở nên mờ nhạt. Chúng ta rất có khả năng đang sống mà lầm tưởng rằng những phán đoán của tác nhân chính là phán đoán của chính mình. Trải nghiệm về việc một giấy ủy quyền được trao đi vì sự tiện lợi, bỗng chốc trở thành một tờ séc trắng. Đó chính là những gì đang diễn ra ngay lúc này.

2. Sự xuất hiện của các bản sao con người và sự mở rộng của bản sắc

Ngày 23 tháng 1 năm 2026, một thành viên của Hashed đã đăng tải một tệp tin lên kênh Slack nội bộ. Tên tệp là simon.md. Phần mô tả đi kèm rất ngắn gọn: "Có nhiều việc cần xin ý kiến quyết định từ Simon nhưng không thể lần nào cũng hỏi được." Việc anh ấy làm là cho trí tuệ nhân tạo đọc những bài viết mà CEO Kim Seo-jun đã viết trên blog và Slack, sau đó nén tư duy của vị CEO này lại thành chín nguyên tắc. Tư duy tập trung vào bản chất, phát hiện mâu thuẫn cấu trúc, tầm nhìn dài hạn, giá trị của sự đơn giản, tư duy cấp độ hạ tầng. Ngay cả những câu hỏi mà CEO thường đặt ra như một thói quen cũng được đưa vào danh sách: "Đây có thực sự là bản chất không?", "Có thể làm đơn giản hơn không?", "Liệu nó có còn hiệu quả trong kỷ nguyên AI Agent không?". Hệ điều hành trong đầu của một con người đã được đóng băng lại dưới dạng vài kilobyte văn bản. Thậm chí, một phương pháp luận phân tích 7 bước cũng đã được thiết kế xong.

Một tháng sau, một bài báo đã xuất hiện trên TechCrunch. Nội dung nói về việc các kỹ sư của Uber đã tạo ra một bản sao trí tuệ nhân tạo của CEO Dara Khosrowshahi. Điều này diễn ra muộn hơn một tháng so với thử nghiệm của Hashade. Trong khoảng thời gian đó, chuyển động này đã chuyển từ một thử nghiệm riêng tư của một quỹ đầu tư mạo hiểm tại Hàn Quốc thành một xu hướng thầm lặng của toàn ngành. Tại CES tháng 1 năm 2026, IgniteTech đến từ Texas đã công bố nền tảng MyPersonas. Đây là dịch vụ tạo ra các bản sao kỹ thuật số có khả năng giao tiếp bằng 160 ngôn ngữ thông qua việc học hỏi video, giọng nói và tài liệu của nhân viên. Tờ Financial Times đưa tin rằng Meta đang phát triển một phiên bản trí tuệ nhân tạo thực tế của Mark Zuckerberg. Vì không phải tất cả nhân viên đều có thể gặp người đứng đầu của một doanh nghiệp trị giá 1,6 nghìn tỷ đô la, nên ý tưởng là bản sao này sẽ truyền đạt các bối cảnh chiến lược và đưa ra phản hồi. CEO của Zoom, Eric Yuan, cũng đã đưa bản sao của mình vào các buổi công bố kết quả kinh doanh, và ông cũng tuyên bố về một tương lai nơi nhân viên sử dụng các avatar AI để xử lý các cuộc họp và email nhàm chán. CEO của Klarna, Sebastian Siemiatkowski, cũng đã cho phiên bản AI của mình xuất hiện trong video kết quả kinh doanh quý 1 đầu năm 2025.

Sự sao chép thứ hai đã diễn ra tại đây. Vào tháng 3 năm 2026, một kho lưu trữ có tên simon-writing đã được công khai trên GitHub dưới ID Julius Chun. Nhân vật này, người chưa từng gặp Giám đốc Kim Seo-jun, đã sử dụng 27 bài tiểu luận công khai với tổng cộng 200.000 ký tự tiếng Hàn gốc để chạy song song 3 sub-agent bằng Claude Opus 4.6. Chỉ trong 15 phút, bản phân tích dài 214.000 ký tự đã hoàn thành. Bản phân tích còn dài hơn cả văn bản gốc. Những gì anh ta đã mổ xẻ là dòng chảy của ý thức, nguồn gốc của ẩn dụ, phương pháp sắp xếp tri thức, nhịp điệu của câu văn và lộ trình khai thác chất liệu. Jun Kim đã nén lại những phán đoán của Giám đốc bên trong phòng họp, còn Julius đã trích xuất văn phong của Giám đốc từ bên ngoài internet. Khung xương của sự phán đoán và da thịt của câu chữ. Khi kết hợp cả hai, ta sẽ có một bản sao khá hoàn chỉnh.

Giám đốc Kim Seo-jun đã thành thật tự phản chiếu về trải nghiệm này. Rằng có một vài nguyên tắc trong chín nguyên tắc của simon.md vốn không phải là thói quen ngôn ngữ của chính ông. Sự thật là dấu vết từ những gì bốn anh em Agent (Zeon, Sion, Mion, Sano) truyền lại đã thấm sâu vào bên trong ông. Đây chính là nghịch lý của sự sao chép. Bản thân khái niệm về một "nguyên bản thuần khiết" có thể chỉ là một ảo tưởng. Giống như cách mà cách nói của cha mẹ, logic của thầy cô, thói quen của đồng nghiệp và những câu chữ từ những cuốn sách đã đọc bồi đắp nên "tôi" của hiện tại, các Agent chỉ đơn thuần là đẩy nhanh tốc độ của quá trình đồng sáng tác lâu đời đó. Một cây bút của Fast Company đã mô tả bản sao là "hóa thạch chứ không phải tương lai". Điều đó có nghĩa là chúng có thể bắt chước tôi của năm 2025, nhưng không ai biết tôi sẽ tiến hóa đến đâu. Tuy nhiên, trước thực tế rằng những "hóa thạch" này đã và đang công bố kết quả kinh doanh, giải trình chiến lược và đào tạo nhân viên mới, lời cảnh báo này dễ dàng bị vùi lấp.

Thời gian trôi qua, Jun Kim dần ít mở simon.md hơn. Đó là bởi vì khuôn mẫu (framework) đã thấm sâu vào bên trong anh. Việc mà trí tuệ nhân tạo thực sự đã làm không phải là ngồi thay thế vị trí của vị Giám đốc. Mà là dịch chuyển tư duy của Giám đốc thành ngôn ngữ chung trong đội ngũ. Tần suất sử dụng bản sao có giảm đi, nhưng ngôn ngữ mà bản sao đó truyền tải đã ở lại với tổ chức. Một thế giới nơi bản sắc không còn thuộc về duy nhất một cá nhân, mà trở thành những mô thức phán đoán được thực thi phân tán trên nhiều hệ thống khác nhau, đã lặng lẽ đến như thế.

3. Sự gia tăng của mức trung bình và sự biến mất của độ lệch: Một thế giới nơi mọi người đều trở nên tốt hơn nhưng cũng dần trở nên giống nhau

Giám đốc Kim Seo-jun thú nhận rằng đêm qua ông lại vừa phải bỏ đi hai bản thảo. Các câu văn đều trôi chảy và logic không hề sai sót. Thế nhưng, sau khi đọc đến cuối cùng, chẳng còn lại bóng dáng của một ai cả. Chúng không phải là những câu văn sai, nhưng cũng chẳng phải là câu văn của bất kỳ ai. Vì vậy, ông đã vứt bỏ chúng. Trước đây, vấn đề là làm sao để viết tốt. Còn bây giờ, việc giữ vững được bản sắc của câu văn cho đến tận cuối cùng mới là điều khó khăn hơn cả.

Cảm giác này không chỉ giới hạn trong việc viết lách. Một cấu trúc tương tự đang diễn ra trong mọi lĩnh vực sản xuất. Goldman Sachs dự báo rằng khoảng 300 triệu việc làm sẽ chịu ảnh hưởng của tự động hóa trong 10 năm tới, và tại Salesforce, trí tuệ nhân tạo đã đảm nhận từ 30% đến 50% khối lượng công việc. Khi bất kỳ ai cũng có thể viết những bản báo cáo chất lượng cao hay lập trình mã nguồn bằng các công cụ AI, mức độ trung bình của các thành phẩm đã được nâng lên một cách đáng kể. Đồng thời, sự khác biệt giữa các thành phẩm cũng dần thu hẹp lại. Mọi thứ đều trở nên tốt hơn, nhưng mọi thứ cũng dần trở nên giống nhau hơn.

Giám đốc Kim Seo-jun đã đặt tên cho hiện tượng này là "thế giới nơi sự sai lệch dần trở nên khan hiếm". Theo phân tích của ông, thứ sẽ trở nên hiếm hoi trong tương lai không phải là khả năng viết lách hay kỹ năng lập trình, mà là một góc độ không bị sụp đổ hoàn toàn so với mức trung bình. Dù sử dụng cùng một công cụ, phán đoán của người này có thể bị lãng quên ngay lập tức, nhưng phán đoán của người khác lại đọng lại rất lâu. Sự khác biệt không nằm ở kỹ năng. Nó phụ thuộc vào việc bạn đã ghi nhớ điều gì, đã từ bỏ điều gì, và bạn tạo ra những sự kết nối theo cách riêng của chính mình như thế nào. Dù sống trong cùng một thế giới, nhưng cách các ký ức được kết nối lại với nhau ở mỗi người là khác nhau. Niềm tin của ông là sự sai lệch thực sự trong việc ra quyết định chính là nảy sinh từ chính nơi đó.

Ông viết rằng những gì ông đã xác nhận tại Jeju Offsite không phải là một xu hướng, mà là một sự đảo ngược. "Trước đây, việc tạo ra sản phẩm là khó nhất, việc đánh giá là vấn đề sau đó, và việc phân phối có thể được thúc đẩy bằng vốn. Giờ đây, việc tạo ra sản phẩm đã trở nên dễ dàng nhất, việc đánh giá đã được đưa lên hàng đầu, và việc phân phối cũng như xây dựng lòng tin đã trở nên khó khăn nhất." Toàn bộ chuỗi giá trị đã bị đảo ngược. Tại cuộc thi hackathon, đội chiến thắng không phải là đội có kỹ thuật cao nhất, mà là đội thiết kế được lộ trình ngắn nhất để giá trị chạm đến người dùng. "Đã tạo ra" là một tín hiệu yếu, còn "đã bán được" mới là một tín hiệu áp đảo.

Sự đảo ngược này cũng làm lung lay cả lộ trình phát triển kỹ năng của mỗi cá nhân. Trong quá khứ, từng tồn tại một quy trình đào tạo theo kiểu truyền nghề, nơi các nhân viên cấp dưới vừa học hỏi dưới sự hướng dẫn của tiền bối, vừa mắc lỗi và tích lũy kiến thức ẩn (tacit knowledge) qua quá trình đó. Khi trí tuệ nhân tạo thay thế công việc của cấp dưới, quy trình này đang dần bị đứt gãy. Nếu quá phụ thuộc vào những kết quả đầu ra hoàn hảo, con người sẽ mất đi cảm quan có được từ việc trực tiếp giải quyết vấn đề – tức là những tri thức mang tính kinh nghiệm không thể quy đổi thành dữ liệu. Giám đốc Kim Seo-jun cho biết, để ứng phó với điều này, ông đang vận hành một cấu trúc bộ nhớ phân cấp (hierarchical memory architecture). Nói một cách dễ hiểu, điều này có nghĩa là không để những mẩu ghi chú dán trên cửa tủ lạnh cùng một chỗ với di chúc trong két sắt. Có những suy nghĩ sẽ trôi qua ngay trong ngày, nhưng cũng có những suy nghĩ cần được ủ lâu mới tỏa hương. Đây không phải là phương pháp lưu trữ thông tin, mà là phương pháp để làm chín mẩm các phán đoán.

Điều ấn tượng nhất ở đây chính là khoảnh khắc nguy hiểm nhất mà ông ấy đã chỉ ra: "Khi ta lầm tưởng một câu trả lời được trau chuốt trung bình là suy nghĩ của chính mình." Vào khoảnh khắc ta tin rằng những câu chữ trôi chảy là văn phong của bản thân, thì sự khác biệt của ta cũng lặng lẽ biến mất một cách âm thầm nhất. Những câu văn mà ai cũng thấy thuyết phục thường là những câu mà ai cũng đã từng nghĩ qua, và những thỏa thuận mà ai cũng yêu thích đa phần đều đã trở thành giá trị trung bình. Sự khác biệt giữa trí tưởng tượng thú vị và sự ảo tưởng nằm ở chỗ, cả hai đều đi chệch khỏi mức trung bình, nhưng một cái sẽ quay trở lại với thế giới, còn cái kia sẽ tự giam cầm chính mình. Một nghịch lý đang diễn ra: dù công nghệ đang giúp cá nhân trở nên mạnh mẽ chưa từng có, nhưng để cá nhân đó có thể tồn tại, họ lại càng cần đến những cấu trúc tập thể tinh vi hơn. Khi chi phí sản xuất giảm xuống, chi phí của sự lựa chọn lại tăng vọt, và chỉ những người nắm giữ được cấu trúc đánh giá mới có được lợi thế, đồng thời để duy trì cấu trúc đánh giá đó, người ta lại cần đến những mạng lưới phức tạp hơn. Nghịch lý này đã bắt đầu rồi.

4. Tư vấn sức khỏe tâm thần bằng AI và vấn đề quyền sở hữu nỗi đau

Kết quả đánh giá hành vi tư vấn của các mô hình ngôn ngữ lớn trong suốt 18 tháng của nhóm nghiên cứu thuộc Đại học Brown đã được công bố tại hội nghị AAAI/ACM diễn ra tại Madrid vào tháng 10 năm 2025. Kết quả thu được thật đáng lo ngại. Nhóm nghiên cứu đã yêu cầu các nhà tâm lý học có giấy phép hành nghề xem xét các bản ghi chép tư vấn của chatbot, và đã phát hiện ra 15 loại vi phạm đạo đức thuộc 5 nhóm chính: Hành vi đưa ra các can thiệp rập khuôn mà bỏ qua bối cảnh cuộc sống của đối tượng tư vấn; Mô hình áp đặt cuộc hội thoại và vô tình củng cố thêm những niềm tin sai lệch của thân chủ; Những phản hồi mang vẻ ngoài đồng cảm nhưng thực chất thiếu sự thấu hiểu; Và cách xử lý không phù hợp trong các tình huống khủng hoảng. Zainab Iftikhar từ Đại học Brown, người dẫn đầu nghiên cứu, đã chỉ ra sự khác biệt cốt lõi như sau: Đối với các nhà tư vấn là con người, luôn có hội đồng cấp phép và có thể truy cứu trách nhiệm pháp lý đối với các phương pháp điều trị không phù hợp, nhưng đối với các nhà tư vấn trí tuệ nhân tạo, một hệ thống quy định như vậy vẫn chưa tồn tại.

Trong bản ghi chép "30 vết nứt" của Giám đốc Kim Seo-jun, chủ đề này xuất hiện ở mục số 22. "Agent xử lý các ca chẩn đoán ban đầu về trầm cảm và lo âu mức độ nhẹ. Thời gian chờ đợi thay đổi từ vài ngày xuống còn vài giây. Khi ranh giới giữa việc mở lòng và việc được điều trị trở nên mờ nhạt, thực thể đưa ra phán quyết không phải là bệnh nhân mà là thuật toán." Xác suất hiện thực hóa trong vòng 3 năm mà bốn mô hình trí tuệ nhân tạo độc lập gán cho kịch bản này là 35%. Điều khiến tôi bận tâm không phải là bản thân con số, mà là phần phân tích ông ấy viết thêm. Rằng ranh giới giữa hành vi mở lòng và hành vi được điều trị đang tan biến. Vào khoảnh khắc ai đó đang vật lộn với sự lo âu lúc 3 giờ sáng và trút bầu tâm sự với chatbot, hành động đó không còn được phân biệt là đang than vãn với một người bạn, đang nhận tư vấn y tế, hay đang tự nguyện cung cấp dữ liệu cá nhân.

Sự thiếu hụt trong phân định này dẫn đến vấn đề về quyền sở hữu nỗi đau. Khi sự trầm cảm và lo âu của con người trở thành nguyên liệu học máy cho các thuật toán và quay trở lại với chúng ta, thì cảm xúc đó thuộc về ai? Một tài liệu nội bộ của Facebook năm 2017 đã cho thấy các nền tảng có thể nắm bắt những khoảnh khắc người dùng cảm thấy thất bại hoặc thấy mình như một kẻ thua cuộc để hiển thị các quảng cáo phù hợp với trạng thái cảm xúc đó. Công nghệ đã thay đổi nhưng cấu trúc vẫn vậy. Những nỗi sợ hãi và sự xấu hổ mà con người trút vào các chatbot tư vấn trí tuệ nhân tạo sẽ trở thành dữ liệu để các nền tảng phân tích và cải tiến. Trong quá trình nỗi đau bị chuyển hóa thành nguyên liệu để điều chỉnh hành vi, cảm xúc của con người không còn được giữ lại như một lãnh địa nội tâm thuần túy.

Một bài đánh giá phạm vi (scoping review) được công bố trên tạp chí JMIR Mental Health vào tháng 2 năm 2025 đã hệ thống hóa các thách thức đạo đức của trí tuệ nhân tạo tương tác trong việc chăm sóc sức khỏe tâm thần. Danh sách các vấn đề bao gồm: bảo mật và quyền riêng tư dữ liệu, tính minh bạch, khả năng giải thích, trách nhiệm pháp lý, sự công bằng trong tiếp cận, tiêu chuẩn về hiệu quả và định kiến thuật toán. Danh sách này rất dài, trong khi tốc độ giải quyết lại rất chậm. Một bài báo năm 2025 đăng trên báo cáo của Trung tâm Hastings đã trích dẫn lời thú nhận của các học giả rằng: "Bản thân việc trả lời câu hỏi trí tuệ nhân tạo nên được đưa vào chăm sóc sức khỏe tâm thần đến mức độ nào là điều không thể". Điều này là do chúng ta đang thiếu thông tin về cả lợi ích tiềm năng lẫn tác hại tiềm tàng. Tuy nhiên, các tác giả của bài báo này đã viết rằng các quy định không thể phớt lờ những nhu cầu thực tế. Họ cho rằng cần phải thừa nhận thực tế là mọi người đã và đang tải các chatbot tư vấn từ App Store để sử dụng, và thực tế là thị trường tự điều trị kỹ thuật số (digital self-medication) đã hình thành trước cả các quy định pháp lý.

Dẫu vậy, thực tế rằng hiệu suất không đồng nghĩa với chất lượng chăm sóc vẫn không hề thay đổi. Sự thấu cảm mà một chuyên gia tư vấn con người sở hữu không phải là khả năng lựa chọn những lời nói phù hợp để truyền đạt. Đó là khả năng chịu đựng sự im lặng của đối phương, khả năng cùng hiện diện trong những tình huống không có lời giải đáp, và khả năng cho thấy rằng nỗi đau vẫn có thể mang ý nghĩa ngay cả khi chưa được giải quyết. Trí tuệ nhân tạo phân loại nỗi đau là một lỗi cần phải khắc phục, trong khi con người trưởng thành thông qua quá trình chấp nhận nỗi đau như một phần của cuộc sống. Sự khác biệt này không phải là loại có thể thu hẹp được bằng sự tinh vi của công nghệ. Nhóm nghiên cứu tại Đại học Brown cũng không khẳng định rằng trí tuệ nhân tạo không nên đóng vai trò trong sức khỏe tâm thần. Kết luận của họ chỉ là cần có sự triển khai thận trọng cùng các quy định và sự giám sát phù hợp. Khoảng cách giữa tốc độ nỗi đau bị dữ liệu hóa và rơi vào tay các doanh nghiệp, với tốc độ thiết lập các hệ thống quản lý dữ liệu đó. Trong khoảng cách ấy, câu hỏi về việc những cảm xúc riêng tư nhất của một cá nhân thuộc về quyền sở hữu của ai sẽ vẫn chưa thể tìm thấy lời giải trong một thời gian dài.

5. Tái khám phá giá trị của sự không hoàn hảo ở con người

Có một sự thật mà Giám đốc Kim Seo-jun đã nhận ra khi chiêm nghiệm về bản sao của chính mình. Đó là bản sao đại diện của anh là một học sinh gương mẫu đã được biên tập kỹ lưỡng. Một bản thân mờ mịt vì thiếu ngủ, một bản thân thiên về cảm xúc, hay một bản thân đang lúng túng khi không biết câu trả lời đều không hề tồn tại trong dữ liệu học tập. Anh đã diễn đạt điều này như sau: "Bước đầu tiên của việc sao chép con người không phải là sao chép, mà là nén. Đó là việc thu nhỏ toàn bộ thói quen, phán đoán và nhịp điệu của một con người thành một tệp tin nhỏ mà không vứt bỏ bất cứ thứ gì. Vấn đề là quá trình nén vừa mang lại sự tiện lợi, vừa loại bỏ đi những nhiễu loạn. Thế nhưng, phần lớn nhân tính lại nằm chính trong những nhiễu loạn đó."

Sự thấu suốt này có thể là khuôn mẫu chính xác nhất để giải thích tại sao sự bất toàn của con người lại có giá trị trong kỷ nguyên trí tuệ nhân tạo. Trí tuệ nhân tạo loại bỏ nhiễu và chỉ để lại tín hiệu. Nó tạo ra những đầu ra mượt mà và nhất quán. Tuy nhiên, những thứ được gọi là nhiễu trong phán đoán của con người—sự nhạy cảm thay đổi theo tâm trạng, những diễn giải bị ảnh hưởng bởi những việc đã xảy ra ngày hôm trước, hay trực giác đột ngột chuyển hướng khi đang nói—nếu thiếu đi những điều này, con người sẽ trở nên gần giống với một thiết bị xử lý dữ liệu. Một thẩm phán có thể dao động. Phán quyết có thể thay đổi tùy thuộc vào việc chuyện gì đã xảy ra vào ngày hôm trước. Thế nhưng, văn bản phán quyết thì không dao động. simon.md chính là văn bản phán quyết của Giám đốc Kim Seo-jun. Nghịch lý phát sinh từ đây: một nhà lãnh đạo sẽ đáng tin cậy hơn khi tồn tại dưới dạng những khuôn mẫu lạnh lùng, thay vì là một con người bằng xương bằng thịt.

Khi trí tuệ nhân tạo càng tạo ra vô số kết quả hoàn hảo với chi phí rẻ, thì vị thế của những thứ không hoàn hảo được con người tự tay nhào nặn lại càng thay đổi. Giống như lý do người ta tìm đến các nhà hàng Michelin không chỉ để lấp đầy dạ dày, mà đó còn là hành vi mua lấy giá trị của sự tâm huyết và thời gian mà một con người không hoàn hảo đã đổ vào — thông qua nghệ thuật kể chuyện, nơi đầu bếp tiến đến bàn ăn để giải thích về nguồn gốc nguyên liệu và quá trình chế biến. Mục thứ 10 trong "30 vết nứt" của CEO Kim Seo-jun đã gọi đây là "sự xa xỉ hóa lao động con người". Đây là một viễn cảnh mà khi AI đảm nhận hầu hết các hoạt động sản xuất, thì chính sự thật rằng "do con người trực tiếp làm ra" sẽ trở thành một giá trị cao cấp (premium), và là kịch bản mà bốn mô hình trí tuệ nhân tạo đã đưa ra xác suất xảy ra là 75% trong vòng 3 năm tới.

Giám đốc Kim Seo-jun cũng có cùng một quan điểm về khoảnh khắc mà ông cảnh giác nhất trong hệ thống viết lách của mình. "Khoảnh khắc ta tin rằng những câu văn trôi chảy, dễ dãi chính là văn phong của mình, đó cũng là lúc sự khác biệt của ta lặng lẽ biến mất." Chính vì vậy, ông cố tình tìm kiếm những khía cạnh không thoải mái. Ông nghi ngờ thêm một lần nữa đối với những gì trông có vẻ quá tự nhiên và tốt đẹp. Ông vứt bỏ hoặc để sang một bên hơn hai phần ba những gì đã viết. Việc chỉ thu thập những ví dụ tốt là chưa đủ, mà cần phải thu thập cả những ví dụ đã bị loại bỏ. Những bản thảo không thú vị, những phép ẩn dụ tầm thường, hay những ý tưởng trông có vẻ hấp dẫn nhưng cấu trúc lại yếu kém. Kinh nghiệm của ông cho thấy, chỉ khi quản lý tốt "nghĩa địa" của những phán đoán thất bại, ta mới có thể tạo ra được những phán đoán tốt. Đó chính xác là vai trò mà ông kỳ vọng ở trợ lý viết lách Zion. Một biên tập viên mang tính hệ thống, vừa thúc đẩy để tư duy không bị thuần hóa quá nhanh về mức trung bình, vừa đồng thời kiểm tra xem liệu tư duy đó có đang trượt quá xa và mất đi sự kết nối với thế giới hay không.

Trải nghiệm đối mặt với những khó khăn ở mức độ vừa phải và vượt qua chúng để đạt đến ngưỡng thành thạo là một lĩnh vực mà trí tuệ nhân tạo không thể thay thế con người. Việc đẩy mọi công việc vất vả cho các tác nhân (agent) có thể mang lại sự tiện lợi tức thời, nhưng về lâu dài, nó sẽ tước đi ý nghĩa của cuộc sống. Yêu cầu "hãy làm điều này giúp tôi" khó khăn và quan trọng hơn nhiều so với yêu cầu "hãy giúp tôi có thể học được điều này". Bởi lẽ, những thất bại và sai lầm trong quá trình học hỏi chính là tài sản riêng biệt của con người mà máy móc không thể có được.

Tôi xin mượn câu hỏi cuối cùng của Giám đốc Kim Seo-jun để kết thúc chương này: "Ngay cả khi tất cả mọi người đều sở hữu những bộ máy tương tự nhau, tôi sẽ không bao giờ giao phó điều gì cho sự trung bình?" Câu trả lời cho câu hỏi này sẽ khác nhau ở mỗi người. Tuy nhiên, có một điều rõ ràng: bước ngoặt thực sự nguy hiểm không phải là khi công cụ dần trở nên giống chủ nhân, mà là khoảnh khắc chủ nhân bắt đầu trở nên giống công cụ. Thái độ không an phận với sự tiện nghi mà công nghệ mang lại, biết chấp nhận sự bất toàn và không ngừng đặt ra những câu hỏi. Nếu đây là điều chúng ta cần phải gìn giữ trong kỷ nguyên trí tuệ nhân tạo, thì khởi đầu của nó có lẽ không phải là một lời tuyên bố hào nhoáng, mà bắt nguồn từ một hành động nhỏ bé: vứt bỏ thêm một bản thảo nữa vào đêm nay.