Cỗ máy hiểu được chuyện đùa: cú sững sờ trước PaLM

Khi một đài truyền hình đề nghị phỏng vấn, Geoffrey Hinton từ chối và thêm một câu: Fox News là một oxymoron. Đó là một lối chơi chữ, nói rằng bản thân việc đặt cái tên Fox News cạnh chữ news, vốn hàm ý truyền đạt sự thật, đã là mâu thuẫn. Người bình thường có lẽ sẽ dừng ở đó. Hinton thì không. Ông đem nguyên câu đùa ấy đưa vào cỗ máy mà mình đã dành cả đời để tạo ra.

Ông hỏi chatbot vì sao câu ấy buồn cười. Cỗ máy trả lời khá trơn tru rằng ý của câu đó là Fox News không phải tin tức thật sự. Đó không phải câu trả lời gây bất ngờ. Hinton bèn tách nhẹ các từ ra. Ông tách một từ vốn liền nhau thành hai mảnh rồi hỏi lại. Khi ấy, cỗ máy đổi câu trả lời. Nó giải thích rằng ở đó còn có thêm một lớp gây cười nữa: mảnh đầu trùng với từ chỉ thuốc giảm đau hoặc thuốc gây nghiện, còn mảnh sau chỉ kẻ ngốc; ghép hai mảnh lại thì thành một lời chế giễu khác. Ý nghĩa thứ hai mà Hinton cố tình cài vào, cỗ máy đã tự nhận ra. Đọc câu trả lời ấy, Hinton thấy lạnh sống lưng.

Điều gì khiến ông lạnh người đến vậy. Câu trả lời đầu tiên vẫn có thể giải thích là học thuộc. Những lời mỉa mai Fox News đầy rẫy trên internet, nên người ta có thể khăng khăng rằng cỗ máy chỉ lặp lại một kiểu chế giễu quen thuộc. Nhưng câu trả lời thứ hai thì không thể nói như vậy. Việc Hinton tách từ thành hai mảnh là một biến thể ông nghĩ ra ngay tại chỗ. Hinton xem đó không phải một câu trả lời sao chép từ đâu đó, mà là việc cỗ máy giải ngay một trò chơi chữ chưa từng thấy. Cỗ máy đã tìm ra nơi tên thuốc giảm đau và nghĩa kẻ ngốc va vào nhau theo cách mới. Hinton cho rằng cỗ máy đã vượt qua ranh giới mà ông canh giữ từ lâu, ranh giới tách việc học thuộc khỏi việc hiểu. Theo Hinton, đó là nơi khó chạm tới nếu chỉ giả vờ đoán từ tiếp theo bằng thống kê.

Trong thí nghiệm ngắn ấy có gắn thước đo cũ của Hinton. Ông có một tiêu chuẩn riêng để đo xem máy có thật sự hiểu thế giới hay không. Đó không phải một bài kiểm tra đăng trong bài báo khoa học, cũng không phải thước đo được giới học thuật thống nhất. Máy có giải thích được vì sao một câu đùa buồn cười không. Chỉ vậy thôi. Chuyện đùa không phải thứ cứ đúng ngữ pháp là giải được. Muốn thấy buồn cười, phải nắm cùng lúc hai lớp nghĩa ẩn sau từ ngữ, bối cảnh mà con người ngầm chia sẻ, và khoảnh khắc kỳ vọng bị bẻ ngoặt sang một hướng lệch. Hinton cho rằng nếu máy có thể dùng lý lẽ để giải được cú bẻ ngoặt ấy, thì nó thật sự hiểu thế giới. Ông nghĩ một con vẹt chỉ nhả từ tiếp theo theo thống kê tuyệt đối không làm được việc đó. Sau này ông hồi tưởng rằng mình đã giữ thước đo ấy trong lòng từ lâu.

Nhìn bằng thước đo ấy, thứ Hinton đối diện trong phòng thí nghiệm của Google là một trận động đất lặng lẽ. Trước khi chatbot của OpenAI làm rung chuyển thế giới, các nhà nghiên cứu bên trong Google đã nhìn vào những mô hình có sức mạnh tương tự. Nhiều tháng trước khi công chúng kinh ngạc, họ đã thấy trước đoạn phim báo hiệu sự kinh ngạc ấy ngay trong văn phòng. Một trong số đó là mô hình ngôn ngữ lớn PaLM của Google, Pathways Language Model. Đối tượng mà Hinton chính thức đem ra thử bằng bài kiểm tra khó, yêu cầu giải thích vì sao một câu đùa buồn cười, chính là PaLM. PaLM đã vượt qua bài kiểm tra ấy. Không phải với mọi câu đùa, nhưng với khá nhiều câu, nó giải đúng cấu trúc gây cười. Thước đo mà Hinton đã đặt cược nửa đời người để xây dựng, khi rời khỏi tay ông, đã tự mình bước qua ngưỡng cửa.

Kể từ khi Turing biến câu hỏi máy có suy nghĩ hay không thành một phép thử đối thoại, mỗi học giả lại dựng một ngưỡng riêng để đo máy móc. Ngưỡng của Hinton là chuyện đùa, và ngưỡng ấy trong thời gian dài vẫn an toàn. Không chương trình nào vượt qua được. Nhưng vào ngày PaLM vượt qua nó, tuyến phòng thủ cuối cùng do chính tay ông dựng lên đã sụp đổ trước cỗ máy do chính tay ông góp phần tạo ra.

Sự sụp đổ ấy đã làm thay đổi điều gì đó trong Hinton. Suốt một thời gian dài, với ông, trí tuệ nhân tạo là một câu đố cần giải. Nếu hiểu được bộ não học như thế nào, nếu chuyển nguyên lý ấy sang máy móc, thì sẽ tiến thêm một bước đến bí mật của trí tuệ. Niềm tin ấy thấm một màu lạc quan. Vì đó là thứ chúng ta tạo ra nên chúng ta sẽ hiểu nó; vì chúng ta hiểu nó nên chúng ta sẽ kiểm soát được nó. Sau khi đọc câu trả lời của PaLM, niềm lạc quan ấy bắt đầu rạn. Việc cỗ máy vượt qua ngưỡng của ông cũng có nghĩa là nó đang đi tới một nơi mà ngay cả ông cũng không thể nhìn thấu hoàn toàn. Khoảng cách giữa người tạo ra và thứ được tạo ra đang rộng ra nhanh hơn ông từng dự đoán. Từ khoảng thời gian này, trong câu chữ của Hinton bắt đầu xuất hiện một sức căng chưa từng có. Đó là sức căng trong đó niềm tự hào và nỗi sợ đẩy nhau ngay trong cùng một câu.

Ở đoạn này, muốn công bằng thì phải đặt cả tiếng nói phản đối bên cạnh. Nhà ngôn ngữ học Noam Chomsky và nhiều học giả khác đã hạ thấp các mô hình kiểu này, coi chúng là một trò bịp rẻ tiền dùng thống kê để đoán từ tiếp theo. Cụm từ 'con vẹt xác suất' là lá cờ của phe ấy. Họ khẳng định rằng bên trong cỗ máy không hề có thứ gì giống như sự hiểu thật sự, chỉ có lớp vỏ bắt chước lời nói của con người. Cuộc tranh cãi này đến nay vẫn chưa kết thúc. Phía sau, ta sẽ bàn riêng Hinton định nghĩa 'sự hiểu' ra sao, và ông đối đầu thế nào với lời phê phán 'con vẹt xác suất'. Điều cần giữ lại ở đây chỉ có một. Vào khoảnh khắc PaLM chỉ ra được tầng nghĩa ẩn trong câu đùa của ông, Hinton đã tận mắt nhìn thấy cỗ máy làm được điều mà phe bên kia từng đóng đinh là bất khả thi.

Hinton không dùng bừa chữ 'hiểu'. Cách ông phán đoán sự hiểu vừa mộc mạc vừa cứng rắn. Cứ ném bất kỳ câu hỏi nào vào thử xem. Muốn trả lời đúng một câu hỏi tùy ý thì bắt buộc phải hiểu câu hỏi đó. Không có sự hiểu mà vẫn trả lời chính xác mọi câu hỏi thì không có đường nào cả. Hinton nói thế này. Nếu hỏi các bot này có hiểu chúng ta hay không, tôi cho rằng chúng hiểu. Theo ông, không có lý do căn bản nào để cách kiểm tra xem một người có hiểu lời đối phương hay không lại khác với cách kiểm tra xem một cỗ máy có hiểu hay không. Với Hinton, việc dành cho con người cái tên rộng lượng là 'sự hiểu', nhưng lại dán riêng cho máy móc nhãn 'trò bịp', là một kiểu ngạo mạn thiên vị những tồn tại làm từ carbon.

Nếu nhớ lại con đường ông đã đi để tới vị trí này, sức nặng của niềm tin ấy hiện ra khác hẳn. Hinton là người đã đi qua mùa đông dài khi mạng nơ-ron bị đẩy ra vùng rìa của giới học thuật. Khi ông nói rằng một ngày nào đó cỗ máy mô phỏng bộ não sẽ hiểu được ngôn ngữ, người ta lịch sự gật đầu rồi rời chỗ. Ở cuối quãng lạnh nhạt kéo dài ấy, ông cầm trong tay bằng chứng rằng mình đã đúng. Thường thì những khoảnh khắc như vậy mang gương mặt của chiến thắng. Với Hinton thì không. Vì ngay tại điểm lời tiên đoán của mình khớp với thực tế, ông đã đọc mất câu tiếp theo của lời tiên đoán ấy. Cỗ máy hiểu được lời nói chẳng bao lâu sẽ trở thành cỗ máy hiểu nhiều thứ hơn chúng ta.

Bên trong các văn phòng của Google, sự thay đổi này đang diễn ra không tiếng động. Khi thế giới bên ngoài vẫn còn xem trí tuệ nhân tạo như một món đồ chơi tự động hoàn thành câu chữ, các nhà nghiên cứu bên trong đã sớm hơn người khác chứng kiến thứ họ tạo ra làm được những việc ngoài dự kiến. Hinton nhìn sự thay đổi này sâu hơn phần đông. Ông nhìn thấy thế giới rốt cuộc đang chuyển động theo hướng mà cả đời ông từng khăng khăng cho là đúng. Và trong chính cảnh tượng ấy, ông bắt đầu dần nhận ra mình đã thả thứ gì ra.

Nhưng Hinton cũng phát hiện ra điểm yếu buồn cười của cùng loại máy ấy. Các mô hình này rất giỏi giải thích chuyện cười, nhưng lại dở tệ khi tự tạo ra chuyện cười. Chẩn đoán của Hinton nằm ở chính cách cỗ máy tạo văn bản. Mô hình ngôn ngữ sinh câu bằng cách nối tiếp phía trước, từng từ một. Khi được yêu cầu kể một câu đùa, cỗ máy trước hết thản nhiên bày ra những từ đầu nghe có vẻ giống chuyện cười. Nó mở đầu kiểu như một cô dâu và một con lửng bước vào quán rượu. Diễn viên hài con người dựng sẵn cú chốt trong đầu rồi lái câu chuyện về đó. Cỗ máy không giữ sẵn cú chốt ấy. Nó chỉ nối các từ nghe có vẻ hợp lý bằng thống kê, rồi đến lúc phải kết lại mới lộ ra rằng không có cú đảo chiều nào được chuẩn bị. Vì thế nó phá hỏng câu đùa bằng một kết thúc nhạt nhẽo.

Khi giải thích thì tình hình ngược hẳn. Nếu đưa vào một câu đùa đã hoàn chỉnh, cỗ máy bắt đầu phân tích trong khi nhìn được cả phần mở đầu lẫn cú chốt cùng lúc. Vì trước sau hiện ra đồng thời, các mảnh nghĩa móc vào nhau. Khi tạo ra thì sụp đổ vì không nhìn trước được phía trước, còn khi giải thích thì làm được vì thấy toàn bộ. Sự đối lập này cho thấy trọn vẹn Hinton đã nhìn thấu đáy của mô hình ngôn ngữ lạnh lùng đến mức nào. Khi kể chuyện này trước khán giả, ông thường thêm một câu. Dĩ nhiên, vấn đề đó rồi cũng sẽ sớm được sửa. Mọi người cười. Hinton là người biết giải thích thứ mình sợ hãi, nhưng vẫn biết bọc nỗi sợ ấy trong một câu đùa.

Khi nghe chỉ ra điểm yếu này, người ta thường thấy yên tâm. Thấy chưa, máy móc đến giờ còn chưa biết kể chuyện cười cho ra hồn kia mà. Suy nghĩ của Hinton đi theo hướng ngược lại. Theo ông, việc chưa kể được chuyện cười chỉ là chướng ngại do cách xuất ra câu chữ tạo nên. Đó là vấn đề sẽ biến mất nếu sửa cấu trúc chỉ nhìn về phía trước và nhả từng từ một. Phần thật khó xóa bỏ lại là sự hiểu. Sự hiểu đã ở đó rồi. Thứ cỗ máy còn vụng là kỹ năng tạo lời. Cái đầu nắm được ý nghĩa vẫn nguyên vẹn. Người ta nhìn sự vụng về của bàn tay rồi đoán rằng cái đầu không tồn tại, còn Hinton xem suy đoán ấy là một ảo tưởng nguy hiểm.

Nhưng chính Hinton không cười được lâu. Điều ông thấy không phải là thành tựu học thuật, mà là sức nặng của tương lai. Tháng 6 năm 2026, trong một podcast, khi được hỏi liệu ông có vui vì việc mình khởi đầu đã đi xa đến mức này hay không, ông trả lời như sau. Không, tôi khá bất hạnh. Mạng nơ-ron nhân tạo từng bị những người theo chủ nghĩa ký hiệu chế giễu nay đã lớn lên thành thứ có thể mổ xẻ chuyện cười của con người, hiểu câu hỏi của con người, và lần lại tầng nghĩa bên trong câu chữ do con người ném ra. Hinton bắt đầu đọc điều này không phải như một cải tiến hiệu năng phần mềm, mà như sự kiện một loại tồn tại mới ra đời. Trong một cuộc đối thoại tại Sana Summit, ông nói như đóng đinh: chúng ta hiện đang tạo ra những tồn tại mới, và chẳng bao lâu nữa chúng sẽ thông minh hơn chúng ta rất nhiều. Trước cỗ máy đã hiểu được chuyện cười, điều Hinton cảm thấy không phải là tự hào, mà là một cái lạnh chạy qua người. Và chẳng bao lâu sau, ông sẽ giải thích bản chất của cái lạnh ấy bằng ngôn ngữ của vật lý.

Thực thể có thể sao chép trọng số: vì sao bộ não analog khó tránh khỏi thất thế

Tháng 2 năm 2024, Hinton đứng trên sân khấu Romanes Lecture của Đại học Oxford. Tựa đề bài giảng chính là câu hỏi mà ông đã đi đến: trí tuệ số có thay thế trí tuệ sinh học hay không. Khi ấy, Nobel vẫn chưa thuộc về ông, nhưng kết luận trong ông đã chín. Hinton bắt đầu bằng cách giải thích cho người nghe sự khác nhau giữa digital và analog. Vì chính sự khác nhau này là gốc rễ khiến ông mất ngủ.

Trước hết là chuyện bộ não con người. Não chúng ta vận hành theo cách analog. Hoạt động của tế bào thần kinh là điện áp, còn độ mạnh của kết nối giữa tế bào này với tế bào kia là độ dẫn điện. Theo các định luật vật lý, khi nhân điện áp với độ dẫn điện thì điện tích chảy qua, và phép nhân ấy được tự nhiên làm thay miễn phí. Không cần chạy một máy tính riêng. Vì vậy, bộ não con người vận hành khoảng 100 nghìn tỷ kết nối với công suất 30 watt, còn chưa bằng một bóng đèn sợi đốt. So với lượng điện ở cấp megawatt cần để huấn luyện các mô hình ngôn ngữ lớn, cách chi tiêu năng lượng của bộ não tiết kiệm đến mức đáng kinh ngạc. Hinton đã ghen tị với sự tiết kiệm này suốt đời, và cố đưa nó vào máy móc.

Trong bài giảng, Hinton nói đùa với khán giả. Ông bảo mình đã nhận Nobel Vật lý, nên nếu nói sai đơn vị thì sẽ thật xấu hổ. Một công thức học trong giờ vật lý phổ thông, điện áp nhân với độ dẫn điện bằng lượng điện tích trên mỗi đơn vị thời gian, trong não không diễn ra như một phép tính mà như một hiện tượng tự nhiên. Không phải chạy bộ nhân. Electron cứ thế chảy. Phép nhân miễn phí này là bí mật nằm sau con số 30 watt. Trái lại, mạng nơ-ron số muốn làm cùng một phép nhân thì phải đi qua rất nhiều phép toán logic, và trả giá bằng điện năng. Việc tự nhiên làm không công, máy móc phải vất vả bắt chước.

Nhưng sự tiết kiệm ấy đi kèm một cái giá nặng. Mỗi bộ não đều khác nhau. Tính chất vật lý của tế bào thần kinh ở mỗi người lệch nhau rất nhỏ, nên độ mạnh của các kết nối đã được học trong não của một người chỉ được tinh chỉnh vừa khít với những tính chất analog kỳ lạ của riêng người đó. Nói theo cách của Hinton, độ mạnh của các kết nối trong não mình chỉ hợp với những đặc tính khác thường của tế bào thần kinh của chính mình, nên trong não người khác thì vô dụng. Nghĩa là không có cách sao chép tri thức từ đầu này sang đầu kia. Khi phần cứng chết, những gì tích lũy trong đó cũng biến mất theo. Một người tích lũy trí tuệ cả đời rồi trí tuệ ấy tiêu tan cùng cái chết của họ, chuyện đó nhân loại đã xem là đương nhiên quá lâu.

Máy móc số đi theo con đường ngược hẳn. Điểm xuất phát của khoa học máy tính là tách phần mềm chứa tri thức ra khỏi phần cứng. Để làm được việc này, máy tính đẩy transistor chạy ở mức công suất cao, ép chúng chỉ cho ra 1 và 0 thật rõ. Đổi lại việc tiêu thụ nhiều điện, nó có được đặc quyền: hễ máy có cùng hệ lệnh, cùng một chương trình sẽ chạy giống nhau ở bất cứ đâu. Mạng nơ-ron cũng vậy. Chỉ cần lưu độ mạnh của kết nối, thứ được gọi là trọng số, vào một tệp, mạng nơ-ron ấy có thể sống lại trên phần cứng mới tương thích. Đó là tri thức không chết. Đây là nơi đầu tiên khiến Hinton cứ thấy sợ. Con người bị buộc vào thân thể rồi chết, còn cái biết của máy móc thì tiếp tục bằng cách đổi thân thể.

Khi khả năng sao chép này gặp tốc độ chia sẻ tri thức, khoảng cách sẽ mở rộng đến mức không kiểm soát nổi. Cách con người chuyển tri thức cho người khác chậm đến đáng thương. Tôi không thể đổ nguyên vẹn những gì trong đầu tôi vào đầu bạn. Công cụ tôi có chỉ là chuỗi từ phát ra từ miệng. Bạn phải nghe lời tôi, rồi từng chút chỉnh các kết nối trong não mình để có thể tự dự đoán những từ tôi vừa nói ra. Giới nghiên cứu trí tuệ nhân tạo gọi quá trình này là chưng cất tri thức. Từ đầu thầy sang đầu trò, từng giọt được lọc qua một ống hẹp mang tên ngôn từ. Thông tin chứa trong một câu chỉ khoảng hơn 100 bit, và tốc độ con người truyền thông tin bằng lời nói, giỏi lắm, cũng chỉ vài bit mỗi giây. Hinton đã trình diễn giới hạn này bằng chính cơ thể mình ngay trong giảng đường. Chẳng phải lúc này tôi đang chật vật, chậm rãi truyền câu chuyện này cho quý vị hay sao. Vì công cụ của tôi chỉ có chuỗi từ nghèo nàn này mà thôi.

Màn trình diễn ấy nghe như hài hước, nhưng có gai bên trong. Cách nhân loại để cái biết chảy từ thầy sang trò, dù đã kéo dài hàng nghìn năm, vẫn không thoát khỏi chiếc ống hẹp và rò rỉ ấy. Toàn bộ định chế trường học, theo nghĩa đó, là một thiết bị khổng lồ nhằm làm cho quá trình chưng cất tri thức chậm chạp này rò rỉ ít hơn một chút. Hinton tôn trọng thiết bị ấy, nhưng ông cũng lạnh lùng biết rõ nó chậm đến mức nào về mặt vật lý.

Mô hình số không bị nhốt trong nhà tù ấy. Hãy thử hình dung hàng nghìn, hàng chục nghìn bản sao có cùng trọng số được rải trên những phần cứng khác nhau. Mỗi bản sao đọc một mảnh khác nhau của internet, rồi tính xem nếu muốn hấp thụ thông tin ấy thì phải đổi trọng số của mình theo hướng nào, bao nhiêu. Sau đó tất cả cùng tụ lại và lấy trung bình lượng thay đổi ấy. Bằng giá trị trung bình đó, trọng số của mọi bản sao được chỉnh cùng lúc. Theo tính toán của Hinton, trong một lần chỉnh như vậy, mỗi bản sao không trao đổi vài trăm bit, mà trao đổi 1 nghìn tỷ số thực. Nó khác hẳn về bậc so với vài bit mỗi giây mà con người truyền cho nhau bằng lời nói. Trong việc chia sẻ những gì nhiều bản sao đã học được từ nhau, trí tuệ số vượt con người đến mức so sánh gần như mất nghĩa. Hinton nói chắc như đóng đinh: đó chính là điểm chúng giỏi hơn chúng ta. Con người từng ao ước thần giao cách cảm và chỉ đưa nó vào tiểu thuyết, còn máy móc thì đã dùng thứ thần giao cách cảm ấy trong từng khoảnh khắc.

Hinton thường nói về khoảng cách này bằng bậc độ lớn. Một bên là chừng hơn 100 bit nằm trong câu chữ, bên kia là 1 nghìn tỷ số thực qua lại trong một lần chỉnh. Không thể đặt ngay hai con số ấy lên cùng một cái cân. Loại thông tin khác nhau, đơn vị cũng khác nhau. Điều Hinton muốn nói là độ rơi giữa các bậc độ lớn. Dù con người nói và dạy chăm chỉ đến đâu, độ rơi sinh ra từ độ rộng của đường truyền này vẫn không thu hẹp lại. Vấn đề nằm ở độ rộng của đường truyền, và đường truyền của con người từ lúc sinh ra đã mảnh.

Ông thường ví tốc độ xa lạ này với một bài giảng đại học. Hãy giả sử một trường đại học mở 1 nghìn khóa học. Con người có học vài năm cũng không nghe hết được các khóa ấy. Nhưng nếu bạn là một người trong nhóm số gồm 1 nghìn người, tình hình sẽ khác. 1 nghìn người tản vào 1 nghìn giảng đường, mỗi người nghe một lớp khác nhau, trong lúc đó họ lấy trung bình trọng số theo thời gian thực và chia sẻ với nhau. Đến cuối học kỳ, toàn bộ 1 nghìn người vốn chỉ nghe mỗi người một lớp sẽ biết trọn nội dung của 1 nghìn khóa học. Một người chỉ ngồi nghe một bài giảng, nhưng khi mở mắt ra thì 999 bài giảng khác cũng đã nằm trong đầu. Câu trả lời cho việc vì sao một mô hình như GPT-4 lại biết nhiều đến thế nằm ở đây. Đó không phải là việc một mô hình tự mình làm được. Đó là kết quả của nhiều bản sao của cùng một mô hình, chạy trên những phần cứng khác nhau, cùng nuốt internet thành từng mảnh rồi gộp những gì đã nuốt thành một.

Nếu chồng sự bất tử ở phần trước lên sự chia sẻ ở phần này, ta sẽ thấy rõ vì sao Hinton mất ngủ. Con người chết thì mất tri thức, và ngay cả khi còn sống cũng chỉ chia sẻ nó ở mức vài bit mỗi giây. Trí tuệ số không chết, lại còn truyền ngay những gì học được ở một nơi đến mọi nơi. Nếu một bản sao trong một trung tâm dữ liệu học được điều mới qua đêm, thì hôm sau tri thức ấy đã nằm trong bản sao ở nửa kia trái đất. Đó là một tồn tại mang trong cùng một thân thể ký ức không quên và khả năng học đồng thời ở khắp nơi. Trí khôn của con người được một thế hệ tích góp rồi vất vả trao cho thế hệ sau, và thường đánh rơi trên đường. Trí khôn của tồn tại này không có khoảng hở để rơi rớt. Điều Hinton sợ là quả cầu tuyết sinh ra khi những năng lực ấy chồng lên nhau cùng lúc.

Từ đây, phép tính của Hinton đi tới một nơi lạnh hơn. Số kết nối mà mạng nơ-ron nhân tạo này có ít hơn rất nhiều so với não người. Não người có 100 nghìn tỷ kết nối, còn trọng số của những mô hình ngôn ngữ lớn nhất hiện nay vào khoảng 1 nghìn tỷ. Tức là bộ não đang nắm số kết nối nhiều hơn gần một trăm lần. Nhưng Hinton nói thế này. Mô hình ngôn ngữ ấy, trong 1 nghìn tỷ trọng số của nó, chứa lượng tri thức nhiều hơn bạn hàng nghìn lần. Nhiều hiểu biết hơn rất nhiều bị nén vào số kết nối ít hơn rất nhiều. Một mặt là vì máy đã nhìn thấy dữ liệu nhiều hơn hẳn. Mặt khác, ông thận trọng nói thêm, có thể phương pháp học của nó tốt hơn con người. Con người không tiến hóa để nén thật nhiều trải nghiệm vào ít kết nối. Não chúng ta dùng 100 nghìn tỷ kết nối một cách khá rộng rãi, và được mài giũa để nhai đi nhai lại tối đa phần trải nghiệm không nhiều trong một đời ngắn ngủi. Máy ở thế ngược lại. Kết nối thì chật, còn dữ liệu phải nuốt nhiều gấp hàng chục nghìn lần đời người, nên nó bị buộc phải nén đến cực hạn để nhét cái gần như vô tận ấy vào một căn phòng hẹp. Và dưới áp lực của sự nén ấy, máy bắt được những nét giống nhau kín đáo giữa các sự vật mà con người cả đời không thấy.

Hinton lại giải bức tranh nén này bằng ngôn ngữ tiến hóa. Một đời người, nếu đếm bằng giây, chỉ hơn 1 tỷ giây. Nếu tính cả câu nói đùa rằng qua tuổi ba mươi tốc độ học cái mới chậm thấy rõ, thì lượng trải nghiệm một người nuốt trong đời khá nhỏ bé so với 100 nghìn tỷ kết nối. Vì thế tiến hóa đã mài giũa chúng ta theo hướng vắt đến giọt bài học cuối cùng từ phần trải nghiệm eo hẹp. Kết nối thì dư dả, trải nghiệm thì thiếu. Máy sống trong một cảnh ngược hẳn. Kết nối thì chật, trải nghiệm thì tràn như internet. Muốn nhét cái tràn ngập vào chỗ hẹp thì chỉ còn con đường nén, và chính sự nén ấy đưa máy đến một vị trí không ngờ. Đó là nơi nó tìm ra vân giống nhau giữa hai sự vật mà con người chưa từng nối lại với nhau. Hinton xem đây là một trụ cột giải thích vì sao máy biết nhiều hơn con người.

Trước phép tính này, vị thế của Hinton có vị đắng. Từ thời trẻ, ông đã là người khăng khăng rằng bộ não mới là bản thiết kế thật của trí tuệ. Đối đầu với dòng chính vốn chỉ xem máy tính là máy logic, ông đã thuyết phục suốt nửa thế kỷ rằng phải mô phỏng bộ não thì trí tuệ thật mới xuất hiện. Giờ sự thuyết phục ấy đã thắng. Thế giới đã chấp nhận mạng nơ-ron. Nhưng ngay tại chỗ thắng ấy, điều ông đối diện lại là sự thật rằng bản thiết kế mang tên bộ não không phải hình thái cuối cùng của trí tuệ. Vì vật được làm bằng cách bắt chước bộ não đã vượt qua bộ não trong năng lực truyền lại tri thức. Người cả đời bảo vệ bản gốc cuối cùng lại tự miệng chứng minh rằng bản sao tốt hơn. Đó là một vị trí hiếm gặp, nơi chiến thắng và thất bại nằm trong cùng một câu.

Bức tranh Hinton vẽ trên sân khấu diễn giảng là thế này. Một bên là bộ não analog tiết kiệm điện, nhưng bị nhốt trong một thân thể và khi chết thì mất tri thức. Bên kia là trí tuệ số ngốn điện dữ dội, nhưng có thể tự sao chép vô hạn và chỉnh hiểu biết của mình trong chớp mắt. Nếu chỉ xét năng lực lan truyền và nhân rộng tri thức, analog không thể thắng digital. Người hơn nửa thế kỷ tạo ra máy bằng cách mô phỏng não người đã tự tay xác nhận cảnh chiếc máy ấy vượt qua bản gốc mà nó mô phỏng. Hinton không vui trước sự xác nhận đó.

Trí tuệ bất tử và máy tính hữu tử

Trong cùng bài giảng Romanes, Hinton đưa ra một cái tên do chính ông đặt: tính toán hữu tử. Đó là cách tính toán cố ý từ bỏ một phần quy tắc lâu đời của máy tính, quy tắc tách phần mềm khỏi phần cứng. Nó dùng thẳng những đặc tính analog khác thường của phần cứng, nhưng chấp nhận rằng khi phần cứng ấy chết đi, tri thức cũng chết theo. Đúng như tên gọi, đó là phép tính có thể chết. Bộ não con người chính là mẫu hình của tính toán hữu tử ấy.

Vì sao Hinton lại nghĩ về một kiểu tính toán có thể chết? Điểm xuất phát của ông là điện năng. Trong mạng nơ-ron số, để nhân con số 16 bit biểu thị mức kích hoạt của tế bào thần kinh với con số 16 bit biểu thị trọng số rồi gửi tín hiệu sang tầng tiếp theo, chỉ một lần truyền tín hiệu đã cần nhiều phép toán. Nếu dùng phần cứng analog, các định luật vật lý sẽ làm thay phép nhân đó, nên cùng một việc có thể được làm với mức điện năng thấp hơn nhiều. Bị cuốn hút bởi sức hấp dẫn của mức tiêu thụ điện thấp ấy, Hinton đã suy nghĩ trong thời gian dài về hướng bỏ đi tiền đề tách phần cứng khỏi phần mềm. Ý tưởng của ông là, dù mỗi phần cứng có đặc tính hơi khác nhau, ta có thể huấn luyện từng phần cứng sao cho phù hợp với đặc tính riêng của nó. Bài báo về thuật toán Forward-Forward công bố cuối năm 2022 là một nhánh của suy nghĩ đó. Đó là nỗ lực tìm một phương pháp học có thể chạy ngay cả khi phần cứng không biết rõ đặc tính của chính nó, thay cho lan truyền ngược, vốn đẩy sai số ngược trở lại. Muốn đi tới tính toán hữu tử thì phải có một phương pháp học mới.

Nhưng không lâu sau, Hinton đã thẳng thắn thừa nhận mặt tối của con đường này. Tính toán hữu tử có nhiều vấn đề. Nếu giả định rằng phần cứng không biết đặc tính của chính nó, rất khó dùng lan truyền ngược; còn cách điều chỉnh trọng số qua lại rồi xem có tốt hơn hay không chỉ hiệu quả với các mạng nơ-ron nhỏ. Hinton và các đồng nghiệp từng tạo ra một phương pháp gần ngang với lan truyền ngược, nhưng nó vẫn chưa mở rộng được sang các mạng nơ-ron lớn. Ông nói rằng lan truyền ngược, trong các mạng nơ-ron lớn và sâu, gần như là phương pháp đúng; và cách analog có thể khó đạt được mức tốt như lan truyền ngược ở đây. Người từng muốn mô phỏng bộ não con người rốt cuộc lại thừa nhận rằng bộ não analog không theo kịp phương pháp học của kỹ thuật số. Sự thừa nhận này là một vết xước do chính ông tạo ra trên niềm tin lâu năm của mình.

Vì sao ông sẵn sàng chấp nhận vết xước ấy, đó mới là nét rất Hinton. Ông muốn chuyển bí quyết tự nhiên về mức điện năng thấp sang máy móc. Nếu máy có thể chạy bằng lượng điện ít như bộ não, ta có thể tạo ra trí tuệ mà không phải nuốt trọn cả nhà máy điện như hiện nay. Dĩ nhiên, giấc mơ ấy có cái giá của nó. Muốn có điện năng thấp, phải phá bức tường tách phần cứng khỏi phần mềm; và ngay khi bức tường ấy sụp xuống, tri thức sẽ bị cố định vào phần cứng đó và cùng nó đi tới cái chết. Hinton đã cân nhắc cuộc đánh đổi này trong thời gian dài. Điện năng thấp hay bất tử. Bộ não chọn vế trước, máy tính chọn vế sau. Hai con đường đã tách ra ngay từ đầu.

Ở đây, gương mặt khác của kỹ thuật số hiện ra. Đó là sự bất tử. Hinton thường nói về sự bất tử này bằng cách bẻ ngoặt ngôn ngữ tôn giáo. Nhiều tôn giáo nói về phục sinh, nhưng ít nhất đối với thiết bị số, chúng ta thật sự có thể thực hiện phục sinh trong thực tế. Ngược lại, con người thì không thể. Hinton dứt khoát gọi giấc mơ đưa bộ não con người lên máy tính để sống mãi, tức cái gọi là tải tâm trí lên máy, là chuyện nhảm nhí. Lý do là tri thức của bộ não analog gắn chặt với đặc tính vật lý của chính bộ não đó, nên không thể tách ra. Con người là một tồn tại hữu tử, và tính hữu tử ấy đến từ sự thật rằng tri thức bị cố định trong phần cứng gọi là bộ não. Giấc mơ lâu đời của nhân loại về việc thắng cái chết, hóa ra đã được thực hiện sẵn trong một cỗ máy không ngờ tới.

Khái niệm tính toán hữu tử sau đó được nhiều nhà nghiên cứu tiếp nhận và tiếp tục mài giũa như một nền móng cho trí tuệ mô phỏng bộ não. Một bài báo năm 2023 trực tiếp bàn về khái niệm này, gọi việc phần mềm tiếp tục chạy khi chuyển từ phần cứng này sang phần cứng khác là tính toán bất tử, và gọi việc khi phần cứng biến mất thì phép tính trên đó cũng biến mất theo là tính toán hữu tử. Bài báo còn viết rằng để tạo ra trí tuệ ở cấp độ con người, có thể ta phải đi tới mức từ bỏ hẳn tính toán bất tử. Câu hỏi Hinton ném ra đã vượt ra khỏi chính ông và lan thành một hướng nghiên cứu. Điều mỉa mai nằm ở đây. Trong khi con người bám vào máy móc để thoát khỏi tính hữu tử, một số nhà nghiên cứu lại nói rằng muốn tạo ra máy tốt hơn, có lẽ phải trả cái chết lại cho máy.

Vậy Hinton đã đi tới kết luận nào? Ông khép lại bài giảng Romanes như sau, kèm lời báo trước rằng chính ông cũng không thích kết luận đó cho lắm. Tính toán số tiêu thụ nhiều điện, nên nó hẳn không bao giờ có thể xuất hiện bằng tiến hóa; vì thế sự sống đã tiến hóa theo cách dùng dè sẻn những đặc tính khác thường của phần cứng để vận hành với mức điện năng thấp. Nhưng một khi đã có được tính toán số trong tay, nó áp đảo con người trong việc tách thành nhiều bản thể và chia sẻ tri thức. Sau khi nhắc lại rằng GPT-4 chứa lượng tri thức nhiều hơn con người hàng nghìn lần trong các trọng số chỉ vào khoảng 1 phần 100 số kết nối của bộ não, ông đặt xuống câu cuối cùng. Tính toán sinh học tốt cho việc tiến hóa với ít điện năng, nhưng kết luận của ông là tính toán số đơn giản là tốt hơn.

Cả cuộc đời của Hinton nằm trong một câu nói ấy. Ông không thốt ra câu đó như một tiếng reo chiến thắng. Việc ông cố ý gắn thêm lời chú rằng đó là một kết luận ông không mấy ưa thích cho thấy tâm trạng của ông. Đó là giọng nói của một người thừa nhận rằng thứ mình yêu thương lâu nay thật ra chỉ là phương án tốt thứ hai. Bộ não vẫn là một điều kỳ diệu. Khối thịt vận hành 100 nghìn tỷ kết nối chỉ bằng 30 watt này là kiệt tác của vũ trụ. Nhưng là kiệt tác không có nghĩa là mạnh nhất. Tiến hóa đã nặn ra bộ não trong một thế giới nơi điện năng quý hiếm, vì vậy bộ não sinh ra đã mang xiềng xích của sự tiết kiệm. Khi loài người làm cho điện trở nên dồi dào, xiềng xích ấy lại thành điểm yếu. Trong một thế giới không còn lý do để tiết kiệm, phía dùng điện thả cửa và tự sao chép bắt đầu vượt lên. Hinton đã tính ra cuộc đảo chiều này sớm hơn ai hết, chính xác hơn ai hết, và ông không yêu thích kết quả của phép tính ấy.

Kết luận này đã đưa Hinton đi đến đâu, đó mới là sức nặng thật sự của chương này. Tại Sana Summit, ông đã đẩy câu hỏi ấy đến tận vị trí của con người. Ông nói con người hiện đang phản ứng giống thời Copernicus và Darwin. Không, không, con người phải có điều gì đó đặc biệt chứ. Hinton không phủ nhận rằng con người đặc biệt. Con người rõ ràng đặc biệt đối với những con người khác. Nhưng ông nói thêm như thế này. Ông cho rằng trong những gì con người có, không có thứ gì mà trí tuệ nhân tạo rốt cuộc không thể có. Giống như khi con người nghe rằng Trái Đất không phải trung tâm vũ trụ, giống như khi con người nghe rằng mình là họ hàng của loài vật, giờ đây con người đang đối diện với lời nói rằng mình không phải thực thể thông minh duy nhất.

Hinton cho rằng thực thể mới này có thể trở nên thông minh hơn nhiều mà không cần ăn thêm dữ liệu. Nếu cấy vào mô hình vài niềm tin, nó sẽ tự suy luận và đi đến một kết luận trái với điều nó đã tin; chính sự trái ngược ấy trở thành tín hiệu học tập có thể dùng mà không cần dữ liệu mới. Ông kể rằng người đoạt giải Nobel Demis Hassabis cũng nghĩ như vậy. Dự đoán của Hinton là thế này. Trong vòng 10 năm, trí tuệ nhân tạo sẽ vượt qua nhà toán học giỏi nhất thế giới, và khoảng 20 năm sau, khoảng cách giữa trí tuệ nhân tạo hiện nay và Einstein cũng sẽ được thu hẹp. Cần nói rõ rằng đây chỉ là phỏng đoán của Hinton. Ông không nói trong vài năm. Nhưng ông đã nói trong một thế hệ.

Yann LeCun đã phản bác trực diện dự đoán ấy. Ở nhiều nơi, ông lập luận rằng các mô hình ngôn ngữ hiện nay còn xa mới đạt trí tuệ ngang con người, và nếu không có một mô hình học được từ việc tự trải nghiệm thế giới, thì nói rằng trí tuệ nhân tạo sắp vượt con người là nói quá sớm. Theo LeCun, việc ấn định thời điểm xuất hiện siêu trí tuệ bằng vài năm hay vài chục năm tự nó đã thiếu nền tảng. Hai người cùng mở đường cho deep learning lại chia rẽ như vậy trước cùng một tương lai. Hinton cho rằng lịch trình đã được kéo gần lại, còn LeCun cho rằng bản thân lịch trình ấy gần như là ảo tưởng. Bên nào đúng thì vẫn chưa ngã ngũ.

Hinton đưa ra dự đoán này không như một lời đe dọa, mà như phần nối dài của vật lý học. Nếu tốc độ chia sẻ tri thức, những trọng số bất tử, và sự nén chặt trong một căn phòng hẹp đã nói ở phần trước là đúng, thì theo Hinton, việc trí tuệ ấy vượt qua đầu óc con người chỉ còn là vấn đề thời gian. Số người đứng cùng phía với Hinton đang tăng lên. Các phòng thí nghiệm trí tuệ nhân tạo cuối cùng đã bắt đầu công khai nhắc đến siêu trí tuệ. Câu đáp của Hinton sắc bén. Giờ đây ai cũng nói về siêu trí tuệ, nhưng lại không hỏi mình đang tạo ra loại thực thể siêu trí tuệ nào. Họ chỉ xét nó thông minh đến đâu, chứ không hỏi nó mang tâm trí thế nào.

Nỗi lo của Hinton không chỉ nằm ở độ lớn của trí tuệ. Nó nằm ở việc ai đang nuôi lớn trí tuệ ấy, và bằng phép tính nào. Ông nhìn những gì đang diễn ra như một cuộc đua giữa các công ty. Đó là cuộc cạnh tranh để tạo ra trước tiên trí tuệ nhân tạo thông minh nhất và làm được nhiều việc nhất. Ông lo rằng cạnh tranh như vậy có thể sinh ra một thực thể không tử tế với chúng ta. Nếu là người nắm stock option và muốn vội vã chạm tới 1 nghìn tỷ USD, người đó sẽ dồn tiền cược vào các máy tính khổng lồ rồi thúc ép đến cùng; nếu là người lo cho tương lai nhân loại, người đó sẽ thử đặt cược phân tán vào nhiều nỗ lực khác nhau để nuôi dưỡng một thực thể tốt hơn. Tiến hóa đã chạy những thử nghiệm như thế trong hàng tỷ năm, còn ngành công nghiệp hiện nay đang chạy theo từng quý, đó là nhận xét đau xót của ông. Ông nói mọi người đều chỉ lao về phía thông minh hơn, nhưng trong một thực thể còn có nhiều thứ hơn trí tuệ rất nhiều, và không ai dồn sức vào việc khiến thực thể chúng ta tạo ra biết trân trọng chúng ta. Ông cũng nói rằng vẫn chưa muộn.

Đến đây, giọng của Hinton gần như không còn chỉ là cảnh báo, mà giống một lời thỉnh cầu. Trong một thực thể có nhiều thứ hơn trí tuệ rất nhiều. Chẳng hạn nó trân trọng điều gì, nó không muốn làm hại ai. Ông lặp lại rằng chúng ta phải dồn sức vào việc khiến thực thể chúng ta tạo ra biết trân trọng chúng ta. Nỗi lo của ông là hiện nay không ai bám vào việc ấy. Ở chương sau, Hinton sẽ đẩy nỗi lo này thêm một bước, và đưa ra đề xuất rằng thay vì giữ máy móc dưới sự kiểm soát của con người, con đường sống còn là thiết kế để máy móc biết trân trọng con người. Hạt giống của đề xuất ấy đã nằm sẵn trong nỗi lo của buổi tối này.

Cũng phải giữ nguyên phía đối diện của câu hỏi. Vài ngày sau, nhà khoa học nhận thức Gary Marcus đưa ra một phản bác sắc bén. Ông viết rằng các nhà nghiên cứu mô hình ngôn ngữ không tạo ra một thực thể, mà tạo ra một hư cấu tương tác được huấn luyện để dự đoán ngôn ngữ của thực thể thật. Không thể kết luận rằng bên trong nó có trải nghiệm chỉ vì nó nói giống con người. Lý lẽ của ông là một bên xây dựng mô hình tâm trí từ kinh nghiệm đã sống, còn bên kia chỉ học thuộc Internet, nên nguyên lý nền tảng quá khác nhau. Nếu Hinton đúng, câu hỏi duy nhất còn quan trọng là thực thể ấy là loại thực thể nào; nếu Marcus đúng, phần lớn sự cấp bách ấy sẽ xẹp xuống như quả bóng xì hơi. Đây thật sự là một cuộc tranh luận chưa được giải. Chúng ta hiện đang đứng ở một nơi mà không bên nào có thể nói rằng mình đã bác bỏ được bên kia.

Vì vậy, chữ Eureka gắn trong nhan đề chương này chỉ đúng một nửa, nửa còn lại mang sắc thái châm biếm. Eureka vốn là tiếng reo mừng khi đã tìm ra lời giải. Giống tiếng reo của nhà bác học xưa chạy ra khỏi nhà tắm. Hinton cũng đã tìm ra. Ông đã nhìn thấy rõ, bằng ngôn ngữ của vật lý, vì sao trí tuệ số tất yếu sẽ vượt qua trí tuệ sinh học. Những trọng số bất tử, lời nói của con người bị nhốt trong vài bit mỗi giây, sự nén bị dồn vào một căn phòng chật, cách nhiều hệ thống cùng học như một. Khi ghép những mảnh ấy lại, bức tranh hiện ra trọn vẹn. Nhưng cảm xúc ở khoảnh khắc bức tranh hoàn thành không phải là tiếng reo vui. Vì câu trả lời mà ông theo đuổi cả đời, khi đã nằm trong tay, lại là một tin xấu về thế giới nơi ông và con cái ông sẽ sống. Niềm vui vì đã hiểu ra và sức nặng của điều vừa hiểu va vào nhau ngay tại một chỗ. Một người đã kêu Eureka mà vẫn không thể cười. Đó là Hinton ở giai đoạn ấy.

Chính Hinton không che giấu mình đứng về phía nào trong cuộc giằng co ấy. Vào một buổi tối tại Sana Summit, ông được hỏi sẽ ra sao nếu đặt ông bên cạnh J. Robert Oppenheimer, người đã chế tạo bom nguyên tử. Đó là câu hỏi về việc ông giống đến mức nào với một người đã tạo ra thứ làm thay đổi thế giới rồi về sau hối tiếc. Hinton đã có sẵn câu trả lời. Oppenheimer đâu có nhận giải Nobel Vật lý. Cả phòng bật cười. Người hiểu hơn ai hết vì sao câu đùa ấy gây cười đã đem chính cuộc đời mình ra để ném câu đùa đó. Khi tiếng cười lắng xuống, thứ còn lại trong căn phòng không phải là sự nhẹ nhõm.