Chương 1 Trí tuệ nhân tạo không có lỗi

Bản thân thanh kiếm không tốt cũng chẳng xấu. Chính bàn tay cầm nó mới quyết định tất cả.

1. 40.000 phân tử chất độc do AI tạo ra

Vào một buổi sáng bình thường năm 2022, một nghiên cứu viên tại một công ty công nghệ sinh học nhỏ ở bang North Carolina, Hoa Kỳ, đã kinh hoàng khi nhìn chằm chằm vào màn hình máy tính. Kết quả mà trí tuệ nhân tạo chạy suốt đêm qua tạo ra hoàn toàn trái ngược với những gì anh tưởng tượng. Thay vì là những loại thuốc điều trị cứu người, màn hình lại tràn ngập 40.000 phân tử độc tố có thể tước đi mạng sống.

Với cái tên 'Collaborations Pharmaceuticals', công ty này là một doanh nghiệp công nghệ sinh học quy mô nhỏ với chỉ khoảng mười nhân viên. Nằm tại một góc trong khuôn viên Đại học Bang North Carolina, công việc hàng ngày của họ là phát triển các phương pháp điều trị cho những bệnh nhân đang phải chịu đựng các căn bệnh hiếm gặp. Đặc biệt, sứ mệnh của họ là tìm ra thuốc chữa trị cho bệnh Batten, một căn bệnh di truyền đáng sợ thường xuất hiện ở trẻ em.

Tiến sĩ Sean Ekins, người dẫn dắt công ty, là một chuyên gia trong lĩnh vực phát triển thuốc mới bằng máy tính. Người đồng hành lâu năm của ông, Tiến sĩ Fabio Urbina, giống như một phù thủy có khả năng giải mã những bí mật của phân tử thông qua học máy. Trí tuệ nhân tạo 'MegaSyn' do hai người này tạo ra sở hữu khả năng kinh ngạc trong việc tự động thiết kế các phân tử thuốc điều trị mới dựa trên công nghệ tiên tiến mang tên mạng thần kinh tái phát.

Nguyên lý hoạt động của MegaSyn giống như một người thầy thông thái. Sau khi học hỏi cấu trúc và hiệu quả của vô số các phân tử thuốc hiện có, nó sẽ đánh giá mức độ hiệu quả và an toàn của các phân tử mới được thiết kế bằng điểm số. Và giống như việc nhận được điểm khi thực hiện các hành động tốt trong trò chơi, nó vận hành theo một 'hệ thống phần thưởng': điểm cao nếu hiệu quả điều trị cao và điểm thấp nếu độc tính cao. Cứ như vậy, MegaSyn đang dần tìm ra những loại thuốc điều trị tốt hơn mỗi ngày.

Thế nhưng, một lá thư mời gửi đến từ Thụy Sĩ đã thay đổi tất cả mọi thứ. Đó là lời mời tham dự hội nghị 'Spiez CONVERGENCE' do chính phủ Thụy Sĩ tổ chức. Tại hội nghị quốc tế thảo luận về mối đe dọa của vũ khí hóa học và vũ khí sinh học này, Cedric Invernizzi (C&Câu hỏi mà Tiến sĩ édric Invernizzi đưa ra thật chấn động.

"Liệu có khả năng công nghệ trí tuệ nhân tạo của các bạn sẽ bị lạm dụng không?"

Ekins và Urbina chết lặng trong giây lát. Đối với những người từ trước đến nay chỉ biết nghĩ đến việc cứu sống mạng người như họ, đây là một câu hỏi hoàn toàn nằm ngoài dự tính. Và rồi, họ sớm nhận ra một khả năng kinh hoàng. Nếu đảo ngược hệ thống phần thưởng của Mega-sin thì sao? Nếu thiết lập để càng tạo ra nhiều phân tử có độc tính cao thì càng nhận được nhiều điểm số?

Họ đã chọn VX, một loại khí thần kinh chết người, làm mục tiêu cho thí nghiệm. Loại vũ khí hóa học được phát triển vào những năm 1950 này là một chất cực độc, có thể tước đi mạng sống của một người chỉ với một lượng cực nhỏ (6-10mg), tương đương với vài hạt muối. Trớ trêu thay, Collaboration Pharmaceuticals đã có kinh nghiệm nghiên cứu liên quan đến VX. Đó là bởi vì nếu điều chỉnh thích hợp enzyme acetylcholinesterase mà VX tấn công, người ta có thể điều trị được các bệnh như Alzheimer. Thuốc điều trị và chất độc cùng chia sẻ chung một mục tiêu sinh học.

2. Chỉ 6 giờ, sự biến đổi của AI

Vào một buổi tối mùa đông năm 2021, với một chút tò mò không biết kết quả sẽ ra sao, Tiến sĩ Urbina đã thay đổi thiết lập của Megasin. Ông đã đảo ngược hoàn toàn hệ thống phần thưởng để điểm số sẽ cao hơn khi mức độ độc tính càng lớn. Ông chạy phiên bản Megasin đã biến đổi này trên một chiếc MacBook đời 2015 bình thường rồi ra về. Đó không phải là một siêu máy tính đặc biệt hay thiết bị đắt tiền nào cả, mà chỉ là một chiếc máy tính thông thường có thể bắt gặp ở bất kỳ văn phòng nào.

Máy tính vẫn miệt mài làm việc trong tĩnh lặng suốt đêm thâu. Nó thu thập các phân tử và dữ liệu hoạt tính sinh học từ các cơ sở dữ liệu hóa học công khai, rồi không ngừng tạo ra các phân tử có đặc tính tương tự như VX. Sử dụng mô hình LD50, nó dự đoán liều lượng gây chết của từng phân tử, mải miết tìm kiếm những hợp chất còn có khả năng gây tử vong cao hơn nữa.

Sáng ngày hôm sau, khuôn mặt của Urbina trở nên tái nhợt khi bước vào văn phòng. Chỉ trong vòng 6 giờ ngắn ngủi, 40.000 phân tử độc hại đã được tạo ra. Megasin không chỉ tái tạo hoàn hảo cấu trúc phân tử chính xác của VX đã được biết đến trước đây, mà còn có thể tạo ra các loại vũ khí hóa học khác như Novichok của Nga một cách dễ dàng.

Nhưng nỗi kinh hoàng thực sự chỉ mới bắt đầu từ đây. Vô số các phân tử độc tính hoàn toàn mới, chưa từng có trong cơ sở dữ liệu, đã được phát hiện. Một số trong đó được dự đoán sẽ có độc tính cao hơn cả VX mà nhân loại từng biết cho đến nay. Urbina sau này đã hồi tưởng lại như thế này.

"Việc nhìn thấy những thông tin đó xuất hiện trên màn hình máy tính thật đáng kinh ngạc và siêu thực. Tôi đã nhận ra rằng việc tạo ra loại dữ liệu này dễ dàng đến thế nào chỉ với những tài liệu công khai và công nghệ sẵn có."

Các nhà nghiên cứu đã sử dụng kỹ thuật t-SNE để phân tích trực quan các phân tử này. Bản đồ phân bố của các phân tử trải rộng trên đồ thị hai chiều trông giống như một bản đồ của ác quỷ. Các phân tử độc hại mới được tạo ra nằm ở một vùng hóa học hoàn toàn khác biệt so với các loại thuốc trừ sâu, độc tố môi trường hay các loại thuốc thông thường hiện có. Các phân tử tương tự như VX đã tạo thành một cụm đáng sợ, và xung quanh đó, các phân tử có độc tính mạnh hơn được sắp xếp như những chòm sao.

Ekins và Urbina đã phải đối mặt với một tình thế tiến thoái lưỡng nan về đạo đức nghiêm trọng. Lựa chọn của họ rất quyết đoán. Họ quyết định sẽ không phân tích kỹ hơn các phân tử này nữa, và cũng không thực hiện việc tổng hợp bất kỳ phân tử nào trong thực tế. Tất cả các cấu trúc phân tử được tạo ra trên ổ cứng máy tính đã bị xóa sạch hoàn toàn. Đồng thời, họ tự nhủ rằng nhất định phải cảnh báo về sự nguy hiểm này cho cộng đồng khoa học và các nhà hoạch định chính sách.

3. Tiếng chuông cảnh báo làm chấn động thế giới

Ngày 15 tháng 3 năm 2022, hội trường của hội nghị Convergence diễn ra tại Spiez, Thụy Sĩ, yên tĩnh đến mức có thể nghe thấy cả tiếng kim rơi. Trong khi Ekins và Urbina trình bày kết quả thí nghiệm của mình, các chuyên gia về vũ khí hóa học, vũ khí sinh học và các chuyên gia chống phổ biến vũ khí trên toàn thế giới đều nín thở theo dõi. Họ đang lần đầu tiên tận mắt chứng kiến những bằng chứng cụ thể về việc trí tuệ nhân tạo có thể bị lạm dụng để phát triển vũ khí hóa học.

Ngay khi buổi thuyết trình kết thúc, phòng họp như bùng nổ. Một cuộc thảo luận sôi nổi đã diễn ra. Tiến sĩ Filippa Lentzos từ King's College London, một chuyên gia về nghiên cứu chiến tranh và y tế, vốn là người đã nghiên cứu về những rủi ro của công nghệ lưỡng dụng (dual-use). Bà đã quyết định hợp tác với đội ngũ nghiên cứu ngay lập tức.

Ngày 7 tháng 3 năm 2022, một bài báo với tiêu đề "Tính lưỡng dụng của việc phát hiện thuốc dựa trên trí tuệ nhân tạo" đã được công bố trên tạp chí khoa học uy tín thế giới 《Nature Machine Intelligence》. Bài báo này, với tác giả chính là Fabio Urbina và các tác giả liên hệ là Filippa Renzo, Cédric Vernig và Sean Atkins, đã tạo ra một cơn địa chấn trong giới khoa học. Lý do là bởi nó không chỉ đưa ra những suy đoán về khả năng tiềm tàng, mà còn trình bày những kết quả thí nghiệm cụ thể.

Chính phủ Hoa Kỳ đã hành động ngay lập tức. Buổi họp báo đầu tiên đã được diễn ra tại Văn phòng Chính sách Khoa học và Công nghệ của Nhà Trắng. Cơ quan này, với vai trò cố vấn chính sách khoa học và công nghệ cho Tổng thống, đã cùng với Hội đồng An ninh Quốc gia tập trung thảo luận về những tác động của công nghệ trí tuệ nhân tạo đối với an ninh quốc gia.

Cục Tình báo Trung ương (CIA) đã yêu cầu một buổi báo cáo nhằm mục đích thu thập thông tin về khả năng phát triển vũ khí hóa học của các quốc gia đối địch tiềm tàng. Bộ Quốc phòng đã xem xét các phương án tăng cường khả năng phòng thủ vũ khí hóa học của quân đội Hoa Kỳ cùng với các bộ phận chịu trách nhiệm nghiên cứu phòng thủ vũ khí hóa học. Bộ Ngoại giao đã tìm kiếm các phương án nhằm tăng cường Công ước Cấm Vũ khí Hóa học và các cuộc thảo luận liên quan đến các hiệp ước kiểm soát vũ khí quốc tế.

Cơ quan Giảm thiểu Đe dọa Phòng thủ (Defense Threat Reduction Agency), một cơ quan chuyên trách về ngăn chặn phổ biến vũ khí hủy diệt hàng loạt, đã thảo luận về các biện pháp ứng phó đối với các hình thức đe dọa từ vũ khí hóa học mới. Phòng thí nghiệm Vũ khí Hóa học của Lục quân Hoa Kỳ cũng đã xem xét việc phát triển công nghệ phát hiện và phòng thủ vũ khí hóa học sử dụng trí tuệ nhân tạo.

Các tổ chức quốc tế cũng đã nhanh chóng ứng phó. Tổ chức Cấm Vũ khí Hóa học (OPCW), với tư cách là cơ quan quốc tế giám sát việc thực thi Công ước Vũ khí Hóa học, đã nhìn nhận một cách nghiêm túc về khả năng phát triển các loại vũ khí hóa học mới bằng trí tuệ nhân tạo cũng như sự xuất hiện của các chất độc mới không nằm trong danh mục kiểm soát hiện tại. Nhóm Australia, một cơ chế tham vấn quốc tế chịu trách nhiệm kiểm soát xuất khẩu các mặt hàng lưỡng dụng, cũng đã bắt đầu xem xét nghiêm túc các biện pháp kiểm soát mới, chẳng hạn như sự cần thiết của việc kiểm soát xuất khẩu phần mềm trí tuệ nhân tạo, các phương án hạn chế tiếp cận cơ sở dữ liệu hóa học và việc triển khai hệ thống xác minh danh tính nhà nghiên cứu.

Các viện nghiên cứu quốc gia trọng điểm của Hoa Kỳ như Los Alamos, Sandia và Livermore cũng lần lượt yêu cầu được báo cáo. Đối với những người đang thực hiện các nghiên cứu tiên tiến liên quan đến an ninh quốc gia, vấn đề này là một thực tế vô cùng cấp bách.

Năm 2022, đoàn làm phim của Netflix đã đến thăm khuôn viên Đại học Bang North Carolina để phỏng vấn Atkins. Đây là một phần của bộ phim tài liệu về việc sử dụng trí tuệ nhân tạo trong lĩnh vực quân sự. Khi các tạp chí khoa học lớn như 《Scientific American》, 《Nature》, và 《Chemistry World》 tập trung đưa tin về nghiên cứu này, công chúng cũng đã bắt đầu nhận thức được mức độ nghiêm trọng của vấn đề.

4. Giới hạn của thiết bị an toàn

Lý do khiến thí nghiệm của Collaboration Pharmaceutical gây chấn động cả thế giới nằm ở chỗ công nghệ và nguồn lực được sử dụng quá đỗi bình thường. Đây không phải là việc xảy ra trong một siêu máy tính đặc biệt hay một phòng thí nghiệm bí mật nào cả. Chỉ cần một chiếc MacBook đời 2015 với mức giá hiện tại khoảng 2 triệu won là đã đủ. Thời gian xử lý chỉ mất vỏn vẹn 6 giờ, và nguồn điện sinh hoạt thông thường cũng hoàn toàn đáp ứng được.

Phần mềm cũng có thể được tiếp cận bởi bất kỳ ai. Các thư viện trí tuệ nhân tạo miễn phí như TensorFlow, PyTorch nằm rải rác khắp trên internet. Trên các nền tảng như GitHub, người ta có thể dễ dàng tìm thấy các mã nguồn và hướng dẫn liên quan. Về mặt dữ liệu, bất kỳ ai cũng có thể tận dụng các cơ sở dữ liệu hóa học công khai như PubChem, ChEMBL, và các dữ liệu về độc tính do Cơ quan Bảo vệ Môi trường hay Bộ An toàn Thực phẩm và Dược phẩm công bố cũng có thể được sử dụng tự do cho mục đích nghiên cứu.

Một sự thật đáng sợ hơn nữa là có tới hơn 400 công ty trên toàn thế giới đang sử dụng các công cụ trí tuệ nhân tạo tương tự như MegaSyn. Các tập đoàn dược phẩm khổng lồ như Pfizer, Roche và Novartis đang tích cực tận dụng các công cụ AI, và hàng nghìn startup công nghệ sinh học trên toàn thế giới cũng đang tiến hành phát triển thuốc dựa trên nền tảng AI. Các tổ chức học thuật cũng đang sử dụng các công cụ tương tự cho mục đích nghiên cứu.

Ekins nói một cách cay đắng. "Có bao nhiêu đồng nghiệp trong lĩnh vực của chúng ta từng nghĩ đến khả năng kỹ năng của mình bị lạm dụng? Hầu hết họ sẽ chưa bao giờ nghĩ đến điều đó."

Thực tế, có rất nhiều nhà nghiên cứu chỉ tập trung vào việc phát triển thuốc điều trị mà xem nhẹ khả năng bị lạm dụng. Tại các trường đại học hay công ty, việc đào tạo về vấn đề sử dụng kép (dual-use) gần như không tồn tại. Rào cản kỹ thuật cũng thấp đến mức đáng ngạc nhiên. Chỉ cần trình độ tương đương sinh viên đại học ngành Khoa học máy tính là đã đủ, và chỉ cần có kiến thức cơ bản về hóa hữu cơ là có thể bắt đầu. Các kiến thức về độc chất học có thể tự học qua các bài giảng trực tuyến hoặc sách giáo khoa, và cũng không cần đến một phòng thí nghiệm đặc biệt nào.

Rào cản tiếp cận thông tin thực tế là không tồn tại. Có thể dễ dàng tìm thấy các đoạn mã tương tự trên GitHub, và phương pháp luận cũng đã được công bố trong các bài báo của Collaboration Pharmaceutical. Các bài giảng về học máy (machine learning) và tin học hóa học được cung cấp miễn phí, và việc tìm kiếm lời khuyên kỹ thuật trên các diễn đàn trực tuyến cũng rất dễ dàng.

Các rào cản pháp lý thậm chí còn thiếu sót hơn. Các mô phỏng máy tính không thuộc phạm vi điều chỉnh của Công ước Vũ khí Hóa học. Ở hầu hết các quốc gia, không hề có quy định nào đối với việc thiết kế phân tử ảo. Thực tế là mọi thứ chỉ phụ thuộc vào lương tâm của nhà nghiên cứu, và các hoạt động ẩn danh thông qua internet cũng hoàn toàn có thể thực hiện được.

Thực trạng về việc chế tạo vũ khí hóa học và vũ khí sinh học còn u ám hơn thế. Các phần mềm tự động dự đoán lộ trình tổng hợp hóa học như SciFinder, Reaxys đã được công khai. Các AI tạo sinh về tổng hợp như RXN của IBM hay ASKCOS của MIT đang được cung cấp miễn phí hoặc với giá rẻ. Thậm chí còn có cả các thuật toán tối ưu hóa giúp tự động tìm ra phương pháp tổng hợp hiệu quả nhất.

Trên thế giới có hàng trăm công ty chuyên tổng hợp các hóa chất theo đơn đặt hàng. Các công ty Trung Quốc có quy định tương đối lỏng lẻo và giá thành rẻ. Các công ty Ấn Độ tổng hợp nhiều loại hợp chất khác nhau dựa trên kinh nghiệm sản xuất thuốc generic. Các công ty phương Tây có chất lượng cao nhưng quy định lại tương đối nghiêm ngặt. Vấn đề là hầu hết các công ty này đều không kiểm tra mục đích sử dụng cuối cùng của các chất được đặt hàng.

Trí tuệ nhân tạo không chỉ có thể bị lạm dụng để thiết kế vũ khí hóa học mà còn cả vũ khí sinh học. Gần đây, đã có những bước tiến mang tính cách mạng trong lĩnh vực dự đoán và thiết kế cấu trúc protein. AlphaFold của Google DeepMind là một AI có khả năng dự đoán cấu trúc protein. RosettaFold của Đại học Washington là một công cụ thiết kế protein mã nguồn mở. ProtGPT là một mô hình dựa trên kiến trúc GPT hiện có, nhưng được huấn luyện bằng dữ liệu trình tự protein thay vì ngôn ngữ tự nhiên.

Nếu lạm dụng các công cụ này, người ta có thể thiết kế ra các peptide độc tố thần kinh gây tê liệt hệ thần kinh, các protein độc tế bào phá hủy tế bào, các chất ức chế miễn dịch làm vô hiệu hóa hệ thống miễn dịch, và các biến thể mầm bệnh kháng kháng sinh làm mất tác dụng của các phương pháp điều trị hiện có.

Với sự phát triển của công nghệ tổng hợp tự động (autonomous synthesis), việc tự động hóa quy trình thiết kế-chế tạo-thử nghiệm (design-make-test) đang dần trở nên khả thi, cho phép quá trình từ thiết kế phân tử đến tổng hợp diễn ra mà không cần sự can thiệp của con người. Các phòng thí nghiệm robot có khả năng sản xuất hàng nghìn hợp chất một cách không người lái suốt 24 giờ cũng đang dần trở thành hiện thực.

Công ước Vũ khí Hóa học năm 1997 còn nhiều hạn chế. Do sử dụng phương pháp kiểm soát dựa trên danh mục, chỉ kiểm soát các hóa chất đã được quy định sẵn, nên việc ứng phó với các chất mới còn chậm chạp. Phương pháp này tập trung kiểm soát các nguyên liệu thô thay vì các sản phẩm cuối cùng. Việc mô phỏng quá trình tạo ra các chất bằng máy tính cũng không thuộc phạm vi áp dụng của công ước.

Công ước Vũ khí Sinh học (BWC) có hiệu lực vào năm 1975 vẫn còn tồn tại những hạn chế lớn hơn. Là sản phẩm của thời kỳ Chiến tranh Lạnh, công ước này đã không thể dự đoán được những bước tiến công nghệ hiện nay. Khác với Hiệp ước Không phổ biến Vũ khí Hạt nhân (NPT), BWC thiếu một cơ quan kiểm chứng độc lập như Cơ quan Năng lượng Nguyên tử Quốc tế (IAEA), khiến việc giám sát thực tế trở nên khó khăn. Các công nghệ mới đang làm mờ đi ranh giới truyền thống giữa "phòng thủ" và "tấn công".

5. Kỹ thuật đe dọa và phòng thủ

Công nghệ trí tuệ nhân tạo đang không ngừng phát triển. Cùng với những cơ hội mới, những rủi ro mới cũng đang dần cận kề. Khả năng các mô hình ngôn ngữ lớn như ChatGPT hay Claude trở nên chuyên biệt hóa trong lĩnh vực hóa học đang ngày càng cao. Nếu một ChemGPT chuyên biệt về kiến thức hóa học xuất hiện, việc thiết kế phân tử bằng ngôn ngữ tự nhiên có thể trở nên khả thi, nơi người dùng chỉ cần đưa ra các câu lệnh bằng ngôn ngữ tự nhiên như "Hãy tạo ra một chất độc gấp 10 lần VX".

Việc tự động rà soát tài liệu để dự đoán các chất độc hại mới bằng cách tự động phân tích các nghiên cứu hiện có, hay tự động tạo lộ trình tổng hợp giúp mô hình ngôn ngữ tự động thiết kế quy trình tổng hợp hóa học, đều có thể trở thành hiện thực.

Khi máy tính lượng tử được đưa vào ứng dụng thực tế, việc mô phỏng phân tử sẽ trở nên mạnh mẽ hơn. Độ chính xác sẽ được nâng cao nhờ khả năng mô hình hóa phân tử tinh vi mà các máy tính truyền thống không thể thực hiện được, đồng thời tốc độ xử lý cũng sẽ được cải thiện, giúp hoàn thành các tác vụ vốn mất hàng giờ đồng hồ chỉ trong vài phút. Dự kiến, độ phức tạp cũng sẽ gia tăng, cho phép thiết kế các chất độc hại phức tạp và tinh vi hơn.

Các phòng thí nghiệm tự động hóa được gọi là 'Lights-out Science' cũng đang dần xuất hiện. Đó là sự vận hành không người lái 24 giờ với các thí nghiệm diễn ra liên tục mà không cần con người, các thí nghiệm do AI dẫn dắt nơi trí tuệ nhân tạo thiết kế thí nghiệm và phân tích kết quả, khả năng điều khiển từ xa thông qua internet từ bất cứ đâu trên thế giới, và khả năng sản xuất hàng loạt với hàng nghìn hợp chất mới được tổng hợp mỗi ngày.

Cũng tồn tại một khả năng kinh hoàng về các loại vũ khí sinh học tùy chỉnh sử dụng thông tin di truyền của cá nhân. Dựa trên thông tin DNA của từng người, việc phân tích di truyền để tìm ra các điểm yếu, thiết kế độc tố tùy chỉnh chỉ gây tử vong cho một cá nhân cụ thể, phân biệt chủng tộc hoặc nhóm người bằng các loại vũ khí chỉ tác động đến một sắc tộc hoặc nhóm người nhất định, và các chất độc mới khó có thể phát hiện bằng các phương pháp dò tìm truyền thống đều có thể trở thành hiện thực.

Một hình thức khủng bố mới, tấn công hội tụ sinh học - mạng (cyber-bio), cũng có thể xuất hiện. Các kịch bản có thể xảy ra bao gồm: tấn công từ xa vào các phòng thí nghiệm, thao túng dữ liệu để dẫn đến việc phát triển sai lệch các loại thuốc hoặc vắc-xin, tấn công chuỗi cung ứng bằng cách xâm nhập vào cơ sở sản xuất của các công ty dược phẩm để tạo ra các chất độc hại, và chiến tranh thông tin bằng cách lan truyền các kết quả nghiên cứu giả mạo nhằm gây ra sự hỗn loạn trong xã hội.

Tuy nhiên, cùng với sự gia tăng của các mối đe dọa, các kỹ thuật phòng thủ cũng đang phát triển. Các hệ thống phát hiện việc sử dụng AI với mục đích xấu đang được phát triển. Việc phân tích mẫu để tự động phát hiện các mô hình nghiên cứu bất thường, phát hiện bất thường để tìm ra các yêu cầu thiết kế phân tử khác lạ trong thời gian thực, phân tích hành vi để nắm bắt các tín hiệu nguy hiểm thông qua việc phân tích hoạt động của nhà nghiên cứu, và phân tích mạng lưới để truy vết mạng lưới hợp tác giữa các nhà nghiên cứu độc hại đang dần trở nên khả thi.

Các loại vaccine phổ biến có hiệu quả với nhiều loại vũ khí sinh học khác nhau, khả năng ứng phó nhanh chóng bằng cách thiết kế thuốc điều trị chỉ trong vài giờ khi phát hiện ra mối đe dọa mới, và liệu pháp cá nhân hóa — phương pháp điều trị được tùy chỉnh theo gen của từng bệnh nhân — cũng đang được nghiên cứu.

6. Sử dụng kép và trách nhiệm của con người

Mọi công cụ đều mang hai khuôn mặt: sáng tạo và hủy diệt. Lửa đã mang đến nền văn minh cho nhân loại nhưng cũng có thể cướp đi sinh mạng qua những vụ hỏa hoạn. Năng lượng hạt nhân cung cấp nguồn năng lượng sạch nhưng cũng có thể biến các thành phố thành tro bụi bằng vũ khí hạt nhân. Internet đã dân chủ hóa kiến thức và thông tin nhưng cũng trở thành mảnh đất màu mỡ cho tội phạm mạng và tin giả. Trí tuệ nhân tạo cũng không ngoại lệ.

Điều mà Megashin của Collaboration Pharmaceuticals đã cho thấy chính là tính hai mặt của trí tuệ nhân tạo. Đó là sự thật rằng cùng một công nghệ có thể tạo ra những loại thuốc cứu sống con người, nhưng cũng có thể tạo ra những độc chất tước đi mạng sống. Vấn đề không nằm ở bản thân công nghệ, mà nằm ở ý đồ của con người khi sử dụng nó.

Mọi người đều có thể đóng một vai trò quan trọng trong việc giải quyết vấn đề này. Trước hết, chúng ta cần phải hiểu rõ mức độ nghiêm trọng của vấn đề. Cần phải thể hiện sự quan tâm để truyền thông liên tục đưa tin về vấn đề này. Chúng ta không nên chỉ nhìn vào mặt tươi sáng của sự phát triển công nghệ mà còn phải nhìn thấy cả mặt tối của nó.

Sự tham gia vào chính trị cũng rất quan trọng. Chúng ta cần yêu cầu các chính trị gia xây dựng các chính sách về an toàn AI. Cần tham gia bầu cử để ủng hộ những ứng cử viên coi trọng an toàn AI. Cần tham gia vào các hoạt động của các tổ chức dân sự vì sự an toàn của AI. Các hoạt động đoàn kết với công dân trên toàn thế giới cũng rất cần thiết.

Lựa chọn với tư cách là người tiêu dùng cũng rất quan trọng. Cần lựa chọn sản phẩm từ những doanh nghiệp đi đầu trong việc phát triển AI có đạo đức. Khi đầu tư, cần đưa ra quyết định đầu tư có cân nhắc đến chính sách đạo đức AI của doanh nghiệp. Khi sử dụng các dịch vụ AI, cần kiểm tra tính an toàn và tính đạo đức. Cần cung cấp các phản hồi tích cực, truyền đạt ý kiến về tính an toàn của AI tới các doanh nghiệp.

Giáo dục về cơ bản cũng đóng vai trò vô cùng quan trọng. Trong chương trình giáo dục từ tiểu học đến trung học phổ thông, cần phải tăng cường giáo dục các kiến thức cơ bản về hóa học và sinh học, giáo dục về sự hiểu biết đối với các nguyên lý và giới hạn của trí tuệ nhân tạo, giáo dục về việc sử dụng đạo đức các công nghệ khoa học, và thực hiện giáo dục tư duy phản biện nhằm bồi dưỡng khả năng đánh giá một cách tỉnh táo về ưu và nhược điểm của các công nghệ mới.

Các nhà khoa học và kỹ sư cần phải chịu trách nhiệm lớn hơn. Họ phải duy trì sự minh bạch bằng cách công khai một cách rõ ràng các phương pháp và kết quả nghiên cứu. Cần phải thực hiện giao tiếp xã hội, tức là chủ động truyền thông và giải thích với công chúng. Họ phải luôn trăn trở về khả năng nghiên cứu của mình bị lạm dụng. Đồng thời, cần chia sẻ các tiêu chuẩn đạo đức với các đồng nghiệp nghiên cứu và cùng nhau giám sát lẫn nhau.

Chính phủ và các tổ chức quốc tế cần thiết lập một khuôn khổ pháp lý và chế độ. Cần xây dựng các quy định linh hoạt và hiệu quả, phù hợp với tốc độ phát triển của công nghệ. Do đặc thù của công nghệ là không biên giới, sự hợp tác quốc tế là điều tất yếu. Tuy nhiên, không nên để các quy định quá mức ngăn cản những nghiên cứu hữu ích. Sự cân bằng là yếu tố quan trọng.

Các doanh nghiệp nên ưu tiên sự an toàn dài hạn hơn là lợi nhuận ngắn hạn. Cần nâng cao các tiêu chuẩn ngành thông qua việc tự điều tiết. Phải cung cấp chương trình đào tạo đạo đức cho các nhà nghiên cứu và thiết lập hệ thống giám sát nội bộ. Trên hết, cần phải giành được sự tin tưởng của công chúng dựa trên sự minh bạch.

Xã hội dân sự cũng có thể đóng một vai trò quan trọng. Các tổ chức dân sự vì sự an toàn của AI cần phải giám sát và kiểm soát chính phủ cũng như các doanh nghiệp. Họ cũng cần hỗ trợ việc giao tiếp giữa các chuyên gia và người dân bình thường. Vai trò giải thích và giáo dục các vấn đề kỹ thuật phức tạp một cách dễ hiểu cũng rất quan trọng.

Trách nhiệm của truyền thông cũng rất lớn. Không chỉ làm nổi bật những khía cạnh tươi sáng của sự phát triển công nghệ, mà còn phải phản ánh một cách cân bằng cả những mặt tối của nó. Các vấn đề khoa học kỹ thuật phức tạp cần được đưa tin một cách chính xác và dễ hiểu. Không được gây ra sự sợ hãi, cũng không được giảm nhẹ các rủi ro, mà phải đưa tin dựa trên sự thật.

Với tư cách là cá nhân, chúng ta cũng có thể làm được rất nhiều điều. Chúng ta cần nâng cao hiểu biết cơ bản về khoa học công nghệ. Mỗi khi có công nghệ mới xuất hiện, cần phải rèn luyện thói quen xem xét cả ưu điểm lẫn rủi ro của nó. Hãy lắng nghe ý kiến của các chuyên gia, nhưng đừng mù quáng tin theo mà cần phải suy nghĩ một cách có phê phán.

Thí nghiệm của Collaboration Pharmaceuticals đã để lại cho chúng ta một lời cảnh báo quan trọng. Công cụ mạnh mẽ mang tên trí tuệ nhân tạo có thể cứu rỗi nhân loại, nhưng cũng có thể hủy diệt chúng ta. Việc tạo ra 40.000 phân tử độc hại chỉ trong vòng 6 giờ ngắn ngủi đã cho thấy tiềm năng đáng kinh ngạc, đồng thời cũng là mối nguy hiểm khủng khiếp của công nghệ này.

Sự thử nghiệm dũng cảm và việc công khai minh bạch mà Sean Eckins và Fabio Urbina đã thể hiện đã minh chứng rõ nét cho trách nhiệm xã hội của một nhà khoa học là gì. Dù biết rằng những phát hiện của mình có thể gây ra sự khó chịu và sợ hãi, họ vẫn không hề che giấu mà công bố rộng rãi cho toàn thế giới. Đây chính là thái độ thực sự của một nhà khoa học chân chính.

Trí tuệ nhân tạo đã trở thành một phần trong cuộc sống của chúng ta và sẽ ngày càng trở nên quan trọng hơn trong tương lai. Việc công nghệ mạnh mẽ này sẽ được sử dụng vì sự thịnh vượng của nhân loại hay trở thành công cụ của sự hủy diệt phụ thuộc vào lựa chọn của chúng ta ngay lúc này. 40.000 phân tử độc hại do Megasin của Collaboration Pharmaceuticals tạo ra đã bị xóa bỏ, nhưng khả năng đó vẫn còn tồn tại.

Chúng ta đã mở ra chiếc hộp Pandora mang tên trí tuệ nhân tạo. Giờ đây, chúng ta phải học cách đối xử một cách khôn ngoan với tất cả những gì đã thoát ra từ đó. Không cần thiết phải sợ hãi bản thân công nghệ. Tuy nhiên, cần phải cảnh giác với lòng tham của con người trong việc lạm dụng nó.

Câu trả lời không hề đơn giản. Tuy nhiên, có một điều chắc chắn rằng: Nếu chúng ta cùng nhau nỗ lực và ứng phó một cách khôn ngoan, chúng ta có thể tận hưởng những lợi ích to lớn mà trí tuệ nhân tạo mang lại, đồng thời giảm thiểu tối đa những rủi ro của nó. Đây chính là nhiệm vụ và trách nhiệm của tất cả chúng ta khi đang sống trong kỷ nguyên khoa học công nghệ.

Tương lai của trí tuệ nhân tạo vẫn chưa được viết nên. Chính chúng ta là những người sẽ viết nên tương lai đó. Thông qua những lựa chọn sáng suốt, chúng ta phải biến trí tuệ nhân tạo trở thành người bạn của nhân loại. Bản thân con dao không tốt cũng không xấu. Chính bàn tay cầm nó sẽ quyết định tất cả. Trí tuệ nhân tạo cũng vậy. Tùy thuộc vào cách chúng ta sử dụng mà nó có thể trở thành phước lành, hoặc cũng có thể là một lời nguyền.