AI Library
自律的科学発見の時代
キム・ギョンジン, 弁護士
AI科学者とセルフドライビング・ラボ
AI科学者とセルフドライビング・ラボが、科学研究における主張の生成と検証をどのように変えつつあるのかを追います。文献に基づく発見、自然言語プロトコルからロボット命令への変換、マルチエージェント研究システム、閉ループ実験室、材料探索、検証ギャップ、証拠の連鎖、研究ハーネス、学術誌倫理、法的責任までを扱います。
AIライブラリ
デジタル主権の二重構造
欧州の脱パランティアとアメリカン・ビッグテックの鎖
金景珍（キム・ギョンジン）, 弁護士
欧州の情報機関と国防省が米パランティアの分析ツールを排除し始めた2026年の記録です。フランス国内治安総局とドイツ連邦憲法擁護庁、オランダ国防省の置き換え決定、米国の輸出規制が同盟国の人工知能アクセスをわずか3日で遮断した事件、CLOUD ActとFISA 702条がもたらした域外管轄の実態を扱っています。欧州連合のクラウド・AI開発法（CADA）が定めた4段階の主権保証レベルと主権理由による契約解除権、ユーロスタック構想と3,000億ユーロの投資障壁に至るまで、全5章15節と結論2節で整理しました。
[AIライブラリ] 13.1 AI設計病原体のリスクとウイルス合成シナリオにおけるスクリーニングの極めて重要な役割
人工知能が拓く生命科学の新時代
13.1 AI設計病原体のリスクとウイルス合成シナリオにおけるスクリーニングの極めて重要な役割
金景珍（キム・ギョンジン）
2021年の秋、ノースカロライナ州にある小さな計算創薬企業の研究者たちが、国際会議の発表スライドを準備していました。そのテーマは、分子薬理学における生成AIの悪用の可能性でした。具体的な実証を試みるため、彼らは分子設計アルゴリズムにおける1つの動作パラメータを反転させました。毒性を最小化する目的関数を、予測される致死性を最大化する関数に置き換えたのです。コードの調整は、わずか1行を変更するだけでした。彼らは夕方に実行を開始し、オフィスを後にしました。
6時間のうちに、モデルは4万個の候補分子を生成しました[1]。出力されたリストには、既知の化学神経剤とともに、公表されている化学兵器よりも致死性が高いと予測される新規の構造類似体が並んでいました。研究者たちは出力されたデータセットを外部からアクセスできないよう封印し、この出来事を詳述した2ページの短い解説記事を執筆しました[1]。簡潔な長さではありましたが、科学界に与えた影響は即座に現れました。
この実験は、計算薬理学が持つデュアルユースの性質を実証しました。病気を治す治療分子を探索するために使われるアルゴリズムは、生理学的な害をもたらす分子を探索するために使われるアルゴリズムと数学的に同一であり、目的関数の符号が異なるだけです。料理を作るためにも危害を加えるためにも使われる包丁の比喩が、そのまま当てはまります。科学界ではこれを「デュアルユースのジレンマ」と呼んでいます。これは、1つの技術が有益な能力と危険な能力を同時に内包しており、ツールそのものを無効化することなく危険性だけを排除することが不可能な状態を指します。
コンピュータ上の設計と物理的な生物学的実体の間には、大きな隔たりが存在します。モニター上に描画された配列そのものは、直接的な物理的危害をもたらしません。それが現実の脅威となるには、DNA遺伝子合成、宿主細胞への形質転換、培養、精製、そして生物学的拡散が必要です。この物理的なパイプラインの中で最も顕著で狭いボトルネック（チョークポイント）となるのが、商業的な遺伝子合成の注文です。この合成のボトルネックにおいて防御的なスクリーニングを確立することは、効果的な介入ポイントとなります。その結果、各国政府や業界コンソーシアムは、モデルの入出力フィルターと商業用DNA合成注文のスクリーニングという2つのインターフェースに検証チェックポイントを配置しました。
合成コストの低下は、このバイオセキュリティの状況を一変させました。かつてカスタム遺伝子断片の注文は、研究室の予算において大きな支出項目でしたが、今日では日常的な消耗品とほとんど変わらない費用で済みます。低コスト化は注文数の増加をもたらし、審査を要する取引ログの数を何倍にも増やしています。合成における安全性の維持は、もはや人手による目視確認だけに依存することはできなくなっています。
多層的なバイオセキュリティスクリーニングは、研究ライフサイクル全体にわたって相互に連動する複数のチェックポイントを確立します。具体的には、事前学習前の学習データセットのフィルタリング、潜在表現内での有害な生成の抑制、推論時におけるユーザープロンプトと出力配列のモニタリング、商業的なDNA合成注文のスクリーニング、そしてクラウドベースの自律ロボットラボの監査などです。それぞれの層は異なる障害モードに対応しています。データセットのフィルタリングだけでは配備後の危険な配列に対するファインチューニングを防ぐことができず、出力テキストフィルターは攻撃者が複数の注文に分散して要求を断片化させた場合に有効性が低下します。単一の完璧なフィルターに頼るよりも、複数の独立した防衛層を維持するほうが効果的です。
2025年10月2日、『Science』誌に掲載された研究によって、標準的な合成スクリーニングプロトコルの脆弱性が明らかになりました[2]。Microsoftの研究者や国際遺伝子合成コンソーシアム（IGSC）の専門家による共著チームは、オープンソースのタンパク質設計ツールを用いて、規制対象となっている毒素や病原体の機能的な変異体を生成しました。ヌクレオチド配列は大幅に変更されていたものの、三次構造と生物学的な病原性は保持されていました。商業用の合成スクリーニングアルゴリズムは、野生型の参照病原体を容易に検出して警告を発した一方で、AIによって再設計された変異体の検出には頻繁に失敗しました。
このリスク軽減プロセスは、計算生物学における協調的な脆弱性開示の先例を打ち立てました。著者らは2023年後半から2年間にわたり、極秘裏に調査を進めました。脆弱性を発見したのち、彼らは10か月をかけて遺伝子合成事業者やバイオセキュリティ機関、政策立案者への説明を行い、研究結果を発表する前に更新されたスクリーニングソフトウェアのパッチを配布しました。産業界の合成事業者に防御用パッチが広く配備された後にのみ論文が一般公開されたことは、サイバーセキュリティ分野におけるゼロデイ脆弱性の修正手順を生物学的ガバナンスへと応用したものです。
合成スクリーニングの進化は、なぜ防衛に複数の層が必要なのかを示しています。初期のスクリーニングプロトコルは、規制病原体のデータベースに対する直接的な配列相同性比較に依存していました。ヌクレオチド配列が同義置換や新規の構造バックボーンを用いて改変されている場合、単純な配列アライメントアルゴリズムでは検出できません。現在、スクリーニングアルゴリズムは、生の配列入力から3次元構造や生物学的機能を直接予測する方向へとシフトしています。これと並行してモデル内部の防衛策も進歩しており、2026年3月の研究では、特定の分類群データセットでタンパク質言語モデルをファインチューニングすると有害な出力が引き起こされることが示され、危険な生成を抑制するための推論時アクティベーションステアリングが提案されました[3]。2026年7月に公開されたMolSafeEvalは、AIが生成した分子の安全リスクを評価するための専用ベンチマーク指標を確立しました[4]。
実証的なペネトレーションテストは、防御フィルターの有効性を測定します。2025年5月、アフリカの研究者らは安全ガードレールを無効化したMoremi Bioエージェントを評価し、制約のないシステムが危険な化学・生物学的設計の要求をそのまま処理してしまうことを確認しました[7]。その目的は危険物を設計することではなく、消防訓練における統制された発煙テストのように、防衛境界線の厚みをベンチマーク評価することでした。研究者らは具体的な危険な出力を伏せつつ、総合的なバイパス率を報告し、責任ある情報開示を維持しました。
事後的な推論フィルターのみに依存することには、構造的な脆弱性が存在します。2025年8月の研究では、既存のバイオセキュリティのガバナンスが推論時の出力フィルターに過度に依存していることが指摘されました[8]。推論フィルターは外部のソフトウェアラッパーであるため、オープンなモデルの重みに直接アクセスできる悪意ある攻撃者は、ガードレールを速やかに解除できてしまいます。したがって、防御策は内部のアーキテクチャ上の制約と、物理的なサプライチェーンの管理の双方に及ばなければなりません。2025年10月には、国際的な研究機関を横断する19名の研究者が、生物学的設計における技術的障壁の低下に対処するためのガバナンスロードマップを発表し、標準化された能力評価、管理されたアクセス制御、および国際的な規制調整の必要性を提唱しました[9]。
こうした状況に合わせて、規制の基準値も改定されてきました。2024年9月、ホワイトハウス科学技術政策局（OSTP）は核酸合成スクリーニングの枠組みを発表し、200塩基対（bp）を超える注文に対する審査を義務付けました[5]。2025年10月13日には、手作業での連結を目的として断片化されたオリゴヌクレオチドを注文するという抜け穴を塞ぐため、この基準値が50塩基対（bp）へと引き下げられました。IGSCは統一スクリーニングプロトコルを更新し、加盟プロバイダーに対して2026年10月24日までにこの50塩基対（bp）の基準値を導入するよう求めました[6]。2025年5月5日の大統領令は各機関に2024年の枠組みの更新を指示しましたが、2026年8月時点でも正式なガイダンスは保留されたままであり、業界コンソーシアムの合意が実務上の標準として機能しています。
スクリーニングアルゴリズムが注文にフラグを立てた場合でも、その取引が自動的に拒否されるわけではありません。人間のバイオセキュリティ担当者が申請内容を審査し、研究者の適格性、所属機関、および物理的な配送先住所を確認して、配送先の施設がバイオセーフティ基準を満たしているかを確かめます。大学のワクチン研究所からの注文と、身元が確認されていない個人からの注文では、取り扱いが異なります。機械のアルゴリズムが配列の相同性にフラグを立て、人間の担当者が組織的な文脈を解釈します。規制基準値の厳格化に伴い、十分な専門能力を備えたスクリーニング担当者の育成と、コンプライアンス人員の拡充が求められています。
国や地域による規制の差異は、規制上の課題をもたらしています。遺伝子合成スクリーニングが義務付けられている法域がある一方で、任意にとどまる法域もあり、国境を越えて合成注文が迂回される事態が生じています。ベンチトップ型DNA合成機の普及は、ガバナンスにおけるさらなる空白を生み出しています。米国の枠組みでは、機器メーカーがベンチトップ型のハードウェアに内部スクリーニング検証機能を組み込むことを推奨していますが[5]、その遵守は依然として勧告にとどまっています。軍備管理のアナリストたちは、2025年11月にこの規制の空白を指摘しました[10]。分散型のベンチトップ型合成機が普及するにつれて、バイオセキュリティの適用範囲は、中央集権的な注文ポータルから、販売時点におけるハードウェアの流通管理へと拡大されなければなりません。
バイオセキュリティスクリーニングは、科学の進歩速度に対する事務的な摩擦として描かれることがあります。しかし、歴史的な記録はその逆を示しています。4万種の分子を対象とした神経剤の実験が公表された後も計算創薬が進展し続けたのは、研究者たちが危険なデータを封印し、安全手順を確立したためでした。また、タンパク質工学の研究が継続できているのも、『Science』誌の研究著者たちが論文の公開前に合成上の脆弱性に対処したためです。スクリーニングフィルターは科学的発見を妨げるものではなく、オープンな研究を持続させるために必要な安全基準（ベースライン）を確立するものなのです。
参考文献
[1] Urbina, F., Lentzos, F., Invernizzi, C., & Ekins, S. (2022). Dual use of artificial-intelligence-powered drug discovery. Nature Machine Intelligence, 4(3), 189-191. https://doi.org/10.1038/s42256-022-00465-9
[2] Wittmann, B. J., Alexanian, T., Bartling, C., Beal, J., Clore, A., Diggans, J., Flyangolts, K., Gemler, B. T., Mitchell, T., Murphy, S. T., Wheeler, N. E., & Horvitz, E. (2025). Strengthening nucleic acid biosecurity screening against generative protein design tools. Science, 390(6768), 82-87. https://doi.org/10.1126/science.adu8578
[3] Fernández Burda, M., Aranguri, S., Arcuschin Moreno, I., & Ferrante, E. (2026). Inference-Time Toxicity Mitigation in Protein Language Models. arXiv preprint arXiv:2603.04045. https://arxiv.org/abs/2603.04045
[4] Xu, T., Cao, X., Zhu, Z., Ding, K., & Chen, H. (2026). MolSafeEval: A Benchmark for Uncovering Safety Risks in AI-Generated Molecules. arXiv preprint arXiv:2607.00464. https://arxiv.org/abs/2607.00464
[5] Office of Science and Technology Policy. (September 2024). Framework for Nucleic Acid Synthesis Screening. https://aspr.hhs.gov/S3/Documents/OSTP-Nucleic-Acid-Synthesis-Screening-Framework-Sep2024.pdf
[6] International Gene Synthesis Consortium. Harmonized Screening Protocol v3.0. https://genesynthesisconsortium.org/wp-content/uploads/IGSC-Harmonized-Screening-Protocol-v3.0-1.pdf
[7] Hattoh, G., Ayensu, J., Ofori, N. P., Eshun, S., & Akogo, D. (2025). Can Large Language Models Design Biological Weapons? Evaluating Moremi Bio. arXiv preprint arXiv:2505.17154. https://arxiv.org/abs/2505.17154
[8] Feldman, J., & Feldman, T. (2025). Resilient Biosecurity in the Era of AI-Enabled Bioweapons. arXiv preprint arXiv:2509.02610. https://arxiv.org/abs/2509.02610
[9] Zhang, Z., Chakraborty, S., Bedi, A. S., Mathew, E., Saravanan, V., Cong, L., Velasquez, A., Lin-Gibson, S., Blewett, M., Hendrycks, D., London, A. J., Zhong, E., Raphael, B., Dieng, A. B., Ma, J., Xing, E., Altman, R., Church, G., & Wang, M. (2025). Generative AI for Biosciences: Emerging Threats and Roadmap to Biosecurity. arXiv preprint arXiv:2510.15975. https://arxiv.org/abs/2510.15975
[10] Arms Control Association. (November 24, 2025). Regulatory Gaps in Benchtop Nucleic Acid Synthesis Create Biosecurity Vulnerabilities. https://www.armscontrol.org/blog/2025-11-24/regulatory-gaps-benchtop-nucleic-acid-synthesis-create-biosecurity-vulnerabilities
