AI Library
自律的科学発見の時代
キム・ギョンジン, 弁護士
AI科学者とセルフドライビング・ラボ
AI科学者とセルフドライビング・ラボが、科学研究における主張の生成と検証をどのように変えつつあるのかを追います。文献に基づく発見、自然言語プロトコルからロボット命令への変換、マルチエージェント研究システム、閉ループ実験室、材料探索、検証ギャップ、証拠の連鎖、研究ハーネス、学術誌倫理、法的責任までを扱います。
AIライブラリ
デジタル主権の二重構造
欧州の脱パランティアとアメリカン・ビッグテックの鎖
金景珍（キム・ギョンジン）, 弁護士
欧州の情報機関と国防省が米パランティアの分析ツールを排除し始めた2026年の記録です。フランス国内治安総局とドイツ連邦憲法擁護庁、オランダ国防省の置き換え決定、米国の輸出規制が同盟国の人工知能アクセスをわずか3日で遮断した事件、CLOUD ActとFISA 702条がもたらした域外管轄の実態を扱っています。欧州連合のクラウド・AI開発法（CADA）が定めた4段階の主権保証レベルと主権理由による契約解除権、ユーロスタック構想と3,000億ユーロの投資障壁に至るまで、全5章15節と結論2節で整理しました。
[AIライブラリ] 14.1 EU AI法におけるバイオAIの診断安全性とシステミックリスク管理
人工知能が拓く生命科学の新時代
14.1 EU AI法におけるバイオAIの診断安全性とシステミックリスク管理
金景珍（キム・ギョンジン）
2026年7月24日、欧州連合官報（Official Journal of the European Union）に新たな規制法令が公布され、3日後の7月27日に法的効力が発生しました。「デジタルオムニバス（Digital Omnibus）」と名付けられたこの規則は、EU AI法に基づく高リスク人工知能条項の適用スケジュールを延期するものでした[1]。この法制化は、欧州のバイオテクノロジー企業の規制コンプライアンス担当者たちが技術文書を取りまとめていた最中、当初の期限であった8月2日の6日前に行われました。
延期は廃止を意味するものではありません。付属書III（Annex III）に記載されたスタンドアロン型の高リスクAIシステムの遵守義務は2027年12月2日へと移行し、既存のEU調和立法によって規制される製品の安全構成要素として組み込まれたAIシステムは2028年8月2日へと移行しました[1][2]。医療機器ソフトウェアはこの後者の経路に該当します。EU医療機器規則（MDR）の下でクラスIIa以上に分類される診断用AIは、AI法第6条第1項により高リスクに分類され、遵守義務の期限は2028年8月2日となっています[3]。重複した認証手続きを新たに設けるのではなく、AI法の要件が公認機関（Notified Body）による適合性評価に直接統合され、確立された規制枠組みの中で監査チェックリストが拡張される形をとっています。
その他の規制条項は遅滞なく進められました。AIによって生成された合成画像、音声、動画に対する明示的なラベル付けを義務付ける第50条の透明性義務は、予定通り2026年8月2日に発効しました[1]。汎用AI（GPAI）モデルに関するガバナンス義務はその1年前の2025年8月2日に発効しており、欧州委員会による制裁金執行権限は2026年8月2日に発動されました[4]。2025年7月10日、欧州委員会は透明性、著作権ガバナンス、安全性リスク評価を網羅した自主的コンプライアンス枠組みである「汎用AI実践規範（General-Purpose AI Code of Practice）」を公表しました[4]。署名は任意であるものの、署名企業は法令上の義務に対する適合性の法的推定を享受できます。
では、生物学的モデルはこの分類のどこに位置づけられるのでしょうか。2026年5月の分析では、ESM3のような最先端の生物学的基盤モデルを生物学的危険の伝達経路と照らし合わせ、これらのシステムがシステミックリスクをもたらす汎用AI（GPAI）モデルの基準を満たしていると結論付けました[5]。法的な推定閾値は、累積学習計算量が10の25乗浮動小数点演算（FLOPs）を超えることと定義されています。コンパクトなアーキテクチャであっても生物学的デュアルユースのリスクをもたらしうる一方で、より大規模なモデルが無害である場合もあるため、FLOPs閾値には精査や批判的な視線が向けられているものの、法的な閾値は明確な管轄上の境界を定めています。
高リスクに分類されたシステムには、記録保持の義務が課されます。第12条は運用ライフサイクル全体を通じたログの自動記録を義務付けており、第19条は最低6か月間のログ保存を義務付けています。明示的なログ項目には、運用のタイムスタンプ、照会された参照用生物学的データベース、陽性の診断判定を導いた入力データ、そして計算出力を確認・検証した人間の専門家の検証可能な身元情報が含まれます[6]。附属書IVは、より広範な技術文書を10年間保管することを義務付けています。ゲノム変異解釈ソフトウェアの場合、臨床的病原性を判定するために患者のどの変異がどの参照データベースと照合・評価されたのか、ならびに報告書を認定した特定の遺伝学者が誰であるかを記録に残さなければなりません。
規制上の罰則体系は、頻繁に誤って引用されます。全世界年間売上高の7%という罰則の上限は、第5条に基づく禁止対象のAI慣行への違反にのみ適用されます（3,500万ユーロまたは全世界売上高の7%のいずれか高い方を上限とします）。ハイリスクに関する義務や技術文書の要件への違反に対しては、より低い法定上限が定められており、最大1,500万ユーロまたは全世界年間売上高の3%となっています[6]。監査ログの記載漏れによって7%の罰金が科されることはありません。正確な法的階層を理解することが、規制リスク管理における第一歩となります。
コンプライアンス（法令遵守）の範囲はログ記録にとどまりません。第10条は学習データ、検証データ、テストデータセットに対するデータガバナンス基準を義務付けており、地理的起源、人口統計学的代表性、コホートバイアスを技術文書に記録することを求めています[2]。これはゲノミクスにおいて極めて重要な意味を持ちます。公共のゲノムリポジトリは主にヨーロッパ系の祖先を持つ個人をサンプリングしているためです。こうした偏った分布で学習された分類器は、非ヨーロッパ系の患者コホートにおける臨床変異を解釈する際に高いエラー率を示します。さらに第9条は継続的なライフサイクルリスク管理プロトコルを義務付け、第15条は技術的正確性とサイバーセキュリティの堅牢性に関する基準を定めています。ラボにおける実践的な教訓は、データセットの出所、キュレーションパイプライン、生物学的境界条件を記録した検証可能な記録を確立することです。
急速な開発サイクルのなかで技術文書を手作業で管理するのは非効率的です。モデルが年に何度も更新される場合、静的なワープロ文書はすぐに時代遅れになってしまいます。その結果、機械可読な文書化フレームワークが登場しました。2025年に導入されたAI Model Passportは、ヘルスケアAIのデータセットの出所、学習ハイパーパラメータ、検証指標、責任者を標準化された機械可読マニフェストにパッケージ化し、モデルアーティファクトとともにバンドルします[7]。これは、バッチの内容物、製造日、認定生産者を記載した食品の栄養成分表示ラベルに似ています。
規制遵守には運用上の大きな負担が伴います。大手製薬企業は、常勤の法務顧問や品質保証担当者を擁する専任の薬事規制チームを維持しています。一方、研究者5名で構成される大学発スピンオフには、こうした専任部署が存在しません。研究者が技術文書を起草し、ソフトウェアエンジニアが監査ログの保持ポリシーを設定することになります。こうした運用面での格差に加え、欧州整合規格が依然として策定中であるという事実が、コンプライアンス期限を2027年12月および2028年8月へと延長する決定に影響を与えました。技術標準が正式に承認される前に法律上の遵守を強制することは、法的な摩擦を生じさせるからです。
韓国は、欧州のスケジュールに先駆けて法定のAIガバナンスを制定しました。「人工知能基本法」およびその施行令は、2026年1月22日に施行されました [8]。医療診断や生体認証など、市民の生命、健康、基本的人権に直接影響を及ぼす領域は「高影響AI」に分類されています。欧州が高リスク規制の執行を2027年後半へと延期するなか、韓国はいち早く包括的な法定AI監督体制を導入した国となりました。ただし政府は少なくとも1年間の猶予期間を設け、罰則の執行を2027年1月まで延長しており、行政過料の上限も3,000万ウォンに設定されています。
医薬品開発において、規制の文言はリスクに応じたアプローチを踏襲しています。2016年以降、AIコンポーネントを含む500件以上の医薬品承認申請が行われたことを受け、米国FDAは2025年1月、医薬品の安全性、有効性、製造品質にわたる規制上の意思決定を支援するAIモデルの信頼性確立に関するガイダンス案を発表しました。2026年1月14日には、米国FDAと欧州医薬品庁（EMA）が共同で「医薬品開発における適正機械学習基準（GMLP）のための10の指導原則」を発表しました [9]。人間中心の設計、リスクに基づく検証、使用コンテキストの定義、データガバナンス、ライフサイクル監査を重視するこれらの原則は、AIモデルを禁止するものではなく、治験依頼者（スポンサー）に対して指定された使用コンテキスト内でのモデルの信頼性を実証することを義務付けています。
最も高度な対応が求められる規制の交差点は、バイオセキュリティにあります。前述した2025年10月の『Science』誌の研究は、その脆弱性を浮き彫りにしました。オープンソースのタンパク質設計モデルが、規制対象となっている72種の毒素や病原体にわたって76,080個の機能的配列変異体を生成し、それらが標準的な商用DNA合成スクリーニングデータベースをすり抜けたのです [10]。著者らは論文の公開前に脆弱性の修正を調整しました。モデルレベルの出力フィルターだけでは敵対的ファインチューニングに対して脆弱であることを認識し、政策の専門家たちは、顧客身元確認（Know Your Scientist / KYC）を基礎的なバイオセキュリティインフラとして確立することを提唱しています [11]。さらに、生成された分子の化学反応性や毒性リスクを評価するMolSafeEvalのような標準化された安全性ベンチマークによって、これを補完することが求められています [12]。
バイオセキュリティ上の危険は、行政上のコンプライアンス文書とは根本的に異なります。書類上の誤記載は紙の上で訂正できますが、物理的に合成されて発送されたDNAを敵対勢力から回収することはできないからです。そのため、バイオセキュリティは多層防御に依存しています。すなわち、有害な出力が生じないようモデルの学習選好を調整すること、商用DNA合成の注文をスクリーニングすること、そして顧客の所属機関の適格性を確認することです。単一の層で完全に防ぎきれるものはありませんが、相互に補完し合う3つの層を重ねることで攻撃経路を削減できます。これは、外扉を3つの異なる機械式錠前で施錠するのと同様の仕組みです。
法的枠組みの進化は緩やかであり、立法の遅れに直面することも多く、国や地域によっても異なります。しかし、規制が向かう方向は明確です。性能のベンチマークには、今や監査可能性と人間による説明責任が対になって求められています。バイオテクノロジー研究所のサーバーラックには、改ざん不能なログ保存用ストレージが併設されるようになりました。モデルのデプロイはもはや最終段階ではありません。デプロイこそが、規制上の監査証跡が始まる起点となるのです。規制当局の検査官から、6か月前の臨床分類がどのような入力データに基づいて下されたのかを詳細に示す監査証跡を求められた際、システムは改ざん不能な記録を提示できなければなりません。そうした記録を用意しておくことは、システムを設計した科学者や技術者の責務なのです。
参考文献
[1] Gibson Dunn. (July 2026). EU AI Act Omnibus Agreement: Postponed High-Risk Deadlines and Other Key Changes. https://www.gibsondunn.com/eu-ai-act-omnibus-agreement-postponed-high-risk-deadlines-and-other-key-changes/
[2] European Parliament and Council of the European Union. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
[3] European Commission. Article 6: Classification Rules for High-Risk AI Systems. EU Artificial Intelligence Act. https://artificialintelligenceact.eu/article/6/
[4] European Commission. (July 10, 2025). The General-Purpose AI Code of Practice. Shaping Europe's digital future. https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai
[5] Qureshi, T., et al. (2026). The Case for ESM3 as a General-Purpose AI Model with Systemic Risk Under the EU AI Act. arXiv preprint arXiv:2605.01611. https://arxiv.org/abs/2605.01611
[6] European Commission. Article 19: Automatically Generated Logs. EU Artificial Intelligence Act. https://artificialintelligenceact.eu/article/19/
[7] Kalokyri, V., et al. (2025). AI Model Passport: Data and System Traceability Framework for Transparent AI in Health. arXiv preprint arXiv:2506.22358. https://arxiv.org/abs/2506.22358
[8] National Information Society Agency (NIA). (January 22, 2026). Enforcement of the AI Framework Act and Release of Subordinate Decrees. https://nia.or.kr/site/nia_kor/ex/bbs/View.do?cbIdx=99835&bcIdx=28987&parentSeq=28987
[9] U.S. Food and Drug Administration. Artificial Intelligence for Drug Development. Center for Drug Evaluation and Research. https://www.fda.gov/about-fda/center-drug-evaluation-and-research-cder/artificial-intelligence-drug-development
[10] Wittmann, B. J., Alexanian, T., et al. (2025). Strengthening nucleic acid biosecurity screening against generative protein design tools. Science. https://doi.org/10.1126/science.adu8578
[11] Feldman, J., et al. (2026). Know Your Scientist: KYC as Biosecurity Infrastructure. arXiv preprint arXiv:2602.06172. https://arxiv.org/abs/2602.06172
[12] Xu, T., et al. (2026). MolSafeEval: A Benchmark for Uncovering Safety Risks in AI-Generated Molecules. arXiv preprint arXiv:2607.00464. https://arxiv.org/abs/2607.00464
