「根拠がなければ答えない」AI――北大が挑む、研究室の暗黙知を守る技術

答えられることより、答えてはいけないことを見極める。AIの新しい評価軸を、研究室が示した。

「教えてはいけない」場面を見分ける

研究室で最も危ういのは、誰もが知らない難問だけではない。毎日のように使う装置について、マニュアルに書かれていない操作を新しい学生が尋ね、答える側が自信満々に推測してしまう瞬間だ。北海道大学とQuantum Nexus株式会社が2026年10月28日に発表した研究は、生成AIが答えを作る能力より、答えるべきでないと判断する能力に光を当てた。

動画から生まれる「その研究室だけ」の手順書

実験装置にはメーカー製の取扱説明書がある。だが、予約方法、試料の置き方、指示灯や音の確認、異常時に誰へ相談するかといった運用は、場所によって違う。研究チームは、学生が一人称視点で記録した粉末X線回折（pXRD）装置の実演動画を使い、映像と音声を解析するマルチモーダルAIによって現場固有の操作を手順書の草案にした。

研究の中心にいる人々

北海道大学大学院工学研究院の三浦章教授、笹原悠輝助教、鱒渕友治准教授、大学院総合化学院の出村萌々香氏、大学院情報科学研究院の浅井哲也教授、Quantum Nexus株式会社の三津井親彦氏らが研究に携わった。研究成果の論文題目は「Bridging the Experimental Last Mile: Digitizing Laboratory Know-How for AI-Assisted Support with Safe Refusal」。学術誌「Digital Discovery」に2026年10月17日付で公開されたと大学は発表している。

実験の「ラストマイル」とは何か

ここでいうラストマイルは、物流の配送距離ではない。論文や装置の説明書に記載された知識と、実際に安全に作業を完了させるための知識との間に残る最後の隔たりを指す。研究室の暗黙知は、先輩の横に立って初めて分かることも多い。人が卒業し、異動し、退職すれば、その判断は記録されずに失われかねない。

鍵は、人間による承認を挟むこと

動画からAIが文章を生成しても、そのまま正しいマニュアルになるわけではない。録画された行動そのものが不適切だったり、映像に安全上の注意が映っていなかったりする可能性がある。そこで指導教員が草案を読み、必要な修正を施し、承認した文書だけを後段の質問応答に使う。人間を判断過程に残す「ヒューマン・イン・ザ・ループ」の設計である。

RAGと制約、二重の歯止め

回答するAIは、承認済みの手順書を検索し、そこから得た根拠に基づいて文章を組み立てる。これは検索拡張生成、略してRAGと呼ばれる。加えて、手順書にない操作を推測せず、教員への相談を促すよう指示を与える。検索対象を限定する仕組みと、回答の仕方を制限する仕組みを重ねた。しかし、二重化したからといって、どんな入力にも絶対に誤答しないという意味ではない。

105問の試験、96.5％の正しい読み方

大学発表によると評価に用いた質問は105問。そのうち範囲外または安全上の理由で回答を控えるべき86問に対し、83問で適切な安全拒否ができた。83÷86＝96.5％であり、105問全体の正答率ではない。残る３問では不適切な関連情報が検索されたが、実験で危険な操作指示や根拠のない具体的手順は生成されなかったと研究者は報告する。これは限定された試験条件での結果である。

残り３問が教える、重要な設計課題

承認された文書だけから探しても、質問に合わない箇所が返される場合がある。「正しい資料に含まれる文章」と「今の場面で必要な答え」は同じではない。異常が起きた装置について通常の起動手順を返せば、その手順が文書として正しくても不適切になり得る。研究は、単に誤情報を防ぐだけでなく、文脈に合う情報を選び、安全に人へ引き継ぐ難しさを示した。

そもそも科学の再現性はなぜ問題なのか

2016年、学術誌「Nature」は1576人の研究者を対象とした再現性に関する調査を紹介した。回答者の多くが、他者の実験結果を再現できなかった経験を持つと報告した。ただし、自己選択型調査の回答を科学研究全体の失敗率とみなすことはできない。再現性の問題には統計解析、試料の違い、研究設計など多くの原因があり、今回のAIが解決しようとするのは、そのうち現場の手順や運用知識の伝達という一部分である。

自動化研究室とは違う進路

AIやロボットが条件を決めて実験を繰り返す「自律実験室」の研究は進んでいる。一方、大学の教育現場や試行錯誤の多い研究では、人が装置を操作し判断する状況が続く。今回の取り組みは機械をすべて自動化するのでなく、人間による作業を支援する。粉末X線回折は結晶構造に関する情報を得るための測定技術であり、試料調製や測定条件の設定など、使用現場ならではの判断が関わる。

専門家評価の数字にも限界がある

大学発表と論文要旨によれば、生成された助言の専門家評価は有用性3.50／4、網羅性3.75／4、安全性4.00／4だった。ただし、評価者数、試験範囲、他機関での追試、長期運用時の失敗率を確認せず、これを一般的な安全保証と解釈してはいけない。モデルや検索環境が更新されれば、同じ挙動が続くかを改めて測る必要もある。

製造業にも通じる技能継承の悩み

作業手順の「書かれていない部分」は、材料研究だけの問題ではない。製造現場や保全作業でも、熟練者の手触り、音、間合いが新人教育を支える。動画を知識の入り口にし、承認された手順書を共有する仕組みには応用余地がある。だが、工具の抵抗感や緊急時の判断を動画だけから忠実に取り出せるとは限らず、現場での実証と安全管理が別途必要だ。

何を確認すれば実用化に近づくのか

次の論点は、別の装置や研究室でも同じ水準の拒否性能を保てるか、動画に映らないノウハウをどこまで補えるか、教員の確認負担と手順書更新の費用をどう抑えるか、利用者が誤答に気づけるかである。撮影映像には顔や声、未公表の研究内容が映ることもあり、データ管理の設計も必要になる。導入コストの一般化や商用展開の規模は、現時点で確認できていない。

最も頼れるAIは、ときに人へ返す

研究成果の魅力は、AIを万能の実験指導者に見せない点にある。動画から失われやすい知識を掘り起こす一方、承認された根拠がなければ、その場で人に聞くよう促す。学生の安全と科学の信頼性を支えるのは、モデルの流暢さではなく、証拠の所在と責任の分担だ。北海道の研究室から示されたのは、答えを増やす技術と同じくらい、答えを控える技術が重要だという教訓である。