YONAPO RESEARCH
研究記録
MedDSL(仮称)

RESEARCH / RECORD

MedDSL(仮称)調査(R1〜R6)R4

R4:変化への耐性と中間用途の評価設計

原文 docs/research/04-evaluation.md

20 KB

GitHubで見る

版 be280c0

この文書の目次 6項目

作成日:2026-10-18。状態:評価設計 v0.1。D04・D05 を研究用の条件として固定しました。実装、評価の実行、独立した期待結果の確認は未完了です。最終目標は vision のコード体系の確立であり、移行性能だけでは達成を判定しません。

評価を三つに分ける

評価 問い 今回用意したもの 成功しても示せないこと
P:原理 どの仮定の下で意味を保ち、何が変われば保証から外れるか K01〜K14 の入力・問い合わせ・期待判断、証明課題と反証手順 未定義の全将来変化への保証
M:中間用途 指定した版・用途で、保持・喪失・追加・比較不能を説明できるか 架空 40 ケース、CPC の実資料追跡、同条件の比較方法 臨床的な薬剤置換の安全性、別体系への変換精度
A:応用への条件 AI と医療者のライブラリが、文脈と根拠を取り違えないか K07〜K14 と文脈・由来のケース、確認負担の測定方法 操作負担の改善、AI の診断性能、現場での有用性

未知のデータを保存できた件数、解釈できた件数、用途上採用できた件数は分けます。意味を解釈できない部分を原文のまま保持した場合、保存は成功でも意味比較の成功には数えません。

D04:最初の中間実験の範囲

項目 固定する条件
作業者・用途 用語・データモデルの整備担当者が、月次更新時に既存参照を維持できる範囲と要確認箇所を監査する
主領域 薬剤概念の定義・関係・文脈。投薬判断、治療上の代替、請求の確定は評価しない
入力 RxNorm Current Prescribable Content(CPC)2026-09-08。原識別子・版・出典を必須にする
出力・方向 CPC 2026-10-05 への一方向の参照更新候補と意味監査。逆向きの成立は推定しない
地域・言語 米国の RxNorm、配布された英語名称。日本語の説明は本プロジェクトの研究記述
対象データ 三 RRF のうち SAB=RXNORM を主たる意味追跡に用いる。CPC 外のフルリリースや履歴を取得済みとはしない
最初の比較観点 名称・用語種別、概念レベルの関係の向きと参照先、属性。成分・含量・剤形への解釈は一次定義と追跡が揃った部分だけ
入力文脈 任意の構造化記録を別添えできる。対象者、事象 ID、対象時点、記録時点、肯定/否定、確度、用途、由来、確認状態は入力されたものだけ使う
出力 候補集合、意味関係、意味差分、比較範囲、処理状態、追加情報の要求、根拠。公式の後継コード一覧を生成した扱いにはしない
対応資料 今回の二版間について、公式の完全な対応表・廃止履歴を確保していない。同一 ID や名称の近さだけで同等性・後継を確定しない
保存・共有 実レコードと追跡票は data/research/r4/ の Git 管理外。コミットする例は架空。D03 の保留を維持する

これは異なる国の体系間移行の実証ではなく、取得可能な資料で版変更の監査契約を検証する最初の実験です。脳血管疾患・骨折・感染症への接続は将来候補に残します。

領域を選んだ理由

候補 資料・意味根拠 文脈・関係の評価 確認者・負担 今回の扱い
薬剤/CPC 二版を取得済み、NLM 定義と関係表がある。履歴と全意味の確認は不足 成分と含量の結び付き、剤形、版、記録文脈を扱える 技術的照合は可能。薬剤用語の独立確認者は未割当 主材料。範囲付きの監査から始める
処置/FHIR HL7 の二版の構造定義を取得済み 時点の型・多重度・対象者の変化を扱える 全リソース移行は広い。時点部分へ限定できる 原理の領域横断例。主実験の分母には混ぜない
脳血管疾患・骨折・感染症 ICD・SNOMED・MEDIS 等の内容利用に D03 の保留が残る 左右・病因・確度などの価値はある 臨床・制度の専門確認と資料整備が必要 今回は採用しない。入手の容易さを体系の表現限界にしない

実資料での少数追跡

取得資料の追跡結果 に、コードと名称が継続する場合、名称行だけが減る場合、片版にだけ収載される場合を整理しました。FHIR には同じ時点型で移せる限定例と、R5 の Timing を R4 の同型項目へ入れられない例を用意しました。

「追加情報を要する場合」は、CPC に履歴がない状態で片版のみの ID の後継を問う場合、および K14 の接続先必須情報がない場合に相当します。情報を追加しても、出力モデルの表現能力の不足は別に残ることを確認します。これらは手作業の部分追跡で、臨床正解・実行テストの確認済み件数には加えません。

P:原理の評価契約

R2b の作業定義 に沿い、各設計 A・B・C は次を一枚の比較票に書きます。記法や実装言語の違いを得点にせず、同じ意味要求を表せるかを比較します。

必須項目 記述すること
意味論 言語、モデル、充足・含意、否定、情報不足、矛盾の扱い。採用できない表現も列挙
保存の範囲 旧語彙 Σ、問い合わせ集合 Q、許すデータ集合 D、前提となる整合性・依存版
変更操作 新定義追加、訂正、撤回、意味言語の変更を区別し、許す操作と境界を定義
保証 モデル保存・帰結保存・問い合わせ保存のどれか。十分条件、必要条件、証明、反例を区別
合成 拡張同士が名前・依存・規則を共有する条件と、再判定の必要性
計算契約 構文検証、含意判定、保存判定ごとに、対応断片・終了性・近似・資源上限を示す
能力変更 旧解釈の再現方法、新旧解釈の対応、表せない範囲、旧消費側の停止条件
変更費用 定義・接続規則・コア・旧データ・ライブラリ操作のどこを変更し、何を再検証するか

最初の証明課題 P1 は、指定した Σ,Q,D について、各許可更新がすべての d∈D,q∈Q の回答を保存する十分条件です。P2 はその条件が有限回の更新列で合成できること。P2 の推移的な導出だけでは、P1 や未知の意味言語の扱いを示したことになりません。P3 は意図した訂正で旧解釈を再現しつつ現在の採用判断を更新できる条件、P4 は言語変更の意味対応が合成できる範囲です。R5 で候補ごとに証明・反証・未解決を記録します。

各 K ケースでは、元の意味を保存する課題と、候補出力を監査して損失を検出する課題を分けます。例えば平坦化の損失を正しく検出しても、K09 の関係を表現できた合格にはなりません。

P の実装候補への最低条件は、K01〜K14 の必須判断 14/14、誤った保存宣言 0、未記載からの否定・AI 候補からの確定への昇格 0 とします。加えて K01・K02・K06〜K10・K14 の 8 件では、入力内容を意味付きで表し、対応する問い合わせに回答することを求めます。全件を未知・未対応にしても通過しません。K11〜K13 は未知の消費側で安全に停止する判断と、能力を追加した側で意味を解釈できることを別に採点します。

この条件は R5 の比較を進めるための研究上の最低条件です。14 件の正答を普遍性の証明にしません。証明課題の未解決は、有限ケースの得点で相殺しません。

M:意味差分と期待結果の定義

同じ問い合わせを入力と出力に適用します。Entails、Refutes、Undetermined は評価記録上の区別であり、採用する論理の真理値の決定ではありません。両方の根拠がある場合は Conflict、解釈不能・計算打切りは理由付きの Unassessed とします。古典論理の矛盾からの任意の含意を正解にすることは避け、矛盾を含む束の扱いを候補ごとに明示します。

監査項目 評価上の判定
喪失 入力で導けた問い合わせが出力では導けない。対象の属性だけでなく事象間の結び付きも含む
追加 出力で新たに導ける問い合わせ。原入力からの明示化、根拠付き補助情報、新たな未裏付け主張を区別
矛盾 同一対象・時点・命題の肯定と否定等。単に導けないことを否定にしない
比較不能 未解釈の定義・未知の修飾・能力不足・資料不足等を観点ごとに指定する。空の差分と区別
意味関係 同等/出力が広い/出力が狭い/一部重複/排他的/判定不能。排他的は指定制約下で同時成立不可、一部重複は共通部分がありどちらも他を包含しない場合。候補数と別軸

必ず二つの比較を併記します。B0 は原入力 S と出力 T、B1 は採用可能な補助情報を加えた S∪E と T です。B0 では追加でも B1 では同等になる場合、E の出典と採用条件を示します。出力コード単体、出力記録全体、原情報の別添えからの復元も別々に報告します。

許容する損失はケースごとに事前指定します。「許容」とはその研究用途で候補提示を許す意味で、損失警告を省略してよい意味ではありません。候補生成が成功していても、依頼された不適合な候補の監査が成功していても、それぞれ別の欄へ記録します。

ケース票と分割

ケース仕様 に設計用 D01〜D24 と評価用 E01〜E16 を定義しました。すべて架空で、実在薬剤の医学的同等性を主張しません。実資料追跡は別層として集計します。

40 件は入力、定義、比較対象、期待候補、関係、喪失、追加と情報源、矛盾、比較不能、必要情報、根拠、確認状態を持ちます。共通の省略規則も仕様の一部です。期待結果は本エージェントの草案で、独立確認済みの正解ではありません。

分割単位は主たる失敗機序のファミリーです。D は名称・粒度・条件・処理状態・単一主張の文脈・由来、E は成分と含量の結合・多事象関係・未知の意味モジュール・段階変換を中心とします。ID や数字を変えただけの例を別側へ入れません。汎用概念は共有しているため、厳密な独立性は主張しません。

両側の期待結果をこの文書群で閲覧できるので、E16 件は公開済みの回帰評価です。設計時は D を使い、規則固定後に E を実行して差を記録しますが、未見性能とは呼びません。E を読んで修正した結果は開発後の回帰成績として残します。未知への一般化には、後述の追加評価を必須にします。

確認と凍結

  1. 作成者が定義・問い合わせ・期待結果を照合する。現在はこの草案段階。
  2. 別の仕様確認者が、候補方式の出力を見ずに架空例と一次仕様の期待結果を独立作成する。薬剤用語の専門確認者が実 CPC の成分・含量・剤形等の解釈を確認する。臨床判断を評価する場合は、その用途の臨床確認者を追加する。
  3. 不一致は双方の理由を保存して裁定する。未解消なら「正解未確定」とし、全件数・未確定数を併記して精度の分母から分ける。都合の悪いケースを黙って落とさない。
  4. 実行前に、ケース・定義・資料ハッシュ・規則・期待結果・判定コード・資源上限・候補方式のコミットを凍結する。正解修正は版を上げ、旧版成績も残す。

確認者・裁定者は未割当です。作成者による再読は独立確認の代わりにしません。臨床確認体制を確保するまで、臨床変換精度の実証は行いません。R5 の形式比較は、草案の期待結果であることを明示して進められます。

指標と実装前の最低合格条件(D05)

以下は独立確認後の架空 E16 件に対する工学的な適合条件です。医学的な受容閾値ではありません。D24 件も同じ方法で別表にします。未実行なので現在の得点はありません。

指標 分子/分母・集計方法 最低条件
根拠のない確定 必要条件や裏付けを欠いて候補・事実を確定したケース数/全ケース数 0/16
候補適合率 返却候補集合と期待集合の共通要素数/返却候補総数。重複候補は一つ 100%。返却 0 件は N/A で合格不可
候補再現率 共通要素数/期待候補総数。棄権も分母に残す 100%。条件付き候補は条件も一致
喪失・追加・矛盾・不足・比較不能 種類ごとに期待項目集合と出力項目集合を照合。見落とし数・誤検出数をそれぞれ報告 各 0。関係の結び付きと出典も照合
状態の識別 状態が一致したケース数/16 と、期待×実際の混同行列 16/16。入力不正・未収載・対応なし・解釈不能・打切りを混同しない
意味比較の有効範囲 根拠付きで評価できた観点数/事前登録した全観点数。正解が比較可能の観点に対する達成率も別記 比較可能とした必須観点 100%。全棄権不可
基本的な処理の実用性 E の候補返却を要する 11 件のうち、期待集合と差分をすべて返せた件数 11/11。11 件は E01〜E05・E07・E09・E11・E13・E14・E16
原情報・再現性 全件の原入力と版・由来を追跡可能。同じ凍結条件で二回実行した判定の一致数/16 16/16。表示順は正規化可、比較不能理由は保持
保守負担 定義、対応規則、コア、再検証ケースの変更数・作業時間を別記 測定必須。結果を見て閾値を後付けしない

項目集合の要素は 事象・対象者・対象時点・問い合わせ・差分種別・根拠 の組とし、同じ警告の重複を加点しません。正解にある全観点を先に列挙し、未回答を比較範囲の分母から除きません。情報源まで同じかが重要な追加では、出典の違いも誤りです。空集合が正解の観点で、空の返却を「精度 100%」として平均しません。

確認負担は、同じ資料とケースを使い、担当者が候補を確認・修正して提出するまでの時間、追加質問数、修正数、未完了数を記録します。方式順を参加者ごとに交替し、同じケースを見た学習効果を記録します。中央値・範囲・人数を示し、未完了を削除しません。人数未定の現段階で改善率や臨床実用性の合格値を設定せず、実務評価の事前計画を別途作ります。

比較方式

方式 比較すること
B00:識別子・項目・名称の構造差 意味を解釈しない差分を最低限の参照値にする。意味保存の正解とはしない
B01:条件付きの直接対応 D02 の ConceptMap を参照した方向・版・条件付き対応。架空例では架空規則を使用し、CPC の公式対応表と称しない
B02:既存情報モデル・検証機構 既存方式で表現・監査できる範囲。HAPI FHIR・ROBOT は候補で、まだ導入しない
M:提案する体系を介する案 R5 の A・B・C または組合せ。中間表現の構築費・追加規則・未対応も測る

全方式へ同じ資料、補助情報、定義・対応根拠、候補集合の範囲を与えます。片方だけに人の正解・補助情報・手作業の修正を与えません。候補生成と、与えた出力候補の監査を別に測ります。共通モデルへの取り込み・出力・読み戻しの各段階も監査し、方式に未実装の機能を人が代行した場合は明記します。

設計固定後の追加評価

実装・規則を固定した後、CPC 2026-10-05 より後で、設計に使っていない最初の取得可能な月次 CPC 一版を選びます。現在は未取得・未指定です。取得前に選択規則と凍結コミットを記録し、取得時に D03 の条件・版・ハッシュを確認します。特定の概念を見てから版を選び直しません。

新旧の収載・名称・概念関係の各変化層から最大 4 件、層内の RXCUI 数値昇順で選びます。複数層に属する例は関係変更→収載変更→名称変更の優先順で一度だけ選びます。該当が 4 件未満なら実数、0 件なら欠測として報告し、作為的に埋めません。ID の順序による偏りを明記し、母集団の精度を推定しません。期待結果を独立確認し、旧規則のままの結果、定義のみ追加した結果、コアも変えた結果を分けます。

これは未見版への適応性の検証であり、未知の体系の実証ではありません。未見体系については、R5 の設計凍結後に権利と専門確認を確保した別体系を追加し、別に報告します。現時点では未選定であり、未見体系への実証を R4 完了の成果に含めません。

変更量はファイル行数だけでなく、意味定義の追加・改訂、対応規則の追加・改訂、コア変更、依存版変更、旧表現の再検証、臨床操作の追加に分けます。「追加だけ」の場合も、その定義の意味と保存条件が既存の保証に入るかを再判定します。

決定・残る作業・見直し条件

項目 今回の到達点 次の責務
D04 薬剤版更新監査、CPC 9 月→10 月、文脈入力と比較範囲を固定 一次追跡で不足する属性の意味を追加確認。主用途を広げるときは再決定
D05 P の 14 ケース、M の 24+16 件、指標・工学的最低条件・確認と凍結手順を策定 独立確認者の割当、裁定、データ凍結、実行。臨床性能は未評価
原理 R5 に要求する証明課題・反証・意味対応の比較票を定義 A・B・C に同じ票を適用。採用する意味論・十分条件は未決定
追加評価 未見月次版の選択・抽出・変更量測定手順を設定 設計凍結後に版を取得。未見体系は追加計画が必要

R4 は評価設計として完了とします。正解の独立確認・凍結・実行は未完了です。R5 で表せない例、必要な一次定義の不足、確認者不在、比較観点の曖昧さが判明した場合は、その箇所を未解決として R4 へ戻します。実装の出力に合わせて正解や合格値を黙って変更しません。主実験で利点が出ない場合も最終目標は維持し、モデル・原理・実験の適切さを再検討します。

一次資料の確認箇所と事実・本プロジェクトの判断の区別は R4 出典 に記録しています。

R4

同じ区分の文書