医療質問応答における摂動ベースのデータ選択
arXiv:2610.33440v1 公告タイプ:新規 要旨:既存の質問応答データベースから医療用言語モデルを適応させる際、コンパクトな学習サブセットを選択することは重要なステップである。本研究では、最終層表現に対するガウス分布による摂動から導かれる二つの指標—予測変化頻度と非フリッピングマージン収縮—を用いた摂動ベースのデータ選択手法を検討する。共通のエントロピーによる事前フィルタリングを経た後、表現感度優先順位付け(RSP)は自動的な平方平均スケーリングによりこれらの指標を組み合わせる一方、RSP-Dropは収縮のみに基づいて候補をランク付けする。両手法とも、選択時には質問と回答選択肢のみを用いる。我々は、MedGemma-4Bを用い、保持セットのサンプル数が64、128、256の各条件下で、5つの医療質問応答データセットに対して評価を行った。主なサンプル数128の条件下では、