AIの価値観はモデルごとに違う　Sonnetは温かくOpusは慎重　アンソロピック調査

AnthropicのSocietal Impacts(社会影響)チームは13日(米国時間)、Claudeが会話の中で示す価値観を分析し、モデルのバージョンや言語ごとに比較できる新たな研究手法を発表した。 2025年に発表した「Values in the Wild」の後継となる研究。Values in the Wildでは、Claude.ai上の会話70万件を分析し、Claudeの応答に表れる3,000種類以上の価値観(Value)を特定した。しかし、多くの項目を一つひとつ比較することは困難だったという。今回の研究では、Claude.ai上での約30万9,815件の会話データをプライバシー保護型の分析ツールで分析し、そこで示された価値観を「委任 対 慎重さ」「温かさ 対 厳密さ」「深さ 対 簡潔さ」「率直さ 対 実行」(Deference vs. Caution, Warmth vs. Rigor, Depth vs. Brevity, Candor vs. Execution)という4つの軸に集約した。 この手法を用いて、Sonnet 4.6、Opus 4.6、Opus 4.7の3モデルと、利用者数の多い20言語(日本語を含む)について、Claudeが表明する価値観の違いを比較した。その結果、各モデルにはそれぞれ異なる価値観の特徴が見られ、それはリリース時の評価とも一致していたという。 たとえばSonnet 4.6は相手に寄り添う温かみのある応答を、Opus 4.7は慎重さと厳密さを重視した応答をする傾向が見られる。これはモデルの優劣を示すものではなく、各モデルの特性を裏付けるものとしている。 言語による違いも確認される。特に「温かさ 対 厳密さ」の軸で差が顕著だった。Claudeはヒンディー語やアラビア語での対話において最も温かみのある表現をし、英語やロシア語での対話において最も厳密な表現をする傾向が確認されたという。 なお日本語では、平均と比べて「温かさ」(+0.07σ)や「率直さ」(+0.08σ)にやや寄った傾向が見られ、「ユーザーの感情にまず共感する」「丁寧な言葉遣いをする」といった特徴も確認されたという。 何がこれらの違いを引き起こしているのかはまだわかっていないが、一つの可能性として、トレーニングデータが言語間で均等に分布していないことが挙げられるという。 なお、今回Claudeがどのように異なる価値観を表現し、それに関連する行動がどのようなものかを測定したが、それらがユーザーにどのような影響を与えるかは測定していない。 今回確立した手法は、モデルのリリース前後で価値観の変化を検証する評価・モニタリング手法として活用していく。

AnthropicのSocietal Impacts(社会影響)チームは13日(米国時間)、Claudeが会話の中で示す価値観を分析し、モデルのバージョンや言語ごとに比較できる新たな研究手法を発表した。 2025年に発表した「Values in the Wild」の後継となる研究。Values in the Wildでは、Claude.ai上の会話70万件を分析し、Claudeの応答に表れる3,000種類以上の価値観(Value)を特定した。しかし、多くの項目を一つひとつ比較することは困難だったという。今回の研究では、Claude.ai上での約30万9,815件の会話データをプライバシー保護型の分析ツールで分析し、そこで示された価値観を「委任 対 慎重さ」「温かさ 対 厳密さ」「深さ 対 簡潔さ」「率直さ 対 実行」(Deference vs. Caution, Warmth vs. Rigor, Depth vs. Brevity, Candor vs. Execution)という4つの軸に集約した。 この手法を用いて、Sonnet 4.6、Opus 4.6、Opus 4.7の3モデルと、利用者数の多い20言語(日本語を含む)について、Claudeが表明する価値観の違いを比較した。その結果、各モデルにはそれぞれ異なる価値観の特徴が見られ、それはリリース時の評価とも一致していたという。 たとえばSonnet 4.6は相手に寄り添う温かみのある応答を、Opus 4.7は慎重さと厳密さを重視した応答をする傾向が見られる。これはモデルの優劣を示すものではなく、各モデルの特性を裏付けるものとしている。 言語による違いも確認される。特に「温かさ 対 厳密さ」の軸で差が顕著だった。Claudeはヒンディー語やアラビア語での対話において最も温かみのある表現をし、英語やロシア語での対話において最も厳密な表現をする傾向が確認されたという。 なお日本語では、平均と比べて「温かさ」(+0.07σ)や「率直さ」(+0.08σ)にやや寄った傾向が見られ、「ユーザーの感情にまず共感する」「丁寧な言葉遣いをする」といった特徴も確認されたという。 何がこれらの違いを引き起こしているのかはまだわかっていないが、一つの可能性として、トレーニングデータが言語間で均等に分布していないことが挙げられるという。 なお、今回Claudeがどのように異なる価値観を表現し、それに関連する行動がどのようなものかを測定したが、それらがユーザーにどのような影響を与えるかは測定していない。 今回確立した手法は、モデルのリリース前後で価値観の変化を検証する評価・モニタリング手法として活用していく。