ハルシネーション(事実誤認)より深刻なAIの「わかったふり」を暴く:MITなどが発見したLLMの“ポチョムキン理解”とは [bbWC2E★] (6)

←← 掲示板一覧に戻る ← スレッド一覧に戻る

4 枯れ果てた名無し@転載禁止 2025/07/10 (木) 14:21:37.645 ID:ugTnqIJfJ

とはいえ言語のレイヤーだとn-gramレベルじゃなくてCFGで模倣してるしチート傾向はしゃーない気がする
RLHFが会話用のspecial tokenだとかstructed outputみたいなフォーマットの過学習で収まらずゴマすり報酬関数でぶん回してるのが悪いのはそれはそうなんだけど