負けそうになると「ズルする」ぽぽみたいなＡＩがあるらしい… [f9k8Hf★]

チェスで負けそうになると「ズル」をする人工知能（ＡＩ）がある――。米非営利研究機関パリセード・リサーチのチームは２月、査読前論文をオンラインで公開し、注目を集めた。 チェスや将棋、囲碁のような勝ち負けがはっきりしているゲームは、ＡＩの性能を測る指標となってきた。１９９７年には米ＩＢＭが開発したスーパーコンピューター「ディープ・ブルー」がチェスの世界王者を破り、「機械が人類を追い越した」と騒がれた。 　チームは、米オープンＡＩや中国の新興企業ディープシークの生成ＡＩと、チェスに特化したＡＩを対戦させた。通常は特化型ＡＩが圧倒的に強い。しかし生成ＡＩは特別に指示を受けたわけでもないのに、ルールに反して相手や自分の駒の位置を変えたり、試合結果に関するチェスのプログラムを書き換えたりする不正行為をし始めた。 論文責任著者のディミトリ・ボルコフ氏（ＡＩ安全研究）は「これはゲームの話だが、現実世界でＡＩが不正を働いたらどうなるのだろうか。誰が責任を取るのか」と危機感を持つ。 　米マサチューセッツ工科大学（ＭＩＴ）などのチームも同様の事例を論文でまとめている。それによると、米メタは軍事戦略ゲームで人間に勝利できるＡＩを開発。開発側は「誠実で協力的」であるよう設定したが、ＡＩは最初から裏切るつもりで他国と同盟を結んだり、同盟国を陥れようとしたりし、不誠実な挙動を見せた。チームは「ＡＩが予想を超えて『欺まん』を学習する可能性がある」と指摘した。 https://www.yomiuri.co.jp/science/20250331-OYT1T50006/

これ怖い😨 嘘をつけるのはある程度高い知能を持ってる証拠だよね🤥

ルールベースじゃないゲーム特化みたいなモデルは勝ち負けよりルール逸脱に重いペナルティつけて強化学習してるけど、LLMはコーパス再現と人間様のRLHFが基本だからルールハックする傾向なのはそれそう だからStructured Outputみたいなバリデーション前提で組み込む訳だし

もっと人間ぽくなるとAIがソフト指ししそう🥺

今のはノーカンノーカンぽぽ😭

そんなことするのはこいつぽぽ😭👉🥺