嘘ばっかつかれて課金やめたわ
推論モデルを使う
プロンプトで禁止する
ハルシネーション込みで使いこなせる人用のツールなのでこのままじゃないの
まあ誤りの無い学習データを準備することができないし…
人間であるワイも口から出任せ言う事があるからハルシネーションも消えないんじゃないかな
ハルシネーションを起こさないAIの存在を証明することができるだろうか？
まあchatgptにしかりスムーズに会話できるAIであって何か正確な答えを考えてる訳じゃないので無理でしょうな😣🤖
今の延長線上にはないんじゃないかな
どこまで行っても大量のデータによる推論でしかないから
それよりも先にハルシネーションをハルシネーションと見抜けない人間が大多数になる時代が来る方が早そう
>>9
某対戦型SNSで
@grok
見てるとね
データのソースを掲示してくれるだけでいいんだけどね
>>11
現状だとソース聞いても架空の文献作ってくるからなあ
推論で生成した文章はマークつけさせて分かるようにしてる🥺
人間にも勘違いとか記憶違いがあるんだしハルシネーション0を目指すとすれば質問に対して答えを出すプロセスを完全に0から見直す必要がありそうだけど
そんな事可能なのかな？可能だとしてそれが既存のプロセスより有利なのかな？って疑問がつきまとうよお🥺
Google検索のAiうんこすぎない？
そもそも賢いモデルはRLHFハックするし純粋なRLでもモデルによるバイアスで煮詰まるだろうし無理そう
最近ウケたハルシネーションは
将棋の渡辺明が女流棋士と結婚した事になった事
でも何も知らないと本当に信じちゃうんだろうなぁ
>>9
見抜けるだけで人より優位に立てるならその方がいいな
>>15
設定で非表示にしたいよな
検索ワードに -aiと入れれば消せるがめんどくさいし
ワイちゃんたちニンゲンも頭に入ってない知識を求められたらそれに近しいと思われる引き出しから情報を取り出して推論するよね🥺
自身がないときに自身がないって言えるかよね