「ハルシネーションを起こさないAI」ってそのうち完成するかな？
21 レス · dat原文
1：野に咲く名無し@転載禁止 [2ed07401] 2025/06/16 (月) 12:02:06.533 ID:EJrY60uFA主
嘘ばっかつかれて課金やめたわ
2：野に咲く名無し@転載禁止 2025/06/16 (月) 12:10:37.663 ID:6uF8hQ5b0
推論モデルを使う
プロンプトで禁止する
3：野に咲く名無し@転載禁止 2025/06/16 (月) 12:10:47.269 ID:uURWr6T6O
ハルシネーション込みで使いこなせる人用のツールなのでこのままじゃないの
4：野に咲く名無し@転載禁止 2025/06/16 (月) 12:16:53.058 ID:ne59ZZ8bD
まあ誤りの無い学習データを準備することができないし…
5：野に咲く名無し@転載禁止 2025/06/16 (月) 12:25:13.290 ID:H5BoB6V20
人間であるワイも口から出任せ言う事があるからハルシネーションも消えないんじゃないかな
6：野に咲く名無し@転載禁止 2025/06/16 (月) 12:32:42.773 ID:6j4ruHb7g
ハルシネーションを起こさないAIの存在を証明することができるだろうか？
7：野に咲く名無し@転載禁止 2025/06/16 (月) 12:35:08.543 ID:6j4ruHb7g
まあchatgptにしかりスムーズに会話できるAIであって何か正確な答えを考えてる訳じゃないので無理でしょうな😣🤖
8：野に咲く名無し@転載禁止 2025/06/16 (月) 12:41:15.671 ID:o41VkiDdc
今の延長線上にはないんじゃないかな
どこまで行っても大量のデータによる推論でしかないから
9：野に咲く名無し@転載禁止 2025/06/16 (月) 12:46:58.251 ID:3Zr74A96W
それよりも先にハルシネーションをハルシネーションと見抜けない人間が大多数になる時代が来る方が早そう
10：野に咲く名無し@転載禁止 2025/06/16 (月) 13:27:44.398 ID:T79oO3w1A
>>9
某対戦型SNSで
@grok
見てるとね
11：野に咲く名無し@転載禁止 2025/06/16 (月) 13:30:58.839 ID:TtJa77O1O
データのソースを掲示してくれるだけでいいんだけどね
12：野に咲く名無し@転載禁止 2025/06/16 (月) 13:43:51.204 ID:a827NPECg
>>11
現状だとソース聞いても架空の文献作ってくるからなあ
13：野に咲く名無し@転載禁止 2025/06/16 (月) 13:45:20.285 ID:T4uAy3i3y
推論で生成した文章はマークつけさせて分かるようにしてる🥺
14：野に咲く名無し@転載禁止 2025/06/16 (月) 14:45:00.274 ID:1fB4M7q7a
人間にも勘違いとか記憶違いがあるんだしハルシネーション0を目指すとすれば質問に対して答えを出すプロセスを完全に0から見直す必要がありそうだけど
そんな事可能なのかな？可能だとしてそれが既存のプロセスより有利なのかな？って疑問がつきまとうよお🥺
15：野に咲く名無し@転載禁止 2025/06/16 (月) 14:49:50.482 ID:6fACP7q9C
Google検索のAiうんこすぎない？
16：野に咲く名無し@転載禁止 2025/06/16 (月) 15:21:42.834 ID:7KAb0wBcs
そもそも賢いモデルはRLHFハックするし純粋なRLでもモデルによるバイアスで煮詰まるだろうし無理そう
17：野に咲く名無し@転載禁止 2025/06/16 (月) 15:28:38.038 ID:Xj32z3NvJ
最近ウケたハルシネーションは
将棋の渡辺明が女流棋士と結婚した事になった事
でも何も知らないと本当に信じちゃうんだろうなぁ
18：野に咲く名無し@転載禁止 2025/06/16 (月) 15:30:48.259 ID:FVYKN0AaA
>>9
見抜けるだけで人より優位に立てるならその方がいいな
19：野に咲く名無し@転載禁止 2025/06/16 (月) 15:31:59.980 ID:FVYKN0AaA
>>15
設定で非表示にしたいよな
検索ワードに -aiと入れれば消せるがめんどくさいし
20：野に咲く名無し@転載禁止 2025/06/16 (月) 15:49:54.433 ID:TlDr4g1DK
ワイちゃんたちニンゲンも頭に入ってない知識を求められたらそれに近しいと思われる引き出しから情報を取り出して推論するよね🥺
21：野に咲く名無し@転載禁止 2025/06/16 (月) 16:02:40.540 ID:LQou5IIna
自身がないときに自身がないって言えるかよね