1 野に咲く名無し@転載禁止 (0cbbc51e) 2025/04/22 (火) 17:48:33.379 ID:SSr3kRr0m主
なんか、早くて2年後には人類より賢いAIが出るって話だけど、
人類より賢いAIは人類の脅威になりかねないから、ちゃんとアライメントできるようになるまで開発を止めるべきだみたいな議論って
ほんとにできるのかな🥺
2 野に咲く名無し@転載禁止 2025/04/22 (火) 17:54:25.340 ID:fm5bM9rbF
賢いの定義がよくわからん
計算だけならとっくの昔に追い抜かれているし
3 野に咲く名無し@転載禁止 2025/04/22 (火) 17:58:13.140 ID:43Dhh8iE8
どの程度のどこで使うやつか知らんけどサラッと嘘つくことあるし正確な情報を発信するって意味では賢いか？🥺
5 野に咲く名無し@転載禁止 2025/04/22 (火) 18:01:46.425 ID:SSr3kRr0m主
>>3
Hallucinationは解決されているっていう楽観的予想だよ🥺
もちろん異論はたくさんあるけど
6 野に咲く名無し@転載禁止 2025/04/22 (火) 18:03:18.704 ID:fm5bM9rbF
汎用的に人間より賢いとしたら自分で目的を設定し直せるはずだからAIアライメントは意味ないような気もする
アライメントが完全に機能しているとしたらそいつはそんなに賢くないのでは…？と考えるのは屁理屈かしら
7 野に咲く名無し@転載禁止 2025/04/22 (火) 18:03:18.711 ID:SSr3kRr0m主
ちなみに、AGIの定義はこれね🥺
AGI（エイ・ジー・アイ）は、「Artificial General Intelligence」の略で、「人工汎用知能」といいます。
すごく簡単に言うと、
今みなさんが使っているAI（スマホのAIとか、決められた質問に答えるAIとか）は、特定の「一つのこと」だけをやるのは得意です。これを「特化型AI」と呼びます。
それに対してAGIは、
人間みたいに、どんなことでも自分で考えて学習し、様々な問題を解決できる、つまり「何でもできる賢いAI」
8 野に咲く名無し@転載禁止 2025/04/22 (火) 18:04:25.803 ID:jPkEkdNPf
ん？今なんでもできるって言ったよね
9 野に咲く名無し@転載禁止 2025/04/22 (火) 18:11:30.396 ID:UlaiQI4HE
もし本当にできたらホワイトカラーは大幅削減されそう