野に咲く名無し@転載禁止<>0cbbc51e<>2025/04/22 (火) 17:48:33.379 ID:SSr3kRr0m主<>なんか、早くて2年後には人類より賢いAIが出るって話だけど、<br>人類より賢いAIは人類の脅威になりかねないから、ちゃんとアライメントできるようになるまで開発を止めるべきだみたいな議論って<br>ほんとにできるのかな&#129402;<>人工知能の本読んでる&#129402;
野に咲く名無し@転載禁止<><>2025/04/22 (火) 17:54:25.340 ID:fm5bM9rbF<>賢いの定義がよくわからん<br>計算だけならとっくの昔に追い抜かれているし<>
野に咲く名無し@転載禁止<><>2025/04/22 (火) 17:58:13.140 ID:43Dhh8iE8<>どの程度のどこで使うやつか知らんけどサラッと嘘つくことあるし正確な情報を発信するって意味では賢いか？&#129402;<>
野に咲く名無し@転載禁止<><>2025/04/22 (火) 18:00:12.524 ID:SSr3kRr0m主<> &gt;&gt;2<br>AGIができるって話みたい&#129402;<>
野に咲く名無し@転載禁止<><>2025/04/22 (火) 18:01:46.425 ID:SSr3kRr0m主<> &gt;&gt;3<br>Hallucinationは解決されているっていう楽観的予想だよ&#129402;<br>もちろん異論はたくさんあるけど<>
野に咲く名無し@転載禁止<><>2025/04/22 (火) 18:03:18.704 ID:fm5bM9rbF<>汎用的に人間より賢いとしたら自分で目的を設定し直せるはずだからAIアライメントは意味ないような気もする<br>アライメントが完全に機能しているとしたらそいつはそんなに賢くないのでは…？と考えるのは屁理屈かしら<>
野に咲く名無し@転載禁止<><>2025/04/22 (火) 18:03:18.711 ID:SSr3kRr0m主<>ちなみに、AGIの定義はこれね&#129402;<br>AGI（エイ・ジー・アイ）は、「Artificial General Intelligence」の略で、「人工汎用知能」といいます。<br><br>すごく簡単に言うと、<br><br>今みなさんが使っているAI（スマホのAIとか、決められた質問に答えるAIとか）は、特定の「一つのこと」だけをやるのは得意です。これを「特化型AI」と呼びます。<br><br>それに対してAGIは、<br><br>人間みたいに、どんなことでも自分で考えて学習し、様々な問題を解決できる、つまり「何でもできる賢いAI」<>
野に咲く名無し@転載禁止<><>2025/04/22 (火) 18:04:25.803 ID:jPkEkdNPf<>ん？今なんでもできるって言ったよね<>
野に咲く名無し@転載禁止<><>2025/04/22 (火) 18:11:30.396 ID:UlaiQI4HE<>もし本当にできたらホワイトカラーは大幅削減されそう<>