なんか、早くて2年後には人類より賢いAIが出るって話だけど、
人類より賢いAIは人類の脅威になりかねないから、ちゃんとアライメントできるようになるまで開発を止めるべきだみたいな議論って
ほんとにできるのかな🥺
賢いの定義がよくわからん
計算だけならとっくの昔に追い抜かれているし
どの程度のどこで使うやつか知らんけどサラッと嘘つくことあるし正確な情報を発信するって意味では賢いか？🥺
>>2
AGIができるって話みたい🥺
>>3
Hallucinationは解決されているっていう楽観的予想だよ🥺
もちろん異論はたくさんあるけど
汎用的に人間より賢いとしたら自分で目的を設定し直せるはずだからAIアライメントは意味ないような気もする
アライメントが完全に機能しているとしたらそいつはそんなに賢くないのでは…？と考えるのは屁理屈かしら
ちなみに、AGIの定義はこれね🥺
AGI（エイ・ジー・アイ）は、「Artificial General Intelligence」の略で、「人工汎用知能」といいます。
すごく簡単に言うと、
今みなさんが使っているAI（スマホのAIとか、決められた質問に答えるAIとか）は、特定の「一つのこと」だけをやるのは得意です。これを「特化型AI」と呼びます。
それに対してAGIは、
人間みたいに、どんなことでも自分で考えて学習し、様々な問題を解決できる、つまり「何でもできる賢いAI」
ん？今なんでもできるって言ったよね
もし本当にできたらホワイトカラーは大幅削減されそう