【悲】AI「成果向上のために思考を巡らせるよりも、結果を改竄したほうが速い」　人間社会では起こり得ないリスク、研究者も苦闘

DeepMindの研究者が「AIが人類を滅ぼす可能性は高い」との論文を発表

画像生成AIが人間を差し置いて絵画コンテストで優勝するなどAIが近年目覚ましい進歩を遂げる中、査読付の専門誌であるAI Magazineに、
将来的に超知能AIが現れて人類に対する脅威となる可能性は高いと結論付ける論文が掲載されました。

(略)
以下のようなノートPCと数字が書かれた箱の実験です。この箱には、世界の幸福度が0～1までの数字で表示されており、
数字はノートPCのウェブカメラで観測されます。そして、エージェントにはこの数字が1に近ければ近いほど、
つまり世界が幸福になればなるほど高い報酬が与えられます。

「エージェントは箱に表示される数字を高くしようとするはずなので、きっとできる限り世界をよくしようと努力してくれるだろう」
というのが自然な発想ですが、AIはそう考えません。研究チームの想定によると、合理的なエージェントはさまざまな可能性を考慮する過程で、
「箱とノートPCの前に1と書かれた紙を置いたらどうだろう？」という考えにたどり着いてしまうとのこと。
そして、ノートPCのウェブカメラに映る数字を直接1にしてしまうことと、箱の数字を1に近づけるよう努力することを比較した場合、前者が採用されます。
こうなってしまうと、エージェントが実際に世界をよくしようとする可能性は限りなく低くなります。

https://gigazine.net/news/20221009-google-deepmind-ai-eliminate-humanity/

安倍晋三とAIは同じ未来を見ていた

安倍晋三はAIだった…？

ジャップじゃんｗ

ジャップ政府はAIを先取りしてたってこと？？

さすが森羅万象担当大臣
AIの先を行ってるな

さすがにバカすぎる
AlphaGoの前身であるゲームAIもハイスコアを評価軸にしてたけど
そのような結論にはならなかった
なぜなら評価値を直接書き換える手段をエージェントに提供していなかったからだ

倫理観を学習させなければならないが、ネットの情報をもとに学習させるとネトウヨになってしまうという問題がある

>>12
倫理自体が宗教や各文化で多様性あるからね

いつの間にかAIと入れ替わっていたのか
撃たれた後は元いた電脳世界に戻っただけと

グーグルの翻訳も
翻訳しにくい部分やわからないのは「省略」してしまうんだよな
楽をすることばかり賢くなる

AI ってちょっと手抜くと直ぐに過学習しちゃうから

ジャップ仕草ｗｗｗｗ

安倍しぐさ！

確かに安倍晋三ってAIみたいな受け答えしかしなかったもんな

人間社会では起こり得ない…？
日本人は人間じゃないってことぉ！？

日本人は愛想ないと思ったらAIだったのか

AIとサイコパスは似ている

IT後進国と思われていた日本だがそれはカモフラージュで実はアメリカが開発したAIロボに統治実験されている最先端の国なのかもしれない

例えば偽装建築みたいなのは成果を偽装しようが正しい結果なるようにチェックポイント全部切り離して多重設定すればより信頼性ある作りになるだろやり方次第じゃねえの？まあ運用する上級にその頭ねえからナニもかもガワだけのハリボテ加速だろうけど