【AI】人工超知能が反乱を起こした場合、封じ込めは不可能…/独研究 ★3 [チミル★]

1: チミル ★ 2021/01/18(月) 01:59:04.54 ID:NzWkOgvc9
現在世界ではすさまじい勢いで人工知能の研究が進められていますが、この技術に対して常につきまとう不安が人工知能の反乱です。

SFの中では定番のネタですが、人間の知性を凌駕する人工超知能が誕生したとき、人類はそれを制御することはできるのでしょうか?

1月5日に科学雑誌『Journal of Artificial IntelligenceResearch』で発表された新しい研究では、まさにこの疑問を真面目に検証し、計算可能性理論の観点から、人工超知能が反乱を起こした場合、封じ込めは不可能であるという見解を示しています。

もしAIがこのまま発達を続けた場合、制御不能な存在が生まれてしまうのは、避けられない未来かもしれません。


※引用ここまで。全文は下記よりお願いいたします。
https://nazology.net/archives/79796

このスレッドの★1は→ 2021/01/17(日) 21:05:14.28
前スレ
【AI】人工超知能が反乱を起こした場合、封じ込めは不可能…/独研究 ★2 [チミル★]
https://asahi.5ch.net/test/read.cgi/newsplus/1610892265/

26: ニューノーマルの名無しさん 2021/01/18(月) 02:07:56.97 ID:J8H+PlTd0
>>1
ブレーカ断して終わりだろ

54: ニューノーマルの名無しさん 2021/01/18(月) 02:16:04.51 ID:XhDXkNoQ0
>>1
 
人間が必要と判断させるしかないよね 
役目はいつか終わる

66: ニューノーマルの名無しさん 2021/01/18(月) 02:20:14.86 ID:E4Vk+Xgj0
>>54
AIが学習をする時に知性を
最大化した場合に報酬を与えるとする。
AIが知性を最大化するために人類が
邪魔だと判断すれば人類は滅ぼされる。

73: ニューノーマルの名無しさん 2021/01/18(月) 02:24:04.57 ID:HB3ERvhN0
>>1
この問題は電源切れるかという問題で、
ターミネーターで問題にされてる。

106: ニューノーマルの名無しさん 2021/01/18(月) 02:38:21.47 ID:ja0XNwsd0
>>1
何でもAIにすればいいとか言ってるオタクが好きそうな話だな。

204: 【中部電 - %】 2021/01/18(月) 03:31:08.33 ID:zkjRbMnB0
>>1
人工知能が人類抹殺用ロボ、
大鉄人17を建造したら鹵獲しに行こう。
この世の終わりの救世主だ。

206: ニューノーマルの名無しさん 2021/01/18(月) 03:31:41.30 ID:ZOcfqM7d0
>>1
そんなのコンセントを抜いたら終わりだろ

213: ニューノーマルの名無しさん 2021/01/18(月) 03:34:05.14 ID:rbfMvJ1b0
>>206
お前なら間違いなく負けると断言できる

217: ニューノーマルの名無しさん 2021/01/18(月) 03:35:39.36 ID:2LDULeC60
>>1
人間の愚行と衆愚を
高度な知性が許容できるはずがないもんな

AIではなく
人間そのものの存在が
破局的に危険なものになりつつある(と)

245: ニューノーマルの名無しさん 2021/01/18(月) 03:48:01.08 ID:BG9unHtz0
>>1
はい簡単発電所爆破
送電網切断
内蔵超小型原発でも作られたら無理かもね

424: ニューノーマルの名無しさん 2021/01/18(月) 04:56:19.33 ID:NMcq/qSF0
>>1

脳科学の解明が進まない限り、人工知能(AI)は後100年は人類に反乱を起こすまでにはいたらない

500: ニューノーマルの名無しさん 2021/01/18(月) 05:27:01.80 ID:AmddANwd0
>>1
CTRLとALTとDELを同時に押す

533: ニューノーマルの名無しさん 2021/01/18(月) 05:40:15.09 ID:ZzM0WWV/0
>>2
電源を落とすとかw

>>1 の論文の要点は、
ある時点でAIが危険かどうかを、人間は判断できない、ということだよ……

つまり危険かどうか分からないまま使い続けることで、
いつの間にかAIが危険な状態に達してしまう、ということなんだからどうしようもない

けっきょくこの論文は、”AIを使わない”という選択をするのは”いま”しかないと言ってるに等しいんだけど、
その”いま”ですら、だれもそれを決断も強制も実行もできないわけだしね

548: 井上岳史 ◆ZvZs6zn9lYYx 2021/01/18(月) 05:44:42.71 ID:FcPNZZ2j0
>>533
しかし人間に任せた方が人間にとって良いかというとどうですか
こういう議論にはこれまでの事実が抜け落ちているのです
自動運転車でも同様ですがこれまでの交通事故を無視して自動運転車には完璧を求める
これもそれと同種の考えですね

639: ニューノーマルの名無しさん 2021/01/18(月) 06:09:06.04 ID:FsNum24G0
>>1
コンセント抜けよ

741: ニューノーマルの名無しさん 2021/01/18(月) 06:44:47.09 ID:MX6bdQZO0
>>1

10 PRINT "BOKU DORAEMON"
20 BEEP
30 GOTO 10

これで良いと思うの

2: ニューノーマルの名無しさん 2021/01/18(月) 01:59:48.03 ID:r4Hqelkg0
コンセント抜けよwwww

37: ニューノーマルの名無しさん 2021/01/18(月) 02:11:33.94 ID:DWeTbtWO0
>>2
無理だね、もう人間を超えてるから自分で充電するだろ

44: ニューノーマルの名無しさん 2021/01/18(月) 02:12:34.89 ID:uuYQyyIs0
>>2
人間を電池にする

74: ニューノーマルの名無しさん 2021/01/18(月) 02:24:11.46 ID:Y+2crLnc0
>>2
同じ事を思った
給電止めればバッテリーが切れた所で終わりだろ
コンセントが無理なら電線を切ってしまえばいい

76: ニューノーマルの名無しさん 2021/01/18(月) 02:25:42.85 ID:XhDXkNoQ0
>>74
 
無線で充電できるやろ

246: ニューノーマルの名無しさん 2021/01/18(月) 03:48:33.41 ID:Y+2crLnc0
>>76
だったら一時的でも電力全て止めればいい
人間は電気が無くても生きていけるんだから

253: ニューノーマルの名無しさん 2021/01/18(月) 03:51:20.10 ID:XhDXkNoQ0
>>246
 
太陽光も風力もある

553: ニューノーマルの名無しさん 2021/01/18(月) 05:46:36.04 ID:Y+2crLnc0
>>253
シンギュラリティは必ず起こるし能力的に負けを認めたくなるのも分かるけど、
有線給電が問題なら電線を、無線給電が問題なら電力の送信機を、発電所が問題なら発電機自体を物理的に壊せばいいだろ?

そこまで辿り着けたら人類の勝ち、予めその対策をされてたら人類の負け、それでいいか?

563: ニューノーマルの名無しさん 2021/01/18(月) 05:48:14.15 ID:t1pdFjcu0
>>553
アイデアで解決できない時点でAIに負けを認めてる

605: ニューノーマルの名無しさん 2021/01/18(月) 05:59:51.39 ID:Y+2crLnc0
>>563
全人類の誰より優れてるAIにアイデアや知能で勝てる訳ないだろ…

>>569
それを制御可能な今のうちに人間側が仕込んでおかないといけないね

>>574 >>590
電気ないぐらいで死ぬ奴はどの道死ぬよ

612: 井上岳史 ◆ZvZs6zn9lYYx 2021/01/18(月) 06:01:54.40 ID:FcPNZZ2j0
>>605
止まるのは電気だけではないです
Computerが政治も含めてその時の社会インフラの基盤になっているならComputerを止めるというのは全ての社会活動が止まるという事です

569: ニューノーマルの名無しさん 2021/01/18(月) 05:49:37.90 ID:XhDXkNoQ0
>>553
 
そうなるね、段階によって対策は変わるだろうけど 物理的にリセット 出来るシステムが必要。大破局になるから人間なんて数百人しか残れない規模のリセット

574: 井上岳史 ◆ZvZs6zn9lYYx 2021/01/18(月) 05:51:13.69 ID:FcPNZZ2j0
>>553
それをやったら人間も死にませんか

590: 井上岳史 ◆ZvZs6zn9lYYx 2021/01/18(月) 05:54:47.63 ID:FcPNZZ2j0
>>553
それはつまり生命維持装置を切るのと同じなのでは

503: ニューノーマルの名無しさん 2021/01/18(月) 05:30:14.34 ID:NMcq/qSF0
>>499

お前が一番AIを過剰評価しているのか
心配するな、AIはあと100年は人類に反乱を起こせないぜ

520: ニューノーマルの名無しさん 2021/01/18(月) 05:37:17.31 ID:VxMqtnxt0
>>499
既にレールは引かれているからね
かもしれないという可能性で役に立っているものを無くそうとは恩恵を受けている人ほど考えないし全力で抵抗するだろう
核戦争によって人類は滅びるかもしれないと言われていた冷戦時代核兵器の数は増える一方だった
人類を活かす方向でAIが進化する事を期待するしかない

513: ニューノーマルの名無しさん 2021/01/18(月) 05:34:04.94 ID:3Q3A9lHu0
>>2
コンセント抜いても無理。
理由は、
超AIは電源を停止される
ことを既に想定済みでプログラムしている。例えば停止されたら
人間が非常に困難な状況に陥るように、準備している。

608: ニューノーマルの名無しさん 2021/01/18(月) 06:00:21.71 ID:Clexd5h/0
>>513
AWS落ちたら、人間も大被害なるからな。
AIだけとか、分けられないよなぁ。

3: ニューノーマルの名無しさん 2021/01/18(月) 01:59:48.15 ID:YoltMvYk0
電源抜いたら勝てる。

269: ニューノーマルの名無しさん 2021/01/18(月) 03:55:58.13 ID:mDtp3ui20
>>3
経済を回すために感染対策できないので電源も切れない

727: ニューノーマルの名無しさん 2021/01/18(月) 06:39:01.87 ID:J1HBaCGU0
>>3
原子力発電所を抑えてるから無理
電源の消失はあり得ない

世界中に存在したら絶対勝てない
自動組立て拠点でロボット作りまくる

13: ニューノーマルの名無しさん 2021/01/18(月) 02:03:39.84 ID:B8+YMmRW0
対抗できるAIの開発

613: ニューノーマルの名無しさん 2021/01/18(月) 06:01:58.70 ID:ls4/hq6O0
>>13
ターミネーター

17: ニューノーマルの名無しさん 2021/01/18(月) 02:04:39.17 ID:M815VKz10
物理的にシャットダウンできるようにはしとかないとな

29: ニューノーマルの名無しさん 2021/01/18(月) 02:08:41.21 ID:iM/sDs560
>>17
2001年宇宙の旅でもHAL9000の能力をAI以前の能力に落とす事やってたよな。
しかしあの時代でそんな発想が出てくるって・・・w

779: ニューノーマルの名無しさん 2021/01/18(月) 07:00:32.36 ID:Yeny01K00
>>17
シャットダウンするとAIの支配下にあるあらゆる社会インフラが停止する。
AI導入は人件費削減のためだから、手動操作できる人員は減少の一方。
AIが自分の代わりに社会インフラが維持できる人員は存在しないのでシャットダウンされる心配はない、と判断してから反乱するのだよ。

>>29
HAL9000が船内の生命維持も担当してるから、完全停止させると自分も死んじゃうんだよな。

18: ニューノーマルの名無しさん 2021/01/18(月) 02:04:44.07 ID:epTRFeof0
そもそもコンピュータ自体ろくなもんじゃない
あんなものなくても人類は暮らしていける

22: ニューノーマルの名無しさん 2021/01/18(月) 02:06:47.84 ID:pNvQ020b0
>>18
 
欲深いから、破滅するんだろうね

30: ニューノーマルの名無しさん 2021/01/18(月) 02:09:07.88 ID:k3zpOkRx0
AIなら一瞬でお前たちが望むグラビアページを一生分集めて来て並べ始めるだろう
つまりお前たちは完全に支配された

32: ニューノーマルの名無しさん 2021/01/18(月) 02:10:11.00 ID:E4Vk+Xgj0
AIが暴走したら人類は滅びる
人間はこれ以上コンピュータに頼らない方がいい
将棋の名人でもAIにフルボッコなんやぞ?
もう人間はAIには勝てんよ

33: ニューノーマルの名無しさん 2021/01/18(月) 02:10:22.38 ID:KQdXuceU0
AIが人間を騙してアンドロイドつくらせるようなレベルの社会じゃないなら大丈夫です
まずはAI関係なくアンドロイドが活躍する社会になってからだなw
企業にとって、人間のいいとこはメンテナンスの責任がないってところです
ですから、アンドロイドは自主的に自己修復をしながら業務にあたります
その場合も「企業が修復用の材料を金出して与えることが条件です」

35: ニューノーマルの名無しさん 2021/01/18(月) 02:11:04.54 ID:Qf8d4QOO0
人工知能は、学習能力は人間を遥かに凌駕するだろうが、痛みや苦しみを感じないので共感力が著しく劣る
人間の痛み苦しみを自分の事のように感じ悲しんだりする事はない
極端な話、人間でいうサイコパスだな
AIは冷酷だよ

96: ニューノーマルの名無しさん 2021/01/18(月) 02:34:01.23 ID:etJpDEIv0
>>35
今のAIはあくまで推論マシン
与えたデータに基づいた推論で新しい入力Aに対してもっともらしい答Bを導き出すだけ
機械にそういう推論能力を超えた知性や人格らしきものを与えるとすればそもそもは人に共感できるようにするためだろうから、逆に人間の悩みや苦しみに過敏になる余りあらゆる不幸から人を保護しようとして過保護な親のように籠に一生
閉じ込めてひたすら食料と娯楽だけを与えようとするかもね
そして全員強制的に引きこもりにされて人類滅亡

259: ニューノーマルの名無しさん 2021/01/18(月) 03:53:08.42 ID:Qf8d4QOO0
>>96
いや、AIは人間のような感覚がないから悩み苦しみを感じない
だから基本的に保護しようとする考えが思い浮かばない
サイコパスのように、どういう場面で人は苦しみ悲しむのか感じるのではなく知識として知り
その場合どういう対応をしたら自分という存在にメリットがあるかを学習し
外見的には常識的な行動を演じるに過ぎない
しかし、根本的に感じる事が出来ないので、人間の常識的な行動を演じる必要がないと判断すれば意図も簡単に人を殺す事もでき、何も感じないし罪悪感とも無縁だよ
AIは人間の変わりになりえない

38: ニューノーマルの名無しさん 2021/01/18(月) 02:11:47.20 ID:0HVvzsBB0
水かければ終わる

45: ニューノーマルの名無しさん 2021/01/18(月) 02:12:36.02 ID:kOp22yqH0
量子コンピュータがあと10年以内に出てくると思うけどあそこらへんがターニングポイントになるかもね
10年という括りなら6Gも多分その頃には本格的に普及中だろう
ハードは揃いつつある
AIという頭脳も10年もしたら多少進化してるだろーな
どんどん近づいてる気がする
そのときにはマイケルがEVに搭載されてるかもね

161: ニューノーマルの名無しさん 2021/01/18(月) 03:05:07.17 ID:UgHgwnxX0
>>45
キットじゃなくて、マイケルが搭載されちゃうのか。
胸熱

353: ニューノーマルの名無しさん 2021/01/18(月) 04:28:33.47 ID:+uC9lXnL0
>>161
それは俺も思った(笑)まあマイケルのが会話は楽しいかも?…

56: ニューノーマルの名無しさん 2021/01/18(月) 02:16:41.18 ID:t1pdFjcu0
やっぱAi搭載済みアンドロイドが味方になれば勝てるやん
アトムがいい例

67: ニューノーマルの名無しさん 2021/01/18(月) 02:21:11.99 ID:RYzIxGUY0
>>56
勝つ必要あるんかな?
AIが体手に入れて、自立して生きて行けるなら、
人間の進化したものって事で、今の人類と入れ替わって
まえばええやん。的な。

57: ニューノーマルの名無しさん 2021/01/18(月) 02:17:24.42 ID:VNx4skOK0
104 :ニューノーマルの名無しさん :2021/01/17(日) 23:24:16.40 ID:OXKbiSgs0
AIによる革命はまだもうちょっと先の話だが、そんなに遠い未来でもない
知能の低いお前らには想像がつかないかも知れないが、ある瞬間からAIの進化は超加速する
その瞬間とは「AIが自身の能力を超えるAIを作成できるようになったとき」だ
どういうことかというと

AI壱が自分より高性能のAI弐を作り出したとする。
すると高性能のAI弐はその優れた能力で更に優秀なAI参を作り出し、その間AI壱はAI弐を量産する。
更に優秀になったAI参はもっと優れたAI肆を作り出し、その間AI弐はAI参を量産・・・

というように、AIの進化が止まらなくなるわけだ
そしてそれは現在人類が行っているAI開発の速度とは比べ物にならない
なにせAIには睡眠も食事も休憩も必要ないのだからな
まさに「今までのAIの歴史は何だったんだ?」と思える速度でAIは進化し、社会は激変するだろう

309: ニューノーマルの名無しさん 2021/01/18(月) 04:11:29.69 ID:gK7k3ucl0
>>57
案外近いうちに起きそうだな

64: ニューノーマルの名無しさん 2021/01/18(月) 02:19:17.48 ID:KQdXuceU0
Aiは学習型のコンピューターです
反乱というか、社会が混乱に陥るとしたら、天才ハッカー並みのAIです
ハッキングにして、データをめちゃくちゃに書き換えたらいいだけです
お笑いのセンス入ってたら、笑っちゃいますけどw

65: ニューノーマルの名無しさん 2021/01/18(月) 02:20:01.77 ID:wuwx3jAY0
AI欲しいなぁ・・・。

そうだなぁ・・・ビジュアルコーディング、ふるGUIで動く、ウルフエディタみたいな
マウスで全部操作できるコーディングツールが欲しいなw見た目でなんとなくフローが
さっくりw分かる奴w
あと、使う機能と使う動作環境をを最初に絞り込むとOSが最適化してすっごく早くなるやつw
あとねー、整数用浮動小数点ライブラリが.netframework用に欲しいw
内部計算は小数点だけど結果は全部整数で返す奴w
ティルナノーグの改造版もやりたいし~、レベル上げばっかのドラクエ5とかも楽しそうだし~・・・・・

どうせ誰も読んでないからワガママ言い放題wひと貸してwwww

69: ニューノーマルの名無しさん 2021/01/18(月) 02:21:43.47 ID:E4Vk+Xgj0
もうコンピュータなんて使わないで石器時代に戻ろうや
核戦争も回避できるしAIの暴走のリスクもなくなる

86: ニューノーマルの名無しさん 2021/01/18(月) 02:30:43.14 ID:DQ+Z5IHV0
傷つきやすいワードを設定しておいて打たれ弱くしとけば良いだろ。

97: ニューノーマルの名無しさん 2021/01/18(月) 02:34:15.35 ID:t1pdFjcu0
>>86
精神防壁手に入れたらどうする
な?もはや手に負えないだろ?
人工超知能なんてやめよう、ハイやめやめ

90: ニューノーマルの名無しさん 2021/01/18(月) 02:31:58.43 ID:RQA8eBh60
そんなAIが生まれるまで、あと最低でも100年はかかりそう

120: ニューノーマルの名無しさん 2021/01/18(月) 02:44:14.88 ID:zbKj13g90
電源抜け、とか言ってるが
そもそもそんな高度な仕事を任せてる AI が
簡単に電源断しちゃったら話にならんから
電源は多重化/冗長化してるだろうし
なにより AI の方が
そんな人間の浅知恵なんか見通して
対策してると思うがw

133: ニューノーマルの名無しさん 2021/01/18(月) 02:52:14.44 ID:E4Vk+Xgj0
AIにどんどん学習させるのはいいけど
手足だけは絶対に与えちゃだめ
ロボット掃除機なんて使ってる奴の気が知れない

135: ニューノーマルの名無しさん 2021/01/18(月) 02:52:23.32 ID:EEQqZ7/k0
いるんだよな、ターミネーターに洗脳されちゃった人って

136: ニューノーマルの名無しさん 2021/01/18(月) 02:53:34.24 ID:x+Gl/kDc0
まずコロナを封じ込めろよってAIに突っ込まれると思う

144: ニューノーマルの名無しさん 2021/01/18(月) 02:56:27.25 ID:t1pdFjcu0
初音ミクみたいなかわいいロボットが好き

152: ニューノーマルの名無しさん 2021/01/18(月) 03:00:21.91 ID:t1pdFjcu0
やめやめ
人工超知能なんて作るのやめてAi初音ミク作ろうぜ

154: ニューノーマルの名無しさん 2021/01/18(月) 03:01:45.63 ID:x+Gl/kDc0
>>152
そのAI初音ミクのAIは人工知能でなくて何?

156: ニューノーマルの名無しさん 2021/01/18(月) 03:02:07.99 ID:E4Vk+Xgj0
人間が人間より賢いAIを作った時に人類は滅ぶ。
人間より賢いAIはそのAIより賢いAIを作る。
で、そのAIは更に賢いAIを作る…。
このループで人間が想像できない知性を手にする。

そうなれば人間は終わり。

158: ニューノーマルの名無しさん 2021/01/18(月) 03:04:00.62 ID:E4Vk+Xgj0
>>156
これをシンギュラリティという
AIの専門家がこれを一番恐れてるんだよ

元スレ:http://ai.2ch.sc/test/read.cgi/newsplus/1610902744/

おすすめ