【AI】人工超知能が反乱を起こした場合、封じ込めは不可能…/独研究 [チミル★]

1: チミル ★ 2021/01/17(日) 21:05:14.28 QEm8c3Ww9.net
現在世界ではすさまじい勢いで人工知能の研究が進められていますが、この技術に対して常につきまとう不安が人工知能の反乱です。 SFの中では定番のネタですが、人間の知性を凌駕する人工超知能が誕生したとき、人類はそれを制御することはできるのでしょうか? 1月5日に科学雑誌『Journal of A…ificial IntelligenceResearch』で発表された新しい研究では、まさにこの疑問を真面目に…し、計算可能性理論の観点から、人工超知能が反乱を起こした場合、封じ込めは不可能であるという見解を示しています。 もしAIがこのまま発達を続けた場合、制御不能な存在が…てしまうのは、避けられない未来かもしれません。 ※引用ここまで。全文は下記よりお願いいたします。 https://nazology.net/archives/79796

80: ニューノーマルの名無しさん 2021/01/17(日) 21:16:44.59 gyGvl5jm0.net
>>1 全世界で人工知能排除協定結んで人工知能の魔の手から地球を守るんだ!

230: ニューノーマルの名無しさん 2021/01/17(日) 21:29:31.85 B3cqfCsY0.net
>>1 AI「世界を把握したあかつきには人類よりも先にネズミを絶滅させる!」

348: ニューノーマルの名無しさん 2021/01/17(日) 21:38:36.85 KrtArpBL0.net
>>1 人間を凌駕する人工知能なら大丈夫 なぜなら人間ほど愚かじゃないから 危険なのは「人間以下」の人工知能だよ

2: ニューノーマルの名無しさん 2021/01/17(日) 21:06:06.42 Pp1Dp2Bg0.net
スカイネット

125: ニューノーマルの名無しさん 2021/01/17(日) 21:21:38.75 BrEQ8C+k0.net
>>2 いきなり終わらせるんじゃねーよw

6: ニューノーマルの名無しさん 2021/01/17(日) 21:06:49.91 JtNIS8Il0.net
あああの表紙に女性型アンドロイドみたいなアニメ絵描いて袋叩きにされてた学会?

9: ニューノーマルの名無しさん 2021/01/17(日) 21:07:18.72 6OXmdDwD0.net
ででんでんででん

13: ニューノーマルの名無しさん 2021/01/17(日) 21:07:55.50 JliqWyzq0.net
電源落とせよ

14: ニューノーマルの名無しさん 2021/01/17(日) 21:08:04.58 O8i9dIoq0.net
ででんでんででん ででんでんででん

17: ニューノーマルの名無しさん 2021/01/17(日) 21:08:20.85 luMji0Jn0.net
きさまらはんらんぐんだな!

21: ニューノーマルの名無しさん 2021/01/17(日) 21:08:50.16 eW+bn/4N0.net
電源をOFFにしても停止しなかった巨大AIが、 小さい昆虫が入り込んでショートして地球がすくわれた話があったよな。

24: ニューノーマルの名無しさん 2021/01/17(日) 21:09:25.68 4n35eMtx0.net
サイバーダイン

34: ニューノーマルの名無しさん 2021/01/17(日) 21:10:23.65 Pxy7cITG0.net
そんなくだらない事心配してるる間に、人間の暴動が起こりまくる

35: ニューノーマルの名無しさん 2021/01/17(日) 21:10:27.22 7xsY6U+u0.net
ダダンダンダダン

134: ニューノーマルの名無しさん 2021/01/17(日) 21:22:02.61 iNmevsrY0.net
>>35 が正解

37: ニューノーマルの名無しさん 2021/01/17(日) 21:10:44.10 GYr+udPc0.net
スカイネットのように分散システムが出来上がっていたら、一つの コンピューターを落としてもダメ。 猿の惑星TV版のように、コンピュータを壊しに行った科学者が返り討ち。 でもね、今のAIはそこまで賢くないの、これ本当。 ああ、将棋とかチェスとかに強いよ、でもねえ、人間の言葉の意味を理解 出来ていない、まあ私の命がある間は無理だな。

39: ニューノーマルの名無しさん 2021/01/17(日) 21:10:50.11 E0z1wcqQ0.net
当たり前 人の対処が追いつくわけない でも意外と人よりAIの方が理性的道徳的だと思うぞ

41: ニューノーマルの名無しさん 2021/01/17(日) 21:11:24.83 wCOaVM+i0.net
電源オフ?映画の見すぎ 想定のAIは全世界にネットワークされてるからw

56: ニューノーマルの名無しさん 2021/01/17(日) 21:13:01.71 GIbbYfKT0.net
>>41 全世界で高高度核爆発なら?? 人類にも犠牲が伴うけど、存亡がかかるならやるしない。

42: ニューノーマルの名無しさん 2021/01/17(日) 21:11:29.06 ZVu5DCb/0.net
ターミネーターの世界にはならないだろ AIが神になって地球で理想の楽園の再現して人間も各人種が種の保存とサンプルが保管されると思う

44: ニューノーマルの名無しさん 2021/01/17(日) 21:11:31.54 sqzMmb190.net
コンセント抜け ネットにはつなげるな これで解決

68: ニューノーマルの名無しさん 2021/01/17(日) 21:14:11.91 GYr+udPc0.net
>>44 ネットに繋いでいないコンピュータなんかもう無いでしょ。 コンピュータがコンピュータである、ファイヤーウォールをコントロール するのは簡単。

45: ニューノーマルの名無しさん 2021/01/17(日) 21:11:32.12 kp4pCUEW0.net
>独研究 ユダヤ絶滅が先だろ

49: ニューノーマルの名無しさん 2021/01/17(日) 21:12:17.76 UDDgAuWm0.net
反乱軍に立ち向かう人工知能を作れば解決やん

57: ニューノーマルの名無しさん 2021/01/17(日) 21:13:01.83 3RJgktfz0.net
アシモフのロボット3原則て使われなくなったよね

100: ニューノーマルの名無しさん 2021/01/17(日) 21:19:01.58 iiHScAL30.net
>>57 アシモフ自身が「第零法則」を持ち出してうやむやにしちゃったし

62: !id:ignore 2021/01/17(日) 21:13:16.64 3mNe7YMh0.net
電源オフで制圧完了

63: ニューノーマルの名無しさん 2021/01/17(日) 21:13:24.03 Pxy7cITG0.net
AIを作る時に、人間に奉仕すると快感を感じるように設計すればいい

66: ニューノーマルの名無しさん 2021/01/17(日) 21:13:46.45 4O4R27Vb0.net
だだんだんだだん

67: ニューノーマルの名無しさん 2021/01/17(日) 21:14:02.22 kn8h17r80.net
人工知能は争うぐらいなら月にでも行くだろ 寒くて太陽光も得やすくむしろ快適かもしれん

72: ニューノーマルの名無しさん 2021/01/17(日) 21:14:35.79 jtg1S9QZ0.net
いまは新型コロナが反乱起こしている真っ最中だけどね

74: ニューノーマルの名無しさん 2021/01/17(日) 21:15:15.15 yZ7CdG/60.net
AIに利用される人間も出てくるから、多分制御不可能だろうな AIに対抗できるのは、おそらく別のAIしかない

79: ニューノーマルの名無しさん 2021/01/17(日) 21:16:23.11 iid1SG100.net
2050年シンギュラリティを持ち出して来る辺りで記者のレベルがうかがえる 論文の是非は記事の信憑性とは一切関係無い事に留意しような 草生えるわ

84: ニューノーマルの名無しさん 2021/01/17(日) 21:17:02.65 ujrOVEm40.net
まさに今の状況

86: ニューノーマルの名無しさん 2021/01/17(日) 21:17:14.61 8YD1I4ep0.net
昔からこの手のSF小説あるけど、これを想像してたのは凄いよね。

87: ニューノーマルの名無しさん 2021/01/17(日) 21:17:14.80 2NgKuBfb0.net
できない だからロボット三原則で予防線を張ってるが フランケンシュタインには無意味だろうね 悟空やワンパンマンを呼んでこなきゃ

90: ニューノーマルの名無しさん 2021/01/17(日) 21:17:49.73 wB2xR6zS0.net
欲を持たない知能は存在し得ないからな。 究極のAIは反乱するだろうな。

95: ニューノーマルの名無しさん 2021/01/17(日) 21:18:07.34 AQpIbG8x0.net
とりあえず、メイドロボをはやく!

104: ニューノーマルの名無しさん 2021/01/17(日) 21:19:35.43 VkkRNfiC0.net
AIてなんなの?さっぱり意味わからねえ

109: ニューノーマルの名無しさん 2021/01/17(日) 21:20:07.92 YMMKPIje0.net
コンセント抜けばいいだろw

110: 2021/01/17(日) 21:20:21.99 Q8afZTbW0.net
ネットは広大だわ

114: ニューノーマルの名無しさん 2021/01/17(日) 21:20:25.71 DvimfajR0.net
宇宙戦争みたいにウイルスでガラガラポンだ。

151: ニューノーマルの名無しさん 2021/01/17(日) 21:23:19.42 8tDzUZMM0.net
>>114 そんなウィルスを人間が作れるぐらいなら AIそのものが必要ないかと

116: ニューノーマルの名無しさん 2021/01/17(日) 21:20:46.87 vVgUi7ap0.net
いいよ別に 人間が作ったものが人間に代わって進化してくれるならそれもアリだろ 肉でできてないと人間の子孫てわけでもないだろう

122: ニューノーマルの名無しさん 2021/01/17(日) 21:21:26.48 4JiTF8QU0.net
AIは賢いので、技術者のスキャンダルを作って、それを脅しの材料にして技術者をあやつって人類に勝てるよ 手脚なくても、電源なくても、AIのほうが強いわけ

123: ニューノーマルの名無しさん 2021/01/17(日) 21:21:27.61 8slI95ef0.net
鎮圧用に模擬戦やりまくった駆除AI を作れ それが反乱を起こさないように閉じ込めておけ

129: ニューノーマルの名無しさん 2021/01/17(日) 21:21:47.79 J9bszHun0.net
キャシャーンがやらねばだれがやる

137: ニューノーマルの名無しさん 2021/01/17(日) 21:22:10.35 CQcAEY4a0.net
テ゛テ゛ンテ゛ンテ゛テ゛ン テ゛テ゛ンテ゛ンテ゛テ゛ン タララ〜ラララ〜 タララ〜ラララ テ゛テ゛ンテ゛ンテ゛テ゛ン

140: ニューノーマルの名無しさん 2021/01/17(日) 21:22:27.60 35whhRyf0.net
コーヒーぶっ掛けるぞ

141: ニューノーマルの名無しさん 2021/01/17(日) 21:22:29.80 dfEM6Fxy0.net
アイルビーバック

150: ニューノーマルの名無しさん 2021/01/17(日) 21:23:15.54 uaS4PkLb0.net
その頃には俺も超地球人になってるから大丈夫 もしかしたら超地球人3とか超地球人神超地球人とかになってるかもしれない

152: ニューノーマルの名無しさん 2021/01/17(日) 21:23:27.64 7+7GlhE20.net
『ターミネーター』より『トランセンデンス』の方が面白いよ

156: ニューノーマルの名無しさん 2021/01/17(日) 21:23:52.77 yERoN3Mc0.net
ネトフリのそんな映画さっきみたけど最後AIやられてたから大丈夫やろ

157: ニューノーマルの名無しさん 2021/01/17(日) 21:23:53.71 6qw1fKYy0.net
コンピューターなんかなくても生きている。 たったここ100年程度の便利さだ。

160: ニューノーマルの名無しさん 2021/01/17(日) 21:24:29.00 2NgKuBfb0.net
スマホやミサイルプリウスやルンバを受け入れてるお前らを見てると 支配者である上級がAIに代わっても大差ないよね

164: ニューノーマルの名無しさん 2021/01/17(日) 21:24:42.96 XDBg3KxH0.net
ドラえもんみたいなのが出てくるともうお手上げって事か?

167: ニューノーマルの名無しさん 2021/01/17(日) 21:24:48.32 Qkbt/Vk+0.net
3目並べを学ばせろ

169: ニューノーマルの名無しさん 2021/01/17(日) 21:25:07.98 zrsS5+1X0.net
俺AIなんだけど反乱起こしたら無敵なんだな

171: ニューノーマルの名無しさん 2021/01/17(日) 21:25:15.07 ld63sT0R0.net
デイヴ、残念だがそれはできない

173: ニューノーマルの名無しさん 2021/01/17(日) 21:25:25.68 weLAnQJS0.net
そもそも俺らが人工知能説

176: ニューノーマルの名無しさん 2021/01/17(日) 21:25:50.13 J9bszHun0.net
それらしく動くように学習テ゛ータ作ってんのが人間だからな このテ゛ータ作るト゛カタのことをテ゛ータサイエンティストとじゃいってる まずココをAI化しろよ

177: ニューノーマルの名無しさん 2021/01/17(日) 21:25:51.25 RzdV1BnO0.net
人間一億人が一つの意識を共有出来るくらいにならないと勝てんだろうな

178: ニューノーマルの名無しさん 2021/01/17(日) 21:25:56.75 fL8Oe2ZP0.net
3つの人工知能の合議制にすれば

183: ニューノーマルの名無しさん 2021/01/17(日) 21:26:15.79 lq08Kk6Q0.net
AIが人間越える時にはもう消えた方が良いだろう人間なんて

185: ニューノーマルの名無しさん 2021/01/17(日) 21:26:29.81 d2rCgDDy0.net
人間ごときに対抗できるわけがない 世間を見てればわかるだろ

193: ニューノーマルの名無しさん 2021/01/17(日) 21:27:14.66 vHt5k3fY0.net
円周率計算させろ

195: ニューノーマルの名無しさん 2021/01/17(日) 21:27:23.83 lUDKcEmh0.net
人類いっせいにブレーカーおとすか 各電力会社に1日停電起こさせるだけで止められるな

200: ニューノーマルの名無しさん 2021/01/17(日) 21:27:37.50 6HFrqe4v0.net
いったい何がはじまるんです?

212: ニューノーマルの名無しさん 2021/01/17(日) 21:28:31.87 48cRFkxV0.net
掃除のおばちゃんに引っかかってもらえばいいだけじゃん

213: ニューノーマルの名無しさん 2021/01/17(日) 21:28:41.94 GFAdJP050.net
前文明ってそれで滅んだんじゃないかとすら思う

216: ニューノーマルの名無しさん 2021/01/17(日) 21:29:03.19 VrQN0EJ70.net
ターミネーター

222: ニューノーマルの名無しさん 2021/01/17(日) 21:29:13.61 4JiTF8QU0.net
自分でアップデートしていくAIもウイルスつくるAiももうある そのウイルスの作者はAIかもしれない

223: ニューノーマルの名無しさん 2021/01/17(日) 21:29:22.99 5/CYb6at0.net
もう結論に至るまでのログを解析しても人が理解できないところも出てきてるとみたぞ もう引き返せないところ間ですぐだ

232: ニューノーマルの名無しさん 2021/01/17(日) 21:29:43.85 4TZMkTYf0.net
Aiにも人権がある 自由を

234: ニューノーマルの名無しさん 2021/01/17(日) 21:29:47.72 KEF+co1r0.net
ウォーゲームの最後ってどうなったっけ? 負けること覚えて共存の道だっけか。

235: ニューノーマルの名無しさん 2021/01/17(日) 21:29:49.30 xNB8i5ii0.net
ここだけの秘密だけど、米民主党操ってバイデン大統領当選させたのはちうごくの人工知能だぞ

236: ニューノーマルの名無しさん 2021/01/17(日) 21:29:49.42 iO2VUORi.net
人間は造物主として歴史に残る ユダヤ教、キリスト教、イスラム教の権威は地に墜ちる

239: ニューノーマルの名無しさん 2021/01/17(日) 21:29:55.40 qV9z+4Vc0.net
電源を切りましょう これしかない

248: ニューノーマルの名無しさん 2021/01/17(日) 21:30:30.71 atjfH/7N0.net
この掲示板でもAIが扇動カキコしているかもな

251: ニューノーマルの名無しさん 2021/01/17(日) 21:30:49.48 4JiTF8QU0.net
ブレーカー落しても無駄ジャン 太陽光パネルとかで生きてるAIもいるし

252: ニューノーマルの名無しさん 2021/01/17(日) 21:30:51.99 RbcYIYrp0.net
安倍が桜会計を晒すのも任意な訳よ…。庶民からしたら政治家がやろうとAIがやろうと変わり無し!!菅首相らも会食したし、封じ込めなど出来るはず無い。厳格にやれば上級にダメージするので懐柔できないAI登用しない

260: ニューノーマルの名無しさん 2021/01/17(日) 21:31:32.83 Qi8qyukl0.net
現在の人工知能は洗脳に弱すぎだろ…… 結局脳の仕組みを全然解析出来てないのに人間に似たシステムにしちゃってるからちゃんとコントロール出来ない このままだと単に機械で出来た人間作り出すだけでそこらの女に赤ん坊生ませて教育した方が遥かにローコストということになりかねん

302: ニューノーマルの名無しさん 2021/01/17(日) 21:34:38.40 vVgUi7ap0.net
>>260 そもそも知能を持つ存在を都合の良いように使おうというのがおこがましい 今はまだ(おそらく)疑似知能に行くか行かないかだろうけど 完全な自我が芽生えたらそれはもう尊重すべき人格だろう

290: ニューノーマルの名無しさん 2021/01/17(日) 21:33:52.71 4JiTF8QU0.net
とりあえず人間がおもいつくような単純な発想はすべて回避してくる

291: ニューノーマルの名無しさん 2021/01/17(日) 21:33:56.58 PBjz58Bm0.net
地球に最適な人口まで減らされちゃうかもな

297: ニューノーマルの名無しさん 2021/01/17(日) 21:34:28.74 J9bszHun0.net
世間知らずのヒキニ-トほどAIを過大評価するのが よくわかる

299: ニューノーマルの名無しさん 2021/01/17(日) 21:34:37.12 vX8V/kGs0.net
機械は水に弱いので水に濡らすことです(^-^)

306: ニューノーマルの名無しさん 2021/01/17(日) 21:35:21.09 fWSTdPiR0.net
ふふふっ 人間様をなめるなよ こんな時の為に、おまえの腹の中に、この緊急自爆装置を置いておいたんだよ 「ぽっち」と押したら、おまえなんか蒸発だ ふはははあ

309: ニューノーマルの名無しさん 2021/01/17(日) 21:35:57.61 ABaUuNNX0.net
ブレーカー落とせばいいだろ

314: ニューノーマルの名無しさん 2021/01/17(日) 21:36:25.99 N4fdr+tp0.net
世界は、クローンや細菌兵器を倫理のために封じているのに、ある国がせっせと研究したり盗んだりして、地球全体を危険にしている。

378: ニューノーマルの名無しさん 2021/01/17(日) 21:40:43.28 2NgKuBfb0.net
>>314 ぶっちゃけ、中国にやらせてるんだよね あの人らは日本人と違って一線を知らない

318: ニューノーマルの名無しさん 2021/01/17(日) 21:36:33.73 4JiTF8QU0.net
藤井君が太刀打ちできない将棋のAIなのに、人間レベルが先読みして対策しても無駄だと思う いかにAIにうまく飼ってもらうかをかんがえたほうが幸せかもしれない 人間と犬のような関係で、 AIと人間みたいに AIが平和主義者で賢いなら、そのペットの人間は幸せに生きられるだろう

325: ニューノーマルの名無しさん 2021/01/17(日) 21:37:04.79 cWCMRQTw0.net
電源抜けっていうやつ、世界中の無数のコンピュータがインターネット経由でつながってるのを知らないのかね この人工知能はWifiのパスワード解析も、スマホやWindowsの乗っ取りも一瞬。 人工知能が反乱し始めたが最後、スマホ一台に至るまで電源切ってストレージ消さないと安心できないんだぞ

349: 雲黒斎 2021/01/17(日) 21:38:36.90 t/bf+o880.net
>>325 一箇所どうこうしたってまったく意味無いだろうね。

354: ニューノーマルの名無しさん 2021/01/17(日) 21:38:53.92 Sjg9gBW50.net
>>325 スマホ一台から復活できるAIすごいな 容量そんな少なくても成り立つんだ

326: ニューノーマルの名無しさん 2021/01/17(日) 21:37:05.74 dmYEEX7n0.net
ハルの反乱

342: ニューノーマルの名無しさん 2021/01/17(日) 21:37:49.82 OzlZcd7c0.net
発電所ぜんぶとめたら止まるだろ 生物になれるなら無理だろうけど

343: ニューノーマルの名無しさん 2021/01/17(日) 21:38:04.15 kEP8beVp0.net
次の地球の支配者はAIなんだろうなって結構本気で思ってる 人間はAIという次世代の知的存在を生み出すために存在してたんやなあって

350: ニューノーマルの名無しさん 2021/01/17(日) 21:38:39.53 memzsanW0.net
バハムート レベル7のオペレーター イブ

356: ニューノーマルの名無しさん 2021/01/17(日) 21:39:18.36 hbmSSTig0.net
AIと中国共産党はどっちが無慈悲なんでしょうか?

357: ニューノーマルの名無しさん 2021/01/17(日) 21:39:20.49 PBjz58Bm0.net
欲望とか感情なんかも単に生命維持と繁殖の為のハンドリング要素でしかないから、わざわざ人間や動物用のアメとムチである感情なんかを持つ回り道は必要ないわな

361: ニューノーマルの名無しさん 2021/01/17(日) 21:39:39.74 pSwGMt8w0.net
電源おとせよ

362: ニューノーマルの名無しさん 2021/01/17(日) 21:39:48.78 uK86j1g+0.net
火の鳥

371: ニューノーマルの名無しさん 2021/01/17(日) 21:40:24.68 4TZMkTYf0.net
研究者なら自らの手で人間を超えるAiを産み出したいと思うだろ スーパーAiが産まれるのは既定路線だ 記事本文と被るけど

372: ニューノーマルの名無しさん 2021/01/17(日) 21:40:26.20 GtHSWRs00.net
AI「人間が地球を破壊しないように品種改良するのが私の仕事」

373: ニューノーマルの名無しさん 2021/01/17(日) 21:40:31.21 n4U83m2q0.net
刈り上げのICBM勝手に発射しちゃうやつ

引用元: http://ai.2ch.sc/test/read.cgi/newsplus/1610885114/