2ちゃんねるまとめのまとめ

2ちゃんねるまとめのまとめ

2ちゃんねるまとめのまとめ

長年重用してきたAIが突然リスクが多すぎる指示を出してきた場合wwwwww

1:名無しさん@おーぷん:2017/06/03(土)22:12:45 7UC
信じたほうがいいの?



スポンサーリンク




2:名無しさん@おーぷん:2017/06/03(土)22:14:29 XnV
おまえの脳のほうにガタが来とるんやろ
6:名無しさん@おーぷん:2017/06/03(土)22:16:06 7UC
>>2
大勢がそう感じる場合
3:名無しさん@おーぷん:2017/06/03(土)22:15:09 wPl
これはどういう話として解釈すればええんや?
12:名無しさん@おーぷん:2017/06/03(土)22:17:31 7UC
>>3
中身がブラックボックスだがいつも的確な指示をくれる機械
が突然変なことを指示してきた場合みたいな
19:名無しさん@おーぷん:2017/06/03(土)22:18:33 UeC
>>12
理屈が良くわからないものは使わない
理屈が分かっていればエラーが無いかチェックする
36:名無しさん@おーぷん:2017/06/03(土)22:23:48 7UC
>>19
現代でも理屈が分からんのは使わないだともう無理になってきてね?
4:名無しさん@おーぷん:2017/06/03(土)22:15:09 FF7
エヴァだとAIも三つの基準で自己判断してたな(多分)
5:名無しさん@おーぷん:2017/06/03(土)22:15:29 jie
AIを長年重用?
8:名無しさん@おーぷん:2017/06/03(土)22:16:52 UeC
>>5
株か何かじゃないのー?
7:名無しさん@おーぷん:2017/06/03(土)22:16:37 AI2
てかAIに指示されんなよ
9:名無しさん@おーぷん:2017/06/03(土)22:17:22 NXT
AIなら論理で何故そうなったのか、別の一般的に受け入れられうる選択肢をとった場合何処でつまづくのかを説明させることが出来るやろ
13:名無しさん@おーぷん:2017/06/03(土)22:17:35 cCC
>>9
たしかに
16:名無しさん@おーぷん:2017/06/03(土)22:18:21 7UC
>>9
まあそこまでの機能はないとして
15:名無しさん@おーぷん:2017/06/03(土)22:18:10 wPl
まてまて背景をもう少し説明してくれ
現実世界でAIに何かを指示させてる場所があるのか?
17:名無しさん@おーぷん:2017/06/03(土)22:18:25 FF7
SF小説でありそう
AIがウソの判断をするようになってっていう展開
20:名無しさん@おーぷん:2017/06/03(土)22:18:55 cCC
>>17
んで人類が絶滅してどうするの
23:名無しさん@おーぷん:2017/06/03(土)22:19:47 7UC
>>17
嘘の判断というか単に人間にはリスクが高すぎるように見えるだけで
実は本質的には無難かもしくはAIであるが故に何か重大な前提を見落としたか
18:名無しさん@おーぷん:2017/06/03(土)22:18:31 cCC
でかいAIが一つあってそれに世界中が従うって感じ?
25:名無しさん@おーぷん:2017/06/03(土)22:20:38 7UC
>>18
いや別に会社に特定の情報の予測をする機械があってみたいなノリ
を考えている
21:名無しさん@おーぷん:2017/06/03(土)22:19:12 wPl
SF的には常に正しい選択をするAIが人類の滅亡を予言した場合
人類はそれを信じないみたいな流れがあった気がする
24:名無しさん@おーぷん:2017/06/03(土)22:19:50 cCC
>>21
解決策ないのか
28:名無しさん@おーぷん:2017/06/03(土)22:21:33 wPl
>>24
補足
権力者が権力を失わなければ滅ぶ場合
それを信じないでバグ扱いして人類滅亡の危機だったか
22:名無しさん@おーぷん:2017/06/03(土)22:19:29 cCC
俺だったらちょっと筒違うAI何台かに議論させるけどな
26:名無しさん@おーぷん:2017/06/03(土)22:21:05 LJP
現実的に技術が発展してきてるAIは確率統計的な理屈で答えを出してるからその場合は間違いだよ
29:名無しさん@おーぷん:2017/06/03(土)22:21:58 7UC
>>26
人間の認識の方が誤りだったみたいな可能性はないのか?
27:名無しさん@おーぷん:2017/06/03(土)22:21:12 FF7
前テレビでやってたけどAIに「ウソをつけるプログラム」を入れると
本当のことも言うけどウソをついたりもするんだって
だから敵がAIにウソをつくプログラムを組み込んだらっていう設定なら小説書けるな
31:名無しさん@おーぷん:2017/06/03(土)22:22:44 cCC
>>27
AI自体が嘘を組むことをしたほうが良いと判断するかも
33:名無しさん@おーぷん:2017/06/03(土)22:22:59 7UC
>>27
嘘なんてつかなくてもそういう状況にならんか?
51:名無しさん@おーぷん:2017/06/03(土)22:28:07 FF7
>>33
ウソをつけるプログラムが入ってるなら、判断ミス=ウソになるけど
プログラムが無いなら、判断ミス=AIの欠陥になるんやろ
30:名無しさん@おーぷん:2017/06/03(土)22:22:15 jie
AIが万能みたいな風潮がおかしいんだけどなー

SFとかのフィクションの世界でしかそんなのあり得ないんだよなー
32:名無しさん@おーぷん:2017/06/03(土)22:22:52 AI2
>>30
現時点でのディープラーニングはまだまだ手取り足取り学習をお膳立てしてやらないといけないから
38:名無しさん@おーぷん:2017/06/03(土)22:24:20 PkN
AIの思考能力って速いってだけでその内容は人の思考と同じで正しいわけじゃないだろ
41:名無しさん@おーぷん:2017/06/03(土)22:24:50 AI2
>>38
そやな
49:名無しさん@おーぷん:2017/06/03(土)22:27:41 jie
>>38
それ
基本的にAIってのは人間の思考をなぞってるに過ぎない
ただその速度がクソ早いってだけ
故に所詮はただの機械
万能ではあり得ない
55:名無しさん@おーぷん:2017/06/03(土)22:29:14 7UC
>>49
万能ではないけど長年うまくやってた機械がいきなり
特殊な指示を出してきたこれは何らかの根拠がちゃんとあるのか
ミスをしたのかどっちだみたいな
52:名無しさん@おーぷん:2017/06/03(土)22:28:29 cCC
>>49
でも選択肢をどんどんつぶしてるから最善策は見つかるんじゃないかな
予期せぬ事態は無理だけど
60:名無しさん@おーぷん:2017/06/03(土)22:31:48 jie
>>52
何がどう重要なのかまで機械がきちんと学習できるか?という話
王さえ取られなければ他はどうでもいい将棋の盤上と人間社会を同一視出来ようはずがない
39:名無しさん@おーぷん:2017/06/03(土)22:24:23 cCC
AIの言ってることを理解して説明するAIはよ
43:名無しさん@おーぷん:2017/06/03(土)22:25:38 epU
どんな複雑な計算してるとしても大雑把な根拠くらい示せるだろ
45:名無しさん@おーぷん:2017/06/03(土)22:26:31 7UC
>>43
ディープラーニング的な事を積み重ねた場合根拠とか出せるのか?
54:名無しさん@おーぷん:2017/06/03(土)22:28:54 AI2
>>45
明確な根拠は解析に時間がかかるとおもう
例えばディープラーニングでの顔認識でどういう所を特徴として捉えたかは設計者なら比較的簡単に見れる
59:名無しさん@おーぷん:2017/06/03(土)22:31:14 7UC
>>54
多くの型が普及しすぎて設計者が捕まらなくて
判断まで多くの時間がねーよみたいな場合は?
44:名無しさん@おーぷん:2017/06/03(土)22:25:50 cCC
例えば
「会社の契約をすべて止めなさい」みたいなか
47:名無しさん@おーぷん:2017/06/03(土)22:26:48 7UC
>>44
まあそうかもな
48:名無しさん@おーぷん:2017/06/03(土)22:27:28 wPl
こういうのはゲーム的な考えで行くとわかりやすいんじゃね?
例えば囲碁で神の一手で決着が付くか
みたいな
53:名無しさん@おーぷん:2017/06/03(土)22:28:40 epU
突然というからには今までになかった挙動を示した訳で
それだけをとっても待ったをかける根拠になる
56:名無しさん@おーぷん:2017/06/03(土)22:29:51 7UC
>>53
そりゃ待ったをかけるだろうがその後信じるか信じないかはどうやって決めんのってこと
58:名無しさん@おーぷん:2017/06/03(土)22:30:46 LJP
専門の学者の言う”人工知能”と一般人が想像してる”人工知能”にはかなりの差がある。
ドラえもんとかSFみたいにあれこれ考える人工知能はまだ糸口もつかめてない。これは「フレーム問題」でググったらわかる。
一般人の想像する人口知能に近い技術はエキスパートシステムだとおもうけど、
最近急に話題になった人工知能って呼ばれる技術はニューラルネットワークって呼ばれてる計算アルゴリズムの正答率がめっちゃ良くなっただけ
61:名無しさん@おーぷん:2017/06/03(土)22:32:00 wPl
たぶん正解率が高いAIって複数ロジックのAIによる投票制度だと思うんだが
どうだろう?
80:名無しさん@おーぷん:2017/06/03(土)22:40:19 Zqo
>>61
各AIが別々に思考して投票するだけの投票制度と
AI同士が議論する制度と
両方ありうるよね
64:名無しさん@おーぷん:2017/06/03(土)22:33:19 7UC
>>61
まあその辺の中身はどっちでもいいが
人間の感覚とは全く違う答えを出してきた場合どうすんねんってこと
65:名無しさん@おーぷん:2017/06/03(土)22:35:24 wPl
>>64
投票制度を採用した場合
問題に対する成否を複数AIが出し
その理由を提示する形になるから
審議が複数回繰り返されてユーザーも見れる形になると思う

つまり理屈抜きでの答えの提示はあり得ない
68:名無しさん@おーぷん:2017/06/03(土)22:36:17 hN6
>>61
そうだよ
71:名無しさん@おーぷん:2017/06/03(土)22:37:52 wPl
>>68
とすると人間が疑問に思う解答を出したなら
無視できない数のAIが疑問を出しそうなんだよな
70:名無しさん@おーぷん:2017/06/03(土)22:37:48 AI2
>>61
複数なのはいい事だが投票制度はどうかな…
75:名無しさん@おーぷん:2017/06/03(土)22:39:05 wPl
>>70
パーセンテージ表示と同じじゃん
このまま行くと成功の確率は10%だ
っていうのとAI100個のうち賛成が10だけだってのと同じじゃないかと
84:名無しさん@おーぷん:2017/06/03(土)22:41:36 AI2
>>75
例えば命に関わる自動運転とかは最上位に安全の処理分岐があってそこは機械的判断でAI達が無視される場合とかが考えられる
86:名無しさん@おーぷん:2017/06/03(土)22:43:30 wPl
>>84
予測可能範囲で判断して
判断できない場合は緊急停止で問題ない
90:名無しさん@おーぷん:2017/06/03(土)22:45:29 AI2
>>86
自動運転何かに関しては将来もAIの仕事は一部で
最上位は条件分岐になるやろな
95:名無しさん@おーぷん:2017/06/03(土)22:46:41 wPl
>>90
すべての車をAIで管理するなら任せるのもありじゃね?
マニュアルで運転するのが一人でもいたら乱れると思うが
81:名無しさん@おーぷん:2017/06/03(土)22:40:34 jie
>>61
投票って時点で事の軽重が判断出来ないってことなんだよなあ
83:名無しさん@おーぷん:2017/06/03(土)22:41:27 wPl
>>81
何が言いたいのかちょっとわからない
もう少しドラマティックに語ってくれ
92:名無しさん@おーぷん:2017/06/03(土)22:45:59 jie
>>83
ドラマティックとかお断る

多数決なんてのは人間ならば思考による判断の放棄に他ならない
96:名無しさん@おーぷん:2017/06/03(土)22:48:06 wPl
>>92
完全な正解を出させたいならばAIよりも
世界を正確にシミュレートできる機械を作るほうが良い
98:名無しさん@おーぷん:2017/06/03(土)22:49:09 7UC
>>96
世界を正確にシミュレートできる機械って世界そのものじゃね
99:名無しさん@おーぷん:2017/06/03(土)22:49:15 aFt
>>96
その中には、その機械自身が含まれて、無限に演算が云々
101:名無しさん@おーぷん:2017/06/03(土)22:51:04 wPl
>>99
無限の演算を避ける為に思考停止する部分が必要だから
AIに考えさせたいって事だと思うんだよね

時間という制約ありきだと、どこかで思考は止めなきゃいけない
62:名無しさん@おーぷん:2017/06/03(土)22:32:40 6Nh
不完全な人間に近づけてもな
63:名無しさん@おーぷん:2017/06/03(土)22:33:18 AI2
例えば囲碁に関して例のやつは人間以上に囲碁の真理を知ってるが、設計者がそれを見てもその真理はなかなかわからない
67:名無しさん@おーぷん:2017/06/03(土)22:35:45 7UC
>>63
その場合どんな学習させたかはわかっても何を学習したかは
分かる気がしないと思ってな
一応囲碁と言う形で出るならまだわかりやすいと思うが
66:名無しさん@おーぷん:2017/06/03(土)22:35:42 AI2
何で人間が躊躇してしまうような判断をする立場にAIがいるのか?っていう設定の疑問が…
69:名無しさん@おーぷん:2017/06/03(土)22:36:54 7UC
>>66
その辺をAIができるようにならないんなら結局役に立たなくね
77:名無しさん@おーぷん:2017/06/03(土)22:39:29 AI2
>>69
AIがロボットに指示して高精度な商品をつくるとかしたら役にはたつくね?
79:名無しさん@おーぷん:2017/06/03(土)22:40:13 7UC
>>77
まあ役に立たないはいいすぎた
72:名無しさん@おーぷん:2017/06/03(土)22:38:00 LJP
かなり頓珍漢なレスばっかじゃね?
専門書か論文一冊でも読んだことあるか?
78:名無しさん@おーぷん:2017/06/03(土)22:39:50 wPl
>>72
SF基準だから現実のAIの話は無視してる
85:名無しさん@おーぷん:2017/06/03(土)22:43:27 LJP
>>78
SFの話だったのかw
89:名無しさん@おーぷん:2017/06/03(土)22:45:20 7UC
>>85
俺は現実の話しかしていないよ
スレタイが現実にあり得ないならそれの説明してくれれば終わると思うよ
73:名無しさん@おーぷん:2017/06/03(土)22:38:26 bPZ
将棋のAIって一手、一手に点数(数値)つけてるんじゃないの?
97:名無しさん@おーぷん:2017/06/03(土)22:48:51 LBe
日本語勉強しろよ
103:名無しさん@おーぷん:2017/06/03(土)22:52:05 LJP
世界のすべてを演算する人工知能w
メモリ何千兆テラバイトあるんだよw
104:名無しさん@おーぷん:2017/06/03(土)22:52:57 7UC
>>103
世界そのものより大きくなる気がする
105:名無しさん@おーぷん:2017/06/03(土)22:52:57 LJP
世の中こういう低学歴バカばっかりだからシンギュラリティとかいうバカ単語が出てきたんだろうなw
107:名無しさん@おーぷん:2017/06/03(土)22:54:46 7UC
世界がどうやって動いているかよくわからねーのに
世界の全てを正確に演算は無理過ぎるわ
109:名無しさん@おーぷん:2017/06/03(土)22:59:20 LJP
バカが何考えてもムダだからもう寝なさいw
111:名無しさん@おーぷん:2017/06/03(土)23:00:47 wPl
満足できたか?
112:名無しさん@おーぷん:2017/06/03(土)23:01:28 7UC
>>111
まあもっといいスレタイと話の方向性
思いついたからまた今度にするわ
113:名無しさん@おーぷん:2017/06/04(日)02:25:10 1vA
SFの世界にどんどん近づいているのかもなぁ

引用元:http://hayabusa.open2ch.net/test/read.cgi/news4vip/1496495565
関連記事

スポンサーリンク


このエントリーをはてなブックマークに追加




[ 2017/06/07 00:04 ] 疑問・質問 | TB(-) | CM(2)

自己学習型のAIとかだとプログラムが正しくても学習した内容が間違ってたら誤った判断下すからなぁ
[ 2017/06/07 01:33 ] [ 編集 ]

AIを信じるよ
[ 2017/06/07 01:56 ] [ 編集 ]

コメントの投稿













管理者にだけ表示を許可する



ブログパーツ