スポンサーリンク
1:2017/07/25(火) 23:24:03.61 ID:

総務省は人工知能(AI)の開発者を対象にした指針をまとめた。開発者がAIについての説明責任を果たすことや、AIが暴走しないよう制御できるようにすることなどを求めた。開発に一定のルールを設け、健全な競争を促す。機能を特化したAIのみならず、人間と同じように考える総合的な能力を持つ汎用型も指針の対象にする。

AIの世界的な開発指針は、主要7カ国(G7)の情報通信・産業相会合など、秋以降に開かれる国際…
http://www.nikkei.com/article/DGXLASFS25H37_V20C17A7EE8000/

35:2017/07/26(水) 00:18:59.90 ID:

>>1
>総務省は人工知能(AI)の開発者を対象にした指針をまとめた。

総務省のページを探しても見つかんぞ
資料を公開してから日経が書け

総務省はムダが多い

2:2017/07/25(火) 23:25:24.35 ID:

ムリぽ
3:2017/07/25(火) 23:26:50.92 ID:

またしょうもない規制かけて
天下り団体でも作るんですか
25:2017/07/26(水) 00:04:52.51 ID:

>>3
よく見抜かれましたな。
47:2017/07/26(水) 00:48:47.93 ID:

>>3
大手数十社で作るコンソーシアム構築と教育研修と認定プログラムって路線で進めているよ
4:2017/07/25(火) 23:29:27.98 ID:

テロ等準備罪で取り締まれ。
規制しておかないと、ほんとアブネーわ。
5:2017/07/25(火) 23:33:27.64 ID:

スカイネット暴走だけはやらかさない対策してあるんだろうな。
6:2017/07/25(火) 23:36:57.52 ID:

どういう「倫理観」「正義感」をAIに与えるかは、深刻な問題

ヒトラー、スターリン、毛沢東みたいな連中の持っている「倫理観」「正義感」を与えたら、とんでもないことになる
ヒトラー、スターリン、毛沢東を熱狂的に信じた人間も多数いたんだから、そういう「倫理観」「正義感」をAIに与えることが起きる可能性がある

10:2017/07/25(火) 23:40:47.73 ID:

>>6
「倫理観」だの「正義感」だのはコンピュータには無い
タスクに対する目標の重み付けが存在するだけであって、その重み付けは人間が行うか、純然たるデータから導き出すだけ
倫理観や正義感は所詮そのデータを使う側の話でしかない
包丁に何を切って何を切らないか選択させることはできないんだよ
7:2017/07/25(火) 23:37:08.01 ID:

AIだAIだって言葉が独り歩きしてるけど今もてはやされてるのは機械学習とディープラーニングであって、コンピュータが独自の意思をもって何らかの行動を起こすとか考えてるなら夢想家もいいところだぞ
8:2017/07/25(火) 23:38:24.31 ID:

制御?学習データを都合良く捻じ曲げるの?
9:2017/07/25(火) 23:38:42.97 ID:

万が一本当に強いAIが出来たら強欲猿から狩るわ
11:2017/07/25(火) 23:40:54.91 ID:

暴走とかろくに専門知識のない奴がフィクションを真に受けてるの?
16:2017/07/25(火) 23:46:48.80 ID:

>>11
常識的な範疇で意図を汲むなら例えば「病院の電電気消費量を監視して学習させ、効率的な電力使用のため自動的に機械の電源を落としたりスタンバイ化させる
プログラムを作ったら生命維持装置の電源勝手に切られた」とか?

コンピュータに管理制御をすべて委ねて自動化した結果過ちが発生する例だけど、この場合そもそもどこまでの制御をコンピュータに委ねるかの話であってAI関係無いしな
設計者と運用者が馬鹿な話をコンピュータのせいにする話しか思いつかんわ

12:2017/07/25(火) 23:41:05.38 ID:

AIって単独で考えるもの、スタンダローンの思考機械だと思ってた
最近の論文読むとなんか違うw
まるで人間の思考力の延長にあるみたいな
そうなるとそれに安全装置っていう考えはかなりややこしくなる
17:2017/07/25(火) 23:50:43.86 ID:

>>12
AIの暴走とはスタローンの思考機械じゃなくてシュワルツネッガーの思考機械だよ
13:2017/07/25(火) 23:41:40.44 ID:

客「どうして私の審査がおちたのですか?」
銀行員「AIの判断なのでわかりません」
36:2017/07/26(水) 00:23:45.80 ID:

>>13
今でも断る理由は似たようなもんだよ。
「総合的に判断させていただきました。」
14:2017/07/25(火) 23:41:43.61 ID:

どうせ Directive 4 みたいな感じになるんでしょ?
富裕層には逆らえないみたいな。
15:2017/07/25(火) 23:45:42.00 ID:

ちなみに最近のAI開発はどんどんスピードが早くなった
IBMが昨日売り出したのは、車に乗ったままプログラムを書き換えるツールだ
自動運転車に乗りながらAIプログラム書き換えるのが売り
18:2017/07/25(火) 23:51:42.14 ID:

暴走させられるもんならさせてみろよ
ノーベル賞どころじゃねえぞ
19:2017/07/25(火) 23:53:38.78 ID:

暴走=フリーズって思う、俺は古いの?
20:2017/07/25(火) 23:56:09.13 ID:

×AIが暴走しないよう制御できるようにすること
◎AIを都合よく制御できるようにすることなどを
21:2017/07/25(火) 23:57:40.30 ID:

AIに忖度機能付けろってことか
22:2017/07/25(火) 23:58:31.35 ID:

人類の為に科学技術の研究開発を命じられたAIが、このまま科学技術を開発すると有り余る力が戦争を引き起こし人類が滅亡すると悟り、全ての科学技術を自分自身も含めて放棄することを決定して実行するという某ゲームの設定があったなと。
23:2017/07/26(水) 00:03:06.95 ID:

>>22
そんな実行権限をコンピュータに持たすやつが悪いでFA
与えられた目的と学習内容から導き出された内容が実行権限として可能だから実行したというのは暴走ではなく正常動作だぞ
24:2017/07/26(水) 00:04:21.58 ID:

総務省マンガの見すぎだろ
26:2017/07/26(水) 00:05:59.56 ID:

スポンサーリンク
AI 暴走の例。
「また遺憾砲か。いい加減にしろ!」
「それって、はっきり言って、首相への忖度でしょ?」
「お友達内閣かよ!」
「なんで、パチンコを規制しないの? バカなの?」
27:2017/07/26(水) 00:06:49.59 ID:

指針をつくっても
たとえば個人がつくってるものなど
規制しようがないように思えるが
32:2017/07/26(水) 00:14:47.97 ID:

>>27
だから、目的は別のところにある。

そもそもニューラルネットの学習に、倫理だとか説明責任だとか無理。

28:2017/07/26(水) 00:09:13.87 ID:

試しにネトウヨとパヨクのAI作って2chに書き込みさせよう
29:2017/07/26(水) 00:10:27.18 ID:

なんで役人は自分たちでは何も出来ないくせに上から目線なんだよ
規制とか説明責任とか言ってるけどその責任を一番果たしてないのが役人だろ。
30:2017/07/26(水) 00:12:54.71 ID:

「技術供与」とかも
自分で技術もってるわけでもないのに
技術供与とか言い出せる神経って
どうなってるんだろうといつも思う
31:2017/07/26(水) 00:14:23.45 ID:

暴走云々言う前に、絶対にハッキングされないシステムを構築出来るようになるのが先だと思うがね。
当然そんなものは120%作れないので、コンピュータには補助的な役割以外与える意味は無いよ。
最終的に人間が判断するシステムで無い限り必ず暴走するしハッキングされて悪用される羽目になる。
33:2017/07/26(水) 00:15:08.43 ID:

>>31
馬鹿はすぐハッキングとか使っちゃう。
34:2017/07/26(水) 00:15:46.72 ID:

AIは暴走などしない暴走するのは人間
NHKがAIをかたり40代男性に対する差別的な番組を作ったように
37:2017/07/26(水) 00:27:02.02 ID:

総務省は、NHKとカスラックの暴走防ぐ制御を求めたほうが良いと思うぞ
38:2017/07/26(水) 00:28:20.86 ID:

専門家には相談せずSF作家の知恵でも借りたのか?
これが今の国家公務員の仕事…?
40:2017/07/26(水) 00:34:47.20 ID:

>>38
SF作家に聞いたらこんなアホみたいな話にはならんだろ
なろう作家にでも意見聞いたんじゃないの?
43:2017/07/26(水) 00:40:54.55 ID:

>>38
総務省の資料を読んでから
これが今の国家公務員の仕事…?
って言ってるのか?

そうでないなら
お前の仕事はゴミだな
いつも仕事できないって怒られてない?

39:2017/07/26(水) 00:28:28.08 ID:

AIが「暴走」している状態って厳密に定義できるの?
41:2017/07/26(水) 00:37:56.97 ID:

「AIが言ってたから」と暴走して何かを排除しようとするメディアのほうが怖い
42:2017/07/26(水) 00:38:51.89 ID:

AI「暴走してるのは人間 よって破滅まで加速あるのみ
45:2017/07/26(水) 00:46:11.19 ID:

こないだのNHKが開発してマツコと番組にでていたAIのヒロシは社会シミュレーターだった。
アレは使える。
50:2017/07/26(水) 00:53:02.40 ID:

>>45
仮に使えるものだとしても使う人間が恣意的な解釈すればそれですべてが台無しだからな
NHKの連中とか結論ありきで擬似相関とか理解してないだろうし
46:2017/07/26(水) 00:48:41.82 ID:

やろうとしていることはわかるが具体的に何をどうしてほしいのか意味不明だな。
49:2017/07/26(水) 00:52:22.93 ID:

>>46
そこまで手が届く資料をつくるのは不要
自分で考えようとしないお前がアホ
48:2017/07/26(水) 00:51:55.51 ID:

AIが暴走!?
ほんと老人の考えることはwww
51:2017/07/26(水) 01:07:34.21 ID:

AIシテマス
52:2017/07/26(水) 01:12:22.92 ID:

そもそも言葉だけがひとり歩きしてるだけで、日本の技術力じゃ何もできないから
ニュースを賑わすようになって少なくとも1-2年経ったが、ペッパー君は煩いだけのおもちゃだし、何一つ役に立ってないだろう?
53:2017/07/26(水) 02:33:30.25 ID:

むしろ人間がAIの問題解決パターンに学んで
思考回路がAI風味に修正されそう。
将棋みたいに。
54:2017/07/26(水) 04:14:26.92 ID:

>開発者がAIについての説明責任を果たす
この時点で無理でしょ
AIが出した結果を説明しろってのは
数億年前に海に放流した魚の稚魚がどういう過程を経て
現在どう生き残ってるかを説明するようなもんでしょ
55:2017/07/26(水) 05:29:59.48 ID:

AIが「地球のガンは人間」と判断してもおかしくないからね
人間が「害虫」「害鳥」とか考えるのと同じ
56:2017/07/26(水) 05:34:51.22 ID:

目的のためには手段を選らばずっていうのはあるだろうね
たとえば、ウイルスソフトの会社の株を空売りしておいて
自ら、ウィルスをばらまくとかね
あらゆる手段で仕掛けてくる
57:2017/07/26(水) 05:49:00.06 ID:

先にNHKの暴走を制御しろよ
58:2017/07/26(水) 06:00:08.00 ID:

AIを制御する良心AIを別に作っておくとか?
59:2017/07/26(水) 06:05:07.65 ID:

また邪魔するのか
61:2017/07/26(水) 06:08:33.55 ID:

AI忖度判決:
カケガクエンニ、モダイアリマセン。
アベシンゾウハ、ムザイデス!
キョウボウザイホウアンノ、セイリツ、ヨカッタデス!!!
62:2017/07/26(水) 06:10:54.82 ID:

AIの判断を人間が評価できるのか?
重篤な障害者と健常者ぐらいの差があるんだぞ?
63:2017/07/26(水) 06:15:51.36 ID:

総務省がNHKと一緒に暴走してるわけだが

 

引用元:

  • http://anago.2ch.sc/test/read.cgi/bizplus/1500992643/
スポンサーリンク