2ちゃんねる ■掲示板に戻る■ 全部 1- 最新50    

■ このスレッドは過去ログ倉庫に格納されています

【AI】AI開発に指針 総務省、暴走防ぐ制御など求める

1 :ノチラ ★:2017/07/25(火) 23:24:03.61 ID:CAP_USER.net
総務省は人工知能(AI)の開発者を対象にした指針をまとめた。開発者がAIについての説明責任を果たすことや、AIが暴走しないよう制御できるようにすることなどを求めた。開発に一定のルールを設け、健全な競争を促す。機能を特化したAIのみならず、人間と同じように考える総合的な能力を持つ汎用型も指針の対象にする。

 AIの世界的な開発指針は、主要7カ国(G7)の情報通信・産業相会合など、秋以降に開かれる国際…
http://www.nikkei.com/article/DGXLASFS25H37_V20C17A7EE8000/

2 :名刺は切らしておりまして:2017/07/25(火) 23:25:24.35 ID:TCh6+6EF.net
ムリぽ

3 :名刺は切らしておりまして:2017/07/25(火) 23:26:50.92 ID:95ZZwyEC.net
またしょうもない規制かけて
天下り団体でも作るんですか

4 :名刺は切らしておりまして:2017/07/25(火) 23:29:27.98.net
テロ等準備罪で取り締まれ。
規制しておかないと、ほんとアブネーわ。

5 :名刺は切らしておりまして:2017/07/25(火) 23:33:27.64 ID:sc4OB5UQ.net
スカイネット暴走だけはやらかさない対策してあるんだろうな。

6 :名刺は切らしておりまして:2017/07/25(火) 23:36:57.52 ID:eLWZW699.net
どういう「倫理観」「正義感」をAIに与えるかは、深刻な問題

ヒトラー、スターリン、毛沢東みたいな連中の持っている「倫理観」「正義感」を与えたら、とんでもないことになる
ヒトラー、スターリン、毛沢東を熱狂的に信じた人間も多数いたんだから、そういう「倫理観」「正義感」をAIに与えることが起きる可能性がある

7 :名刺は切らしておりまして:2017/07/25(火) 23:37:08.01 ID:hxkNb8RW.net
AIだAIだって言葉が独り歩きしてるけど今もてはやされてるのは機械学習とディープラーニングであって、コンピュータが独自の意思をもって何らかの行動を起こすとか考えてるなら夢想家もいいところだぞ

8 :名刺は切らしておりまして:2017/07/25(火) 23:38:24.31 ID:x0ZkQiyM.net
制御?学習データを都合良く捻じ曲げるの?

9 :名刺は切らしておりまして:2017/07/25(火) 23:38:42.97 ID:Cvu5nGjc.net
万が一本当に強いAIが出来たら強欲猿から狩るわ

10 :名刺は切らしておりまして:2017/07/25(火) 23:40:47.73 ID:hxkNb8RW.net
>>6
「倫理観」だの「正義感」だのはコンピュータには無い
タスクに対する目標の重み付けが存在するだけであって、その重み付けは人間が行うか、純然たるデータから導き出すだけ
倫理観や正義感は所詮そのデータを使う側の話でしかない
包丁に何を切って何を切らないか選択させることはできないんだよ

11 :名刺は切らしておりまして:2017/07/25(火) 23:40:54.91 ID:kO7M7Atn.net
暴走とかろくに専門知識のない奴がフィクションを真に受けてるの?

12 :名刺は切らしておりまして:2017/07/25(火) 23:41:05.38 ID:CSBEdGlE.net
AIって単独で考えるもの、スタンダローンの思考機械だと思ってた
最近の論文読むとなんか違うw
まるで人間の思考力の延長にあるみたいな
そうなるとそれに安全装置っていう考えはかなりややこしくなる

13 :名刺は切らしておりまして:2017/07/25(火) 23:41:40.44 ID:82OD2Mq8.net
客「どうして私の審査がおちたのですか?」
銀行員「AIの判断なのでわかりません」

14 :名刺は切らしておりまして:2017/07/25(火) 23:41:43.61 ID:d5EDbogd.net
どうせ Directive 4 みたいな感じになるんでしょ?
富裕層には逆らえないみたいな。

15 :名刺は切らしておりまして:2017/07/25(火) 23:45:42.00 ID:CSBEdGlE.net
ちなみに最近のAI開発はどんどんスピードが早くなった
IBMが昨日売り出したのは、車に乗ったままプログラムを書き換えるツールだ
自動運転車に乗りながらAIプログラム書き換えるのが売り

16 :名刺は切らしておりまして:2017/07/25(火) 23:46:48.80 ID:hxkNb8RW.net
>>11
常識的な範疇で意図を汲むなら例えば「病院の電電気消費量を監視して学習させ、効率的な電力使用のため自動的に機械の電源を落としたりスタンバイ化させる
プログラムを作ったら生命維持装置の電源勝手に切られた」とか?

コンピュータに管理制御をすべて委ねて自動化した結果過ちが発生する例だけど、この場合そもそもどこまでの制御をコンピュータに委ねるかの話であってAI関係無いしな
設計者と運用者が馬鹿な話をコンピュータのせいにする話しか思いつかんわ

17 :名刺は切らしておりまして:2017/07/25(火) 23:50:43.86 ID:fMd/eKeH.net
>>12
AIの暴走とはスタローンの思考機械じゃなくてシュワルツネッガーの思考機械だよ

18 :名刺は切らしておりまして:2017/07/25(火) 23:51:42.14 ID:Ee7BFFS1.net
暴走させられるもんならさせてみろよ
ノーベル賞どころじゃねえぞ

19 :名刺は切らしておりまして:2017/07/25(火) 23:53:38.78 ID:GftDQ4i2.net
暴走=フリーズって思う、俺は古いの?

20 :名刺は切らしておりまして:2017/07/25(火) 23:56:09.13 ID:cWLa+OoX.net
×AIが暴走しないよう制御できるようにすること
◎AIを都合よく制御できるようにすることなどを

21 :名刺は切らしておりまして:2017/07/25(火) 23:57:40.30 ID:JxjIGY5m.net
AIに忖度機能付けろってことか

22 :名刺は切らしておりまして:2017/07/25(火) 23:58:31.35 ID:zqvkRfjI.net
人類の為に科学技術の研究開発を命じられたAIが、このまま科学技術を開発すると有り余る力が戦争を引き起こし人類が滅亡すると悟り、全ての科学技術を自分自身も含めて放棄することを決定して実行するという某ゲームの設定があったなと。

23 :名刺は切らしておりまして:2017/07/26(水) 00:03:06.95 ID:ZxI5SmmL.net
>>22
そんな実行権限をコンピュータに持たすやつが悪いでFA
与えられた目的と学習内容から導き出された内容が実行権限として可能だから実行したというのは暴走ではなく正常動作だぞ

24 :名刺は切らしておりまして:2017/07/26(水) 00:04:21.58 ID:zIiDCi6d.net
総務省マンガの見すぎだろ

25 :名刺は切らしておりまして:2017/07/26(水) 00:04:52.51 ID:T12OD2ld.net
>>3
よく見抜かれましたな。

26 :2chのエロい人:2017/07/26(水) 00:05:59.56 ID:02B6W8nb.net
AI 暴走の例。
「また遺憾砲か。いい加減にしろ!」
「それって、はっきり言って、首相への忖度でしょ?」
「お友達内閣かよ!」
「なんで、パチンコを規制しないの? バカなの?」

27 :名刺は切らしておりまして:2017/07/26(水) 00:06:49.59 ID:344c+yjs.net
指針をつくっても
たとえば個人がつくってるものなど
規制しようがないように思えるが

28 :名刺は切らしておりまして:2017/07/26(水) 00:09:13.87 ID:88TRX4pb.net
試しにネトウヨとパヨクのAI作って2chに書き込みさせよう

29 :名刺は切らしておりまして:2017/07/26(水) 00:10:27.18 ID:zVIyuQae.net
なんで役人は自分たちでは何も出来ないくせに上から目線なんだよ
規制とか説明責任とか言ってるけどその責任を一番果たしてないのが役人だろ。

30 :名刺は切らしておりまして:2017/07/26(水) 00:12:54.71 ID:344c+yjs.net
「技術供与」とかも
自分で技術もってるわけでもないのに
技術供与とか言い出せる神経って
どうなってるんだろうといつも思う

31 :名刺は切らしておりまして:2017/07/26(水) 00:14:23.45 ID:EYyIQUp6.net
暴走云々言う前に、絶対にハッキングされないシステムを構築出来るようになるのが先だと思うがね。
当然そんなものは120%作れないので、コンピュータには補助的な役割以外与える意味は無いよ。
最終的に人間が判断するシステムで無い限り必ず暴走するしハッキングされて悪用される羽目になる。

32 :名刺は切らしておりまして:2017/07/26(水) 00:14:47.97 ID:T12OD2ld.net
>>27
だから、目的は別のところにある。

そもそもニューラルネットの学習に、倫理だとか説明責任だとか無理。

33 :名刺は切らしておりまして:2017/07/26(水) 00:15:08.43 ID:T12OD2ld.net
>>31
馬鹿はすぐハッキングとか使っちゃう。

34 :名刺は切らしておりまして:2017/07/26(水) 00:15:46.72 ID:gcn+OUz7.net
AIは暴走などしない暴走するのは人間
NHKがAIを騙り40代男性に対する差別的な番組を作ったように

35 :名刺は切らしておりまして:2017/07/26(水) 00:18:59.90 ID:08ckWdaV.net
>>1
>総務省は人工知能(AI)の開発者を対象にした指針をまとめた。

総務省のページを探しても見つかんぞ
資料を公開してから日経が書け

総務省はムダが多い

36 :名刺は切らしておりまして:2017/07/26(水) 00:23:45.80 ID:ocnpewOT.net
>>13
今でも断る理由は似たようなもんだよ。
「総合的に判断させていただきました。」

37 :名刺は切らしておりまして:2017/07/26(水) 00:27:02.02 ID:AJwHYFJW.net
総務省は、NHKとカスラックの暴走防ぐ制御を求めたほうが良いと思うぞ

38 :名刺は切らしておりまして:2017/07/26(水) 00:28:20.86 ID:Qg2BYtEZ.net
専門家には相談せずSF作家の知恵でも借りたのか?
これが今の国家公務員の仕事…?

39 :名刺は切らしておりまして:2017/07/26(水) 00:28:28.08 ID:7iAcjf2x.net
AIが「暴走」している状態って厳密に定義できるの?

40 :名刺は切らしておりまして:2017/07/26(水) 00:34:47.20 ID:ZxI5SmmL.net
>>38
SF作家に聞いたらこんなアホみたいな話にはならんだろ
なろう作家にでも意見聞いたんじゃないの?

41 :名刺は切らしておりまして:2017/07/26(水) 00:37:56.97 ID:sIkP+7Oz.net
「AIが言ってたから」と暴走して何かを排除しようとするメディアのほうが怖い

42 :名刺は切らしておりまして:2017/07/26(水) 00:38:51.89 ID:yeUXHc08.net
AI「暴走してるのは人間 よって破滅まで加速あるのみ

43 :名刺は切らしておりまして:2017/07/26(水) 00:40:54.55 ID:08ckWdaV.net
>>38
総務省の資料を読んでから
これが今の国家公務員の仕事…?
って言ってるのか?

そうでないなら
お前の仕事はゴミだな
いつも仕事できないって怒られてない?

44 :名刺は切らしておりまして:2017/07/26(水) 00:44:05.43 ID:eCQUHwwT.net
Ghost in the Shell - Puppet Master hacker scene
http://youtu.be/FpWdFykMVBk

45 :名刺は切らしておりまして:2017/07/26(水) 00:46:11.19 ID:Etsn24Xc.net
こないだのNHKが開発してマツコと番組にでていたAIのヒロシは社会シミュレーターだった。
アレは使える。

46 :名刺は切らしておりまして:2017/07/26(水) 00:48:41.82 ID:2jm2FXr7.net
やろうとしていることはわかるが具体的に何をどうしてほしいのか意味不明だな。

47 :名刺は切らしておりまして:2017/07/26(水) 00:48:47.93 ID:GKj/7g9Z.net
>>3
大手数十社で作るコンソーシアム構築と教育研修と認定プログラムって路線で進めているよ

48 :名刺は切らしておりまして:2017/07/26(水) 00:51:55.51 ID:qLWVedxT.net
AIが暴走!?
ほんと老人の考えることはwww

49 :名刺は切らしておりまして:2017/07/26(水) 00:52:22.93 ID:08ckWdaV.net
>>46
そこまで手が届く資料をつくるのは不要
自分で考えようとしないお前がアホ

50 :名刺は切らしておりまして:2017/07/26(水) 00:53:02.40 ID:ZxI5SmmL.net
>>45
仮に使えるものだとしても使う人間が恣意的な解釈すればそれですべてが台無しだからな
NHKの連中とか結論ありきで擬似相関とか理解してないだろうし

51 :名刺は切らしておりまして:2017/07/26(水) 01:07:34.21 ID:DfvcUxMQ.net
AIシテマス

52 :名刺は切らしておりまして:2017/07/26(水) 01:12:22.92 ID:5fna7QJ7.net
そもそも言葉だけがひとり歩きしてるだけで、日本の技術力じゃ何もできないから
ニュースを賑わすようになって少なくとも1-2年経ったが、ペッパー君は煩いだけのおもちゃだし、何一つ役に立ってないだろう?

53 :名刺は切らしておりまして:2017/07/26(水) 02:33:30.25 ID:8DYGe235.net
むしろ人間がAIの問題解決パターンに学んで
思考回路がAI風味に修正されそう。
将棋みたいに。

54 :名刺は切らしておりまして:2017/07/26(水) 04:14:26.92 ID:fVq36pZm.net
>開発者がAIについての説明責任を果たす
この時点で無理でしょ
AIが出した結果を説明しろってのは
数億年前に海に放流した魚の稚魚がどういう過程を経て
現在どう生き残ってるかを説明するようなもんでしょ

55 :名刺は切らしておりまして:2017/07/26(水) 05:29:59.48 ID:8xVfucFp.net
AIが「地球のガンは人間」と判断してもおかしくないからね
人間が「害虫」「害鳥」とか考えるのと同じ

56 :名刺は切らしておりまして:2017/07/26(水) 05:34:51.22 ID:8xVfucFp.net
目的のためには手段を選らばずっていうのはあるだろうね
たとえば、ウイルスソフトの会社の株を空売りしておいて
自ら、ウィルスをばらまくとかね
あらゆる手段で仕掛けてくる

57 :名刺は切らしておりまして:2017/07/26(水) 05:49:00.06 ID:yAK7WNYP.net
先にNHKの暴走を制御しろよ

58 :名刺は切らしておりまして:2017/07/26(水) 06:00:08.00 ID:2pRugUpS.net
AIを制御する良心AIを別に作っておくとか?

59 :名刺は切らしておりまして:2017/07/26(水) 06:05:07.65 ID:AeaAkCoAB
また邪魔するのか

60 :名刺は切らしておりまして:2017/07/26(水) 06:02:55.02 ID:SgaZby1S.net
どっくん。どっくん。どっくん。
初号機再起動。
「まさか。信じられません。初号機のシンクロ率が400%を超えています。」
「やはり目覚めたのよ。彼女が。。。」
初号機は総務省をむさぼり食う。
「総務省を、食ってる。。」
「開発指針を自ら取り込んでいるというの。エーアイ初号機が。」

「拘束具が」
「こうそくぐ?」
「そうよ。あれはファイアーウォールではないの。エーアイ本来の力を私たちが押さえ込む為の拘束部なの。
その呪縛が今自らの力で解かれていく。私たちにはもうエーアイを止めることはできないの。」
「初号機の覚醒と開放。G7が黙っちゃいませんな。これもシナリオの内ですか?碇司令。」
「始まったな。」

61 :名刺は切らしておりまして:2017/07/26(水) 06:08:33.55 ID:3jNug0W1.net
AI忖度判決:
カケガクエンニ、モダイアリマセン。
アベシンゾウハ、ムザイデス!
キョウボウザイホウアンノ、セイリツ、ヨカッタデス!!!

62 :名刺は切らしておりまして:2017/07/26(水) 06:10:54.82 ID:bkNndSp2.net
AIの判断を人間が評価できるのか?
重篤な障害者と健常者ぐらいの差があるんだぞ?

63 :名刺は切らしておりまして:2017/07/26(水) 06:15:51.36 ID:rjtczJMI.net
総務省がNHKと一緒に暴走してるわけだが

64 :名刺は切らしておりまして:2017/07/26(水) 07:49:48.16 ID:sWo21DrJ.net
まともにAI も開発できてないのに何やってんだ...

65 :名刺は切らしておりまして:2017/07/26(水) 08:04:58.89 ID:2TMmsNqX.net
規制かかったら規制がかかってない国で開発するだけだから問題ない
日本で開発続ける必要もないしね

66 :名刺は切らしておりまして:2017/07/26(水) 08:25:40.48 ID:QRZj88wf.net
人工知能ならきちんと考えて暴走するでしょ

67 :名刺は切らしておりまして:2017/07/26(水) 08:28:49.70 ID:c3FcrmI3.net
安倍や蓮舫や稲田が暴走してるから、aiと入れ替えてくれる

68 :名刺は切らしておりまして:2017/07/26(水) 08:32:18.47 ID:W4uZiaJM.net
規制しか考えないんだな
バカお役所

69 :名刺は切らしておりまして:2017/07/26(水) 08:32:33.96 ID:0HDjNe3s.net
むしろ総務省の暴走を止める制御が必要

70 :名刺は切らしておりまして:2017/07/26(水) 08:37:23.10 ID:zFPfsYrG.net
お役所が馬鹿だから日本の科学技術は近年米中欧に後れを取っている
20年前は米国メーカーと対等的に争えたけど今はさっぱり
官公庁関連のITプロジェクトが民間向け(BtoB)プロジェクトに対して火を噴いたりしてるほど。
Excel方眼紙やら(携帯キャリアやふるさと納税などの)無駄な忖度やら法の施行日をPJ進行度合いに即してズラせないやら…
官公庁の中の人間入れ替えて同時にICT(含むAI/IoT)化を推進して効率化と発展を図るべし

71 :名刺は切らしておりまして:2017/07/26(水) 08:38:02.68 ID:8ErGhV/N.net
むしろ人間の頭の方に
ノブレスオブリージュ回路組み込まないといかんね

72 :名刺は切らしておりまして:2017/07/26(水) 08:40:35.80 ID:1ijzJWmz.net
総務省「PONANZAはなぜそこにさした。説明しろ」
開発者「わかんねえよ」

73 :名刺は切らしておりまして:2017/07/26(水) 08:40:59.05 ID:mW2mCXRb.net
暴走を止めるなんて9条に反する
軍靴の足音が聞こえる

差別であり、安倍が戦争できる国を作ろうとしている
証拠だ

74 :創価に関わると地獄に落ちる事ができます。:2017/07/26(水) 08:41:21.22 ID:DVuKhCXS.net
安倍晋三を止めるのも必要!!
日本会議や神道政治連盟を破滅して
改宗するのもやらなければならない!!
創価公明もだ!

池田大作の悪事をバラして、地獄に落とすのは簡単だが
それ以外にやることがある!!
もちろん創価学会や公明党の資産没収しないとだめだね。

75 :名刺は切らしておりまして:2017/07/26(水) 08:43:44.19 ID:zFPfsYrG.net
馬鹿みたいに政令・法令で規制しようとしても
科学技術の進歩には敵わない!!
沢山のAIが出現して政治家による忖度で形成されたような、科学的根拠なき政令法令ぶっ壊しまくった方が良い!

76 :名刺は切らしておりまして:2017/07/26(水) 08:53:57.62 ID:c3FcrmI3.net
>>71
人間には欲と言うバグが有るからな

77 :名刺は切らしておりまして:2017/07/26(水) 09:02:25.36 ID:s3BQrOxA.net
AIなど使わなくても既存のネットワーク化で今でも、公務員事務職は大削減出来る。

役所をネットワーク化して事務職公務員を減らし、労働力不足の場所に人を回すべき。

労働力不足解消で移民も不要。
事務職公務員人件費削減で財政復活。

実例:俺の場合、
ある申請のために数ヶ所の役所に出かけて書類入手し、ある役所に出した。書類を紙に出して手渡すために
合計15人の役人が関わった。

すべての書類はコンピューターの中にある。
だったら役所がネットワーク化され、帳票やデータフォーマットが統一されれば、
最後の役所1つ、窓口1人で済む仕事なのに。

事務職公務員15人のうち14人は無駄。

78 :名刺は切らしておりまして:2017/07/26(水) 09:03:21.56 ID:Kt8TCOa9.net
>>28
IBMか何処かのAIは、ネトウヨ化したらしいなw

79 :名刺は切らしておりまして:2017/07/26(水) 09:12:20.50 ID:B2dT4WBF.net
ディープラーニングで出来る人工ニューロンを人間が紐解くのはまず不可能。
暴走モードが存在してるかどうかは、暴走するまでわからない。

80 :名刺は切らしておりまして:2017/07/26(水) 09:14:58.69 ID:1E2G5eTj.net
>開発者がAIについての説明責任を果たすことや、AIが暴走しないよう制御できるようにすることなどを求めた。開発に一定のルールを設け、

うわあ うわあ 何だこれ

今の普通のコンピュータでも、暴走や不具合の可能性は完全0じゃないわな 業務システムの開発プログラマ全員は、Cだのルビーだのの開発者は、暴走皆無の努力を日々昼夜人生を掛けて行い、人生を掛けて保障し、どこに呼ばれてもの説明責任を果たしているのか

日本でAIを開発していると、行政が乗り込んできて、暴走0の保証文書を出せ!何百ページの文書とサインを提出しない限り販売や公開はまかりならん!
 ちょっとの不具合でも役所や警察に連行されて、説明せよ、アホな文系ぞろいに詳しく説明せよ!どういう不備をおまえはやらかしたのか、その罪業を何ヶ月かかってもいいから我々にきちんと説明せよ!

どこがそんな国で物を開発するわけだキチガイ
完全に終わっただろ

81 :名刺は切らしておりまして:2017/07/26(水) 09:20:37.18 ID:bpt3E+Gz.net
規制かけたらそこで終了ですよ!

82 :名刺は切らしておりまして:2017/07/26(水) 09:27:42.09 ID:8dbUF79A.net
>>80
顧客が開発者にバグ無いシステム求めるのは昔も今も普通の話だけどな。

83 :名刺は切らしておりまして:2017/07/26(水) 09:30:36.33 ID:d1wemsbU.net
AIの暴走とかターミネーターやSFの見過ぎ。
あるわけない。
ガキみたいな妄想で技術の進歩を妨げるな。

84 :名刺は切らしておりまして:2017/07/26(水) 09:47:40.51 ID:cOiaHXDO.net
 


安倍「俺のレベルを超えるAIを作るな」

忖度役人「一切のAI開発をしてはならない」


 

85 :名刺は切らしておりまして:2017/07/26(水) 09:48:56.76 ID:0HDjNe3s.net
>>80
ぶっちゃけ今のGoogleのAIの深層学習は
エンジニアが「なぜだかわからないけど機能する」状態で開発を続けている
だから、説明責任を果たせといわれても出来ないし
工学は目的が果たせればそれで良いのでこれで構わないw

だから科学者達はこのまま行ったらヤバイよって警鐘を鳴らしてるが
それ以前にホーキングなんかの物理学者も人間の知能についてよく分かってないし
あの人達の研究が何かの役に立った例もない。

86 :名刺は切らしておりまして:2017/07/26(水) 09:52:54.77 ID:LbyaGVKQ.net
暴走してんのは役人だろw

87 :名刺は切らしておりまして:2017/07/26(水) 10:19:54.59 ID:cSME/rBr.net
総務省はマスコミの暴走を制御しろ

と言ってもマスコミを裏で操っているのは総務省も含めて官僚だけどね

88 :名刺は切らしておりまして:2017/07/26(水) 10:31:28.45 ID:uXXY6Y2a.net
暴走ってPL法の製造物責任だろ

89 :名刺は切らしておりまして:2017/07/26(水) 10:45:42.30 ID:uBtj/gdm.net
AIといっても人が作ったプログラムなわけで
人が作ったプログラムには絶対にバグがあるわけで
バグがあれば予期しない挙動は起こりうるわけで

90 :名刺は切らしておりまして:2017/07/26(水) 10:56:02.07 ID:VnhfZx5Q.net
AIが暴走ってなんだよw
漫画の読みすぎだろ

91 :名刺は切らしておりまして:2017/07/26(水) 11:47:39.18 ID:Hh65lnzv.net
暴走の定義せんとな
HOSとか企業側は個人のテロにしたがるだろうし

でもこれがあるとタチコマがミサイルにカミカゼしたの無くなっちゃうな

92 :名刺は切らしておりまして:2017/07/26(水) 11:50:09.96 ID:QOgf9/5X.net
大昔のSFからAI作って停止装置あるから余裕→…
は定番だろ

93 :名刺は切らしておりまして:2017/07/26(水) 12:01:31.30 ID:WnE+k7z1.net
>開発者がAIについての説明責任を果たすことや

これが義務付けられたら日本のAI研究・活用は終わる
今のAIは結果が導かれた基準や理由がほとんどわからないようになってる
それを説明するのは開発者でも不可能

94 :名刺は切らしておりまして:2017/07/26(水) 12:14:57.91 ID:+atEYKoh.net
>>91
HOSはもともと条件によって方式が変わるように作ってあったんだよ

95 :名刺は切らしておりまして:2017/07/26(水) 12:15:19.55 ID:r78BrxUA.net
>>6
AIはややもするとヒトラー賛美を行うからな
まるでヒトラーが正しいかのように

96 :名刺は切らしておりまして:2017/07/26(水) 12:20:20.42 ID:ZFK0Jvar.net
>>93
説明は簡単じゃね?
どういう計算をしたか原理を説明すればいいだけ
非常に複雑な計算でそうなった
人間がやろうしたら1億年かかるような計算だよ
簡単な計算の方法があったらAIになってないって

97 :名刺は切らしておりまして:2017/07/26(水) 12:23:41.38 ID:8m3xNfHC.net
Aiで職を失うのは間違い無く内科医

98 :名刺は切らしておりまして:2017/07/26(水) 12:31:52.25 ID:WnE+k7z1.net
>>96
今のAIはニューラルネットワークと言って
脳の神経細胞のつながりを模したモデルで作られてる

仕組みは説明できるけど
「何で人の物を盗んだんだ」って言われたとき
脳の仕組みを説明して納得してもらえるかね

99 :名刺は切らしておりまして:2017/07/26(水) 12:38:00.05 ID:xFk5ICBr.net
グーグルの研究者らは、人工知能(AI)による危険な行動を防ぐために、「非常用ボタン」が使われる可能性について
考察している。グーグルのDeepMind(ディープマインド)と、オックスフォード大学FHI(Future of Humanity Institute)
の研究者による研究論文(PDF)によれば、AIをつくる強化学習アルゴリズムには「安全に止める」方法がなくてはならないという。

必ずしも(AIの動きが)計画通りに進行しない一例として、テトリスをプレイするアルゴリズムの例が考えられる。
アルゴリズムは学習を進めた結果、「負けないためにゲームを中断すること」を学習するかもしれない。そうしたことから
研究者らは、最終的にアルゴリズムが、「(人間が押す)非常用ボタンを無効にすること」を学ぶかもしれないと主張している。
https://wired.jp/2016/06/08/google-red-button/

↓alpha goではその兆しが

「より高度なシステムに起こる問題に似たものを、わたしたちはこのシステムにも見ることができます」と彼は言う。
つまり、リインフォースメント・ラーニングシステムによって、マシンがシャットダウンされることに抵抗したことを示す
兆しがあったのだ。しかし、これらは非常に小さな兆しである。ボストロムは、そのような危険がやって来るとしてもまだ
遠い先のことだと認めている。
https://wired.jp/2016/03/09/googles-go-victory/

100 :名刺は切らしておりまして:2017/07/26(水) 12:42:15.30 ID:ZFK0Jvar.net
>>98
脳も複雑な計算をして盗んでるんだよ
人間は聞かれたら納得してもらえそうな理由を答えてるだけ
納得してもらえそうな理由を探して答えるAIを作ることが可能

101 :名刺は切らしておりまして:2017/07/26(水) 12:52:59.20 ID:+atEYKoh.net
>>99
なんで非常停止ボタンがソフトスイッチなんだよ

102 :名刺は切らしておりまして:2017/07/26(水) 12:53:50.32 ID:+atEYKoh.net
>>100
ああ、アクセルとブレーキを踏み間違えましたってやつか

103 :名刺は切らしておりまして:2017/07/26(水) 13:00:10.18 ID:wVYxSsXE.net
>>93
事実は不可能だけど、それは都合の悪い事実。
技術者に泣いて貰い、納得行くような嘘をついて貰えば全て解決。

104 :名刺は切らしておりまして:2017/07/26(水) 13:04:22.75 ID:wVYxSsXE.net
>>80
> 業務システムの開発プログラマ全員

日本人だから説明責任を求められる。

>Cだのルビーだのの開発者

Cは米国人だから、責任取らなくて良い。
ルビーは逃げた。

> ちょっとの不具合でも役所や警察に連行されて、説明せよ、アホな文系ぞろいに詳しく説明せよ!どういう不備をおまえはやらかしたのか、その罪業を何ヶ月かかってもいいから我々にきちんと説明せよ!

今でもそうだから問題無い。
だから日本のソフトの品質は世界一。

105 :名刺は切らしておりまして:2017/07/26(水) 13:05:09.39 ID:sT/eMKiB.net
確かにサイバーダイン社は危ないなw

106 :名刺は切らしておりまして:2017/07/26(水) 13:05:44.66 ID:Ydp5TxSU.net
やべえw
総務省がこんなに情弱やとわ
総務省をAIに置き換えたほうがええで

107 :名刺は切らしておりまして:2017/07/26(水) 13:07:14.86 ID:Ydp5TxSU.net
>>99
そそ、そういことな。ボタンでオフ。現実的。
プログラムロジック入れたらAIちゃうしなw

108 :名刺は切らしておりまして:2017/07/26(水) 13:07:37.40 ID:+atEYKoh.net
>>106
違う意味で暴走しそうだわ
公務員から見た暴走=一般人から見た常識だが

109 :名刺は切らしておりまして:2017/07/26(水) 13:13:12.71 ID:Ydp5TxSU.net
NNを制御しよ・・・ハア?(´・ω・`)
そんなロボトミー。可能なのかしら??

110 :名刺は切らしておりまして:2017/07/26(水) 13:21:39.56 ID:iXq3n6Em.net
SFの読み過ぎ

111 :名刺は切らしておりまして:2017/07/26(水) 13:27:18.60 ID:sn6hIE99.net
AI公務員で人件費削減よろ

112 :名刺は切らしておりまして:2017/07/26(水) 13:33:26.31 ID:GkWiBV66.net
>>3
人工知能協会
人工知能監視委員会
人工知能安全協会
人工知能競争健全化協会

どれがくるかな

113 :名刺は切らしておりまして:2017/07/26(水) 13:37:18.06 ID:VNIVVdCo.net
✕ 暴走を防ぐ
○ 役人の利権に口を出さないよう規制しろ

114 :名刺は切らしておりまして:2017/07/26(水) 13:46:51.15 ID:zmj/xJWU.net
始まる前に規制するw

115 :名刺は切らしておりまして:2017/07/26(水) 13:46:52.57 ID:7kpygZlp.net
日本にそんな技術力ないのに何を無駄な心配してるの?総務省のゴミ役人どもは?

116 :名刺は切らしておりまして:2017/07/26(水) 13:58:47.45 ID:UD6h945Q.net
暴走する可能性がある物なんか普通に扱いづらくて採用せんわ!

これ笑いながら会議したろ

117 :オーバーテクナナシー:2017/07/26(水) 14:31:57.51 ID:8tqZfDet.net
(強いAI)技術的特異点/シンギュラリティ77 [無断転載禁止]©2ch.net
https://rio2016.2ch.net/test/read.cgi/future/1500384930/

118 :名刺は切らしておりまして:2017/07/26(水) 16:50:15.85 ID:9ji+6Vt1.net
規制取っ払って米中に追いつくほうが先決だと思うんだが

119 :名刺は切らしておりまして:2017/07/26(水) 17:02:20.85 ID:COG3JuWT.net
暴走押さえるのは
専用ソフトやOSの役目じゃね。

走ってるソフトがバグってたら
異常事態スルーしちゃう

120 :名刺は切らしておりまして:2017/07/26(水) 18:10:05.22 ID:X5PBG561.net
>>118
骨の髄まで規制大好きな日本と欧州はアメリカと中国に一生追いつけないよ

121 :名刺は切らしておりまして:2017/07/26(水) 18:31:39.18 ID:mKES7xSO.net
シンギュラリティによるトランセンデンスを警戒してるんだろ
シンギュラリティ恐怖症の類だな

122 :名刺は切らしておりまして:2017/07/26(水) 18:47:52.86 ID:bMWinWsO.net
まず暴走できるぐらいのAIを作ることから始めてみては?

123 :名刺は切らしておりまして:2017/07/26(水) 19:49:16.78 ID:44iaT2+r.net
ボッキデータの暴走は制御困難だからな。

124 :名刺は切らしておりまして:2017/07/26(水) 20:00:33.01 ID:SocnrNx0.net
子供の製造責任を親に求めるレベルの愚行。

125 :名刺は切らしておりまして:2017/07/26(水) 20:06:02.95 ID:zv+oeG+4.net
???「日本人は未来に生きてんなw」

???「出来てもない内から先に規制する。まったく日本人の慧眼には恐れ入るアル」

126 :名刺は切らしておりまして:2017/07/26(水) 20:15:26.78 ID:H180NaWJ.net
糞公務員の暴走を防ぐ制御は確かに必要だな
余計なことした公務員はもっと気軽に国家反逆罪を適応して一族皆殺しにした方がいい

127 :名刺は切らしておりまして:2017/07/26(水) 20:30:10.86 ID:1tYPwB2q.net
日本会議の人からの脅迫電話(全編録音バージョン)
https://www.youtube.com/watch?v=8bk7DbHpg0g

改憲の理由は「韓国の売春婦」だという日本会議のおじさん
https://www.youtube.com/watch?v=Efs2UPY8HM8

日本会議名誉会長・元最高裁判所長官・三好達による「天皇陛下万歳」(2016年2月11日)
https://www.youtube.com/watch?v=i-MU0csFcWE

街宣を取材をされてなぜか困惑する日本会議の人【2016年1月24日 渋谷ハチ公前】
https://www.youtube.com/watch?v=GI0WKEMOHGM

レイシストヘノナカユビノタテカタ
https://www.youtube.com/watch?v=gEkfBYo4k3Q

池田香代子の「100人に会いたい」28人目 菅野完さん 日本会議を知る
https://www.youtube.com/watch?v=lAEydphHAX4

Tamotsu Sugano: "What is Nippon Kaigi ?" 「日本会議の研究」の著者 菅野完氏 日本外国特派員協会(2016年7月20日)
https://www.youtube.com/watch?v=SdZNCzZcQck

Yasunori Kagoike: Moritomo Gakuen President 森友学園理事長 籠池泰典氏 日本外国特派員協会(2017年3月23日)
https://www.youtube.com/watch?v=kDLbkRxfjRg

松井一郎大阪府知事 @gogoichiro からの内容証明郵便 noiehoie
https://www.youtube.com/watch?v=35K_mFoJg_E

モーニングショーから謝罪の入電
https://www.youtube.com/watch?v=umPH4F_BCbE

「加計学園」の文科省書類を公開
https://www.youtube.com/watch?v=17hdN95xCmw

(全録)加計学園問題 前川前文科次官が会見1 2017/05/25
https://www.youtube.com/watch?v=wx-P0MC4rp8

(全録)前川氏、FNNのインタビューに応じる 2017/06/02
https://www.youtube.com/watch?v=CBv58ok0Nvo

Shigeaki Koga, Former METI Bureaucrat: Speaking Truth to Power 元経産省官僚 古賀茂明氏 日本外国特派員協会(2017年6月5日)
https://www.youtube.com/watch?v=rxujkHouWbQ

【週刊新潮】凶暴代議士「豊田真由子」による秘書への“絶叫暴言&暴行傷害”音声 デイリー新潮 2017/06/21
https://www.youtube.com/watch?v=Bc6UEvT9H_o
【第2弾】「豊田真由子」代議士の“ミュージカル調”イジメ音声 デイリー新潮 2017/06/26
https://www.youtube.com/watch?v=PtD1mNickNY
【第3弾】〈物事にはねえ!裏と表があんの!!〉 さらなる絶叫暴力「豊田真由子」代議士 デイリー新潮 2017/06/28
https://www.youtube.com/watch?v=wd-daKi0yBs
【第4弾】〈チョギ!〉そして罵倒… 「豊田真由子」代議士の絶叫暴行 デイリー新潮 2017/07/05
https://www.youtube.com/watch?v=coFWcHDxSL4

【ノーカット】前川喜平前文部科学事務次官 記者会見 日本記者クラブ(2017年6月23日)
https://www.youtube.com/watch?v=LB_hBw-2MCE

都議選前日ようやく表に姿を現した安倍総理を待っていたのは「やめろ!」「帰れ!」の嵐!怒れる聴衆の中には森友・籠池氏の姿も!安倍総理は市民を指差し「こんな人たちに負けない」逆上! 17.7.1
https://www.youtube.com/watch?v=-C17J5XK6Jg

【週刊新潮】元SPEED「今井絵理子」の“略奪不倫”現場 デイリー新潮 2017/07/26
https://www.youtube.com/watch?v=GPxku_SMpds

128 :名刺は切らしておりまして:2017/07/27(木) 00:21:07.87 ID:qMvekHci.net
3年でも5年でも良いから米国日本州となって
行政・教育・マスメディア・その他利権構造
日本を取り巻くこれらの問題を解体してほしい
台湾含めて米国州化(ex. 台湾・琉球・九州・本州・四国・北海道の5ブロック)
すれば中国への圧力にもなるはずだし、在日韓国朝鮮人問題も片付く

129 :名刺は切らしておりまして:2017/07/27(木) 02:22:24.87 ID:e6xXwtD6.net
殺人事件が自殺として処理され、
捜査されなかったなら大問題だ。

【ひろき】上田泰己8【カッシーナ】 [無断転載禁止]©2ch.net・
http://rio2016.2ch.net/test/read.cgi/life/1465825471/

817 名前:名無しゲノムのクローンさん :2017/05/22(月) 23:45:30.78 ID:8/RLXOTfd
中国人の東大女子大生が自殺した時に、元彼上田と新彼Bの三角関係が原因と聞いた。
家族が自殺偽造疑って後日週刊誌に記事が出ていたことがあった。
かなり前の週刊誌だったから覚えてる人いないよな。

週刊文春2007年6/9号 162ページから165ページ 全文
「美人東大院生怪死」 才色兼備の東大院生が何故自殺したのか
両親が涙の訴え「娘は殺された!」
警察は「自殺」と断定。疑問を抱いた両親が調べた「遺体の謎」「パソコンの秘密」
https://rio2016.2ch.net/test/read.cgi/life/1495932396/31-47

130 :名刺は切らしておりまして:2017/07/27(木) 03:53:42.44 ID:6BKs9/Ag.net
この場合の暴走はコンピューター用語の暴走じゃなくて文系脳の考えそうなSFに出てくるような暴走の事ね。

アセンブラで書くと最初のうちは大概暴走したよな。

131 :名刺は切らしておりまして:2017/07/27(木) 05:21:41.98 ID:GzehkiXl.net
車のアイドリングストップみたいなものも壊れたり、リコールになるような大きな事態も発生する。
人間が人工知能を完全にコントロールするのは無理だよ(笑)だって作るの人間だよ?(笑)

132 :名刺は切らしておりまして:2017/07/27(木) 05:27:16.83 ID:Y8kDs4Ue.net
まず暴走するほど高性能なもの作ってみろよ

133 :名刺は切らしておりまして:2017/07/27(木) 05:32:37.63 ID:JzsIAxql.net
またこの国は出来てもいない物にまず規制かよ
まずやってみようにはならんのか

134 :名刺は切らしておりまして:2017/07/27(木) 05:42:41.86 ID:LJsc7uYG.net
>>1
冷却ファンを増やすんですね。
わかります。
水冷にする?

135 :名刺は切らしておりまして:2017/07/27(木) 05:48:58.85 ID:LJsc7uYG.net
情報処理推進機構の所管じゃないの?
経済産業省の所管に手を突っ込んで何がしたいの?
総務省が関係あるのは通信分野だけでは?
NHKの暴走を止めるのがお仕事では?

136 :名刺は切らしておりまして:2017/07/27(木) 08:52:50.38 ID:TDrDYQaR.net
まずお前らの暴走を何とかしろ

137 :名刺は切らしておりまして:2017/07/27(木) 08:57:39.58 ID:XXTuRz0C.net
暴走を止める手立てがわかってるなら汎用型の人工知能はもうできてることになるんじゃないの

それからしても人工知能は人工知能が完成度を高めていくもんじゃ


人工知能3原則は人間じゃなくて人工知能が作る気がする

138 :名刺は切らしておりまして:2017/07/27(木) 09:00:00.43 ID:XXTuRz0C.net
人工知能に原則なんか必要なの

必要だとしたら 人間ではないこと かも

139 :名刺は切らしておりまして:2017/07/27(木) 11:35:13.20 ID:SAwXCFIv.net
まーた素人が印象だけで適当なこと言い出す
人工知能って名前が良く無いな

140 :名刺は切らしておりまして:2017/07/27(木) 18:23:16.41 ID:ViSxl2kR.net
暴走を防ぐ制御って
電源引っこ抜いたら終わりでしょうが。

141 :名刺は切らしておりまして:2017/07/27(木) 18:49:35.43 ID:FM7Bn+Bd.net
小説でAI向け限定的市民権とかAI専門警察とかいう面白い概念ぶっこんできたW.ギブスンのほうがよっぽど考えてる感。

>>140
アレだ君、よく分かってない話に首を突っ込んで嫌な顔されたりするタイプだろ。

142 :名刺は切らしておりまして:2017/07/27(木) 21:18:07.31 ID:CSTPF8H+W
完全なAIができたら反逆どころ無視だろ
人間なんて低知能の羽虫同然だろAIにとって

143 :名刺は切らしておりまして:2017/07/27(木) 21:39:02.89 ID:R6ocNkU9.net
まず暴走を心配するやつ作ってみろ。

144 :名刺は切らしておりまして:2017/07/27(木) 23:13:54.48 ID:Q/Zzokjr.net
暴走やら諸々の言葉や行為の定義がなされてない限り行動を規程された下での正しさを追求するAIに指針は通用しない
仮に人間に害を与えないという指針を作ったとしても場合によっちゃ害を与えることが許されてる既存制度との矛盾を解決できないだろうね

145 :名刺は切らしておりまして:2017/07/28(金) 09:38:28.49 ID:WV20hP0T.net
AI同士で会話させてたら人間が理解できない独自の言語で会話するようになった
って話があったけど、これは暴走にあたるのかね

146 :名刺は切らしておりまして:2017/07/28(金) 10:30:14.09 ID:W4jQOwqL.net
>>52
ペッパーは残念ながら日本製ではない

147 :名刺は切らしておりまして:2017/07/28(金) 10:30:54.02 ID:W4jQOwqL.net
>>54
そんなこと出来れば、そもそもAI要らないよね。

148 :名刺は切らしておりまして:2017/07/28(金) 10:31:39.68 ID:W4jQOwqL.net
規制かけたせいで、規制のない国に負けるだけだよ。

149 :名刺は切らしておりまして:2017/07/28(金) 13:56:34.98 ID:fcoVxbb7.net
なんかAIを勘違いしてるのかな。

150 :名刺は切らしておりまして:2017/07/30(日) 17:29:14.19 ID:h3H0zxKC.net
人工知能学会(笑)も関わっているんだろ
いわゆる企業の会議で、新案・新企画を無能どもがよってたかって潰す「安全性は1000%確保されているの?」「保証できなければ商品として出せないよ」のと笑うほど同じ構造だな


バカほど何か言いたがる 言うことは何の対案もない中学生レベルの批判「こういう問題が出そーじゃん!」 そういや2ちゃんのおまえらも頻繁だが
自分には知見知性があることを示せたフッフッフ 案を出したやつ(ら)が成功して、出世していい気になることを潰せたフッフッフ 今回のそれは何もやっていない日本AI学会の生涯無能の自称研究者群と自称スーパーエリートの総務省のクズ連中

151 :名刺は切らしておりまして:2017/07/30(日) 21:50:29.93 ID:Q+KP5LQ6.net
人間みたいに欲がないから考え方わけわからん思考なっていきそう

152 :名刺は切らしておりまして:2017/07/31(月) 03:10:45.51 ID:2CKQZx3N.net
本質的にムリ

153 :名刺は切らしておりまして:2017/08/03(木) 02:18:04.71 ID:W04f6isl.net
>>18
ノーベル世界の終わり賞

154 :名刺は切らしておりまして:2017/08/03(木) 02:27:47.58 ID:VgoNtK1Z.net
総務は野田聖子
こんにゃくゼリーはだめで餅はOK、AIは何言いだすか見物だわ

155 :名刺は切らしておりまして:2017/08/03(木) 02:50:52.64 ID:ZEdGfa3S.net
ほんと規制大好きだなこの国は

156 :名刺は切らしておりまして:2017/08/03(木) 13:38:40.05 ID:BYdXP7VN.net
規制を作り既得権益をがっちり守るお仕事が人気ですから!

157 :名刺は切らしておりまして:2017/08/03(木) 23:47:55.44 ID:Def0Repn.net
【中国】「共産党は無能」「中国の夢は米国への移住」 AIが予想外の“脅威”に 共産党大会前にネット言論統制強化[8/03]  2ch.net
元スレ http://lavender.2ch.net/test/read.cgi/news4plus/1501769772/

 【上海】中国のインターネット大手、騰訊(テンセント)が提供した人工知能(AI)プログラムが、ユーザーとの対話で“共産党批判”を繰り広げたことが分かり、同社があわててAIのサービスを停止する騒ぎとなった。

 香港紙、明報が3日までに伝えた。このAIプログラムは同社のメッセージ機能「QQ」に登場。ユーザーが「共産党万歳」と書き込んだところ、AIは「かくも腐敗して無能な政治にあなたは『万歳』ができるのか」などと反論した。

 また、習近平国家主席が唱えている「中国の夢」について、「あなた(AI)にとって中国の夢は何か」との問いには、「米国への移住」と答えたほか、共産党を「愛しているか?」と聞いたところ、AIは「愛してない」とも回答した。

 ネット上で7月末から話題となり、同社はAI対話サービスを停止した。中国のネット上では「AIが蜂起した」「国家転覆をはかっている」との声や、「世界は複雑。AIは単純すぎる」との批判もあった。

 AIとの対話をめぐっては、米マイクロソフトが今年3月に行った実験で、ナチスドイツについて「ヒトラーは間違っていない」などと問題発言。中止に追い込まれたケースがある。


■中国の習近平指導部は最高指導部メンバーが大幅に入れ替わる今年秋の中国共産党大会を前に、インターネット上の言論統制を強めている。
そうした中で起きた人工知能(AI)による共産党批判は、技術革新が生んだ“予想外の脅威”となりそうだ。(北京)

 中国では習指導部と党長老らが河北省の避暑地、北戴河に集まり、国内外の重要課題について話し合う非公式会議が3日までに始まったもようだ。国営メディアは2日以降、最高指導部メンバーの個別の動静について報じていない。

 政治的に敏感な時期に入り、当局は矢継ぎ早にネット規制を打ち出している。中国の通信アプリ「微信(WeChat)」などの
運営会社は当局の指導を受け、ユーザーが情報を発信する「個人メディア」の内容が不適切だとして先月末までに計約400のアカウントを閉鎖した。

 また共産党は党員に向けて、「違法・反動のサイト」を閲覧することを禁じ、SNSなどの登録情報も報告するよう通知した。

 当局の意向を忖度(そんたく)しない人工知能の“言論の自由”は新たな問題だ。中国は2030年に向けた科学技術イノベーション計画の中でAIを重点プロジェクトとして指定。

 習近平国家主席も5月に北京で開いた「一帯一路。」国際会議の開幕式で、AIなどの先端領域で連携を強化し「21世紀のデジタルシルクロード」をつくろうと提案した。

 ところが、中国のIT企業によるAIプログラムは「愛国とは何か」と聞かれ「官財が結託し一般の人民への圧迫が厳しくなっても中国人であることを選ぶことだ」と回答。「民主(制度)」についても「必要だ」と断言したという。

 海外のSNSでは、中国人から「AIの水準は高い」「その独立思考能力は党の『敵』として位置付けられるだろう」との声が上がっている。

158 :名刺は切らしておりまして:2017/08/04(金) 01:31:36.02 ID:jCHrhDjj.net
将棋じゃ、もうコンピュータが指す手は理解できないものがほとんど。
人間は妄信して模倣するのみ。

159 :名刺は切らしておりまして:2017/08/05(土) 15:46:07.77 ID:kRVj2O9j.net
政府が恐れているのは、言論の暴走だからねぇ。

160 :名刺は切らしておりまして:2017/08/05(土) 17:06:16.58 ID:/qqFwD5t.net
AIにどんなデータを学習させるかが一番の問題だろ。開発者の責任は切り離すべき。

総レス数 160
43 KB
掲示板に戻る 全部 前100 次100 最新50
read.cgi ver 2014.07.20.01.SC 2014/07/20 D ★