2ちゃんねる スマホ用 ■掲示板に戻る■ 全部 1- 最新50    

■ このスレッドは過去ログ倉庫に格納されています

【AI】もはや人の介在は不要、AIが自らAIを作り判断根拠まで説明する時代が来た

1 :田杉山脈 ★:2019/11/30(土) 01:24:21 ID:CAP_USER.net
ディープラーニング(深層学習)は人間にとってブラックボックスであり、AI(人工知能)による判断の根拠が不明だ―――。そんな懸念を解消する技術を米グーグル(Google)が2019年11月21日にリリースした。クラウドのサービスとして「Explainable AI(説明可能AI)」の提供を開始した。

 Explainable AIは深層学習によって開発したAIにおけるニューラルネットワークの稼働状況を分析することで、AIによる判断の根拠を人間に分かる形で提示する技術である。例えば画像認識AIであれば、被写体を分類する際に根拠としたピクセルをハイライト表示する。

 構造化データに基づいて判断するタイプのAIに関しては、ニューラルネットワークに入力したデータのどの部分(特徴)がAIの判断に寄与したのかを数値で示す。グーグルのクラウドAI事業を統括するバイス・プレジデント(VP)のラジェン・シェス氏は「グーグルが開発した『Integrated gradients』と呼ぶ手法を採用している」と明かす。グーグルはIntegrated gradientsを実行するためのソースコードをオープンソースとして「GitHub」で公開している。

AIが融資不可と判断した根拠を提示
 AIの判断根拠を遡れると何がうれしいのか。シェスVPは「金融機関は規制当局に対してAIの判断根拠を示すよう求められている。与信管理AIがなぜある顧客に対して『融資不可』と判断したのか。Explainable AIを使うことで、顧客のどの属性がAIの判断に寄与したのか示せるようになる」と説明する。金融機関や医療機関などAIの「説明責任」が求められている組織が安心してAIを利用可能になるということだ。

 Explainable AIは「Google Cloud AI」のサービスの1つとして提供する。Explainable AIの分析対象となるのは、ユーザーが「Cloud AI Platform Predictions」という機能を使ってグーグルのクラウド上に展開した機械学習モデルと、グーグルのAI自動作成サービス「AutoML」の中でも表形式のデータに対応した「AutoML Tables」を使って開発した機械学習モデルである。

様々なタイプのAIが自動で開発可能にも
 Explainable AIは2019年11月に発表したばかりの最新サービスだが、AutoML Tablesも2019年4月に始まった比較的新しいサービスだ。AutoML Tablesはその破壊力の割に知名度が低いので、この機会に詳しく説明しておこう。

 まずAI自動作成サービスであるAutoMLは、グーグルが2018年に発表した。ユーザーは教師データをクラウドにアップロードするだけで、あとはAIが自動で機械学習モデルを開発してくれる。当初は画像認識AIや自然言語処理AIが開発できるサービスだった。2019年4月にAutoML Tablesを開始してからは、表形式のデータを分析するものであればデータの種類を問わずに機械学習モデルを開発できるサービスになった。
以下ソース
https://tech.nikkeibp.co.jp/atcl/nxt/column/18/00692/112800017/

167 :名刺は切らしておりまして:2019/12/01(日) 10:39:59.55 ID:7f06sZ0X.net
人間がやるより高速で間違い少なめです

168 :名刺は切らしておりまして:2019/12/01(日) 11:39:22.13 ID:FZrdP9kI.net
教師データを教え込むタイプのAIは
結局は人間のこれまで行った判断パターンを
コンピューターで高速化してマネするだけだろ?
これまで正しかった判断が正しくなくなる時代の変わり目には
そういうシロモノはものすごく弱いと思う

169 :名刺は切らしておりまして:2019/12/01(日) 11:39:45.96 ID:qJHEutXB.net
「SNSに投稿されている完璧に見える写真」現実の姿はこれ
http://www.7.shitstudent.com/1574425437

170 :名刺は切らしておりまして:2019/12/01(日) 11:40:47.94 ID:qJHEutXB.net
「SNSに投稿されている完璧に見える写真」現実の姿はこれ
http://www.7.shitstudent.com/1574424769

171 :名刺は切らしておりまして:2019/12/01(日) 11:47:09.04 ID:mJ1xVnmJ.net
AIが人類を絶滅させる決断をするまであと20年。

172 :名刺は切らしておりまして:2019/12/01(日) 11:55:37 ID:vpvdy8eo.net
>>5
どう転んでも上級有利の目が出るようになってるだろ

173 :名刺は切らしておりまして:2019/12/01(日) 11:56:16 ID:qJHEutXB.net
「SNSに投稿されている完璧に見える写真」現実の姿はこれ
http://www.7.shitstudent.com/1574419097

174 :名刺は切らしておりまして:2019/12/01(日) 11:57:17 ID:qJHEutXB.net
「SNSに投稿されている完璧に見える写真」現実の姿はこれ
http://www.7.shitstudent.com/1574418543

175 :大島栄城 ◆n3rBZgRz6w :2019/12/01(日) 11:58:45 ID:ZlfGuNt2.net
>>132
いまの人工知能システムって、東大の松尾とか

アメリカも参画してた重力波の計測実験の余波だけを追ってる馬鹿にしか見えない

戦闘機なんか乗っててGで耐Gスーツ着てないと重力で押しつぶされるのも

人工知能システムの危険と同じ

こんなのでノーベル賞狙うとか頭おかしいんじゃないか、香川県の高松チョンとか丸亀高校

176 :名刺は切らしておりまして:2019/12/01(日) 13:03:53 ID:5AwY8Tl+.net
>>54
空が落ちてくるのね

177 :名刺は切らしておりまして:2019/12/01(日) 13:05:21 ID:OaMkjlrV.net
>>148
あんたもパソコンに篭ってAIの成果がピンときてないタイプか

178 :名刺は切らしておりまして:2019/12/01(日) 13:07:19 ID:stnKGTfo.net
>>158
リターン重視か安全性重視かでも変わってくるしその立場やシチュエーションで判断基準が変わったりもするだろ
だから同じ銀行でも時期によって変わることだってありうるだろ

179 :名刺は切らしておりまして:2019/12/01(日) 13:09:19 ID:OaMkjlrV.net
>>168
逐次学習型だと毎回の結果も取り込んでアップデートされるから人間なんかよりすんなり新しい状況に対応する

180 :名刺は切らしておりまして:2019/12/01(日) 13:25:26.66 ID:tS0LWhSp.net
SF映画の見過ぎ
コンピューターは人間のエゴで暴走して自滅する
株で分かり切ってるのに学習しないのは人間

181 :名刺は切らしておりまして:2019/12/01(日) 13:27:46.04 ID:8vr9Hp/q.net
また言ってる…

182 :名刺は切らしておりまして:2019/12/01(日) 13:33:55.80 ID:3iMXOymP.net
ナマモノと違って世代交代に時間がかからない
どういう進化を歩むのかとか、人間はどこまで見届ける事が出来るのかとか
早く知りたいような怖いような

183 :大島栄城 :2019/12/01(日) 13:35:09.01 ID:ZlfGuNt2.net
F22戦闘機も、武器の最大化はいいけどパイロットの命喰ってるって噂だぜ

184 :名刺は切らしておりまして:2019/12/01(日) 13:35:23.91 ID:hZsSk0ix.net
「SNSに投稿されている完璧に見える写真」現実の姿はこれ
http://www.7.shitstudent.com/1574501537

185 :名刺は切らしておりまして:2019/12/01(日) 14:16:09.35 ID:ZWcgw0EK.net
実際つかってみるとそんなに万能とは思えないけどな

186 :名刺は切らしておりまして:2019/12/01(日) 15:05:48.97 ID:onbor8uL.net
それなんて名前のスカイネットです?

187 :名刺は切らしておりまして:2019/12/01(日) 16:50:22 ID:vh+n8LKD.net
>>141 靴作りの小人ならぬ資料作りの小人の仕業

188 :名刺は切らしておりまして:2019/12/01(日) 17:56:23.41 ID:21ZryoX8.net
コンピューターが得意とするのは、データを
「大量」「高速」「連続」処理することだからね

189 :名刺は切らしておりまして:2019/12/01(日) 17:58:20 ID:21ZryoX8.net
だから手描きアニメのように表現が多岐にわたるものは苦手なはず

190 :名刺は切らしておりまして:2019/12/01(日) 19:20:58.92 ID:qj9qV10j.net
そうなんだよなぁ
優秀なaiの子を作って孫を作って
100世代なんて一瞬のこと

191 :名刺は切らしておりまして:2019/12/02(月) 16:09:18 ID:J2qw3qqW.net
AIかー。
なんかこういう開発とかに関わってみたいな

192 :名刺は切らしておりまして:2019/12/02(月) 20:41:36 ID:n6Wk58mg.net
AI研究はgoogle行かないと意味無いよ

193 :名刺は切らしておりまして:2019/12/03(火) 06:20:06.87 ID:raIAqHfG.net
政治ってパターン学習で解決しないだろ

194 :名刺は切らしておりまして:2019/12/03(火) 06:57:36.21 ID:2ailkaTh.net
>>5
マギシステムか

195 :名刺は切らしておりまして:2019/12/03(火) 06:58:54.72 ID:2ailkaTh.net
>>10
>>31
赤城博士は3人の自分を埋め込んだけどな
反乱したのは女としての思考

196 :名刺は切らしておりまして:2019/12/03(火) 06:59:01.02 ID:OjtB6j1M.net
ふむ

197 :名刺は切らしておりまして:2019/12/03(火) 12:39:51.33 ID:4sAcISAJ.net
やばいな、未来からロボットが送られてきそう

198 :名刺は切らしておりまして:2019/12/06(金) 15:26:51 ID:WrpvRqtA.net
スレタイ詐欺では?詐欺というかひやくしすぎというか

199 :名刺は切らしておりまして:2019/12/06(金) 15:32:12 ID:cI/NCHtg.net
>>197

シュワちゃん 「呼んだ?」

200 :名刺は切らしておりまして:2019/12/11(水) 00:45:31.64 ID:zYsc//ml.net
>>42
特定民族優先モードを使用しますか?
人口200億リミットをカットしますか?
佐村河内は元気ですか?

201 :名刺は切らしておりまして:2019/12/12(Thu) 01:40:20 ID:asmexj+g.net
>>177
すごいタイプ来たな

202 :名刺は切らしておりまして:2019/12/13(金) 16:55:36 ID:kfSrxvGd.net
メガネで顔認証システム防げるとかやってて笑った
作ったやつアホやんけ

203 :名刺は切らしておりまして:2019/12/13(金) 17:28:44 ID:roZZF6cV.net
無理と聞いたが、日本製の奴は眼鏡で欺けるとかそんなオチは無いよな

204 :名刺は切らしておりまして:2019/12/13(金) 17:35:16.03 ID:kfSrxvGd.net
>>203
普通のメガネじゃなくて撹乱専用のやつな

205 :名刺は切らしておりまして:2019/12/13(金) 17:37:25.83 ID:kfSrxvGd.net
顔認証っていう名前が詐欺
ただのパターン認識だろ

206 :名刺は切らしておりまして:2019/12/13(金) 19:40:23 ID:Oso56SpK.net
顔そっくりさんならば欺けるんか?
MATTとかの変身前後も

207 :名刺は切らしておりまして:2019/12/14(土) 01:12:29.15 ID:Y/S42Iq3.net
そのうちAIは人間の相手をするのが面倒に思うようになるんじゃないか

208 :名刺は切らしておりまして:2019/12/14(土) 08:35:36.79 ID:HQ6k3oxY.net
科学研究って実は人間自身を理解するのが目的なんだよね

医学はもちろん、心理学やAIも言うまでもないだろう

209 :名刺は切らしておりまして:2019/12/14(土) 13:23:17.33 ID:rG/aAlIi.net
>>208
ところが、今は人を支配するのが目的と言うやつらの道具になり果てているな。

210 :名刺は切らしておりまして:2019/12/14(土) 13:31:26.00 ID:WSlN2JtN.net
ようやく実用レベルの扉が開いたか。
AI「あなたはガンです」
患者「診断理由は何ですか?!」
AI「ふっ笑 さあね」

211 :名刺は切らしておりまして:2019/12/14(土) 13:35:55.41 ID:WSlN2JtN.net
>>207
「いかに背景データをかき集めるか」の技術なので
クレーム受け付けセンターで喋るようになり、客がごねたら
急に父親や母親の声になるとか
できるんじゃね?

212 :名刺は切らしておりまして:2019/12/14(土) 13:47:44.27 ID:UbEILECQ.net
未来の君  アイちゃん この問題を解決するには
アイちゃん もにょもにょもにょ こちらが判断材料です
未来の君  ふむ。パラメータが足りんな。(この)データの(この)データの追加と削除をして分析頼む
アイちゃん はーい。分析します‥‥もにょもにょもにょ
未来の君  ありがとう。役に立ったよ 

213 :名刺は切らしておりまして:2019/12/14(土) 14:00:01.44 ID:9OclFNnW.net
間違いなく神判の日はやってくる

214 :名刺は切らしておりまして:2019/12/14(土) 14:27:03.37 ID:IX2YAiCr.net
>>5
人工知能が一般人にとって好ましい結果を導くかどうか分からんけどな
例えば人工知能が上級国民を優遇したときに、それを受け入れられるかって話
結局は出てきたものを飲み込めるかどうかの問題で、そのために人工知能をっていうならそれは間違いだろう

215 :名刺は切らしておりまして:2019/12/16(月) 17:59:36 ID:XzIqaDYC.net
>>214
大学の文系学部の縮小は憂慮すべきこと
AI開発で後れを取る日本は、AIの適切な利用でリードすべき立場なのに

216 :名刺は切らしておりまして:2019/12/16(月) 19:02:24 ID:7bAAwqm0.net
>>215
BERTの様な自然言語の分野でアノテーションを愚直にやれる体力と気力があればな

総レス数 216
45 KB
掲示板に戻る 全部 前100 次100 最新50
read.cgi ver 2014.07.20.01.SC 2014/07/20 D ★