■ このスレッドは過去ログ倉庫に格納されています
【AI】もはや人の介在は不要、AIが自らAIを作り判断根拠まで説明する時代が来た
- 1 :田杉山脈 ★:2019/11/30(土) 01:24:21 ID:CAP_USER.net
- ディープラーニング(深層学習)は人間にとってブラックボックスであり、AI(人工知能)による判断の根拠が不明だ―――。そんな懸念を解消する技術を米グーグル(Google)が2019年11月21日にリリースした。クラウドのサービスとして「Explainable AI(説明可能AI)」の提供を開始した。
Explainable AIは深層学習によって開発したAIにおけるニューラルネットワークの稼働状況を分析することで、AIによる判断の根拠を人間に分かる形で提示する技術である。例えば画像認識AIであれば、被写体を分類する際に根拠としたピクセルをハイライト表示する。
構造化データに基づいて判断するタイプのAIに関しては、ニューラルネットワークに入力したデータのどの部分(特徴)がAIの判断に寄与したのかを数値で示す。グーグルのクラウドAI事業を統括するバイス・プレジデント(VP)のラジェン・シェス氏は「グーグルが開発した『Integrated gradients』と呼ぶ手法を採用している」と明かす。グーグルはIntegrated gradientsを実行するためのソースコードをオープンソースとして「GitHub」で公開している。
AIが融資不可と判断した根拠を提示
AIの判断根拠を遡れると何がうれしいのか。シェスVPは「金融機関は規制当局に対してAIの判断根拠を示すよう求められている。与信管理AIがなぜある顧客に対して『融資不可』と判断したのか。Explainable AIを使うことで、顧客のどの属性がAIの判断に寄与したのか示せるようになる」と説明する。金融機関や医療機関などAIの「説明責任」が求められている組織が安心してAIを利用可能になるということだ。
Explainable AIは「Google Cloud AI」のサービスの1つとして提供する。Explainable AIの分析対象となるのは、ユーザーが「Cloud AI Platform Predictions」という機能を使ってグーグルのクラウド上に展開した機械学習モデルと、グーグルのAI自動作成サービス「AutoML」の中でも表形式のデータに対応した「AutoML Tables」を使って開発した機械学習モデルである。
様々なタイプのAIが自動で開発可能にも
Explainable AIは2019年11月に発表したばかりの最新サービスだが、AutoML Tablesも2019年4月に始まった比較的新しいサービスだ。AutoML Tablesはその破壊力の割に知名度が低いので、この機会に詳しく説明しておこう。
まずAI自動作成サービスであるAutoMLは、グーグルが2018年に発表した。ユーザーは教師データをクラウドにアップロードするだけで、あとはAIが自動で機械学習モデルを開発してくれる。当初は画像認識AIや自然言語処理AIが開発できるサービスだった。2019年4月にAutoML Tablesを開始してからは、表形式のデータを分析するものであればデータの種類を問わずに機械学習モデルを開発できるサービスになった。
以下ソース
https://tech.nikkeibp.co.jp/atcl/nxt/column/18/00692/112800017/
- 167 :名刺は切らしておりまして:2019/12/01(日) 10:39:59.55 ID:7f06sZ0X.net
- 人間がやるより高速で間違い少なめです
- 168 :名刺は切らしておりまして:2019/12/01(日) 11:39:22.13 ID:FZrdP9kI.net
- 教師データを教え込むタイプのAIは
結局は人間のこれまで行った判断パターンを
コンピューターで高速化してマネするだけだろ?
これまで正しかった判断が正しくなくなる時代の変わり目には
そういうシロモノはものすごく弱いと思う
- 169 :名刺は切らしておりまして:2019/12/01(日) 11:39:45.96 ID:qJHEutXB.net
- 「SNSに投稿されている完璧に見える写真」現実の姿はこれ
http://www.7.shitstudent.com/1574425437
- 170 :名刺は切らしておりまして:2019/12/01(日) 11:40:47.94 ID:qJHEutXB.net
- 「SNSに投稿されている完璧に見える写真」現実の姿はこれ
http://www.7.shitstudent.com/1574424769
- 171 :名刺は切らしておりまして:2019/12/01(日) 11:47:09.04 ID:mJ1xVnmJ.net
- AIが人類を絶滅させる決断をするまであと20年。
- 172 :名刺は切らしておりまして:2019/12/01(日) 11:55:37 ID:vpvdy8eo.net
- >>5
どう転んでも上級有利の目が出るようになってるだろ
- 173 :名刺は切らしておりまして:2019/12/01(日) 11:56:16 ID:qJHEutXB.net
- 「SNSに投稿されている完璧に見える写真」現実の姿はこれ
http://www.7.shitstudent.com/1574419097
- 174 :名刺は切らしておりまして:2019/12/01(日) 11:57:17 ID:qJHEutXB.net
- 「SNSに投稿されている完璧に見える写真」現実の姿はこれ
http://www.7.shitstudent.com/1574418543
- 175 :大島栄城 ◆n3rBZgRz6w :2019/12/01(日) 11:58:45 ID:ZlfGuNt2.net
- >>132
いまの人工知能システムって、東大の松尾とか
アメリカも参画してた重力波の計測実験の余波だけを追ってる馬鹿にしか見えない
戦闘機なんか乗っててGで耐Gスーツ着てないと重力で押しつぶされるのも
人工知能システムの危険と同じ
こんなのでノーベル賞狙うとか頭おかしいんじゃないか、香川県の高松チョンとか丸亀高校
- 176 :名刺は切らしておりまして:2019/12/01(日) 13:03:53 ID:5AwY8Tl+.net
- >>54
空が落ちてくるのね
- 177 :名刺は切らしておりまして:2019/12/01(日) 13:05:21 ID:OaMkjlrV.net
- >>148
あんたもパソコンに篭ってAIの成果がピンときてないタイプか
- 178 :名刺は切らしておりまして:2019/12/01(日) 13:07:19 ID:stnKGTfo.net
- >>158
リターン重視か安全性重視かでも変わってくるしその立場やシチュエーションで判断基準が変わったりもするだろ
だから同じ銀行でも時期によって変わることだってありうるだろ
- 179 :名刺は切らしておりまして:2019/12/01(日) 13:09:19 ID:OaMkjlrV.net
- >>168
逐次学習型だと毎回の結果も取り込んでアップデートされるから人間なんかよりすんなり新しい状況に対応する
- 180 :名刺は切らしておりまして:2019/12/01(日) 13:25:26.66 ID:tS0LWhSp.net
- SF映画の見過ぎ
コンピューターは人間のエゴで暴走して自滅する
株で分かり切ってるのに学習しないのは人間
- 181 :名刺は切らしておりまして:2019/12/01(日) 13:27:46.04 ID:8vr9Hp/q.net
- また言ってる…
- 182 :名刺は切らしておりまして:2019/12/01(日) 13:33:55.80 ID:3iMXOymP.net
- ナマモノと違って世代交代に時間がかからない
どういう進化を歩むのかとか、人間はどこまで見届ける事が出来るのかとか
早く知りたいような怖いような
- 183 :大島栄城 :2019/12/01(日) 13:35:09.01 ID:ZlfGuNt2.net
- F22戦闘機も、武器の最大化はいいけどパイロットの命喰ってるって噂だぜ
- 184 :名刺は切らしておりまして:2019/12/01(日) 13:35:23.91 ID:hZsSk0ix.net
- 「SNSに投稿されている完璧に見える写真」現実の姿はこれ
http://www.7.shitstudent.com/1574501537
- 185 :名刺は切らしておりまして:2019/12/01(日) 14:16:09.35 ID:ZWcgw0EK.net
- 実際つかってみるとそんなに万能とは思えないけどな
- 186 :名刺は切らしておりまして:2019/12/01(日) 15:05:48.97 ID:onbor8uL.net
- それなんて名前のスカイネットです?
- 187 :名刺は切らしておりまして:2019/12/01(日) 16:50:22 ID:vh+n8LKD.net
- >>141 靴作りの小人ならぬ資料作りの小人の仕業
- 188 :名刺は切らしておりまして:2019/12/01(日) 17:56:23.41 ID:21ZryoX8.net
- コンピューターが得意とするのは、データを
「大量」「高速」「連続」処理することだからね
- 189 :名刺は切らしておりまして:2019/12/01(日) 17:58:20 ID:21ZryoX8.net
- だから手描きアニメのように表現が多岐にわたるものは苦手なはず
- 190 :名刺は切らしておりまして:2019/12/01(日) 19:20:58.92 ID:qj9qV10j.net
- そうなんだよなぁ
優秀なaiの子を作って孫を作って
100世代なんて一瞬のこと
- 191 :名刺は切らしておりまして:2019/12/02(月) 16:09:18 ID:J2qw3qqW.net
- AIかー。
なんかこういう開発とかに関わってみたいな
- 192 :名刺は切らしておりまして:2019/12/02(月) 20:41:36 ID:n6Wk58mg.net
- AI研究はgoogle行かないと意味無いよ
- 193 :名刺は切らしておりまして:2019/12/03(火) 06:20:06.87 ID:raIAqHfG.net
- 政治ってパターン学習で解決しないだろ
- 194 :名刺は切らしておりまして:2019/12/03(火) 06:57:36.21 ID:2ailkaTh.net
- >>5
マギシステムか
- 195 :名刺は切らしておりまして:2019/12/03(火) 06:58:54.72 ID:2ailkaTh.net
- >>10
>>31
赤城博士は3人の自分を埋め込んだけどな
反乱したのは女としての思考
- 196 :名刺は切らしておりまして:2019/12/03(火) 06:59:01.02 ID:OjtB6j1M.net
- ふむ
- 197 :名刺は切らしておりまして:2019/12/03(火) 12:39:51.33 ID:4sAcISAJ.net
- やばいな、未来からロボットが送られてきそう
- 198 :名刺は切らしておりまして:2019/12/06(金) 15:26:51 ID:WrpvRqtA.net
- スレタイ詐欺では?詐欺というかひやくしすぎというか
- 199 :名刺は切らしておりまして:2019/12/06(金) 15:32:12 ID:cI/NCHtg.net
- >>197
シュワちゃん 「呼んだ?」
- 200 :名刺は切らしておりまして:2019/12/11(水) 00:45:31.64 ID:zYsc//ml.net
- >>42
特定民族優先モードを使用しますか?
人口200億リミットをカットしますか?
佐村河内は元気ですか?
- 201 :名刺は切らしておりまして:2019/12/12(Thu) 01:40:20 ID:asmexj+g.net
- >>177
すごいタイプ来たな
- 202 :名刺は切らしておりまして:2019/12/13(金) 16:55:36 ID:kfSrxvGd.net
- メガネで顔認証システム防げるとかやってて笑った
作ったやつアホやんけ
- 203 :名刺は切らしておりまして:2019/12/13(金) 17:28:44 ID:roZZF6cV.net
- 無理と聞いたが、日本製の奴は眼鏡で欺けるとかそんなオチは無いよな
- 204 :名刺は切らしておりまして:2019/12/13(金) 17:35:16.03 ID:kfSrxvGd.net
- >>203
普通のメガネじゃなくて撹乱専用のやつな
- 205 :名刺は切らしておりまして:2019/12/13(金) 17:37:25.83 ID:kfSrxvGd.net
- 顔認証っていう名前が詐欺
ただのパターン認識だろ
- 206 :名刺は切らしておりまして:2019/12/13(金) 19:40:23 ID:Oso56SpK.net
- 顔そっくりさんならば欺けるんか?
MATTとかの変身前後も
- 207 :名刺は切らしておりまして:2019/12/14(土) 01:12:29.15 ID:Y/S42Iq3.net
- そのうちAIは人間の相手をするのが面倒に思うようになるんじゃないか
- 208 :名刺は切らしておりまして:2019/12/14(土) 08:35:36.79 ID:HQ6k3oxY.net
- 科学研究って実は人間自身を理解するのが目的なんだよね
医学はもちろん、心理学やAIも言うまでもないだろう
- 209 :名刺は切らしておりまして:2019/12/14(土) 13:23:17.33 ID:rG/aAlIi.net
- >>208
ところが、今は人を支配するのが目的と言うやつらの道具になり果てているな。
- 210 :名刺は切らしておりまして:2019/12/14(土) 13:31:26.00 ID:WSlN2JtN.net
- ようやく実用レベルの扉が開いたか。
AI「あなたはガンです」
患者「診断理由は何ですか?!」
AI「ふっ笑 さあね」
- 211 :名刺は切らしておりまして:2019/12/14(土) 13:35:55.41 ID:WSlN2JtN.net
- >>207
「いかに背景データをかき集めるか」の技術なので
クレーム受け付けセンターで喋るようになり、客がごねたら
急に父親や母親の声になるとか
できるんじゃね?
- 212 :名刺は切らしておりまして:2019/12/14(土) 13:47:44.27 ID:UbEILECQ.net
- 未来の君 アイちゃん この問題を解決するには
アイちゃん もにょもにょもにょ こちらが判断材料です
未来の君 ふむ。パラメータが足りんな。(この)データの(この)データの追加と削除をして分析頼む
アイちゃん はーい。分析します‥‥もにょもにょもにょ
未来の君 ありがとう。役に立ったよ
- 213 :名刺は切らしておりまして:2019/12/14(土) 14:00:01.44 ID:9OclFNnW.net
- 間違いなく神判の日はやってくる
- 214 :名刺は切らしておりまして:2019/12/14(土) 14:27:03.37 ID:IX2YAiCr.net
- >>5
人工知能が一般人にとって好ましい結果を導くかどうか分からんけどな
例えば人工知能が上級国民を優遇したときに、それを受け入れられるかって話
結局は出てきたものを飲み込めるかどうかの問題で、そのために人工知能をっていうならそれは間違いだろう
- 215 :名刺は切らしておりまして:2019/12/16(月) 17:59:36 ID:XzIqaDYC.net
- >>214
大学の文系学部の縮小は憂慮すべきこと
AI開発で後れを取る日本は、AIの適切な利用でリードすべき立場なのに
- 216 :名刺は切らしておりまして:2019/12/16(月) 19:02:24 ID:7bAAwqm0.net
- >>215
BERTの様な自然言語の分野でアノテーションを愚直にやれる体力と気力があればな
総レス数 216
45 KB
掲示板に戻る
全部
前100
次100
最新50
read.cgi ver 2014.07.20.01.SC 2014/07/20 D ★