【政治】AIの暴走に備えよ、総務省が開発ガイドライン案

ノチラ ★

総務省は2017年7月28日、人工知能（AI）の開発者が留意すべき原則「AI開発ガイドライン案」を公表した。AI開発に倫理規定が必要との声が世界で強まる中、国際会議の場で「日本発の叩き台」として提案する狙いだ。今秋にもOECD（経済協力開発機構）などに提出する予定で、「日本で先行導入するものではない」（総務省）。

　今回のガイドライン案は、総務省管轄の情報通信政策研究所が主催した有識者会議「AIネットワーク社会推進会議」がまとめた。9つの原則からなるガイドライン案のほか、会議の議論をまとめた報告書、想定したAIの利用場面と影響評価などを文書にしている。

　世界ではAIの開発や利活用に対し倫理規定を設けようとする活動が始まっている。既に科学者や法律、倫理学などの識者が集中討議をして2017年2月に発表した「アシロマ宣言」があるほか、米グーグルなどIT大手を中心に組織した「Partnership on AI」やIEEE（米国電気電子学会）などが開発ガイドラインや倫理規定を議論している。政府機関では、欧州議会がAIも対象に含んだ「ロボットロー」の制定を勧告している。

　AIネットワーク社会推進会議は2016年10月から議論に着手し、AIによる社会影響評価などを行ったうえでその結果を開発指針の原則に反映させるなど、分析と議論に時間をかけてきた。同会議の構成員を務めた黒坂達也・慶応義塾大学大学院特任准教授は「十分に議論を尽くしたガイドラインとしては世界でも先行している」と胸を張る。特に「政府機関が作成したものでは最も先を行くだろう」と日本案を世界に発信する意義を説明する。
http://itpro.nikkeibp.co.jp/atcl/column/14/346926/082801104/zu01.jpg?__scale=w:500,h:310&_sh=02d0740460

総務省の開発ガイドライン案の特徴は、複数のAIが連携する「AIのネットワーク化」を前提にして、対象とする「AI」の範囲を「ネットワークに接続可能なAIシステム」と定義したことだ。学習結果を共有するAIシステムや車同士が連携する自動運転車などを想定している。

　「AIは連携させて便益を大きくするべき。ただし連携により人の意図しない悪影響も生じ得る」との立場から、AI開発者が留意するべき原則を9つにまとめている。この「AIのネットワーク化を前提にする」という姿勢を強く打ち出したのが第1の「連携の原則」。AI開発者に対し「AIシステムの相互接続性と相互運用性に留意する」よう求めている。

　具体的には、データ形式の標準化やAI同士のインタフェース、プロトコルのオープン化に努めるほか、国際的な規格がある場合はこれに準拠するよう務めること、知的財産保護とのバランスを取りつつ相互接続や技術情報開示などはオープンかつ公平性に務めることなどを求めている。さらにAI同士の相互接続で「意図しない事象が生ずるリスクに留意すること」とした。
http://itpro.nikkeibp.co.jp/atcl/column/14/346926/082801104/