【IT】【Infostand海外ITトピックス】ついにDeepfake利用の犯罪が成功してしまう　AIボイスの“振り込め詐欺”

へっぽこ立て子＠エリオット ★

　AIが電話をして美容院やレストランの予約をする――。そんなテクノロジーが実現すると、犯罪に悪用する者が現れても不思議ではない。電話でボスから送金の指示を受け、実行したところ、その声はAI合成だったという詐欺事件が発生した。この企業は22万ユーロ（24万3000ドル）をまんまと奪われてしまったという。

□Deepfakeでボスの音声を合成して送金指示
　ある日、英国エネルギー企業のCEOはドイツにいるボス（親会社のCEO）から電話で「ハンガリーに22万ユーロを送金するように」と命じられた。「至急、それも一時間以内に」という指示だった。声は抑揚も、ドイツ訛りの英語も、いつも聞いているボスの声だった。

　電話は同じ日に計3回あり、2回目の電話では、22万ユーロを払い戻すという連絡を受ける。そして3回目。再びボスは送金を指示してきた。だが払い戻したはずの22万ユーロはまだ届いていない。そこで不審に思った子会社のCEOは、電話の発信元がオーストリアの番号であることに気づき、3回目の指示には従わなかった。

　あとで、ボスは電話をしておらず、「Deepfake」で音声を合成した詐欺であることが分かった。最初にハンガリーの銀行に振り込まれた22万ユーロは、その後メキシコに移動し、さらに複数の場所に分散されたという。犯人は、いまだ特定されていない。

　この事件は今年3月に発生したものだ。Wall Street Journalが8月末、被害企業が契約する信用保険会社Euler Hermes Group（Allianz子会社）の証言を元に伝えた。AIを使った音声のなりすまし攻撃として欧州初だろうとしている。被害企業の名前は伏せられている。

□データが多い有名人はターゲットになりやすい
　Deepfakeはディープラーニングで本物そっくりの動画などを偽造することだ。画像、動画が次々に現れ、フェイクニュースなどへの悪用が危惧されている。今回の事件は、画像だけでなく、音声も十分に悪用されることを実証した。

　Euler Hermesの詐欺問題専門家Rudiger Kirsch氏は「AIを使った詐欺は企業にとって新しい課題だ」とWall Street Journalに述べている。なぜなら、これまでのサイバーセキュリティツールでは、なりすましの音声を検出できないからだという。

　サイバーセキュリティ企業Endgameのデータサイエンス担当ディレクターBobby Filar氏は、簡単に音声偽装のできるサービスが複数あり、「数学の博士号を持ってなくとも使える」と解説している。

　ZDNetは、CEOが偽音声のターゲットになりやすいと指摘する。CEOは人前で話す機会が多く、メディアの露出が多いのはもとより、スピーチ動画がYouTubeなどに掲載されている。データはふんだんにあり、簡単にAIをトレーニングできるのだ。

　BBCによると、Symantecが3件の声のDeepfake事件を確認しているが、いずれもCEOの声を使ったものだった。被害者の経済的損失は数百万ドルに上るという。SymantecのCTO、Hugh Thompson博士は、詐欺師が、データを利用して音声のモデルを構築していることに触れ、「モデルはほぼ完璧」と述べている。

　The Next Webは「AIベースのツールは探求や創造性に利用できるが、同時に、犯罪、騙し、ほぼ（残念ながら）完璧な詐欺も可能にする」と述べている。

>>2 へ続く

2019年9月9日 11:47
クラウド Watch
https://cloud.watch.impress.co.jp/docs/column/infostand/1206050.html

【IT】【Infostand海外ITトピックス】ついにDeepfake利用の犯罪が成功してしまう AIボイスの“振り込め詐欺”

【IT】【Infostand海外ITトピックス】ついにDeepfake利用の犯罪が成功してしまう　AIボイスの“振り込め詐欺”