生成ＡＩで声複製「ボイスクローニング」急速発達　犯罪防止研究、急務に　声入り動画の安易なネット投稿を控えるなど注意を [すらいむ★]

1 ：すらいむ ★：2024/03/31(日) 22:25:55.37 ID:87CMye5T.net

生成ＡＩで声複製「ボイスクローニング」急速発達　犯罪防止研究、急務に　声入り動画の安易なネット投稿を控えるなど注意を

　生成ＡＩ（人工知能）で声を複製する「ボイスクローニング」の技術が急速に発達している。
　かつては複製に数十秒分の声のデータが必要だったが、現在は数秒分で可能になったとされる。
　医療分野などで活用が期待できる一方、詐欺などの犯罪に悪用される懸念も。
　警戒が高まる中、被害を防止しようとボイスクローニングを検知する研究も進んでいる。

（以下略、続きはソースでご確認ください）

zakzak　2024.3/31 10:00
https://www.zakzak.co.jp/article/20240331-GT5FVJMNDFPXXG5LG6DFBRJ6XM/

2 ：名無しのひみつ：2024/03/31(日) 23:30:31.41 ID:ARFZ52z7.net

オレオレ俺だよ
お金持ってきてな

3 ：名無しのひみつ：2024/04/01(月) 00:07:21.84 ID:AK0gsf+X.net

MAD動画が再ブームになったりしないかな

4 ：名無しのひみつ：2024/04/01(月) 01:55:23.20 ID:Nafnjr+n.net

対面以外信用するな

5 ：名無しのひみつ：2024/04/01(月) 02:12:55.72 ID:jqOqSlLI.net

>>声入り動画の安易なネット投稿を控えるなど注意を
安易じゃない動画の投稿って何よ？全てAIボカロにしろよってこと？一般人は投稿するなと？テレビラジオ等の芸能人アナウンサー政治家スポーツ選手等々はどう注意すればいいんだよ？
具体的な対抗策も提示せずに注意喚起で済ませてんじゃねーよ

6 ：名無しのひみつ：2024/04/01(月) 05:45:15.66 ID:RJ8gGUcf.net

これは対策できない
コールセンターはチンピラ経営のところが結構ある
携帯代理店と同じようなもんだ
そういうところは個人情報とセットで録音してるからまた名簿屋に流れて悪用されるよ
アウトソースだらけになった時点で個人情報はどんどん漏れる

戦争になれば総力戦になりそういうデータも活用される
通話音声から議員や兵士を特定されたり偽造音声でなりすましコールが着たりするだろうね
米国企業の日本向けコールセンターは中国にありますなんて普通にあるだろ
そういう米国企業は個人情報も全部中国に預けてる
この点にバイデンも何も対処する気がないだろ？
今すぐにでも大統領令出すんならまだわかる
それでもちょっと対応が遅すぎるね

7 ：名無しのひみつ：2024/04/01(月) 07:40:29.31 ID:WD+tD36Y.net

2021年9月の最後の月曜議から
ボイス・トォ・スカルですでに知人そっくりな声で話してきていましたけれど・・・

脳内音声データなのか
チョウシコウセ委スピーカーで行ってきたかは不明

8 ：名無しのひみつ：2024/04/01(月) 07:41:47.69 ID:WD+tD36Y.net

>>7

チョウシコウセ委→超指向性

9 ：名無しのひみつ：2024/04/01(月) 07:44:38.96 ID:WD+tD36Y.net

スマフォで盗聴されることは考えられていない

社会に出て会社で蹴落とすようにしよされる

上司にあることないこと対象者の声で逆なでさせて解雇されるように使用される

10 ：名無しのひみつ：2024/04/01(月) 07:48:20.14 ID:WD+tD36Y.net

大勢のいるところでの会話まづい

教室 クラブ 等の集会

陥れられるようにも使用される

誰が録音しているか不明
盗聴盗撮機もセットされている可能性あり

11 ：名無しのひみつ：2024/04/01(月) 07:52:46.07 ID:WD+tD36Y.net

三六協定を勝手に作成される
会社側ユリ

口頭同意を勝手に作成で法的効力を持たされる

など

12 ：名無しのひみつ：2024/04/01(月) 07:57:09.58 ID:WD+tD36Y.net

対策方法を見る限り

その方法のソフトを入手出来たらその対策をした音声合成エンジンが出て切るので

泥沼にしか見えない

13 ：名無しのひみつ：2024/04/01(月) 08:12:50.08 ID:shpIbhkT.net

フォークト・カンプフテストのようなAI判定装置が必要だ

14 ：名無しのひみつ：2024/04/01(月) 08:14:47.41 ID:6WTF2CZ/.net

本人と見分けつかない!? 偽動画
https://www.nec-nexs.com/sl/security/quiz/44.html

「本物の人間と区別がつかない」 文章からAIアバターが話す ...
2022/12/13
https://techblitz.com/synthesia/

15 ：名無しのひみつ：2024/04/01(月) 08:19:06.30 ID:WD+tD36Y.net

モナリザが喋った!?どんな顔写真も音声に併せた口パク動画にできるAIを開発！
2024.03.04 MON
https://nazology.net/archives/146532

これらのAIと組み合されて陥れられる
口頭同意をその場で撮影していたとね

集団いじめも多発


全員他人ごとではない

ボイス・トォ・スカルは2021年３月ごろにはてシステム鵜を構築できていた

16 ：名無しのひみつ：2024/04/01(月) 08:24:25.67 ID:LgOUUz8T.net

超リアルな人物の全身写真を数クリックで作成できるAI Human
2023/09/12
https://photoshopvip.net/150772

日本人の顔を生成するAIサイト：リアルなアバター作成の最前線
2024/03/18
https://techsuite.biz/japanese-face-reality/

17 ：名無しのひみつ：2024/04/01(月) 08:28:50.63 ID:neBiwk3A.net

声コピーするの違法にしないとまずいんじゃねえの

18 ：名無しのひみつ：2024/04/01(月) 08:45:11.77 ID:WD+tD36Y.net

携帯電話とスマフォの音声変換方式を知っていれば

班員の声が対象者の声になる

録音もしくは津和地の音声プログラムを解析して
そのプログラムの温室内で収まるように知る

それをさらにスピーカーと接続すれば他人の声になる

19 ：名無しのひみつ：2024/04/01(月) 08:51:18.50 ID:WD+tD36Y.net

>>24

津和地→通話時

スマフォを２台使用すれば完成

20 ：名無しのひみつ：2024/04/01(月) 09:34:53.50 ID:efB4dpjo.net

そらもう喘ぎ声生成しまくるよな！

21 ：名無しのひみつ：2024/04/01(月) 10:52:48.24 ID:S5e8RgWh.net

>>20
美人店員いる店のいたずら電話増えそうだな

22 ：名無しのひみつ：2024/04/01(月) 11:14:11.77 ID:M3qxNsor.net

作り話のネタに使えそう

23 ：名無しのひみつ：2024/04/01(月) 11:29:49.20 ID:SRdYv+45.net

声優の仕事も変わってくるのかね
サンプリングのデータだけ提供して後はAI任せとか
本人が引退あるいは亡くなっても代役は必要なくなるとか

24 ：名無しのひみつ：2024/04/01(月) 13:03:09.11 ID:SOVYreh3.net

塩沢さんをAIで復活させてくれないかな
あの声は他の人で代用できんわ

25 ：名無しのひみつ：2024/04/01(月) 13:39:26.79 ID:GEdAGYzU.net

野沢雅子さんは代役不可だろうから　
AIでコピーさせてくれる許可を土下座しても今からお願いしとくべき

26 ：名無しのひみつ：2024/04/01(月) 14:16:42.88 ID:mCvMbsS9.net

これでかわいいJKに淫語とか喘ぎ声をしゃべらせた
自分用エロ音声作成すればいいであってる？

27 ：名無しのひみつ：2024/04/01(月) 14:21:09.50 ID:bsVCQfAM.net

OpenAIがわずか15秒の音声からクローン音声を生成できるAIモデル「Voice Engine」をリリース
https://gigazine.net/news/20240401-openai-voice-engine-ai/

28 ：名無しのひみつ：2024/04/01(月) 14:30:11.93 ID:grOBnohB.net

えっちな声を生成するAIはまだですか？！
欧米な喘ぎ声ならあるっぽいけど、アニメ的なヤツが欲しいｗ

>>26
AIに学習させるために、かわいいJKに音素材を提供してもらわないといかんだろ、それだと

29 ：名無しのひみつ：2024/04/01(月) 14:47:08.06 ID:bahSokFG.net

声優引退してもAIが稼ぎ続けてくれるのかな

30 ：名無しのひみつ：2024/04/01(月) 14:59:03.08 ID:5kHvjolh.net

声優を首にしてAIでやらせれば儲かる！

31 ：名無しのひみつ：2024/04/01(月) 15:15:55.60 ID:4IEyPMyZ.net

ついにメカ声優爆誕か
これでサザエさんも安心

32 ：名無しのひみつ：2024/04/01(月) 15:30:47.59 ID:5kHvjolh.net

日本人がいなくなっても
サザエさん新作が作り続けられる
デストピアSFはよ

33 ：名無しのひみつ：2024/04/01(月) 15:51:42.89 ID:grOBnohB.net

喘ぎ声はともかく、声優の「声の演技」はまだまだ無理だと思うよ
声の演技を経験したことがないとサッパリ分からないと思うけど、通常の発話とはぜんぜん違うんだ
5年後10年後には分からないけど

34 ：名無しのひみつ：2024/04/01(月) 15:52:55.84 ID:dsERijaG.net

声に著作権を適用するか？w

35 ：名無しのひみつ：2024/04/01(月) 15:53:41.01 ID:dsERijaG.net

山田康夫のクローン頼む

36 ：名無しのひみつ：2024/04/01(月) 16:08:57.66 ID:8jw6Z9x4.net

名探偵コナンか

37 ：名無しのひみつ：2024/04/01(月) 16:28:21.79 ID:OdnC1qoj.net

>>33
そんなのすぐだよ
なんせＡＩにとっては普通もアニメ用も区別ない
アニメばっか覚えさせればそれが普通になる

38 ：名無しのひみつ：2024/04/01(月) 16:54:11.79 ID:uc7FE6Ez.net

ケーズデンキのCMが流れてて
まる子は変わらないと思った

39 ：名無しのひみつ：2024/04/01(月) 17:35:17.64 ID:grOBnohB.net

>>37
「やだ……」と「ヤダッ！」と「やぁだ〜♡」は、台本だと「やだ」としか書いてないんだけど、
どうやって指定すればいいんだろう？
感情記号的なものを付ければ良いのかな
それとも、感情の揺れ的なものも合わせて学習させれば良いのかな

40 ：名無しのひみつ：2024/04/01(月) 17:51:51.37 ID:OdnC1qoj.net

>>39
台本が「やだ」としか書いてないわけではない
お前自身が声を文字にして書いてあるじゃんか
それだけで充分アニメ声はやれるし、台本に音符つければ大抵のことは伝わる
それに加えて前後の文脈から読み取れる
その読解力はＡＩなら屁でもない

41 ：名無しのひみつ：2024/04/01(月) 18:03:08.96 ID:gxOLo75y.net

>>39
人間が手本となる抑揚で話せば
性別とかが違っていても
AIが自動的に真似してくれるのでは？

42 ：名無しのひみつ：2024/04/01(月) 18:09:15.63 ID:UXqQxwY0.net

声の民主化！

43 ：名無しのひみつ：2024/04/01(月) 18:09:55.25 ID:grOBnohB.net

>>40
「……」も「ッ！」も「〜♡」も、ある種の感情記号というつもりで書いたんだけど、
やっぱりそういうのは必要だよねえ

44 ：名無しのひみつ：2024/04/01(月) 18:12:46.74 ID:grOBnohB.net

>>41
なるほど、山寺宏一さんが1人居れば、声優全員要らなくなるのかｗ

45 ：名無しのひみつ：2024/04/01(月) 18:24:08.16 ID:rWPW8tYs.net

録音も証拠にならなくなるのか

46 ：名無しのひみつ：2024/04/01(月) 19:05:40.40 ID:gq6EtdBw.net

ま～この～

47 ：名無しのひみつ：2024/04/01(月) 19:21:59.04 ID:fQYdafyj.net

オレオレ詐欺が捗るなぁ

もう犯罪を防ぐんじゃなく事後対応で死刑にしろよ
捕まっても刑罰軽いからやる
一発死刑ならやるやつ減るだろうに

48 ：名無しのひみつ：2024/04/01(月) 21:50:54.80 ID:MqJA8zsa.net

もしもし警察です今からあなたを逮捕しに行きます

49 ：名無しのひみつ：2024/04/01(月) 22:12:00.45 ID:5JzLHZAr.net

>>34
人物に関しては肖像権

50 ：名無しのひみつ：2024/04/01(月) 23:10:44.96 ID:CovnF7sE.net

>>39
おまえが監督になってAIにダメ出しすればいい
AIの演技が下手ならお前が悪いってAIがキレるかもしれない

51 ：名無しのひみつ：2024/04/01(月) 23:55:19.42 ID:/r/hXd85.net

ゆっくりしていってねだらけになるのか

52 ：名無しのひみつ：2024/04/01(月) 23:57:23.79 ID:/r/hXd85.net

俳優や声優の声の学習なんて
まっさきにやられるに決まってるじゃん
犯罪者にとっては儲かるのだから。
モノマネなんですと開き直られたら、今の法律では防げない

53 ：名無しのひみつ：2024/04/02(火) 00:20:56.20 ID:8qLgkPN4.net

耐え難きを耐え、忍び難きを忍び、

54 ：名無しのひみつ：2024/04/02(火) 07:20:20.03 ID:Gydf7Zan.net

ボイス・トォ・スカルを使用している者もこれを使用して追いつめられる!

言い逃れを使用とも録音ありますけれど?

55 ：名無しのひみつ：2024/04/02(火) 10:08:59.83 ID:0hzQcBJ1.net

VCでネカマがはかどる

56 ：名無しのひみつ：2024/04/03(水) 01:01:39.79 ID:E0+sRf7/.net

https://gigazine.net/news/20240402-ai-video-game-actors/
2024年04月02日 21時00分
声を盗むAIにゲーム声優たちはどう向き合っているのか？

57 ：名無しのひみつ：2024/04/03(水) 13:25:03.01 ID:Rdp3j7cH.net

法律で禁止しないかぎり止まらない

58 ：名無しのひみつ：2024/04/03(水) 15:59:59.77 ID:AbIFWxsD.net

AIの問題は神は仕事をする必要があるのか？という問題と同じ
我々が動物を続けるかどうかにかかってるんだよな

59 ：名無しのひみつ：2024/04/03(水) 16:22:45.70 ID:f0SGY6hl.net

むかしCIAがイラクのフセイン大統領にそっくりな
男優を出演させたホモビデオを作ろうと計画したらしい
AIの発達した今なら簡単に作れるだろうし
政治的な利用価値は小さくないはず

60 ：名無しのひみつ：2024/04/03(水) 21:35:04.52 ID:IQKiXJ9X.net

玉音放送をリメークしてみたらどうだろうか。

61 ：名無しのひみつ：2024/04/03(水) 22:15:02.64 ID:2LYngnzP.net

ｙOUTUBEって声少しでも入れないとAIにはじかれて収益化できなくなるんじゃなかったっけ

62 ：名無しのひみつ：2024/04/09(火) 01:57:59.40 ID:7rBCdvjQ.net

AIは人類の永遠的地獄化も明示したぞ

63 ：名無しのひみつ：2024/04/22(月) 08:31:40.48 ID:yRcRlRnA.net

太田淑子さん、白石冬美さん、清水マリさん、。。。