【AI】AIが生成する画像を「ネコ」にするサイバー攻撃　絵師らを守る技術「Nightshade」　米シカゴ大が開発 [すらいむ★]

1 ：すらいむ ★：2024/04/16(火) 22:37:35.26 ID:1EZn8uJJ.net

AIが生成する画像を「ネコ」にするサイバー攻撃　絵師らを守る技術「Nightshade」　米シカゴ大が開発
[山下裕毅，ITmedia]

　米シカゴ大学に所属する研究者らが発表した論文「Nightshade: Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models」は、生成AIモデルの無断学習を抑止するために、学習されても予期せぬ動作をAIモデルに生成させる毒入りデータに画像を変換するツールを提案した研究報告である。

　この攻撃は「Nightshade」と名付けられ、約200枚の細工画像をモデルの学習データに紛れ込ませるだけで、特定の単語に関連する画像生成を高確率で操作できてしまう。

（以下略、続きはソースでご確認ください）

itmedia　2024年04月15日 12時00分
https://www.itmedia.co.jp/aiplus/articles/2404/15/news037.html

2 ：名無しのひみつ：2024/04/16(火) 22:48:56.78 ID:mzN1ioOe.net

オレが予想したとおりだ

やっぱりねこ攻撃が来たな

3 ：名無しのひみつ：2024/04/16(火) 23:16:22.90 ID:wYc44iNS.net

ﾈｺと和解せよ𓃠

4 ：名無しのひみつ：2024/04/17(水) 00:04:34.63 ID:7M61Ozna.net

これは御褒美

5 ：名無しのひみつ：2024/04/17(水) 00:13:07.60 ID:Yz1dFeSC.net

もう終わりだ猫の国

6 ：名無しのひみつ：2024/04/17(水) 03:53:23.53 ID:mBe0pm/5.net

どう操作しても猫ミームになるAIなら別の需要がありそう

7 ：名無しのひみつ：2024/04/17(水) 04:03:08.83 ID:XAjfkef+.net

これが絵師を守ることにどう繋がるのかが判らん

8 ：名無しのひみつ：2024/04/17(水) 09:45:20.76 ID:rmFvtdyv.net

何でクリエイターだけ守られるの？

過去どれだけの人々が技術革新のせいで職を失ったと思ってる？
電話交換手だったしうちの曾祖母さんに謝れよ

9 ：名無しのひみつ：2024/04/17(水) 11:29:18.96 ID:7zT7ZkhY.net

大分合同新聞のミニ事件簿が捗るなｗ

10 ：名無しのひみつ：2024/04/17(水) 12:11:22.59 ID:mAjBw5CL.net

ナイトシェードってことはベラドンナとかハシリドコロとか。

11 ：名無しのひみつ：2024/04/17(水) 15:26:21.47 ID:AoeQ+3I+.net

これは・・・ケモナー大歓喜では・・・

12 ：名無しのひみつ：2024/04/17(水) 17:20:46.38 ID:3jGGLQxC.net

いいから力抜けよ

13 ：名無しのひみつ：2024/04/17(水) 18:13:04.85 ID:hICc8CdE.net

ﾈｺの国は近づいた

14 ：名無しのひみつ：2024/04/18(木) 11:45:33.14 ID:5XVufmtL.net

>>8
確かに
駅の改札で人が切符切ってたとか若者は知らなさそう

15 ：名無しのひみつ：2024/04/19(金) 16:24:13.37 ID:22oJ0dzE.net

プーさんとかにしろよ

16 ：名無しのひみつ：2024/04/19(金) 18:59:51.30 ID:24UFd5UR.net

終わりだ猫の技術

17 ：名無しのひみつ：2024/04/19(金) 23:35:46.24 ID:6blmcIQJ.net

ネコばかり増えて、タチの人材不足らしいぞ

18 ：名無しのひみつ：2024/04/20(土) 22:56:17.57 ID:9zgh404P.net

にゃんだってーーー

19 ：名無しのひみつ：2024/04/23(火) 08:40:19.62 ID:6sXdvkxv.net

まだ日本がスランプに落ちていたころ、AIをたぶらかす謎のAI向け宗教がネットワークに台頭してきた、。。。

20 ：名無しのひみつ：2024/04/23(火) 22:09:27.18 ID:pwAM1LL1.net

ﾈｺの国は近い

21 ：名無しのひみつ：2024/04/23(火) 22:33:44.50 ID:EvsIGeTA.net

ヨシ！