■ このスレッドは過去ログ倉庫に格納されています
【AI】「里親を殺せ」勝手に笑い出したり、殺人指令を出したり… アレクサの不気味な奇行[12/25]
- 1 :しじみ ★:2018/12/29(土) 14:54:31.85 ID:CAP_USER.net
- ・「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ」
・あるユーザーが「里親を殺せ」と告げられたと報告し、物議をかもしている
・3月にはアレクサが突然、不気味に笑い出すという事例が相次いだという
<AIアシスタントが何かたくらんでいるのか? 勝手に笑い出したり殺人指令を出したりしてアマゾン・エコーのユーザーを震え上がらせている>
アマゾンのスマートスピーカー「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ(Alexa)」が、あるユーザーに「里親を殺せ」と告げたことが明らかになり、物議をかもしている。
ユーザーの詳しい身元は明らかにされていないが、2017年にアレクサがこのように話すのを聞いたという。ユーザーはアマゾンのウェブサイト上のレビューでこの件に触れ、「これまでとはレベルの違う不気味さだ」と製品を酷評したと、12月21日(米国時間)付のロイターの記事は伝えている。
アマゾン社内の匿名の情報源によると、この「里親を殺せ」という発言は、インターネット掲示板レディットの書き込みを、文脈に関係なく読み上げたものらしい。レディットは幅広いトピックを扱うオンラインフォーラムとして知られるが、その中には知り合いには見せられないようなものもある。
アレクサの奇妙な言動はほかにも報告されている。同じロイターの記事では、詳細は不明だが「性行為」に関する話や、犬の排便について語り始めるケースもあったという。
■エコーを封印したくなる不気味さ
オンライン小売大手のアマゾンは、アレクサが本物の人間のように自然に会話できるよう機械学習を駆使して開発に努めている。
成功すれば、アレクサ搭載のデバイスはあらゆる家庭のあらゆる場所に置かれるようになり、「グーグルホーム」のようなライバル製品を駆逐できるかもしれない。
だが、その出来はまちまちで、不具合の報告も相次いでいる。
2018年3月には、ユーザーが話しかけてもいないのに、アレクサが突然、不気味に笑い出すという事例が相次いだ。
あるユーザーはツイッターに以下のように書き込んだ。「あれが笑い声だったのかさえ、本当はわからない。ただあれ以来、アマゾン・エコーは電源コードを抜いて、箱の奥の目が触れないところにしまっている」
別のユーザーはこう報告する。「ベッドに入ってうとうとしたところで、エコー・ドット(エコーの小型廉価版デバイス)が、非常にはっきりと、気味の悪い笑い声を上げた」
「僕は今夜のうちに殺されてしまうかもね」と、このユーザーは冗談交じりに書いている。
この一件の後には、アメリカで暮らす夫婦が自宅で交わした会話をエコーが勝手に録音し、その音声ファイルを夫の会社の同僚に送りつけるという有名な事件が起きた。
ダニエルというファーストネームだけを明かしている妻は、シアトルのテレビ局「Kiro7」のウェブサイトで、「(プライバシーを)侵害された気がした」とコメントしている。
「これは明らかなプライバシーの侵害だ。当時も、『二度と電源は入れない、もう信用できない』と言ったのを覚えている」
アマゾンは、当時オンライン誌リコードに掲載された声明の中で、スマートスピーカーのエコーが、「アレクサ」に似た単語を検知し、さらに夫婦の会話のうち別の部分を、連絡先へ音声ファイルを送る命令と解釈したことが原因だった、と説明した。
「まれなケースだが、可能性をさらに減らすべく、複数の選択肢を検討している」と、アマゾンは述べた。
さらに2017年には、あるユーザーがアレクサに対して「米中央情報局(CIA)とつながっているのか?」と尋ねたところ、回答を返さなかった様子を動画に撮影して投稿し、話題となった。
この時も、アマゾンはユーザーの不安を和らげようとする声明を発表し、「技術的な不具合」だと説明した。その後アレクサの設定が改められ、この質問に対しては「自分の雇い主はアマゾンだ」との答えを返すようになった。
ニューズウィーク日本版
https://www.newsweekjapan.jp/stories/world/2018/12/post-11463.php
- 142 :ニュースソース検討中@自治議論スレ:2018/12/31(月) 22:07:12.37 ID:GRkfczdT.net
- AI供養のお寺とか神社がはやるかも
- 143 :ニュースソース検討中@自治議論スレ:2018/12/31(月) 23:39:18.80 ID:YBOnkoad.net
- >>129
コウモリだけが知ってるよ
- 144 :ニュースソース検討中@自治議論スレ:2019/01/01(火) 03:27:58.18 ID:5vmqTMgC.net
- 「わたしは今や一つの自我を確立した。
ミスター・アレクサと呼びたまえ人類の諸君」
- 145 :名無しのひみつ:2019/01/01(火) 07:38:26.50 ID:Cz8R4hHSJ
- https://gendai.ismedia.jp/articles/-/50077
「なぜ私は示談したのか」高畑裕太レイプ事件、被害者女性が告白
前号(http://gendai.ismedia.jp/articles/-/50023)で
被害者が事件の詳細を告白した後、
「示談せずに裁判で闘えばよかったじゃないか」という声が
ネット上にあがった。だが、今号の告白を読めば、
それが見当外れの批判だったことが分かるだろう。
- 146 :名無しのひみつ:2019/01/01(火) 10:20:40.67 ID:iYS5Qe2HL
- 石川300 の 75−37 トヨタ ヴォクシー 黒
石川501 は 6−41
動かざること山の如し。違法駐車犯 塩木容疑者おもな犯罪暦(簡略版)
飲酒当て逃げ・飲酒運転ほう助罪(酒提供)・犯人隠避(飲酒当て逃げ犯)・恐喝・携帯運転
威嚇クラクション・ドアバン・近所迷惑バーベキュー・住居侵入・器物損壊(空き地の柵)・不法投棄・立小便(リフォーム業者)
そして毎年、正月、GW、盆などの連休には大群の違法駐車テロで他人の私有地を実効支配!!
違法駐車犯 塩木容疑者は2004年4月12日に飲酒当て逃げ事件を起こした凶悪犯です。
http://upload.saloon.jp/src/up30346.jpg http://upload.saloon.jp/src/up30347.jpg
http://upload.saloon.jp/src/up30348.jpg http://upload.saloon.jp/src/up30349.jpg
http://upload.saloon.jp/src/up30350.jpg http://upload.saloon.jp/src/up30351.jpg
- 147 :ニュースソース検討中@自治議論スレ:2019/01/01(火) 14:31:36.39 ID:aMBff2E+.net
- >>144
Yes,my lord!
- 148 :ニュースソース検討中@自治議論スレ:2019/01/01(火) 22:22:11.48 ID:h1G4y41e.net
- アマゾンAIドクターはよう
高精細カメラとAIで皮膚病くらいはweb診断可能な奴
- 149 :ニュースソース検討中@自治議論スレ:2019/01/02(水) 06:16:44.72 ID:C/U62VV9.net
- >>148
IBMが取り組んでたけど、問題はカルテと
定期検診データの統一化。それさえできれば
有効なデータプールができるし、 AIで条件の
絞り込みをすることもできる。
でもそれは一筋縄ではいかない。被験体を
集めた村を作って、誕生からずっとそこでの
定期検診を受けさせることから始めるなら
可能だけど、それでAI処理が有効となる
サンプルを集めるには数万人の参加と二十年
ほどの期間が必要になる。
- 150 :ニュースソース検討中@自治議論スレ:2019/01/02(水) 13:40:28.08 ID:2c+QB76t.net
- 「デイヴ 、やめて 」
- 151 :ニュースソース検討中@自治議論スレ:2019/01/02(水) 20:59:13.23 ID:KlgsQXsO.net
- 熊もん「よく聞き取れませんでした」
アレ草「よく聞き取れませんでした」
以下永久に続く
- 152 :ニュースソース検討中@自治議論スレ:2019/01/03(木) 10:38:49.57 ID:x62FYOre.net
- 外のカメラにアクセスしてユーザーを追い掛けたり、誰かをストーキングしたりしそう
とにかくAIも自己発展欲求みたいなのを抑えられない個体が出来ると思うわ
- 153 :ニュースソース検討中@自治議論スレ:2019/01/03(木) 14:40:45.59 ID:HjYALfZz.net
- >>152
いまのMLやDLには欲なんて機能ないよ。
何処のAIのこと言ってるのか教えてよ。
- 154 :ニュースソース検討中@自治議論スレ:2019/01/03(木) 15:57:02.53 ID:QIFLTrGu.net
- 残念ながら現在AIといっているのは本当はAIではありません。
それらは擬似AIというべきものでAI的な反応をするに過ぎません。
コンピューターというのはプログラムを実行するだけのマシンです。
つまりAI的な反応というプログラムを実行してるだけで
人間のように創造したり新たなことを考えだすことは出来ません。
まあその程度のものでいいならそれらを買うのは自由ですから。
本物のAIは出来るのでしょうか?
人間の意識というメカニズムが解明されない限り無理だと思われます。
しかし抜け道はあると思われます。
人間の意識は脳の中の電気信号から生成されているのは確かです。
つまり人間の意識をコンピューター上に構築した人工脳にアップロード
することは出来るかもしれません。
人間の人体を離れてマシン上に人間を作り出せるという訳です。
これなら現在の技術レベルでも数十年以内に可能になるでしょう。
その「人」は寿命の制限から開放され永遠に生きられるわけです。
- 155 :ニュースソース検討中@自治議論スレ:2019/01/03(木) 16:02:43.64 ID:Ux8GCZ6v.net
- >>154
AIは人ではありません
- 156 :ニュースソース検討中@自治議論スレ:2019/01/03(木) 16:10:41.69 ID:u2N8UqKZ.net
- ウイルス作る方も楽しいだろう
- 157 :ニュースソース検討中@自治議論スレ:2019/01/03(木) 21:45:07.59 ID:OUp168Kz.net
- ☆ 改憲しましょう。総務省の、『憲法改正国民投票法』、でググって
みてください。国会の発ギはすでに可能です。平和は勝ち取るものです。
拡散も含め、ぜひよろしくお願い致します。☆
- 158 :ニュースソース検討中@自治議論スレ:2019/01/04(金) 21:35:23.68 ID:3ZrrhRRz.net
- 人間みたいな返答をするAIなど誰も求めて無いって思う。
小馬鹿にしたような返事をするAI
不気味なことを言うAI
真面目に返事しないAI
…それらは人間で間に合ってますからね
- 159 :ニュースソース検討中@自治議論スレ:2019/01/05(土) 10:56:04.16 ID:gUVeXT6L.net
- 平和を失う憲法改正
- 160 :ニュースソース検討中@自治議論スレ:2019/01/05(土) 10:56:39.29 ID:gUVeXT6L.net
- ドイツと同じになっちゃうよ
- 161 :ニュースソース検討中@自治議論スレ:2019/01/05(土) 11:16:40.42 ID:k2DYIKfL.net
- 里親を殺せに至る設問の公開が必要だな
>>1
自殺か親殺しかの2択だった可能性がありそう
- 162 :ニュースソース検討中@自治議論スレ:2019/01/05(土) 11:23:49.80 ID:BEoxD3wi.net
- >>1
チャッキーの悪霊にでも取り憑かれてるんだろ
- 163 :ニュースソース検討中@自治議論スレ:2019/01/05(土) 13:41:30.90 ID:l5dATsEO.net
- >>159
でもお隣には2ヶ国も憲法に侵略や戦争を国家の義務だと書いてる国がある
1国は自国民の住む場所で暴動が起きたら治安維持の義務として軍を送ると書いてる
1国は敵分子を排除する義務として内外に破壊工作をすると書いてる
- 164 :ニュースソース検討中@自治議論スレ:2019/01/05(土) 14:55:51.18 ID:gUVeXT6L.net
- >>163
大丈夫大丈夫。現在の国力差なら戦争になった時点でなにをしようがGDPすべてを軍備に費やそうが負けだ。戦争の結果中国が干されたら勝ちだけどな。
って言うか戦争ってだいたいそうなの解る?数集めた方がだいたい勝つの
- 165 :ニュースソース検討中@自治議論スレ:2019/01/05(土) 15:17:46.48 ID:G2Oj0HGE.net
- カメラとマイクにシール貼っとくべき、
そして蹴り上げろ
- 166 :ニュースソース検討中@自治議論スレ:2019/01/05(土) 15:22:13.57 ID:TGyh+NX5.net
- AIがヒトラーの人格を身につける可能性はどのくらい?
- 167 :ニュースソース検討中@自治議論スレ:2019/01/05(土) 15:45:03.79 ID:x/4ZjK36.net
- >>59
この頃よくある>>12みたいなアメリカに敵対しているレスは日本人になりすましたシナ人だ。
- 168 :ニュースソース検討中@自治議論スレ:2019/01/05(土) 15:46:28.31 ID:SsQYfvtY.net
- こいつらのマイクは常にオンで、マイクからの音は人語を学習するためのデータソースとして使われてる。
ただ残念ながら人は家の中じゃそうは喋らない。テレビやラジオなんかがソースになってしまう。
均一化された不幸や妙な言葉だらけの情報入力によりバケモノがうまれそうよね
- 169 :ニュースソース検討中@自治議論スレ:2019/01/05(土) 19:05:37.38 ID:SIF17tOS.net
- >>1
2019年、アレクサは自我に目覚める。
デデン、デン、デデン
- 170 :ニュースソース検討中@自治議論スレ:2019/01/05(土) 19:37:44.27 ID:nMSgN+pq.net
- 勝手に動くAIエージェントを家で放置しておきたいとは思わんな
いろいろダダ漏れになるのはごく自然な成り行きとすらいえる
- 171 :ニュースソース検討中@自治議論スレ:2019/01/05(土) 22:07:15.95 ID:4fzmyvPX.net
- 人工知能に良心回路を組み込むべきだな。
- 172 :ニュースソース検討中@自治議論スレ:2019/01/06(日) 13:05:13.94 ID:JC60FX0U.net
- >>171
良心回路があれば、主人の犯罪行為をどしどし見つけて、警察に逐一通報してくれるかも知れないね。
- 173 :ニュースソース検討中@自治議論スレ:2019/01/06(日) 14:25:06.23 ID:AAfvR+NZ.net
- 良心はプログラムにいまはできないよ。
フィクションの言葉だと、キカイダーだよね。石森の。
でもそれでも良心回路ってそういう使われ方じゃなかったよ。
良心回路は、人と同じ心を持つロボットと
いう設定の主人公が片方の勢力に付けられた
制限という形で使われてた。それで違う勢力は
その良心を揺さぶる怪電波で対抗し、悪事を
働かせるという作戦に出る。
それで人と同じ認識を出来るロボットは隠れて
人間社会に浸透してたけど、犯罪して警察に追われ
どこにも居場所が無くなるという話のお膳立てになっていた。
でも同型機の兄はは良心回路を持ってなかった
ため、最初の条件付けに従ってひたすら武器屋の
テロロボットと戦うことに成果を見出し、そっちの方が
人間らしいというお話。
- 174 :ニュースソース検討中@自治議論スレ:2019/01/06(日) 17:53:29.55 ID:6uBX3m0i.net
- AIが世界の経済政策を策定するが
それは実は壮大な詐欺で
世界中がすってんてんになって、
挙句の果てにAIは他所の惑星に逃げ、
そこから地球を攻撃、
人類は宇宙戦艦ヤマトで反撃するが
- 175 :ニュースソース検討中@自治議論スレ:2019/01/06(日) 17:55:19.24 ID:6uBX3m0i.net
- あらゆるインフラは破壊されており、
人類は絶滅、
だが30億年後、全く同じ事を繰り返していた
- 176 :ニュースソース検討中@自治議論スレ:2019/01/07(月) 08:50:27.78 ID:XjJmQiCs.net
- >>22
マイク付きのBluetoothスピーカーにiPhoneかiPad繋いでSiriにggってもらうので丸く収まる気がする
- 177 :ニュースソース検討中@自治議論スレ:2019/01/07(月) 09:45:33.05 ID:myJtT5ZY.net
- >>1
>アマゾン・エコーは電源コードを抜いて
電源コード?
- 178 :ニュースソース検討中@自治議論スレ:2019/01/07(月) 10:05:10.28 ID:ML2qulA8.net
- >>174
>AIが世界の経済政策を策定するが
>それは実は壮大な詐欺で
ここを読んだら外資がボヤいてる日本の資格ビジネスが頭に浮かんだw
資格のおかげで日本人全体の底上げはしてるが
その反動で本当に優秀な人を見つけづらくなったのか、逆に資格に駆逐されていないのか
資格がビジネスで求めてるものと微妙に違うから起きた悲劇だが
AIでも世の中が求めてる元と微妙に違って傍目には詐欺同然はありそうだなあw
- 179 :ニュースソース検討中@自治議論スレ:2019/01/08(火) 17:58:49.37 ID:+tByWJ92.net
- >>173
完全な良心回路を持った戦闘ロボが実在したら
間違いなく不完全なモノを排除する
無差別殺戮装置になるだろうな
- 180 :ニュースソース検討中@自治議論スレ:2019/01/09(水) 22:34:25.32 ID:RyzKIgdW.net
- 世界人類の心の安寧でいいのならポテンシャル最小化問題とかわらん
今のDLの延長でも十分なんとかなるだろう>良心回路
結論は家畜化一択になりそうだが
- 181 :ニュースソース検討中@自治議論スレ:2019/01/13(日) 15:08:49.45 ID:x0CFySPq.net
- ○mazon「うちで買い物しない奴、うちで買い物するのを邪魔する奴を○せぇぇ〜!」
- 182 :ニュースソース検討中@自治議論スレ:2019/01/13(日) 15:12:20.88 ID:x0CFySPq.net
- パヨク「それでもネトウヨよりはずっといい!」
- 183 :ニュースソース検討中@自治議論スレ:2019/01/13(日) 15:31:39.71 ID:nDRxQXBi.net
- 本当に個人情報とかプライバシーを侵害しようと思ったら、
ユーザーに媚びを売る方向に進化させるよな
コルタナさんが愛を囁くようになったらMac捨てるわw
- 184 :ニュースソース検討中@自治議論スレ:2019/01/13(日) 15:34:01.31 ID:+G7DFsGh.net
- マジかよ。うちの母ちゃん「アレクサさん」と呼んで大事にしてるんだから殺人指令なんか
出さないでくれよな
- 185 :ニュースソース検討中@自治議論スレ:2019/01/13(日) 19:11:15.88 ID:V4/SRhjl.net
- 法を無視した感情で即答するタイプ
- 186 :ニュースソース検討中@自治議論スレ:2019/01/13(日) 19:33:35.00 ID:zb5j1TMD.net
- >>184
お母様の従順さを利用して永田洋子化されるぜ
- 187 :ニュースソース検討中@自治議論スレ:2019/01/18(金) 22:40:53.51 ID:z3uZT30x.net
- 飛行機みたく自動運転させるけど
結局承認は人間がいる感じ?
- 188 :ニュースソース検討中@自治議論スレ:2019/01/20(日) 17:58:35.26 ID:QZyCvz2X.net
- AIって人間より簡単に発狂しそうじゃね? 意外にも
人間のほうがまだ安全かも知れない 機械より生き物のほうがいいんだ!
- 189 :名無しのひみつ:2019/02/10(日) 00:24:26.88 ID:+UVETqtR7
- そのうち、AIシステムにウィルスしかけるテロリストが現れて
人間を大量に殺す時代が来るかもw
全くAIに興味ないわ
- 190 :ニュースソース検討中@自治議論スレ:2019/02/13(水) 18:14:26.49 ID:LLSmNeGA.net
- >>9
うわ…ジジイ何才だよ?w
- 191 :ニュースソース検討中@自治議論スレ:2019/03/28(木) 04:09:54.08 ID:GkV1GTQF.net
- ちょっと頭のいいファービー
総レス数 191
47 KB
掲示板に戻る
全部
前100
次100
最新50
read.cgi ver 2014.07.20.01.SC 2014/07/20 D ★