【AI】「世界トップレベルの大規模言語モデルの開発に着手」──産総研など表明　目指すのは“GPT-3級の日本語LLM” [すらいむ★]

1 ：すらいむ ★：2023/10/18(水) 22:04:10.81 ID:2XnNtQF+.net

「世界トップレベルの大規模言語モデルの開発に着手」──産総研らが表明　目指すのは“GPT-3級の日本語LLM”

　産業技術総合研究所は10月17日、世界トップレベルの大規模言語モデル（LLM）の開発を始めると発表した。
　産総研の他にも東京工業大学や、国立情報学研究所が主宰するLLM研究開発チーム「LLM-jp」（東北大学や東京大学、早稲田大学などが参加）も加わる。

（以下略、続きはソースでご確認ください）

[松浦立樹，ITmedia] 2023年10月18日 12時49分
https://www.itmedia.co.jp/news/articles/2310/18/news121.html

2 ：名無しのひみつ：2023/10/18(水) 22:14:57.96 ID:2Ls7H+fx.net

3.5を目指して

3 ：名無しのひみつ：2023/10/18(水) 22:16:11.33 ID:2Ls7H+fx.net

3.5を目指して

4 ：名無しのひみつ：2023/10/18(水) 22:17:45.47 ID:2Ls7H+fx.net

3.5を目指して

5 ：名無しのひみつ：2023/10/18(水) 22:20:22.03 ID:2Ls7H+fx.net

なんか最近２回書き込む奴多いなと思ってたら自分もやってしもたしかも３回
なんだよこれ

6 ：名無しのひみつ：2023/10/18(水) 22:20:35.14 ID:vjbU8EuT.net

銭ゲバメガネの肝煎りだし、何を聞いても『増税しかない』って答えそう･･･

7 ：名無しのひみつ：2023/10/18(水) 23:24:36.92 ID:Cev87nuj.net

>>5
腐ってる

8 ：名無しのひみつ：2023/10/18(水) 23:25:16.96 ID:Cev87nuj.net

>>5
腐ってる

9 ：名無しのひみつ：2023/10/18(水) 23:58:34.16 ID:G8gswoGm.net

いまからスタートって何周遅れ…

10 ：名無しのひみつ：2023/10/19(木) 10:10:40.05 ID:qvoCkKBQ.net

２周回遅れ目指すって。。。

11 ：名無しのひみつ：2023/10/19(木) 10:25:26.83 ID:JnBB4hvq.net

英語

12 ：名無しのひみつ：2023/10/19(木) 13:49:28.01 ID:kZUGsOrc.net

なんでGPT-5.0の計画が出てるときに何周も遅れた開発はじめてるの？

13 ：名無しのひみつ：2023/10/19(木) 14:10:50.02 ID:/Jx6tNZ/.net

着手利権ｗ
着手するだけでお金が懐に転がり込む天下り

14 ：名無しのひみつ：2023/10/19(木) 15:46:28.63 ID:74afFC9R.net

飛行機　飛びませんでした
ワクチン　作れませんでした
AI　２世代前目指します　( ｰ`дｰ´)ｷﾘｯ

15 ：名無しのひみつ：2023/10/19(木) 16:50:24.16 ID:dgzXK2pB.net

技術的特異点/シンギュラリティ247
https://rio2016.5ch.net/test/read.cgi/future/1696240894/

16 ：名無しのひみつ：2023/10/19(木) 17:47:32.16 ID:9G2bqvGq.net

富岳を使って作る！今年の9月には完成させる！
って夏頃に言ってたのはどうなったん？

17 ：名無しのひみつ：2023/10/19(木) 17:48:02.32 ID:9G2bqvGq.net

富岳を使って作る！今年の9月には完成させる！
って夏頃に言ってたのはどうなったん？

18 ：名無しのひみつ：2023/10/19(木) 17:48:31.69 ID:9G2bqvGq.net

富岳を使って作る！今年の9月には完成させる！
って夏頃に言ってたのはどうなったん？

19 ：名無しのひみつ：2023/10/19(木) 19:20:17.93 ID:+Z3hCsX4.net

GPT4は画像と音を理解できるようになってるんだし
日本もまずそこをスタートラインにしろよ

20 ：名無しのひみつ：2023/10/19(木) 23:15:39.73 ID:wUpPlgim.net

5ちゃんねらーでも答えられる高校入試問題

四角形ABCDはAD〃BCの台形, Eは線分ACとDBとの交点である。
AD=6cm, AE=3cm, EC=7cmのとき, BCの長さは何cmか求めなさい。

これはBingの厳密とGPT4は一発で正解を答えられるが、GPT3.5は8回目で正解。しかしBardは何回やっても正解できない問題。
PoeでClaude 2で聞いてみたらとりあえず1回間違えた。

この程度の問題は正解できないとAIとしてはお話にならないし、できれば文字データ化されていない画像やPDFからOCR機能で文字や数式を認識し、質問に解答できるようにしないといけない。

21 ：名無しのひみつ：2023/10/19(木) 23:43:33.55 ID:RZezg5Cr.net

>>1
日本語プログラム言語を開発しろ！
通称ＪＡＰＯと名付け••••••••••
なくていいぞwww

22 ：名無しのひみつ：2023/10/19(木) 23:47:59.17 ID:cJw90T56.net

K国じゃないんだから、出来てから言え！（笑）

23 ：名無しのひみつ：2023/10/19(木) 23:58:30.71 ID:z6uTOw+7.net

ChatGPTの革新性は
学習データ量、学習後に人間のガイダンスによる強化学習の２つ
産総研あたりだとまず学習用データの収集でつまづくだろうな。
さらに、一旦、学習したモデルを再評価して、正答で強化学習
させるためには大量の人員が必要となる。
また、学習環境にはGPUクラスタが必要となるが、日本には
機械学習用の大規模なGPUスーパーコンピューターはない。
掛け声はいいが、まあ、掛け声倒れに終わるのが落ち

24 ：名無しのひみつ：2023/10/20(金) 17:01:05.55 ID:7+iWcT/i.net

>>13
いつも後出しなのは
ナゼなんだぜ？

AIとGoogle機能に差が有るみたいだけど
ソコの点は　どう改良してくれるんだね？

25 ：あ：2023/10/20(金) 17:22:14.39 ID:zTYsJz3u.net

日本語ねぇ
超漢字復活望む

26 ：名無しのひみつ：2023/10/22(日) 11:45:22.66 ID:15aXGniH.net

>>23
いまのビディアの牙城を崩す所も同時進行ならオケ
でもやらないみたいだし、、、

27 ：名無しのひみつ：2023/10/22(日) 14:19:29.67 ID:w9tNVgWH.net

ラピダスがGPU作るか
量子コンピュータでtransformer学習が可能なものでも作れれば良いんだがなあ

28 ：名無しのひみつ：2023/10/22(日) 16:42:27.03 ID:9HxyTnaM.net

一方、Open AIはGPT-5に向けてH100で実験準備中
GPT-4vでは、数兆以上のパラメータで画像言語音声全てに対応済み
勝てんよ既に


日本語にしたいなら翻訳エンジン使えばよくね？

29 ：名無しのひみつ：2023/10/23(月) 21:09:11.70 ID:iioOU4ZO.net

自前で作るより基盤モデルをファインチューニングした方が遥かに安上がりで性能も良い　だからどこも自前で用意せずみんなSDに乗っかってるんだよ

30 ：小池徹哉：2023/10/24(火) 02:33:22.47 ID:R6A5ijuJ.net

エイズ治す。赤痢。サーズ。プリウスの発電方法。atmの有料化。トヨタ輸送の連結決算による事務員の雇用。
鉄工団地の設計の見える化、製品、設備を設計できないものの解雇。飲み放題食べ放題。服の前掛け。BIS規制。
宇宙発電、磁場電池、←これ2ちゃんんでは七兆円、今、金に変えて１３兆円。
マイケルジョウダンジーンズダンク←面接。トヨタスマイルライフのインターン。
お金を使わない改善案169個あるそうです。
金を使った改善案トヨタ本社のロボット化。量子コンピュータ。自動運転。医療AI。
ハイブリッド電気自動車←メールの中に証拠あり。殺せトヨタ本社の奴ら俺に金渡さん。
金を使った改善案。349個あるそうです。
生協連結決算に反映させて飯売る。中間マージンを省く。トラックで持ってく。物は一から作れば全部ただ。

今までもらえた金バイト先の給料200万くらい。豊田北高校多分雲系高校にしたらしい。
センター700点ぐらい取れて体育会系高校の中京大に入り。先生に学歴を落とされる。
加藤洋一。加藤健司。とかせん。中学校の先生後で聞くとクローンなんだって。
ＫＧＢ。　FBI。ＣＩＡ。俺クローン化できんで助けてくれ。

ＣＯ２の分解方法も俺が考えた。日本の国家公務員がパクッテる殺せ
ＳＯＳ助けてくれ頼む。借金100万牡羊座の大幸運期に就職活動して警備員しか受からんかった。
人間てクローン化できるのかはっきりしてくれ。
なんでプリウスの発案やったのに雇ってもらえないんだ。

今日金なくて母さんに金もらおうとして母さんが隣の家の酒臭いおっさん呼び出して
うぜえから吹っ飛ばしたら警察呼ばれた。クローンてホントにいるのかな
助けてくれ仕事しても給料もらえないなら生活保護受けていい？

大卒だけど。大学って出る意味あるの。来世は学校通わんどこ

こんな国にお金なんて必要ないからな。

31 ：名無しのひみつ：2023/11/25(土) 12:48:52.42 ID:DY/v/j71.net

サーチエンジンなどの耐故障性の並列分散データベースなどの技術も、Googleなどに握られていて
日本は圧倒的に遅れているから、そういった基礎の技術、開発力無しに、
オープンソースのコードがあるからそれを移植して動かして同じようなことができたから
同等だといって喜んでいるのは全くの勘違い。
企業がソースをオープンにしているのはデファクトスタンダードになる率を高めるためで
莫大な投資を無駄にしないためのもの。