ラズパイで動く大規模言語モデルがGitHubで公開 性能は“GPT-3相当”、Metaの「LLaMA」派生 - ITmedia NEWS

25コメント 2023-03-18 14:15|ITmedia

Raspberry Pi上で動かせる、GPT-3相当のLLM(大規模言語モデル)「Alpaca LoRA」がGitHub...

ツイッターのコメント(25)

ローカルやColabで動くことを念頭にリリースされたMetaの「LLaMA」をファインチューニングしてできた「Stanford Alpaca」を実際にローカルで使えるようにしたLoRAができたそう!

言語モデルもLoRAがガンガン出るようになるのかなー!楽しみだ!
すげえ、ラズパイで動くんだ

 性能は“GPT-3相当”
AIの技術はソフトウェアもそうだけどハードウェアに取り込めたら恩恵かなりデカそうと思ったから個人的にそこの領域は興味がある。

日々の体験がかなり良くなるんじゃないかと思ってる。
工場やオフライン環境でマニュアル検索とかに使えそう。

 性能は“GPT-3相当”、Metaの「LLaMA」派生(要約)
そろそろドラえもんが作れそう。

 性能は“GPT-3相当”、Metaの「LLaMA」派生(要約)
お、おもしろそうなのあるじゃん
デバイス制御とかすごいものが出てきそうな/
そのうち居酒屋の注文パネルでインタラクティブにおすすめ料理やお酒をお勧めしてもらうみたいな使い方もできるようになりそう
おぉ、4090で
いけるなら何とかなるかも>
一応動くがスピードが微妙なのがネックか
現状の実用性はともかく、今後スタンドアローンで楽に動くモデルが増えていくのは楽しみね
小さなラズパイでいろいろできるな。
そんなに軽量にできたのかと驚いたが、もしかして、すごいのはラズパイのほうだったりして。
スマホでは動くのは知ってるけどラズパイで動くのは驚異的だなァー
AI界隈、先週の知識が役に立たないレベルで技術革新が進んでる。
低速でいいならAIをラズパイに載せられる、という話。
課研で使えそう
チェック →
生成に時間かかるとはいえラズパイで動くとかマジか
投稿時間:2023-03-18 15:00:56
[ News] ラズパイで動く大規模言語モデルがGitHubで公開 性能は“GPT-3相当”、Metaの「LLaMA」派生
たしかに遅くはあるけど、面白い話題。
以上
 
PR
PR