2023年3月20日月曜日

日常雑記2023年3月20日

 「llama」や「alpaca」などの「chatGPT」相当の高度なアルゴリズム

が最近登場。問題は行列の計算数で最低でも7Bもある事。70億行列と

いうと物凄い計算量です。さすがに7Bレベルでは「chatGPT」相当に

は性能が至らないらしいが140Bレベルでは性能的に超えられるとの

報道です。ただしメモリと行列演算用のプロセッサやGPUは大変高額

になるハズ。ハードウェア要件が厳しいので電源レベルから再構築が

必要なハズ。ヤベーな。でも個人レベルでも出来る見通しがあるのは

面白そうです。MLCーSSDの買い増しが必要かもしれない。

0 件のコメント:

コメントを投稿