「llama」や「alpaca」などの「chatGPT」相当の高度なアルゴリズム
が最近登場。問題は行列の計算数で最低でも7Bもある事。70億行列と
いうと物凄い計算量です。さすがに7Bレベルでは「chatGPT」相当に
は性能が至らないらしいが140Bレベルでは性能的に超えられるとの
報道です。ただしメモリと行列演算用のプロセッサやGPUは大変高額
になるハズ。ハードウェア要件が厳しいので電源レベルから再構築が
必要なハズ。ヤベーな。でも個人レベルでも出来る見通しがあるのは
面白そうです。MLCーSSDの買い増しが必要かもしれない。
0 件のコメント:
コメントを投稿