プライム・ストラテジー(株)【5250】の掲示板 2023/12/07〜2024/03/06

>>1008

やはり、物凄い技術なんですよね？！
↓
https://　+　ascii.jp/elem/000/004/187/4187164/

また、量子化・バイナリ化技術を用いて、LLMを軽量化、高速・並列動作できる環境を構築する。NVIDIAやAMDのGPU、もしくはM2やM3のMacアーキテクチャで、オンボードメモリかユニファイドメモリが16GB以上であれば動作可能。さくらインターネットやAWS、Azure、OracleなどのクラウドGPUサーバーも利用できるという。

>ここはAIとは無関係だったはずなのに、

オフラインで生成AI活用出来るって事で一気に大躍進中ですね。