関西電力(株)【9503】の掲示板 2024/03/19〜2024/05/02

>>494

生成AIで通信はボトルネックになってないわよ。モデルデータはクソでかいけど、これはデータセンターに置いておくもので、外部からはテキストや軽量のコマンドを投げるだけだから、通信量自体は大したものにならないわ

モデルの配置に苦労するほど回線が細いのかと調べてみたけど、さくらの資料では北海道のデータセンターは東京大阪間と同容量のバックボーンで接続されてると書いてたわ

まあ根本的に理解が足りてなさそうね