いきなりすみません
AIに詳しそうだったのでモロホスト厨さんに聞きたいことがあるのですが
https://huggingface.co/DavidAU/OpenAi-GPT-oss-20b-abliterated-uncensored-NEO-Imatrix-gguf
このモデルをvast.aiのVRAM24GBくらいのGPUマシンで動かそうとしたのですがlack of memoryとでてしまいn_ctxを1024、n-gpu-layersを8にしてもだめでした
これは24GBではこのモデルはそもそも動かないということなのでしょうか？