4bit量子化したら動くと思います…

20Bなのでfp16だと、2byte×20Bでモデル本体だけでVRAM40GBですよ
Q8_0にしても22.1GBで本体の空きVRAMが2GBでほぼないので厳しいと思います…
IQ4_NLとかにしたらどうでしょうか、12GBくらいになるので空きVRAM結構ありますよ

全ニコニコ民に告ぐ！卑劣なるエロコーストに抵抗し、ニコニコ珍保闘争を決起(勃起)せよ！

ポリコレのうんこ野郎がニコニコUNEIに圧力を掛け、エロコーストになった
ニコニコではほぼ無理、野獣動画2ndの管理人もエロゲの淫夢実況は規約上グレーだと言っていた
そこで淫夢厨でありノンケ向けのエロも見るバイの私は、エロコーストに抵抗する為、こう言いたい
「いやーほならね、自分で(プラットフォーム)作ってみろって話でしょ？」と
今こそ例のアレ民と変態紳士の共同戦線を結成せよ！
俺たち例のアレ民・変態紳士の動画サイトが必要なのだ！
俺が、俺たちが作らなくてはならない！
万国の異常性癖者よ、万国の淫夢厨よ、団結せよ！

やはり、エロコーストは実在したのか…
紳士とホモの共同戦線を結成せよ！
野獣動画2nd/ヤジュヤジュ動画版だと普通に見れるぜ！

ニコニコ動画でデブプラスpart2削除された挙句投稿規制食らったゾ、アーナキソ
おっぱいにチョー強いモザイクかけたんだけどなぁ…
これどうやって投稿しよう…

デブプラスは(同人作品と比べて)比較的オーソッドクスなデブ専向けエロゲですので、一般性癖(笑う)の風戸雄膣君でも多分興奮するはず

こ↑こ↓もゴMに見られてるのか…
これも見られてるのだろうか
https://yajutter.yajuvideo.in/posts/2299

自演工作荒らしの風戸雄琉君！見てるか～！オッハー!ダイナモ感覚!ダイナモ感覚!YO!YO!YO!YEAH!
風戸雄琉君！俺と一緒にデブプラスという激激エロのエロゲを淫夢実況、しよう！(提案)
多分だが編集技術だけはガバガバ質素編集の俺に比べたらまだマシと思われる
興奮させて頂きます┗(^o^ )┓

デブプラスの淫夢実況の編集今回はスルスル進むゾ
合わせる語録がすげぇ思い浮かんで気持ちがいい！
やっぱりエロ☆シーンは突っ込みどころが多いからな！

ex0chが正常に表示されないんだけど
どういうことなの…

自分でサイト作ってみてぇな～俺もな～、防弾鯖借りてえなぁ
例のアレと紳士の共同戦線　イキスギ動画
共に笑い、共にシコる、淫夢厨が作った性癖掲示板　けつまん掲示板

デブプラスのトランスコードとヤジュヤジュに反映あくしろよ、もうすぐ就寝時間なんだよなぁ
動画30分もあるからしょうがねぇなぁ
やることがないって言われたときにぃ、じゃあ筋トレができるじゃない！

nginxでperlfastcgiを適用しようとしてる部分だけ404になるんですけど…
なんでやろなぁ

あっ、これかぁ！
/usr/share/doc/fcgiwrap/examples

nginxでEXぜろちゃんねるを導入しているのだが、perl/fastcgiをするソフトウェアのfcgiwrapの導入に苦戦してる
OSはUbuntu、aptでインストールはできたけどfcgiwrapのconfigどこだよ…

ありがとうございます、やはり「現段階ではOKだが場合によっては削除」なんですね

見る前に消してしまったので回答は見ていません

返信来ましたか…投稿内容が大丈夫かの質問です、ほぼ大丈夫だとは思いますが念のため聞きます、元の質問はさっき削除してしまいました…
・デブプラス(エロゲ)の淫夢実況はセンシティブにすれば規約上OKか、このエロゲはグロシーンは一切ありません

もう一つ質問があります
これは投稿しようとは思いませんが、ノンケ向けAVはどの部分が規約違反なのかを聞きたいです
・商用のドラマやアニメの本編はNGで駄目です
が当てはまりそうですが、他にも当てはまるんですかね…

デブプラスの淫夢実況にエア本語録も追加したぜ！
へぇっ!?
フェチと淫夢に加え、エア本も付け足すとかクッソカオスになりそう

たまたまニコニコ大百科見てて気づいたが今日アルカイダの日やん！
【緊急速報】イスラム過激派組織「イスラム国」が法律事務所steadinessを爆破！
イスラム国は以下の声明を出しました
「我々は偉大なるアッラーの為にイスラム教を誹謗をした唐澤貴洋を粉砕する」

数ヶ月前思いついた生成AIの技術があるので言っておくゾ

生成AIのAttentionだけ浮動小数点の精度下げたら性能ほぼ下がらずにクッソ高速化できるゾ
理由はAttentionは一番リソース食う部分だけど一番小数点の精度がいらないからですを
pytorchの動的量子化機能を使ったり、モデルの実装コードをちょっと書き換えたりすると実装できるゾ
俺の場合q_projとk_projとv_projを動的量子化して実装したゾ
動的量子化だけどqintだけじゃなくてfp16もいけるゾ

質問か興味か指摘があるやつ、至急リプくれや！