bitnet
対応する量子化済み1ビット大規模言語モデルを、C++のコマンドライン環境で準備・推論するためのフレームワークです。
再現できる小さなissueを選び、AIコーディングエージェントで直してみましょう。
Xで共有ライセンス: MIT
概要
bitnet.cppは、1ビット大規模言語モデルを実行するためのC++推論フレームワークです。対応する量子化モデルの準備と実行をコマンドラインで行えます。セットアップスクリプトで対応モデルと量子化方式を指定し、モデルファイルとプロンプトを渡して推論を実行します。ログや調整済みカーネルパラメーターのオプションも記載されています。
主な特長
- 対応モデルを準備し、i2_sまたはtl1の量子化方式を選択できます。
- モデルファイルとプロンプトを使ったコマンドライン推論に対応し、ログや調整済みカーネルのオプションも記載されています。
こんな人・用途に
対応する量子化済み1ビット大規模言語モデルを、C++のコマンドライン環境で推論したい開発者に向いています。
- アップストリーム
- microsoft/BitNet
- GitHubのフォーク
- Guo-astro/bitnet
- アップストリームのスター数
- 41k
- カテゴリ
- AIエージェントとLLMツール
- ライセンス
- MIT
- フォーク日
- 2026-10-10
- 同期状態
- 同期済み最終同期 2026-11-08
同じカテゴリ: AIエージェントとLLMツール
/last30daysは、SNSや動画、ニュースなどの最近の情報を調べて要約するAIエージェント用スキルです。話題の調査や準備に役立ちます。
フォーク日 2026-10-22最終同期 2026-11-08ライセンス: MITAIエージェントとLLMツールGitHub
GPUや機械学習フレームワークを使わず、CPUでKimi K3を動かすポータブルなC99推論エンジンです。巨大なチェックポイントをディスクから読み込み、限られたRAMでのテキスト生成やチャットに使えます。
フォーク日 2026-10-21最終同期 2026-11-08ライセンス: Apache-2.0AIエージェントとLLMツールGitHub
LayerFSは共有履歴上に書き込み可能なワークスペースを提供し、AIエージェントの並行作業を支えます。変更の保存、分岐、巻き戻し、マージに使えます。
フォーク日 2026-10-21最終同期 2026-11-08ライセンス: MITAIエージェントとLLMツールGitHub
Magnitudeはハードウェアに合わせてカーネルを調整し、オープンモデルをローカルで実行します。対応エージェントや互換クライアントから利用できます。
フォーク日 2026-10-19最終同期 2026-11-08ライセンス: Apache-2.0AIエージェントとLLMツールGitHub