nanochat
単一GPUノードで自分用の小さなChatGPT型モデルを学習するための、最小限で改造しやすいコードです。事前学習から微調整、評価、推論までを低コストで扱えます。
再現できる小さなissueを選び、AIコーディングエージェントで直してみましょう。
Xで共有ライセンス: MIT
概要
nanochatは、単一のGPUノードで小規模なChatGPT風の言語モデルを自分で学習するための、最小限で手を入れやすいコードベースです。トークナイズ、事前学習、ファインチューニング、評価、推論までを扱い、完成したモデルとは簡単なCLIで対話できます。トランスフォーマーの層数を表すdepth一つの設定から、他のハイパーパラメータが自動で決まります。READMEでは、GPT-2相当のモデルを8XH100で約2時間、約48ドルで学習できるとされています。
主な特長
- トークナイズから推論まで一通りを網羅
- 少ないコードで単一GPUノード上で動作
- depthの設定一つで他のパラメータを自動決定
- 学習したモデルとCLIで対話
こんな人・用途に
LLM学習の全工程を低コストで理解し、改造したい学習者や研究者向け。GPT-2スピードランのリーダーボードもあります。
- アップストリーム
- karpathy/nanochat
- GitHubのフォーク
- Guo-astro/nanochat
- アップストリームのスター数
- 59k
- カテゴリ
- AIエージェントとLLMツール
- 言語
- Python
- ライセンス
- MIT
- フォーク日
- 2025-10-14
- 同期状態
- 同期済み最終同期 2026-10-19
同じカテゴリ: AIエージェントとLLMツール
研究アイデアの評価から文献調査、論文執筆、投稿前確認までを支援し、一般的なAIでは不足しがちな研究上の判断を補います。
フォーク日 2026-10-18最終同期 2026-10-19独自ライセンス(リポジトリを参照)AIエージェントとLLMツールGitHub
言語モデルの強化学習向けに、難易度を調整できる検証可能な環境で問題を生成し、出力を評価する研究用プロジェクトです。
フォーク日 2026-10-17最終同期 2026-10-19ライセンス: MITAIエージェントとLLMツールGitHub
AIエージェント向けにAndroid開発の手順を提供し、専門的な作業を支援します。Android CLIで個別または全スキルを導入できます。
フォーク日 2026-10-16最終同期 2026-10-19ライセンス: Apache-2.0AIエージェントとLLMツールGitHub
Pi Agentは、macOS、Windows、Linuxで使えるPiのローカルAIコーディングエージェントです。ターミナル環境を準備せずに、会話やプロジェクトファイル、保存したプロンプトを扱えます。
フォーク日 2026-10-15最終同期 2026-10-19ライセンス: MITAIエージェントとLLMツールGitHub