train-llm-from-scratch
PyTorchで自分のTransformer言語モデルを、生テキストから文章生成や調整まで順に学べるチュートリアル。LLMの仕組みを理解したい人向けです。
再現できる小さなissueを選び、AIコーディングエージェントで直してみましょう。
Xで共有ライセンス: MIT
概要
Attention Is All You Need論文に基づき、PyTorchで独自のTransformer言語モデルを訓練するための、手順解説とスクリプトのチュートリアルです。生テキストとトークンからベースモデルを作り、教師ありファインチューニング、報酬モデル、PPO、DPO、GRPOへと進み、評価とチャットで終わります。アルゴリズムはtrl、peft、transformersを使わず、素のPyTorchで手書きされています。作者によると、単一GPUで百万規模から十億規模のパラメータのモデルを訓練できます。
主な特長
- 素のPyTorchでTransformerをゼロから実装
- 生テキストから事前学習済みベースモデルまで
- SFT、報酬モデル、PPO、DPO、GRPOを扱う
- trl、peft、transformersに依存しない
- 最後に評価とチャットまで実施
こんな人・用途に
言語モデルの作り方と整合の手順を、自分で読んで動かしながら理解したい学習者向けです。教材であり、例の出力は約1300万パラメータの小さなモデルのものです。
- アップストリーム
- FareedKhan-dev/train-llm-from-scratch
- GitHubのフォーク
- Guo-astro/train-llm-from-scratch
- アップストリームのスター数
- 12k
- カテゴリ
- AIエージェントとLLMツール
- 言語
- Python
- ライセンス
- MIT
- フォーク日
- 2026-09-25
- 同期状態
- 同期済み最終同期 2026-10-20
同じカテゴリ: AIエージェントとLLMツール
Magnitudeはハードウェアに合わせてカーネルを調整し、オープンモデルをローカルで実行します。対応エージェントや互換クライアントから利用できます。
フォーク日 2026-10-19最終同期 2026-10-20ライセンス: Apache-2.0AIエージェントとLLMツールGitHub
研究アイデアの評価から文献調査、論文執筆、投稿前確認までを支援し、一般的なAIでは不足しがちな研究上の判断を補います。
フォーク日 2026-10-18最終同期 2026-10-20独自ライセンス(リポジトリを参照)AIエージェントとLLMツールGitHub
言語モデルの強化学習向けに、難易度を調整できる検証可能な環境で問題を生成し、出力を評価する研究用プロジェクトです。
フォーク日 2026-10-17最終同期 2026-10-20ライセンス: MITAIエージェントとLLMツールGitHub
AIエージェント向けにAndroid開発の手順を提供し、専門的な作業を支援します。Android CLIで個別または全スキルを導入できます。
フォーク日 2026-10-16最終同期 2026-10-20ライセンス: Apache-2.0AIエージェントとLLMツールGitHub