llm-internals
記事や動画を通じてLLMの概念、トークン化、Attentionを段階的に解説し、言語モデルがテキストを処理する仕組みを学べる資料です。
再現できる小さなissueを選び、AIコーディングエージェントで直してみましょう。
Xで共有ライセンス: Apache-2.0
概要
LLM Internalsは、大規模言語モデルがテキストを処理し、応答を生成する仕組みを段階的に学ぶための資料です。LLMを使うだけでなく、その仕組みを理解できるよう、記事と動画へのリンクで解説します。LLMの基本概念から始まり、トークン化、BPE、停止トークン、Query・Key・Valueを使ったAttentionの数式まで扱います。説明を順に読み、関連動画も見ながら学べます。
主な特長
- LLMと、RAG、MCP、エージェント、ファインチューニング、量子化などの関連概念を紹介します。
- 文字単位・単語単位・サブワード単位のトークン化、BPE、トークンID、デコードを解説します。
- 停止トークンと、生成テキストやチャットのターンにおける役割を扱います。
- 数値例を使ってQuery、Key、ValueによるAttentionの計算を順に説明します。
こんな人・用途に
LLMがテキストを処理する仕組みを、概念ごとに理解したい人に役立ちます。LLMを使うだけでなく、記事や動画の解説を通じて学びたいときに向いています。
- アップストリーム
- amitshekhariitbhu/llm-internals
- GitHubのフォーク
- Guo-astro/llm-internals
- アップストリームのスター数
- 1.8k
- カテゴリ
- 学習・面接対策・厳選リスト
- ライセンス
- Apache-2.0
- フォーク日
- 2026-10-03
- 同期状態
- 直近の同期で更新最終同期 2026-11-08
同じカテゴリ: 学習・面接対策・厳選リスト
CSAPP第3版の中国語学習資料です。章の読書、演習解答の確認、8つの実験学習をオンラインでもオフラインでも進められます。
フォーク日 2026-10-20最終同期 2026-11-08ライセンス表記なし学習・面接対策・厳選リストGitHub
大学生や初めて社会に出る人向けに、協力や職場、金銭などの場面での伝え方と判断のヒントをまとめた実践ガイドです。
フォーク日 2026-10-20最終同期 2026-11-08独自ライセンス(リポジトリを参照)学習・面接対策・厳選リストGitHub
Linux Basics for Hackersをもとにした学習ノートです。コマンド例や図、演習を使い、自分のラボでLinuxの基礎を学べます。
フォーク日 2026-10-19最終同期 2026-11-08ライセンス表記なし学習・面接対策・厳選リストGitHub
Androidのroot化ガイドとrootアプリ・モジュールをまとめた、コミュニティ編集の情報集です。Webサイトで検索やカテゴリ別の閲覧ができます。
フォーク日 2026-10-19最終同期 2026-10-30ライセンス: MIT学習・面接対策・厳選リストGitHub