どんな本？

ChatGPTに「LLMの仕組みを教えて」と聞いてChatGPT自身の説明でわかった気になっている、そんな人にこそ効く一冊。この本を読み終える頃には、TransformerもAttentionも「ブラックボックス」から「自分で書いた500行のPythonコード」に変わっています。トークナイザーの実装から事前学習、ファインチューニング、命令チューニングまで、全部PyTorchでスクラッチ。GPUがなくてもノートPCで動くサイズ感なのが親切。読み終わった後、巷のLLM解説記事に「いや、そこもうちょっと正確に書けるよね?」とツッコミたくなる副作用にはご注意を。