ROCmではじめるローカルAI: AMD GPUによるLLM環境構築ガイド

コテツ

Jun 2026 · インプレス NextPublishing

About this ebook

本書は、AMDの最新APUであるRyzen AI MAX+ 395を搭載したミニPCを使い、Ubuntu環境でROCmを構築してローカルAIを動かすための実践ガイドです。NVIDIA GPUが主流の現代において、AMD環境でのAI開発は情報が少なく、多くのユーザーが導入に苦労しています。本書では、著者が実際に行った試行錯誤をもとに、ROCm 7.2のインストールから最新の7.2.1へのアップグレード、そしてllama.cppやWhisperXといった主要ツールの動作手順をステップバイステップで詳細に解説します。さらに、最新のGemma 4によるマルチモーダル推論や、話題の1-bit量子化LLM「Bonsai」の実行テストなど、一歩踏み込んだ応用例も網羅しています。AMD GPUのポテンシャルを最大限に引き出し、自分だけの強力なローカルAI環境を構築したいエンジニアにとって、必携の一冊と言えるでしょう。
【目次】
前書き
第1章　AMD Ryzen AI MAX+ 395とROCmの概要
第2章　ROCm 7.2.1インストール
第3章　llama.cppでLLMをGPU推論する
第4章　WhisperX ROCm7.2.1セットアップガイド
第5章　1-bit量子化LLM「Bonsai」をROCmで動かす
第6章　Gemma 4 31Bでマルチモーダル推論
第7章　AIずんだもん パイプライン全体像とVOICEVOXセットアップ
第8章　ttllmブリッジとvtt CLI
第9章　three-vrmビューアと一括起動
第10章　LLM 1.58bit Ternary BonsaiをROCmで動かす
第11章　ERNIE-ImageをROCmで動かす
付録A　付録

About the author

コテツ
国内大手電機メーカーの中央研究所に勤務後、FAE（Field Application Engineer）として、国内半導体ベンチャー、アメリカ系外資系大手半導体メーカー、EU系外資系大手半導体メーカー、アジア系外資系ソフトウェアベンチャーを経て、現在はアメリカ系半導体卸売業勤務。マイコンの使用経験は豊富。関係各社とのPoC開発から量産開発まで、ハードウェアおよびソフトウェアの両方を経験。最近はROCmにはまっている。
Bluesky ID: @kotetsuyama
Qitta ID: @kotetsu_yama