書籍紹介
生成AIを使いたいのに、クラウドAPIの費用や社内セキュリティー、GPU不足が壁になる——本書は、そんな制約下でもノートPC1台でローカルLLMを動かすための実践入門です。llama.cppとllama-cpp-pythonによる量子化モデルの導入から、マルチターンチャット、RAG、Function Calling、VLMの画像理解までをPythonサンプルで解説。さらにDifyとLocalAIをセルフホストして、ノーコードでAIアプリを作る流れや、量子化形式の選び方、日本語対応モデルの性能比較も扱います。クラウドに頼り切らず、自前環境でLLMを試し、業務活用の足がかりをつかみたい人に最適な一冊です。
続きを読む
短くする
電子版 ¥1,800 小売希望価格(税別)
印刷版 ¥2,000 小売希望価格(税別)
発行日:2026/09/18
発行社:インプレス NextPublishing
ページ数:106(印刷版)
ISBN:9784295604822
はじめに
第1章 貧弱環境での挑戦
第2章 基礎編
第3章 応用編
第4章 活用シーンを広げる
付録A 量子化
付録B パフォーマンス測定
あとがき
さしみもち
Webエンジニア。業務では年間80億件以上のトラフィックがある自社サービスの検索エンジン開発や自然言語処理によるデータ分析に従事している。学生時代の専門分野は複雑ネットワークや非線形動力学。
趣味でも検索ライブラリやチャットアプリの開発を行っている。著書に「実践入門Word2Vec」(インプレス NextPublishing刊)がある。