文科生也能輕鬆實現!自建自用大語言模型(LLM):無痛操作Ollama本機端模型管理器

· 財經傳訊(台灣廣廈)
Ebook
224
Pages

About this ebook

你已厭煩ChatGPT的諸多限制嗎?斷網不能用、網速明顯拖慢回應、敏感話題不回應、免費額度很快用完、回應答案經常飄忽受誤導等,對此打造本機端的大語言模型將可化解、緩解上述限制,如同直接將ChatGPT搬回家,成為你專屬的知識服務。


毫無疑問!生成式人工智慧(GenAI)、大語言模型(LLM)正在重新定義人類的創意、生產力價值程序,善用GenAI∕LLM者視其為利器,不善用者視其為威脅挑戰,各位正處於這樣的十字路口。


與此同時GenAI∕LLM也讓人疑慮,包含過程機理難懂如黑箱、答案時而確切、時而玄幻等,這又當如何駕馭?加上公眾版GenAI∕LLM服務有諸多限制,使人想善用、駕馭GenAI∕LLM卻又躊躇不前。


本書正是為上述痛點而撰,從入門認知到操作實務一路引導、自建自用模型,回頭再望時,各位已是GenAI∕LLM的初階能手。


本書目標讀者設定為高中職畢業、大學文科生畢業,並從最初步認知開始,隨即切入最快速獲得實務成就感的程序操作,而後回頭完整解釋操作中的細節機理。


更之後返回到基礎認知,瞭解今日常言的Llama、DeepSeek等知名大語言模型,提供繁體中文模型的選擇建議,並透過模型參數量以初估電腦的硬體資源需求等。


在認知與實務均站穩腳步後,以此為基礎進行擴展延伸,實務面進入檢索增強生成(RAG)以加強模型回應精準性,並進入多模態(Multimodal)模型、視覺語言模型(VLM),認知面也引領介紹多款與Ollama相仿的本機端模型管理軟體。


最後,這一切都還在積極發展中,仍有諸多待完備之處,故末章將給予提醒與關注建議,包含資訊技術走向、社會倫理走向。至於意猶未盡者也可以進一步參考附錄,讓認知更為加深,同時為後續有更多準備。


本書特色


協助你建立專屬的知識平台

你要求任何的AI平台(大語言模型)寫一份市場分析,它去網路上搜尋整理一番,產出一套言之成理,但是和你或是你的公司沒有什麼關係的文章。這樣的人工智慧雖然很炫,但是有什麼用?


如果你可以把和公司相關的資訊儲存在指定場所,要大語言模型先參考你指定的資訊,再參考外部的資訊,那麼就能產生合乎你本意的內容。


這樣的資訊累積得越多,你建構的大語言模型就越可以反應你的思維。好比你任用一個員工,剛開始時,他不知你要的是什麼、如何依公司的情況做出處置,但是時間久了,你就可以放手讓它處理。


文科高中生也可以看得懂

本書在寫作初始已將目標讀者群設想為高中職畢業生、大學文科生,因此在本書輕鬆簡單又直覺的指引下,也可以自建人工智慧模型(大型語言模型)。


本書透過程序說明,以最快速、直接、直覺簡單的方式在自己的電腦上建構起一套大語言模型系統,系統將能回應人們對它發出的問題。初步回覆答案或許仍不夠精準,但已經達到初步對話互動效果。


提供調整、提升人工智慧模型的相關資訊,讓你超有成就感。

在本地端建立大語言模型後,尚有諸多細部設定等待調整,如為增加操作介面親和性而加裝Page Assist,以處理介面調整、搜尋引擎切換、管理模型、管理對話、版本檢視等細部調整。另外也說明如何透過檢索增強生成(RAG),讓模型的理解更清晰、回話更精準。

About the author


江達威


2年品牌商全球市場銷售分析與預測、

10年以上資通訊媒體編輯、

17年以上外商、本土科技產業分析師、

華文維基百科執行編輯

Rate this ebook

Tell us what you think.

Reading information

Smartphones and tablets
Install the Google Play Books app for Android and iPad/iPhone. It syncs automatically with your account and allows you to read online or offline wherever you are.
Laptops and computers
You can listen to audiobooks purchased on Google Play using your computer's web browser.
eReaders and other devices
To read on e-ink devices like Kobo eReaders, you'll need to download a file and transfer it to your device. Follow the detailed Help Center instructions to transfer the files to supported eReaders.