大語言模型 LLM 應用開發工作坊
迎接 AI 浪潮,瞭解如何開發 AI 應用,下個職場超新星就是你
2023年,導入 AI 專案相較去年成長 34 倍,其中有 95% 的專案都在使用 OpenAI 模型。 台灣的 AI 職缺也開始增加,至今年已超過 2.6 萬個,起薪甚至上看百萬! 在本課程中,你將學習大語言模型 (LLM) 和 Prompt Engineering 最佳實務 ,並運用 OpenAI API 來打造你的第一個 AI 應用工具!
你將學到什麼












課程大綱
- 什麼是 Temperature 和 Tokenization
- Completion API 和 Chat API
- GPT-4V API 影像解讀辨識
- Text-To-Speech (TTS) API 文字轉語音
- DALL-E 3 API 圖片生成
- Google Colab 實驗環境 (在瀏覽器中編寫及執行Python 程式碼)
- 撰寫 Prompt (提示詞) 的最佳實務
- Chain of Thought 思維鏈推理
- Chaining Prompts 多個提示鏈
- 常見用法: 摘要、推理、文本轉換、擴寫
- 什麼是 Prompt Injection 和應對方式
- 如何做 Evaluation (評估)
- LLM 的運作原理
- 各種 Memory 實作方式比較
- OpenAI Stream 用法
- Map Reduce 摘要法
- Whisper 語音轉文字
- 詞嵌入 Embedding 語意搜尋
- 檢索增強 Retrieval Augmentation Generation (RAG)
- 向量資料庫 Vector Stores
- ReAct Prompting
- OpenAI Function Calling
- 淺談 Autonomous Agents
- Assistants API 快速打造 Agent 知識檢索應用
- Prompt Template
- Sequential Chain
- Conversation Chain
- Summarization
- RetrievalQA Chain
- Agents
- LLM 相關的 App Stack 工具介紹
- 概述各種模型和服務提供商: OpenAI、Azure OpenAI、Google Vertex AI、AWS Bedrock 和 Hugging Face
- 淺談 Pre-trained model 和 Fine-tuned 模式
- 淺談如何微調(Fine-Tuning) 以及為何微調
學員怎麼說
給 ihower 老師五星好評!! 授課內容直指重點,不但旁徵博引又輔以許多優秀的操作案例,相當全面而且實用!不像其他市面上的相關課程像大雜燴似的,塞了一堆內容卻沒有重點,讓人摸不著頭緒也無從下手,徒然浪費時間與精力。
黃彥臻
對於整體的 LLM 的技術有較全面的了解(這個我比較弱),以及有對於 function call,prompt 的正確下法,agent 這些東西都比較少看到甚至不瞭解,這次也全部都學到了,覺得很棒!
蔡冠廷
講者帶來的內容著實豐富,從基礎到進階、玲琅滿目。這堂課確實為我打開 AI 世界大門,儘管尚未能完全掌握課程的全部精華,但至少在我的心中已經埋下一顆對於 AI 好奇心的種子。課程結束不是終點,學海無涯,唯勤是岸,期許自己將講師的豐富教材仔細著墨後,能促使自己躍上另一境界!如果對於 AI 這門學問也甚是好奇,不妨藉由這堂課程帶領你一探箇中奧妙,相信定有所獲的!
兩盒
滿滿的範例,需要花時間吸收,覺得很值得,可以在一天就接收講師大大八個月的LLM 開發精華,值得!
李錦和
透過這次的課程可以對 LLM 和生成式 AI 有基本架構的認知,有效減少自己測試時的疑惑。
吳兆召
推薦課程
你可能也會喜歡的學習內容
線上課程
FE201
廖珀均 aka 奶綠茶
React 完全進階攻略
線上課程
PY101
高見龍
為你自己學 Python
線上課程
FE301
廖珀均 aka 奶綠茶