推 Andrew Ng 在 Coursera 的線上課程: Generative AI for Everyone Generative AI 是極重要的新科技,善用這個工具,可以對人類帶來極大的幫助,這堂課的對象是每個人 (不需要任何 programming background,裡面的 optional video 帶學習者 trace/run 短短幾行 code,就可以完成一個簡單的 generative AI project),綜述了 Generative AI (這堂課專注在探討大型語言模型) 的幾個重要層面: • Generative AI 的運作原理 • Generative AI 能做什麼、不能做什麼 • 判斷 LLM 能做什麼的方法: 假設你把相同的問題丟給大學畢業生,他是否能夠回答 (condition: 他不能 access Internet 或書籍, 他對於提問沒有相關的背景知識, 要假設你每次都是從不同的大學畢業生得到答案) • LLM 的限制: knowledge cut-off (在 model training 好的那個時間點之後的事情, model 都不會知道); 幻覺 (LLM 會輸出實際上不正確的事情,而看起來很像是正確的); input/output 長度是有限制的; 可能會學到 bias 或 toxic 資訊 • 常見的用法: • 寫作 (例如:brainstorm product names、write a press release、developing sales strategy...) • 閱讀(例如:校正一段文字、總結一場會議的對話、閱讀評論判斷是正評或負評、閱讀來自顧客的e-mail判斷要交給哪個部門處理、讓 AI 閱讀後,問 AI 相關的問題,可根據問題的回答幫助人類或餵進軟體做 workflow automation...) • 聊天 (例如:可建構客服系統...) • 作為推理引擎(例如:提供資訊給 LLM, 問問題讓 LLM 回答,並說明推論的過程) • 如何建構 Generative AI 專案 • Generative AI 專案包含哪些要素 • 界定專案目標 → build/improve system → 內部評估 → deploy and monitor • 做一個 supervised learning 專案一般至少需要半年,做一個generative AI 專案一般只需要幾分鐘到幾個小時 (指 build system 的部分) • 相關的技術: • prompting • RAG (Retrieval-Augmented Generation): 讓 LLM access 指定 data source,因此能夠擁有精準的資訊,並從中提煉出 insight • fine-tuning: 能夠讓 LLM 學會某種談話風格,或者學習特定的專業語言,例如診斷紀錄裡的醫學名詞縮寫、財務語言、法律用語;能夠把大模型縮成小模型,以便在 edge 運算或加快反應速度 • Model Size: 1B 參數: 對世界有基本的理解; 10B 參數: 對世界有相當的理解, 可以執行基本的指令; 100B 參數: 對世界有豐富的理解, 可以做複雜的推理. • Generative AI 在商業及社會層面的考量 • 商業層面: 把 job 拆解成 tasks,分析是否值得、能夠導入 GAI,若是,分析 task 適合做 automation 還是 augmentation (AI 輔助人類) • 社會層面: 解釋常見的 concern,responsible AI (AI 要達到公平、決策透明、保護隱私、防患駭客攻擊、符合道德) 課程連結: https://www.coursera.org/learn/generative-ai-for-everyone/ 資訊來源: DeepLearning.AI