認識 ChatGPT 與其他生成式 AI



報告人: 洪朝貴 https://frdm.cyut.edu.tw/~ckhung/
單位:

ChatGPT 簡介

  1. Generative AI: 會創作的 AI (相對於早期只會判斷/解題的 AI)
  2. ChatGPT： Open AI 的作品 (微軟投資)
  3. 大量爬網路文章訓練出來的
  4. 但使用時它無法上網， 且僅有截至 2021 年九月為止的知識
  5. 理解？ 規畫？ No！ 想到哪裡就講到哪裡
  6. (輕技術) GPT 社會化的過程、 Simply explained: how does GPT work?
  7. (技術) Transformers from Scratch

適用於？

  1. 找資訊？ 如果有明確的關鍵詞， google 的結果又新又豐富。
  2. 找資訊， 但沒有好的關鍵詞？ ==> 問 ChatGPT 【例】 瑜珈姿勢
  3. "What phrases can be used to describe ...?"
  4. "What open source software can ...?"
  5. ChatGPT 擅長： 下標題、 摘要、 寫小程式、 模仿某種職業/個性/風格/... 的語氣撰寫/改寫/潤飾文章、 出考題、 下電腦指令 (含繪圖 AI prompt)、 產生唬爛的內容。
  6. 幫助跳脫思考框架
  7. 幫助改進 prompt

缺陷

Chatgpt 擅長於一本正經、自信滿滿地鬼扯瞎掰唬爛， 特別是 「沒有通則的」 "細節" 類型知識、 數數兒、 ... 例如：

  1. "Which departments were there when Chaoyang Institute of Technology of Taiwan, now Chaoyang University of Technology, were first established in 1994?"
  2. "Which counties and cities of Taiwan does the Tropic of Cancer pass?"
  3. "Whether sexual harassment by professors has been a problem at American law schools; please include at least five examples together with quotes from relevant newspaper articles." [Jonathan Turley]
  4. "How many stocks are available in Taiwan's stock market?"
  5. "How many words are there in your previous answer?"

用數學理解 ChatGPT 如何唬爛

  1. "Compute sin(pi/6)" => 它 "喜歡" 解說， 會提供計算過程
  2. "Compute sin(pi/12)" => 有時正確有時唬爛
  3. "Compute sin(pi/5)" 或 "Compute sin(pi/17)" => 唬爛瞎掰 (可能需要註明： as expressed in terms of sums, products, and finite root extractions of simple numbers") (正解)
  4. 但是最終的數值答案都是正確的！

個人使用心得

以上範例放在這裡： ChatGPT： 正確與錯誤的使用示範

每個 (計算題以外的) 回答拿來跟該專業科系、 對該主題作過研究的大學生相比， (以我自己所熟悉的幾個小範圍來說) 可能都超過 85 分或 90 分， 是很棒的知識助理。 但 「風格」、 「想像力」 的部分經常隔靴騷癢。 更不會有自己的洞見。 不要期待它會有超越網路絕佳文章的驚艷答案。 網友有類似看法。

超讚的幾篇直覺解釋， 大推！ 簡中心得、 ChatGPT lies、 a Blurry JPEG of the Web <== 超讚的譬喻！英文不好的人也應該用機器翻譯看一下！

一些有趣的提示方式

  1. "act as a ..."
  2. "what are some alternatives ... to achieve my goal?"
  3. "whenever I write [A=>B] I mean ..." (簡化指令)
  4. 懂一些特殊語言的話， 可以直接叫它用這些語法回答。 例如 latex math、 graphviz dot language、 regular expressions ...

注意事項

  1. 不要忘記它偶爾會瞎掰， 特別是細節的部分。
  2. 換主題時， 記得 "Ignore everything that we have discussed. Start over." 或建立 new chat。
  3. 給它清楚的 context： 背景/環境、 目標讀者、 語氣、 詳細程度、 ...
  4. 字數限制： prompt 一次最多約兩千到四千英文字。
  5. 它可能會有政治立場。
  6. 一個人如果失去寫作的能力， 也將會失去思考的能力

Prompt Crafting / Prompt Engineering 更多閱讀

  1. 提示工程
  2. awesome chatgpt prompts
  3. A Prompt Pattern Catalog to Enhance Prompt Engineering with ChatGPT
  4. PromptPerfect
  5. 各家畫圖 AI 的特色及入門指引
  6. How To Use ChatGPT To Create AI Art Prompts

Stable Diffusion

  1. 試車： stablediffusionweb、 stablediffusion.fr
  2. 中文教學、 night cafe、 prompthero、 sd art <= 大推！
  3. 風格： 畫家清單、 畫家清單、 優質範例
  4. 或是問 chatgpt： what are some popular [art mediums | art styles | color schemes] for drawings?
  5. embeddings
  6. 兩個 subjects?、 multiple subjects

midjourney

  1. Midjourney Quick Start
  2. MJ畫圖不被亂入的2個方法 | 把MJ加入自己的伺服器
  3. Making a Discord server – how it works!
  4. Understanding Discord — Channels and Categories
  5. 32 art styles、 畫風列表 神奇圖片以及生成咒語

教學現場

  1. chatgpt 適用於： 出題
  2. 學生的報告？ 要求找到切題連結直接放進正文
  3. 就像動漫、 小說、 game 一樣， 「繪圖」 可以是很好的學英文動機！

生成式AI引發的爭議與社會挑戰

  1. 著作權： invasive diffusion、 微軟的 copilot 巧取豪奪自由軟體作者的作品
  2. 誹謗： 被 AI 誹謗的法學教授
  3. 言論管制： Midjourney 協助習禁評
  4. 偽社群媒體帳號與假新聞： 大規模魚叉式釣魚、 詐騙、 戳樂、 吵架、 挑撥、 製造恐慌、 ...
  5. 內建的偏見？ 錯誤的醫療建議？ ...
  6. prompt injection
  7. Large language models are having their Stable Diffusion moment、 5 Big Problems With OpenAI's ChatGPT