2023年4月21日 星期五

ChatGPT,一場正在發生的革命

 


文:何孟翰 精誠資訊/恆逸教育訓練中心資深講師


前言

由於身為恆逸教育訓練中心的講師,通常社群中常常就充斥著新知,例如之前的手機AppIoT、物聯網、人工智慧、RPA,但是最近的潮流,不管是筆者的任何一個同溫層都充斥著ChatGPT所帶來的影響,並且對於任何相關資訊的更新頻率,已經由以前的數個月、數周到一日可以有幾個重要的更新。

例如在本文撰寫時,ChatGPT增加了外掛的功能,可以連接mathematica的數學引擎,並且也可以把自定義的資料網頁指定給ChatGPT,就可以運用對話模型來進行自定義資料的查詢,可以想像有越來越多的應用,可以藉由這個語言處理機制達到更便利的應用。

 

GPT? 是肝的某種指數嗎?

GPTgenerative pre-trained transformer的縮寫,而ChatGPT就是OpenAI2022年發表的人工智慧對話機器人,在以往AI的應用似乎都還是需要比較專業的操作,而ChatGPT由於模型在自然語言處理的成熟度已經發展到讓人眼睛為之一亮的等級,雖然比起電影中的鋼鐵人的Jarvis還是略輸一點,但還是引起了大家的關注。

 

ChatGPT的應用

在這個AIGC(人工智慧生成式內容)當紅的時代,每天都會有新的應用與新的發想,然而筆者覺得如果想要掌握這些內容生成的趨勢與潮流,從API的開發與實際使用可以略知一二。

 

不管GPT這是什麼,都給我來一點

ChatGPT這一波來勢洶洶,除了功能強大,更重要的是使用者不需要付出很大的計算能力,就能使用這些預先處理(pre-trained)的模型,並且它的費用是可負擔的。文字模型的計算方式是以token做計算,token是文字的計算單位,以英文來說大概750個字是1,000token,每1,000token以目前gpt3.5來說價格是USD0.002,也就是NT$0.06,聽起來似乎還可以接受ChatGPT更提供了USD18的額度讓您試用,以筆者最近進行的教育訓練,撰寫一份7小時ChatGPT SDK開發,寫了大概五、六種呼叫方式,分別對PythonNode.JS呼叫原生restfulapi大概是USD2左右的花費(當然範例沒有太大,也沒有太多的錯誤嘗試)

因此建議要了解ChatGPT,不如自己先依照以下網址登入申請一個帳號並且取得一組API_KEY

 https://platform.openai.com/account/api-keys


1API申請的畫面


同時可以使用playground做一些基本的操作,帳號申請並且驗證後,可以使用如下的網址:https://platform.openai.com/playground

此時就可以進行文字完成的使用,例如可以詢問如何使用PythonAPI呼叫,可以輸入

要能夠學習PythonAPI呼叫, 可以建議進行的練習是:

就可以看到如下的結果,似乎這和筆者進行的公開班與企業內訓內容有高度的相似


如果想試用chat,可以登入如下網址:https://chat.openai.com/chat 

同樣的問題可以先問一次:



此時可以追加詢問開源專案的詳細內容:



重點是您可以發現這是有前後文(context)相關的回答,因此可以理解這個大模型其實是可以讓您詢問後,記住目前的本文context,再讓您更進一步的能夠依照本文(in-context)再進行更深入的討論的。

這種有前後文的語言模型可以運用在許多地方,舉例來說,在以往語音輸入通常是個容易出錯並且準確度也不高的,還記得30年前左右在486電腦上,我的雙親對IBMvia-voice花了數小時從sound blaster接上了名牌的mic,還是寫不滿一頁的A4,而現在藉著ChatGPT的語言模型,您可以找到任何一篇感興趣的TED,透過whisper的引擎(截至目前版本是whisper-1),就算不寫任何一行程式,也可以透過像是curlpostmanadvanced rest controller這種restful操作工具在幾秒內得到非常流利的聽寫稿,更重要的是一分鐘的聽寫價格是USD0.006,也就是說一小時的聽寫,大概在新台幣11元左右,再透過語言模型即可以轉到自己熟悉的語言了,是不是比起專業的翻譯服務來得又快又好又有彈性呢


別再chanting了,這完全是rocket science

雖然ChatGPT以目前的表現和發展速度確實能讓人眼睛為之一亮,但不知為何,在之前的機器學習、深度學習的潮流下,操作與使用這些技術是非常自然的,然而這次的生成式人工智慧,就出現了很多詠唱(chanting),或者咒語、咒術相關的描述。但這其實依然是科學,而且是基於之前機器學習、深度學習、強化學習,生成對抗網路與一系列軟體硬體半導體的進步之後自然而然的結果。因此不管工作或興趣是不是直接和ChatGPT相關,筆者建議大家都應該相當密集的關注ChatGPT的發展,因此在感嘆ChatGPT強大的功能之前,其實了解機器學習、深度學習、資料處理的相關知識,都會對理解ChatGPT的發展有幫助,同時由於目前ChatGPTAPI主要是支援PythonJavaScript,如果想要整合ChatGPT到自己的服務中,理解這兩種語言也會很有幫助喔!



學習推薦

PythonPython程式設計 

BDPyPython與資料處理實戰演練

PyKTPython與機器學習深度學習-使用KerasTensorFlow 

PYMLPython機器學習-使用 Scikit-Learn 

NojsNode.JS實務運用

 


0 意見:

張貼留言