正文

ChatGPT及GPT-3 API本地調(diào)用

發(fā)布時(shí)間：2023-03-06 13:46:04 稿源：互聯(lián)網(wǎng) 閱讀： 776 問大家

相信這兩天大家的社交媒體上或多或少都會(huì)出現(xiàn)ChatGPT、GPT、OpenAI等英文字眼，簡單來說它就是一個(gè)人工智能，只不過相對(duì)如今的很多AI要更加智能，從OpenAI官網(wǎng)我們可以看到它的功能包括但不限于聊天；翻譯；文章復(fù)寫或潤色；編寫文案、代碼、郵件等等文字內(nèi)容。這一代模型的獨(dú)特之處在于它會(huì)根據(jù)上文的聊天內(nèi)容來完善下文的回答，流暢程度已經(jīng)可以堪比人類的交流，不過隨著聊天時(shí)間的延長，回答效果還是有所影響。

本人是研究區(qū)塊鏈的研究生，因此我從去年年底開始便使用ChatGPT來解決一些科研上的疑惑，用下來的感覺還是蠻不錯(cuò)的，很多涉及區(qū)塊鏈底層架構(gòu)的問題它都能給出見解。然而隨著ChatGPT影響力的擴(kuò)大以及請(qǐng)求量的增加，廣大網(wǎng)友們也開始發(fā)現(xiàn)這個(gè)AI存在的一些問題，比如虛構(gòu)科研文獻(xiàn)、生成用字詞簡單拼接的詩詞、無法回答高時(shí)效性的問題等等。

其實(shí)任何一個(gè)新鮮事物的誕生總會(huì)伴隨著好與壞，而如何正確看待這個(gè)事物并將其為我所用才是我們作為使用者應(yīng)該做的。ChatGPT本身是一個(gè)基于海量數(shù)據(jù)訓(xùn)練的大語言模型，其回答中能給出的答案都是基于訓(xùn)練的數(shù)據(jù)，因此只要沒有在其訓(xùn)練數(shù)據(jù)中的問題，它都不可能給出準(zhǔn)確的答案。基于這個(gè)結(jié)論，我們?cè)谑褂肅hatGPT時(shí)還是要注意辨別答案的正確性，不能因?yàn)槿斯ぶ悄軉适Я宋覀儗氋F的辨別力。

講完ChatGPT的缺點(diǎn)，我們?cè)倩剡^頭聊聊它強(qiáng)大的文字編寫能力。最近漂亮國很多大學(xué)生利用ChatGPT撰寫學(xué)術(shù)論文，嚴(yán)重蔑視了科研工作的嚴(yán)謹(jǐn)性，所以紐約的教育系統(tǒng)開始全面封殺ChatGPT，斯坦福大學(xué)也提出了DetectGPT算法來判斷文本是否由機(jī)器生成。針對(duì)上述這個(gè)例子，首先我必須表明我的態(tài)度：我覺得使用ChatGPT輔助科研或論文書寫是可以的，這樣不僅發(fā)揮了人工智能本身的作用，同時(shí)加快了我們獲取研究相關(guān)信息的速度，但是直接用它的回答作為論文內(nèi)容是堅(jiān)決反對(duì)的；其次，雖然ChatGPT的文字編寫能力很強(qiáng)，但對(duì)一些文字邏輯或?qū)W術(shù)性要求較高的工作來說它是不太適合的，至少目前的智能程度還完成不了，比如學(xué)術(shù)論文、詩歌、哲學(xué)思考等等。

ChatGPT API目前沒有公開，因此當(dāng)前國內(nèi)所有相似的小程序或網(wǎng)頁端的底層模型都是GPT-3，即text-davinci-003，這里我就拿GPT-3作為模型演示一下本地部署與調(diào)用的過程（不需要科學(xué)上網(wǎng)）。

注冊(cè)O(shè)penAI賬號(hào)，拿到OpenAI API key。賬號(hào)的話可以查詢網(wǎng)上教程，或者直接上某寶購買，也挺便宜的。接著登錄賬號(hào)進(jìn)入個(gè)人API Keys界面，點(diǎn)擊 Create new secret key即可生成OpenAI API key（記得復(fù)制保存）。 ChatGPT及GPT-3 API本地調(diào)用

本地安裝python、pip環(huán)境，這一步直接CSDN查教程，很簡單。下載openai包：pip install openai編寫如下python文件運(yùn)行即可。每次詢問問題修改prompt變量即可，運(yùn)行后答案顯示在terminal終端。 ChatGPT及GPT-3 API本地調(diào)用

這里簡單講解一下關(guān)鍵函數(shù)openai.Completion.create中幾個(gè)常用參數(shù)的含義。

engine：使用的模型，這里指的是text-davinci-003，GPT-3在官網(wǎng)中還有以下幾個(gè)模型。

prompt：傳入的問題或補(bǔ)全內(nèi)容

max_tokens：輸出生成的最大token數(shù)，即回復(fù)內(nèi)容的單詞數(shù)量

n：默認(rèn)值為1，表示生成多少個(gè)回復(fù)

stop：終止序列，API將停止生成進(jìn)一步的token，返回的內(nèi)容不包含該序列

temperature：模型將承擔(dān)風(fēng)險(xiǎn)的高低，也可理解為答案的隨機(jī)性，0.0—0.9表示隨機(jī)性從小到大

完整的參數(shù)列表如下，大家可以嘗試修改其他參數(shù)的取值，看看回復(fù)會(huì)有啥變化，玩AI也是學(xué)習(xí)AI的過程嘛。

其實(shí)我們?cè)谑褂肅hatGPT的時(shí)候，針對(duì)不同的場(chǎng)景需求OpenAI需要調(diào)用不同的API函數(shù)，GPT-3也是同理，由于函數(shù)以及每個(gè)函數(shù)的相關(guān)參數(shù)數(shù)量較多，因此下次有時(shí)間再跟大家盤盤。