編譯 | 智東西 程茜
編輯 | 心緣
智東西3月2日報道,今日凌晨,OpenAI放出了真正的ChatGPT API,不是背后的GPT-3.5大模型,是ChatGPT的本體模型!ChatGPT API價格為1k tokens/$0.002,等于每輸出100萬個單詞,價格才2.7美金(約18元人民幣),比已有的GPT-3.5模型便宜10倍。手快的開發(fā)者可以沖了!
這將大大降低開發(fā)人員將ChatGPT集成到自家應(yīng)用和服務(wù)的門檻,構(gòu)建屬于自己的AI聊天機器人。而且OpenAI將ChatGPT從去年12月至今的成本砍掉了90%,令此前許多靠開發(fā)私有ChatGPT API接口賺差價的中間商們再無用武之地。ChatGPT官方API基于GPT-3.5-turbo模型,是GPT-3.5系列中最快速、最便宜、最靈活的模型。開發(fā)者可以通過OpenAI Playground和OpenAI Codex來使用和測試ChatGPT OpenAI。
此前一些公司已經(jīng)率先接入ChatGPT API,包括生鮮電商平臺Instacart、跨境電商平臺Shopify、照片分享應(yīng)用Snap、單詞背誦應(yīng)用Quizlet等,用于提高客戶服務(wù)、營銷、教育等效率及體驗。
OpenAI還在不斷改進其ChatGPT模型,并希望將增強功能也提供給開發(fā)人員。
使用該gpt-3.5-turbo模型的開發(fā)人員將始終獲得OpenAI發(fā)布的穩(wěn)定模型,同時仍然可以靈活地選擇特定模型版本。例如,今天發(fā)布的gpt-3.5-turbo-0301,它至少會在6月1日之前推出特定版本,OpenAI會將gpt-3.5-turbo在4月更新到新的穩(wěn)定版本。
此外,OpenAI還推出了基于large-v2模型的Whisper官方API。Whisper是OpenAI去年9月發(fā)布的開源自動語音識別(ASR)模型。開發(fā)者可用該功能來轉(zhuǎn)錄或翻譯音頻,費用為每分鐘0.006美元。
API地址:https://api.openai.com/v1/chat/completions
01.ChatGPT官方API來了!輸出100萬個Tokens只要2美金
OpenAI官方宣布,其發(fā)布的ChatGPT模型系列與ChatGPT產(chǎn)品中使用的模型相同,對于許多非聊天應(yīng)用場景,這仍然是他們的最佳模型。
一些早期的開發(fā)人員,從“text-davinci-003”模型遷移至“gpt-3.5-turbo”只需根據(jù)提示進行少量調(diào)整。
一般情況下,GPT模型數(shù)據(jù)使用的是電子郵件文本、推特信息、博客、新聞等信息中的非結(jié)構(gòu)化文本,這些文本在模型中表現(xiàn)為一系列的“Tokens”,tokens可以被看作將文本切分成的若干個片段,1000個tokens大約是750個單詞。
而ChatGPT則改為使用一系列消息和元數(shù)據(jù)的新格式。在底層,輸入仍然以tokens序列呈現(xiàn)給模型,模型使用的原始格式就變?yōu)橐环N聊天標(biāo)記語言ChatML的新格式。
OpenAI創(chuàng)建了一個新端點來與ChatGPT模型進行交互。
值得注意的是,雖然0.002美元1000個tokens的價格并不貴,但1000個tokens在實際使用中數(shù)量并不算多,發(fā)送一段文本供API響應(yīng)就可能會花費多個tokens。
例如一個簡單的字符串“ChatGPT is great!”,就被編碼為六個tokens:“Chat”、“G”、“PT”、“ is”、“ great”、“!”.
OpenAI提供了一種工具來檢查解釋一串文本需要多少標(biāo)記,并介紹稱一般的經(jīng)驗法則是一個token通常對應(yīng)于約4個字符。
02.為高需用戶提供專用實例,性價比更高
OpenAI還將為希望控制特定型號版本和系統(tǒng)性能的用戶提供專用實例(Dedicated instances),也就是希望通過API運行大量數(shù)據(jù)的開發(fā)人員。
默認情況下,開發(fā)人員是按照需求來付費,并且這些需求會執(zhí)行在共享的計算基礎(chǔ)設(shè)施之上。使用專用實例,開發(fā)人員將按照時間段支付,分配計算基礎(chǔ)設(shè)施的費用,而這些基礎(chǔ)設(shè)施就是專門為這些開發(fā)人員保留的。
專用實例下,開發(fā)人員可以更好地控制使用的模型,包括希望它響應(yīng)請求需要的時間以及與機器人對話可以持續(xù)多長時間等。
對于每天運營超過4.5億tokens的開發(fā)人員來說,專用實例可能性價比更高。
此外,這一條件下還可以根據(jù)硬件性能直接優(yōu)化開發(fā)人員的工作負載,這可以顯著降低與共享基礎(chǔ)設(shè)施相關(guān)的成本。
03.社交、學(xué)習(xí)、配送、購物程序均已接入ChatGPT API
此前已經(jīng)有幾家公司接入ChatGPT API來創(chuàng)建聊天界面。
照片分享應(yīng)用Snap,本周推出通過ChatGPT API接入的“My AI for Snapchat+”功能,其提供了一個友好的、可定制的聊天機器人。用戶通過手機就可以與它聊天獲得建議,并在幾秒內(nèi)為朋友寫一個笑話。
單詞背誦應(yīng)用Quizlet推出了Q-Chat,可以讓學(xué)生通過有趣的聊天體驗中提供的學(xué)習(xí)材料,來提出相應(yīng)問題獲得知識。
生鮮電商平臺Instacart計劃在今年晚些時候推出“Ask Instacart”,這一功能可以幫助用戶在詢問食物相關(guān)問題時獲得一些想法,例如用戶可以問“對我的孩子來說,什么是健康的午餐?”
跨境電商平臺Shopify的新購物助手,將會根據(jù)購物者的需求進行個性化推薦,通過掃描數(shù)百萬種產(chǎn)品來簡化應(yīng)用程序內(nèi)購物的步驟,以快速找到買家正在尋找的東西。
04.語音轉(zhuǎn)文本每分鐘僅0.006美元,API數(shù)據(jù)不用于模型訓(xùn)練
除了引人關(guān)注的ChatGPT API外,OpenAI AI驅(qū)動的語音轉(zhuǎn)文本模型也可以通過API接入,該公司正在對其開發(fā)人員服務(wù)條款進行一些重要更改。
開發(fā)人員可以使用這一功能來轉(zhuǎn)錄或翻譯音頻,費用為每分鐘0.006美元。
從技術(shù)上講,Whisper模型是開源的,因此開發(fā)人員無需支付任何費用也可以在自己的硬件上運行它。
但是,如果在一些特殊情況下,例如開發(fā)人員對接入效率的要求較高以及需要在手機等低功率設(shè)備上轉(zhuǎn)錄。就可以通過OpenAI提供的更強大API。
除了開放API外,OpenAI還基于開發(fā)人員反饋宣布了一些政策變更:通過API提交的數(shù)據(jù)不再用于服務(wù)改進(包括模型訓(xùn)練),除非相應(yīng)的公司選擇或者統(tǒng)同意加入;為API用戶實施默認的30天數(shù)據(jù)保留政策,并根據(jù)用戶需求提供更嚴(yán)格的保留選項;通過改進自動監(jiān)控解鎖來刪除OpenAI發(fā)布前審查;改進開發(fā)人員文檔;簡化其服務(wù)條款和使用政策,包括有關(guān)數(shù)據(jù)所有權(quán)的條款:用戶擁有模型的輸入和輸出。
05.結(jié)語:OpenAI為開發(fā)者打開AI應(yīng)用大門
此前,一些開發(fā)人員已經(jīng)找到了在自己的應(yīng)用程序中接入聊天機器人的解決辦法,那就是使用OpenAI的常規(guī)GPT API,但從應(yīng)用和開發(fā)難度來看,都沒有達到最佳效果。
對于大多人開發(fā)人員來說,開發(fā)如同ChatGPT這樣的自己的聊天機器人模型是完全遙不可及的,但此次官方將ChatGPT API正式打開,且其花費的價格并不高,為開發(fā)人員構(gòu)建聊天機器人打開大門。
OpenAI的官方博客中也談道,他們認為人工智能可以為每個人提供難以置信的機會,而實現(xiàn)這一目標(biāo)的最佳方式就是讓每個人都可以利用它進行開發(fā)。