CHATGPT是美國OpenAI公司于2022年11月推出的AI聊天機器人程序,基于人工智能技術驅動的自然語言處理工具,ChatGPT能完成聊天、文字翻譯、文案撰寫、詩歌創作、代碼編輯、方案推算等任務,是史上增長最快的消費者應用之一
OpenAI是一家人工智能研究和部署公司,使命是確保人工通用智能造福全人類。OpenAI的使命是確保人工通用智能(AGI)——指的是在具有經濟價值的工作中超越人類的高度自治系統——造福全人類。OpenAI將試圖直接建設安全和有益的AGI,但如果工作幫助他人實現這一結果,OpenAI也將認為我們的使命已經完成。OpenAI已經(jing)訓練(lian)(lian)了一個(ge)名為(wei)ChatGPT的(de)模型,它(ta)以對話(hua)的(de)方式(shi)進(jin)行交互。對話(hua)形式(shi)使ChatGPT能夠回答(da)后續問題,承認錯誤,質疑不正確的(de)前提(ti),并拒(ju)絕不適當的(de)請求。ChatGPT是(shi)說明書,它(ta)被訓練(lian)(lian)成遵循提(ti)示(shi)中的(de)指令并提(ti)供詳細(xi)的(de)響應(ying)。
ChatGPT有時會寫出(chu)聽起來合理(li)(li)但不正確或無意義的(de)答案。解決這(zhe)個問題是具(ju)有挑戰(zhan)性的(de),因為:(1)在RL訓練(lian)期間,目前(qian)沒(mei)有真實的(de)來源;(2)訓練(lian)模型(xing)更(geng)加(jia)謹慎(shen)導致它拒(ju)絕它能夠正確回答的(de)問題;以及(3)監督訓練(lian)誤導模型(xing),因為理(li)(li)想答案取決于模型(xing)知道(dao)什(shen)么,而不是人類(lei)示威(wei)者(zhe)所知道(dao)的(de)。
ChatGPT對輸入措辭的(de)(de)(de)調(diao)整(zheng)或多次(ci)嘗試相(xiang)同的(de)(de)(de)提示很敏感。例如,給定一個(ge)問題的(de)(de)(de)一種措辭,模(mo)型可以(yi)聲稱(cheng)不知(zhi)道答案,但給定一個(ge)輕微的(de)(de)(de)措辭,可以(yi)正(zheng)確地(di)回答。理想情況下,當用(yong)戶(hu)提供(gong)一個(ge)模(mo)糊的(de)(de)(de)查詢時,模(mo)型會(hui)問一些(xie)澄(cheng)清(qing)性(xing)的(de)(de)(de)問題。相(xiang)反,我們當前的(de)(de)(de)模(mo)型通常猜(cai)測用(yong)戶(hu)的(de)(de)(de)意圖(tu)。
今天(tian)ChatGPT的(de)研究發布(bu)是OpenAI的(de)新一(yi)步迭代(dai)部署越來越安全(quan)和有用的(de)人工智(zhi)能系統(tong)。從早(zao)期模型(xing)的(de)部署中吸取(qu)的(de)許(xu)多經(jing)驗教訓為此次(ci)發布(bu)的(de)安全(quan)緩解(jie)措(cuo)施提(ti)供了信息,包括(kuo)通過(guo)使用人類(lei)反(fan)饋強化學習實現的(de)有害和不真實輸出的(de)大幅減少。