理想與現(xiàn)實的努力平衡: OpenAI開啟測試API試水商業(yè)化道路
理想與現(xiàn)實的道路
OpenAI創(chuàng)立之初擁有滿滿的情懷，但要持續(xù)進行高質(zhì)量的研究并長久運營下去需要平衡好理想與現(xiàn)實的微妙關系。為了回應輿論對于這次商業(yè)化的嘗試，OpenAI在官網(wǎng)上從各個方面對這次的API發(fā)布進行了回應：
1． 是什么原因促使OpenAI決定發(fā)布商業(yè)化產(chǎn)品？OpenAI的使命是確保人工智能造福人類，產(chǎn)品的商業(yè)化是確保實現(xiàn)目標的有效手段之一。安全地開發(fā)一套強大的AI系統(tǒng)是十分困難的，OpenAI希望API的發(fā)布可以加強合作，攜手解決AI系統(tǒng)在真實世界中所面臨的挑戰(zhàn)，同時也為未來的研究提供了更多方向性的指導，更好地保證AI系統(tǒng)安全地服務全人類。
2． 為何選擇發(fā)布API而不是完整的開源模型？
主要有三個原因。首先，商業(yè)化可以覆蓋AI研究、安全性和政策倡導的成本開支。其次，API后面的模型往往十分龐大，需要耗費大量的人力物力進行訓練開發(fā)和部署，個人或者中小企業(yè)無法負擔如此龐大的研發(fā)與運營成本。所以API的發(fā)布為中小企業(yè)和開發(fā)者提供了接入強大AI系統(tǒng)的能力。此外，API方式可以對技術(shù)的濫用進行更快的應對。一方面有限制的逐步開放API可以在一定程度上控制對于技術(shù)的濫用，也可以有效管控；另一方面也不像模型會面臨未知的下游應用開發(fā)風險，如果開源的模型被惡意使用將很難有效阻止。
3． 針對有可能的API濫用，OpenAI將要如何解決這一問題？一方面將阻斷有害身心健康的API調(diào)用，包含但不限于騷擾、欺詐、垃圾郵件、激進言論和病毒營銷等，并在運營中進一步優(yōu)化和細化對于API的管理。同時也將引導研究人員加強對于模型潛在濫用的研究，通過學術(shù)服務合作與第三方研究機構(gòu)緊密合作。目前通過審核來開放的beta測試API也將進一步減小API被濫用的風險，并幫助OpenAI更深入地理解API的內(nèi)涵和局限性。
4． 如何緩和API后臺模型所包含的有害的偏見和負面影響？
對于減少像有害偏見這樣負面影響，是目前對于整個工業(yè)界都是十分重要但困難的問題。事實上API后臺所支撐的GPT－3模型在某些情況下也會顯示出偏見，所以為了解決這一問題，我們將在以下三個方面進行努力：
一方面給出使用指南，引導用戶學習并減小這種偏見的影響；另一方面與用戶緊密合作來理解具體業(yè)務場景中的問題，并開發(fā)工具來標記和干預有害偏見的表現(xiàn)；最后引導更多研究人員對底層的機理和理論進行研究，更廣泛深入地理解模型的表達和公平性的影響，協(xié)助用戶解決問題。在這一過程中對API的優(yōu)劣進行更為深入地理解，并不斷改進工具和工作流程來最大程度地減小負面影響。
最后，讓我們再來康康基于API的有趣應用吧：
智能客服
▼
文本生成
▼
文本補全
▼
語言翻譯
▼
分享
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
