智通財(cái)經(jīng)APP獲悉,一位已辭職的OpenAI團(tuán)隊(duì)負(fù)責(zé)人稱,科技巨頭微軟(MSFT.US)斥巨資支持的OpenAI正在解散其聚集于AI安全研究的“AGI Readiness”團(tuán)隊(duì),該團(tuán)隊(duì)曾經(jīng)負(fù)責(zé)向這家AI初創(chuàng)公司提供如何處理與應(yīng)對(duì)越來越強(qiáng)大的AI技術(shù)方面的解決方案與建議,以及提供當(dāng)今世界是否準(zhǔn)備好管理這些技術(shù)方面的建議?!癆GI Readiness”團(tuán)隊(duì)曾經(jīng)的團(tuán)隊(duì)主管表示,希望在外部繼續(xù)AGI領(lǐng)域的相關(guān)研究。近期越來越多跡象表明,OpenAI似乎全身心投入AI創(chuàng)收,無暇顧及AI安全。
OpenAI的經(jīng)濟(jì)研究團(tuán)隊(duì),直到最近還是由帕梅拉·米什金領(lǐng)導(dǎo)的AGI Readiness的一個(gè)重要子團(tuán)隊(duì),后續(xù)將由OpenAI的新任首席經(jīng)濟(jì)學(xué)家羅尼·查特吉全面領(lǐng)導(dǎo)。與此同時(shí),AGI Readiness的高級(jí)顧問邁爾斯·布倫戴奇在Substack帖子中宣布離職時(shí)表示,剩下的AGI Readiness團(tuán)隊(duì)將被分配到其他團(tuán)隊(duì)。
布倫戴奇表示,他離開OpenAI的主要原因包括機(jī)會(huì)成本變得非常高。布倫戴奇指出:“需要明確的是,雖然我不會(huì)說我總是同意OpenAI在公開發(fā)行方面的長(zhǎng)期立場(chǎng),但我確實(shí)認(rèn)為在行業(yè)中存在一些公開發(fā)行層面的限制是合理的(我?guī)椭珜懥薕penAI政策的幾個(gè)重要版本),但對(duì)我來說,這些限制已經(jīng)非常多了?!?/p>
布倫戴奇還表示,他希望減少偏見,并且強(qiáng)調(diào)他已經(jīng)完成了他在OpenAI的目標(biāo)。此外,布倫戴奇計(jì)劃創(chuàng)辦自己的非營(yíng)利組織或者加入現(xiàn)有的非營(yíng)利組織,專注于人工智能安全政策研究以及人工智能宣傳推廣工作。
“我們完全支持邁爾斯本人在行業(yè)之外從事政策研究的決定,并深深感謝他的貢獻(xiàn)。他計(jì)劃全力以赴地開展人工智能政策的獨(dú)立研究,這使他有機(jī)會(huì)在更大范圍內(nèi)產(chǎn)生影響,我們很高興能從他的工作中學(xué)習(xí)到很多內(nèi)容并關(guān)注其影響,”O(jiān)penAI發(fā)言人在給Seeking Alpha的電子郵件聲明中表示。
關(guān)于OpenAI和世界對(duì)通用人工智能(AGI)的準(zhǔn)備情況,布倫戴奇公開表示:“簡(jiǎn)而言之,OpenAI和其他前沿的人工智能實(shí)驗(yàn)室都沒有做好準(zhǔn)備,世界也沒有做好準(zhǔn)備?!?/p>
根據(jù)媒體披露信息的匯總,這已經(jīng)不是OpenAI第一次解散與AI安全密切相關(guān)的團(tuán)隊(duì)。有媒體報(bào)道稱,在今年7 月份,OpenAI 將公司最高級(jí)別安全主管之一亞歷山大·馬德里重新分配到人工智能推理方面的研究工作。據(jù)報(bào)道,民主黨參議員曾經(jīng)致信OpenAI首席執(zhí)行官薩姆·奧爾特曼,詢問OpenAI如何解決新出現(xiàn)的人工智能安全問題,而重新任命馬德里的決定就是在這個(gè)時(shí)候所做出。
此外,在更早前的今年5月,OpenAI決定解散其剛剛成立一年的“超級(jí)對(duì)齊”團(tuán)隊(duì)(Superalignment team),該團(tuán)隊(duì)專注于AI的長(zhǎng)期風(fēng)險(xiǎn)。
據(jù)了解,OpenAI于去年成立的“超級(jí)對(duì)齊”團(tuán)隊(duì),專注于“科學(xué)和技術(shù)突破,以引導(dǎo)和控制比人類更加智能的人工智能系統(tǒng)”。該團(tuán)隊(duì)在5月份被解散,領(lǐng)導(dǎo)人Ilya Sutskever和Jan Leike接連宣布離職。Leike在X上發(fā)帖稱,OpenAI的“安全文化和流程,已經(jīng)讓位于光鮮的產(chǎn)品”。
OpenAI似乎全身心投入AI創(chuàng)收,無暇顧及AI安全
近期多個(gè)跡象顯示,生成式AI領(lǐng)域的領(lǐng)導(dǎo)者OpenAI致力于在滿足全球各國(guó)對(duì)于人工智能的監(jiān)管規(guī)則的這一前提下,全身心投入于利用該公司所研發(fā)的全球最強(qiáng)大AI大模型實(shí)現(xiàn)巨額營(yíng)收,似乎全然無暇顧及AI安全。
據(jù)悉,OpenAI近日宣布,已經(jīng)聘請(qǐng)前優(yōu)步高管斯科特·斯庫(kù)爾斯(Scott Schools)擔(dān)任該公司的首位“首席合規(guī)官”,以支持這家人工智能初創(chuàng)公司努力適應(yīng)圍繞人工智能技術(shù)發(fā)展的新興全球監(jiān)管法規(guī)。此次重要的高管招聘正值大西洋兩岸的監(jiān)管機(jī)構(gòu)圍繞OpenAI和其他科技公司最先進(jìn)的人工智能大模型制定監(jiān)管政策之際。
成功招募來前優(yōu)步首席道德與合規(guī)官,被媒體解讀為其在全球人工智能業(yè)務(wù)擴(kuò)張和應(yīng)對(duì)日益復(fù)雜的全球人工智能監(jiān)管環(huán)境中做出戰(zhàn)略性的調(diào)整。隨著全球?qū)θ斯ぶ悄芗夹g(shù)的監(jiān)管趨嚴(yán),OpenAI正在積極采取措施,以確保其各項(xiàng)業(yè)務(wù)未來能夠在全球范圍合規(guī)運(yùn)營(yíng)并滿足各國(guó)的人工智能監(jiān)管法規(guī)要求。
有觀察人士指出,此舉顯示出OpenAI的全球擴(kuò)張雄心,并且強(qiáng)調(diào)合規(guī)性是其進(jìn)入新市場(chǎng)的關(guān)鍵一環(huán)。隨著AI技術(shù)在全球多個(gè)行業(yè)的普及,如何在合規(guī)和創(chuàng)新之間取得平衡,避免人工智能法律法規(guī)風(fēng)險(xiǎn),是公司全球擴(kuò)展的核心挑戰(zhàn)。毫無疑問,斯庫(kù)爾斯的加入將使OpenAI能夠更好地處理不同國(guó)家的人工智能監(jiān)管要求,從而為其各項(xiàng)業(yè)務(wù)進(jìn)入除北美之外的更多市場(chǎng)奠定基礎(chǔ)。
除了聚焦于全球圍繞人工智能發(fā)展的復(fù)雜監(jiān)管環(huán)境,OpenAI近期還在加速推進(jìn)“高質(zhì)量?jī)?nèi)容獲取途徑合法化”,為其全球范圍的業(yè)務(wù)擴(kuò)張奠定重要基礎(chǔ)。其中包括與全球多元化媒體巨頭赫斯特 (Hearst Communications Inc.) 達(dá)成一項(xiàng)重要協(xié)議,將這家新聞與商業(yè)信息出版商的雜志和報(bào)紙內(nèi)容引入該所公司所開發(fā)的風(fēng)靡全球的AI聊天機(jī)器人——ChatGPT,這項(xiàng)協(xié)議可謂為這家人工智能初創(chuàng)公司與全球頂級(jí)媒體公司們簽署的一系列合作協(xié)議添加重要一筆。
通過獲得來自多元化媒體巨頭赫斯特等頂級(jí)媒體的正式授權(quán)內(nèi)容,OpenAI的AI聊天機(jī)器人產(chǎn)品經(jīng)訓(xùn)練優(yōu)化之后將能提供更多高質(zhì)量?jī)?nèi)容,且能夠引用經(jīng)過專業(yè)審核的版權(quán)內(nèi)容進(jìn)行推理分析。這不僅大幅增強(qiáng)了ChatGPT的內(nèi)容輸出質(zhì)量,還使得其內(nèi)容更具可信度,吸引全球范圍內(nèi)的更多用戶信任其生成的信息,進(jìn)而實(shí)現(xiàn)訂閱營(yíng)收增長(zhǎng)。
AI初創(chuàng)公司OpenAI的估值目前領(lǐng)跑全球所有初創(chuàng)公司,OpenAI在10月早些時(shí)候宣布,該公司已籌集到66億美元的最新資金支持,這使其最新的估值達(dá)到驚人的1570億美元。OpenAI在博客中表示,這筆新資金將使該生成式人工智能公司加大對(duì)AI研究的領(lǐng)導(dǎo)地位、增加計(jì)算能力,并“繼續(xù)開發(fā)幫助人們解決復(fù)雜問題的工具”。媒體援引知情人士的話報(bào)道稱,微軟在此次融資中投入大約7.5億美元,進(jìn)一步加碼其此前的130億美元投資規(guī)模。
非營(yíng)利性質(zhì)的OpenAI執(zhí)著于拓展更多營(yíng)收途徑的背后,可能在于OpenAI迫切需要更多資金來進(jìn)行大模型訓(xùn)練迭代,以及需要更加龐大的AI GPU算力體系來支撐其推理功能愈發(fā)強(qiáng)大的AI大模型(比如近日推出的推理能力無與倫比的o1-previews),其在資本市場(chǎng)所融到的資金可能不足以滿足OpenAI愈發(fā)龐大的“燒錢預(yù)期”。
有預(yù)測(cè)數(shù)據(jù)顯示,預(yù)計(jì)OpenAI需要到2029年才能實(shí)現(xiàn)年度盈利,并且預(yù)計(jì)到本十年末,不計(jì)股票薪酬,OpenAI將耗資大約2000億美元,預(yù)計(jì)2023年至2028年的虧損總額將達(dá)到440億美元。這份預(yù)測(cè)報(bào)告顯示,OpenAI的很大一部分開支是面向大模型訓(xùn)練迭代以及推理算力逐年劇增,預(yù)計(jì)到2026年,OpenAI每年的成本將高達(dá)95億美元。根據(jù)該報(bào)告,該公司超過2000億美元的開支中預(yù)計(jì)60%至80%將用于訓(xùn)練迭代以及支持大模型愈發(fā)強(qiáng)大的推理能力。