又一安全團(tuán)隊(duì)被解散! 執(zhí)著于創(chuàng)收的OpenAI似乎無暇顧及AI安全

智通財(cái)經(jīng)APP獲悉，一位已辭職的OpenAI團(tuán)隊(duì)負(fù)責(zé)人稱，科技巨頭微軟(MSFT.US)斥巨資支持的OpenAI正在解散其聚集于AI安全研究的“AGI Readiness”團(tuán)隊(duì)，該團(tuán)隊(duì)曾經(jīng)負(fù)責(zé)向這家AI初創(chuàng)公司提供如何處理與應(yīng)對(duì)越來越強(qiáng)大的AI技術(shù)方面的解決方案與建議，以及提供當(dāng)今世界是否準(zhǔn)備好管理這些技術(shù)方面的建議?！癆GI Readiness”團(tuán)隊(duì)曾經(jīng)的團(tuán)隊(duì)主管表示，希望在外部繼續(xù)AGI領(lǐng)域的相關(guān)研究。近期越來越多跡象表明，OpenAI似乎全身心投入AI創(chuàng)收，無暇顧及AI安全。

OpenAI的經(jīng)濟(jì)研究團(tuán)隊(duì)，直到最近還是由帕梅拉·米什金領(lǐng)導(dǎo)的AGI Readiness的一個(gè)重要子團(tuán)隊(duì)，后續(xù)將由OpenAI的新任首席經(jīng)濟(jì)學(xué)家羅尼·查特吉全面領(lǐng)導(dǎo)。與此同時(shí)，AGI Readiness的高級(jí)顧問邁爾斯·布倫戴奇在Substack帖子中宣布離職時(shí)表示，剩下的AGI Readiness團(tuán)隊(duì)將被分配到其他團(tuán)隊(duì)。

布倫戴奇表示，他離開OpenAI的主要原因包括機(jī)會(huì)成本變得非常高。布倫戴奇指出：“需要明確的是，雖然我不會(huì)說我總是同意OpenAI在公開發(fā)行方面的長(zhǎng)期立場(chǎng)，但我確實(shí)認(rèn)為在行業(yè)中存在一些公開發(fā)行層面的限制是合理的(我?guī)椭珜懥薕penAI政策的幾個(gè)重要版本)，但對(duì)我來說，這些限制已經(jīng)非常多了?！?/p>

布倫戴奇還表示，他希望減少偏見，并且強(qiáng)調(diào)他已經(jīng)完成了他在OpenAI的目標(biāo)。此外，布倫戴奇計(jì)劃創(chuàng)辦自己的非營(yíng)利組織或者加入現(xiàn)有的非營(yíng)利組織，專注于人工智能安全政策研究以及人工智能宣傳推廣工作。

“我們完全支持邁爾斯本人在行業(yè)之外從事政策研究的決定，并深深感謝他的貢獻(xiàn)。他計(jì)劃全力以赴地開展人工智能政策的獨(dú)立研究，這使他有機(jī)會(huì)在更大范圍內(nèi)產(chǎn)生影響，我們很高興能從他的工作中學(xué)習(xí)到很多內(nèi)容并關(guān)注其影響，”O(jiān)penAI發(fā)言人在給Seeking Alpha的電子郵件聲明中表示。

關(guān)于OpenAI和世界對(duì)通用人工智能(AGI)的準(zhǔn)備情況，布倫戴奇公開表示：“簡(jiǎn)而言之，OpenAI和其他前沿的人工智能實(shí)驗(yàn)室都沒有做好準(zhǔn)備，世界也沒有做好準(zhǔn)備?！?/p>

根據(jù)媒體披露信息的匯總，這已經(jīng)不是OpenAI第一次解散與AI安全密切相關(guān)的團(tuán)隊(duì)。有媒體報(bào)道稱，在今年7 月份，OpenAI 將公司最高級(jí)別安全主管之一亞歷山大·馬德里重新分配到人工智能推理方面的研究工作。據(jù)報(bào)道，民主黨參議員曾經(jīng)致信OpenAI首席執(zhí)行官薩姆·奧爾特曼，詢問OpenAI如何解決新出現(xiàn)的人工智能安全問題，而重新任命馬德里的決定就是在這個(gè)時(shí)候所做出。

此外，在更早前的今年5月，OpenAI決定解散其剛剛成立一年的“超級(jí)對(duì)齊”團(tuán)隊(duì)(Superalignment team)，該團(tuán)隊(duì)專注于AI的長(zhǎng)期風(fēng)險(xiǎn)。

據(jù)了解，OpenAI于去年成立的“超級(jí)對(duì)齊”團(tuán)隊(duì)，專注于“科學(xué)和技術(shù)突破，以引導(dǎo)和控制比人類更加智能的人工智能系統(tǒng)”。該團(tuán)隊(duì)在5月份被解散，領(lǐng)導(dǎo)人Ilya Sutskever和Jan Leike接連宣布離職。Leike在X上發(fā)帖稱，OpenAI的“安全文化和流程，已經(jīng)讓位于光鮮的產(chǎn)品”。

OpenAI似乎全身心投入AI創(chuàng)收，無暇顧及AI安全

近期多個(gè)跡象顯示，生成式AI領(lǐng)域的領(lǐng)導(dǎo)者OpenAI致力于在滿足全球各國(guó)對(duì)于人工智能的監(jiān)管規(guī)則的這一前提下，全身心投入于利用該公司所研發(fā)的全球最強(qiáng)大AI大模型實(shí)現(xiàn)巨額營(yíng)收，似乎全然無暇顧及AI安全。

據(jù)悉，OpenAI近日宣布，已經(jīng)聘請(qǐng)前優(yōu)步高管斯科特·斯庫(kù)爾斯(Scott Schools)擔(dān)任該公司的首位“首席合規(guī)官”，以支持這家人工智能初創(chuàng)公司努力適應(yīng)圍繞人工智能技術(shù)發(fā)展的新興全球監(jiān)管法規(guī)。此次重要的高管招聘正值大西洋兩岸的監(jiān)管機(jī)構(gòu)圍繞OpenAI和其他科技公司最先進(jìn)的人工智能大模型制定監(jiān)管政策之際。

成功招募來前優(yōu)步首席道德與合規(guī)官，被媒體解讀為其在全球人工智能業(yè)務(wù)擴(kuò)張和應(yīng)對(duì)日益復(fù)雜的全球人工智能監(jiān)管環(huán)境中做出戰(zhàn)略性的調(diào)整。隨著全球?qū)θ斯ぶ悄芗夹g(shù)的監(jiān)管趨嚴(yán)，OpenAI正在積極采取措施，以確保其各項(xiàng)業(yè)務(wù)未來能夠在全球范圍合規(guī)運(yùn)營(yíng)并滿足各國(guó)的人工智能監(jiān)管法規(guī)要求。

有觀察人士指出，此舉顯示出OpenAI的全球擴(kuò)張雄心，并且強(qiáng)調(diào)合規(guī)性是其進(jìn)入新市場(chǎng)的關(guān)鍵一環(huán)。隨著AI技術(shù)在全球多個(gè)行業(yè)的普及，如何在合規(guī)和創(chuàng)新之間取得平衡，避免人工智能法律法規(guī)風(fēng)險(xiǎn)，是公司全球擴(kuò)展的核心挑戰(zhàn)。毫無疑問，斯庫(kù)爾斯的加入將使OpenAI能夠更好地處理不同國(guó)家的人工智能監(jiān)管要求，從而為其各項(xiàng)業(yè)務(wù)進(jìn)入除北美之外的更多市場(chǎng)奠定基礎(chǔ)。

除了聚焦于全球圍繞人工智能發(fā)展的復(fù)雜監(jiān)管環(huán)境，OpenAI近期還在加速推進(jìn)“高質(zhì)量?jī)?nèi)容獲取途徑合法化”，為其全球范圍的業(yè)務(wù)擴(kuò)張奠定重要基礎(chǔ)。其中包括與全球多元化媒體巨頭赫斯特 (Hearst Communications Inc.) 達(dá)成一項(xiàng)重要協(xié)議，將這家新聞與商業(yè)信息出版商的雜志和報(bào)紙內(nèi)容引入該所公司所開發(fā)的風(fēng)靡全球的AI聊天機(jī)器人——ChatGPT，這項(xiàng)協(xié)議可謂為這家人工智能初創(chuàng)公司與全球頂級(jí)媒體公司們簽署的一系列合作協(xié)議添加重要一筆。

通過獲得來自多元化媒體巨頭赫斯特等頂級(jí)媒體的正式授權(quán)內(nèi)容，OpenAI的AI聊天機(jī)器人產(chǎn)品經(jīng)訓(xùn)練優(yōu)化之后將能提供更多高質(zhì)量?jī)?nèi)容，且能夠引用經(jīng)過專業(yè)審核的版權(quán)內(nèi)容進(jìn)行推理分析。這不僅大幅增強(qiáng)了ChatGPT的內(nèi)容輸出質(zhì)量，還使得其內(nèi)容更具可信度，吸引全球范圍內(nèi)的更多用戶信任其生成的信息，進(jìn)而實(shí)現(xiàn)訂閱營(yíng)收增長(zhǎng)。

AI初創(chuàng)公司OpenAI的估值目前領(lǐng)跑全球所有初創(chuàng)公司，OpenAI在10月早些時(shí)候宣布，該公司已籌集到66億美元的最新資金支持，這使其最新的估值達(dá)到驚人的1570億美元。OpenAI在博客中表示，這筆新資金將使該生成式人工智能公司加大對(duì)AI研究的領(lǐng)導(dǎo)地位、增加計(jì)算能力，并“繼續(xù)開發(fā)幫助人們解決復(fù)雜問題的工具”。媒體援引知情人士的話報(bào)道稱，微軟在此次融資中投入大約7.5億美元，進(jìn)一步加碼其此前的130億美元投資規(guī)模。

非營(yíng)利性質(zhì)的OpenAI執(zhí)著于拓展更多營(yíng)收途徑的背后，可能在于OpenAI迫切需要更多資金來進(jìn)行大模型訓(xùn)練迭代，以及需要更加龐大的AI GPU算力體系來支撐其推理功能愈發(fā)強(qiáng)大的AI大模型(比如近日推出的推理能力無與倫比的o1-previews)，其在資本市場(chǎng)所融到的資金可能不足以滿足OpenAI愈發(fā)龐大的“燒錢預(yù)期”。

有預(yù)測(cè)數(shù)據(jù)顯示，預(yù)計(jì)OpenAI需要到2029年才能實(shí)現(xiàn)年度盈利，并且預(yù)計(jì)到本十年末，不計(jì)股票薪酬，OpenAI將耗資大約2000億美元，預(yù)計(jì)2023年至2028年的虧損總額將達(dá)到440億美元。這份預(yù)測(cè)報(bào)告顯示，OpenAI的很大一部分開支是面向大模型訓(xùn)練迭代以及推理算力逐年劇增，預(yù)計(jì)到2026年，OpenAI每年的成本將高達(dá)95億美元。根據(jù)該報(bào)告，該公司超過2000億美元的開支中預(yù)計(jì)60%至80%將用于訓(xùn)練迭代以及支持大模型愈發(fā)強(qiáng)大的推理能力。