編譯?| 禾木木

出品 |?AI科技大本營（ID:rgznai100）

OpenAI 如何以 10 億美元的價格出售其靈魂：GPT-3 和 Codex 背后的公司并不像它聲稱的那樣開放。

當金錢成為障礙時，最好的意圖可能會被破壞。

近日，一篇“How OpenAI Sold its Soul for $1 Billion”在 Reddit 上成為了網(wǎng)友熱議的話題。

Alberto Romero 的一篇文章追溯了 OpenAI 從非營利實體成為“營利上限”實體的歷史和發(fā)展，為了金錢出賣了自己原有的“為人類造?！钡淖谥肌?/p>

OpenAI 成立于 2015 年，是一家非營利性研究機構，它的愿景是構建出安全、對人類有益的通用人工智能（AGI），由伊隆 · 馬斯克、Sam Altman 等人宣布出資 10 億美元成立。

短短4年時間，OpenAI 已經(jīng)成為全世界最具盛名的 AI 研究機構。

2019 年，OpenAI 轉變成了一家名為 OpenAI LP 的營利性公司，由名為 OpenAI Inc 的母公司控制。這時的 OpenAI 成為了一家「利潤上限」機構，將投資回報限制在原始金額的 100 倍。也就是說，如果你投資 1000 萬美元，最多你會得到 10 億美元?？雌饋砘貓舐什诲e。

在這種結構改變幾個月后，微軟宣布注資 10 億美元。OpenAI 與微軟的合作關系是基于一個重要的前提，即微軟有權將 OpenAI 的部分技術商業(yè)化。正如我們在 GPT-3 和 Codex 上看到的那樣。今年 5 月末，微軟的官方網(wǎng)站便報道了他們用 GPT-3 的技術賦能內(nèi)部商業(yè)產(chǎn)品，為用戶服務。

當 OpenAI 因金錢關系與大型商業(yè)公司達成合作協(xié)議，還能相信他會信守承諾嗎？從最初的愿景出發(fā)開發(fā)展人工智能嗎？

AI Lab 金錢為上

OpenAI 是一個人工智能研究實驗室，但它的雄心和自身所擁有的資源相比天差地別。必須獲取足夠的資源支持，其中，金錢始終是排在了第一位。

在 GPT-3 論文橫空出世之后，外界的一個流行圍觀方式就是幫他們算成本，據(jù)估計 OpenAI 訓練 GPT-3 耗費了 1200 萬美元——僅僅是用于訓練。

GPT-3 是一個大規(guī)模語言模型，光參數(shù)量就已達到 1750 億。如果沒有交易，他們很難獲得這么雄厚的研究經(jīng)費。所以當 OpenAI 需要投資的時候，發(fā)現(xiàn)微軟當時正等著給自己提供云計算服務。于是他們和擁有云服務的微軟形成了合作，至于代價，就是一種未公開的，將其系統(tǒng)商業(yè)化的晦澀許可。

這樣，一方可以獲得計算資源，一方可以達到盈利，真是一個雙贏的結果。

早在，2020年2月時，MIT Technology Review 記者 Karen Hao 的一篇調(diào)查文章探究了微軟與 OpenAI 的合作。披露了 OpenAI 與公開宣稱的內(nèi)容與內(nèi)部的運營方式存在不一致之處，為什么一家以確保所有人擁有更美好未來為愿景的公司突然決定為「stay relevant」吸收大量私有資金？從非盈利到盈利的轉變引發(fā)了公眾甚至公司內(nèi)部的強烈批評。

艾倫人工智能研究所負責人 Oren Etzioni 表達了懷疑的態(tài)度：我不同意非盈利組織無法具備競爭力的觀點…… 如果規(guī)模更大、資金更充裕就能做得更好，那么今天 IBM 仍將是世界第一。

曾為 Vice News 撰稿的 Caroline Haskins 則不相信 OpenAI 仍會忠于它的使命：「人類從未因為依靠風投機構而變得更好?！?/p>

從技術角度來看，OpenAI 當前的研究方向重點是需要更大算力與更大數(shù)據(jù)驅(qū)動的神經(jīng)網(wǎng)絡，這就需要很多金錢的支持。只有比肩科技巨頭的投入才能在這條道路上走下去。但正如 Etzioni 所說的，金錢并不是在 AI 領域里實現(xiàn)最先進成果的唯一途徑，有時需要創(chuàng)造性地思考新的想法，而不是靠堆更多的算力，或是更多的數(shù)據(jù)。

OpenAI 是如何沉淪的？

GPT-2、GPT-3「危險」語言生成器

2019 年初，已經(jīng)成為營利性公司的 OpenAI 發(fā)布了一個強大的語言生成模型——GPT-2，能夠生成接近人類的自然語言文本。盡管 GPT-2 在當時是一個巨大的飛躍，但研究人員認為其像一只“危險的怪獸”，所以不能開源出來。工程師們擔心 GPT-2 會被用來生成假新聞、垃圾信息和誤導信息。

但在不久之后，OpenAI 又認為不存在明顯被濫用的證據(jù)，因而將其開源出來。

羅格斯大學教授 Britt Paris 曾表示：「這看起來就像是 OpenAI 在利用人工智能可能給人類社會帶來的恐慌?！勾蠖鄶?shù)人把 GPT-2 的報道視為一種宣傳策略，他們認為該系統(tǒng)其實并不像 OpenAI 聲稱的那樣強大。從營銷的角度來看這確實可以吸引注意力，但 OpenAI 否認了這些指控。

如果 GPT-2 沒有 OpenAI 宣稱的那么強大，那為什么要讓它看起來比實際更危險呢？如果它真的性能強大，為什么僅僅因為「沒有發(fā)現(xiàn)被濫用的有力證據(jù)」而完全開源？無論如何，OpenAI 似乎都沒有遵循自己的道德標準。

2020 年 6 月，GPT-3 隨后以 API 的形式向外界提供。OpenAI 似乎認為這個比 GPT-2 大 100 倍，更強大的新系統(tǒng)足夠安全，可以與世界分享。他們設置條款逐個審查每個訪問請求，但他們?nèi)匀粺o法控制系統(tǒng)最終用于什么目的。

他們甚至在文章中承認， 如果 GPT-3 落入壞人之手可能會發(fā)生一些問題。例如“誤導性信息、垃圾郵件、網(wǎng)絡釣魚、濫用法律、政府內(nèi)容，學術欺詐、社會工程，再到性別、種族和宗教偏見?！?/p>

他們認識到了這些問題，但仍然決定讓用戶付費測試。并且通過 API 發(fā)布，為什么要通過 API 發(fā)布它而不是開源模型？OpenAI 回答說，這是為他們正在進行的AI 研究、安全和政策努力提供資金。

一句話總結就是：“負責”保護人類免受 AI 傷害的公司決定讓人們使用一個能夠制造虛假信息和危險偏見的系統(tǒng)，這樣他們就可以負擔昂貴的維護費用?？雌饋磉@并不是什么「對所有人有益的價值」。

所以，當時社交網(wǎng)絡上出現(xiàn) GPT-3 有害的討論就是順理成章的了。Facebook 人工智能負責人 Jerome Pesenti 寫了一條推文，在推文中舉了一個例子，談到 GPT-3 可能會生成加劇種族與性別歧視的文本。

在一項利用 GPT-3 獨特性的嘗試中，UC Berkeley 的計算機系學生 Liam Porr 讓系統(tǒng)寫了一篇能提高寫作效率的文章，并將其分享了出來。這篇文章騙過了很多人，甚至登上了 Hacker News 的榜首。試想，如果像他這樣沒有惡意的學生都能夠設法用 AI 寫的文章騙過所有人，一群懷有惡意的人會用它做什么？比如傳播假新聞？

除了傳播假新聞，另一個危害是傳播人類無法區(qū)分的假新聞。這一點也被 OpenAI 在一篇文章中認可、甚至強調(diào)了：

人類在檢測 GPT-3 175B 生成的較長文章時的平均準確率僅略高于 52%。這表明，GPT-3 能夠繼續(xù)生成人類難以區(qū)分的、長度約為 500 字的新聞文章。

Copilot 潛在的法律問題

Codex and Copilot，侵權了嗎？

幾周前，OpenAI、GitHub和微軟聯(lián)合發(fā)布了 Copilot ，這是一個基于 Codex 之上的 AI 結對編程助手。

然而，卻引來了強烈批評，因為 Copilot 是用 GitHub 公共存儲庫的開源代碼盲目訓練的。

以為用戶在 Hacker News 上指出了使用 Copilot 可能存在的法律問題，比如：

AI 生成的代碼屬于我還是 GitHub？

生成的代碼用什么許可證？

如果生成的代碼侵權，誰來擔責或采取法律行動？

GitHub 首席執(zhí)行官 Nat Friedman 回答說成果屬于操作者，但是其他問題并未回應。

另外，著名開源開發(fā)者 Armin Ronacher 也在 Twitter 上分享過 Copilot 抄襲大量受版權保護代碼的例子。

還有用戶稱，「有直接證據(jù)表明 Copilot 直接復制了 GPL 的大量代碼。證明這是在商業(yè)環(huán)境中使用的非常危險的工具?！?/p>

不過，最讓人想不通的是，Copilot 是在數(shù)千名開發(fā)人員生成的開源代碼上訓練的，然后GitHub 或 OpenAI 又將這一系統(tǒng)出售給相同的開發(fā)人員使用。

對此，程序員兼游戲設計師 Evelyn Woods說，「這感覺就像是當面嘲笑開源。」

我們還能寄希望于 OpenAI 嗎？

OpenAI 現(xiàn)在的真實愿景到底是什么？

他們是不是與微軟緊密相連，以至于忘記了自己「為人類進步」而奮斗的初衷？還是說他們真的以為自己擁有最好的工具和人才來踐行這條路線，即使將靈魂出賣給一個大型科技公司也在所不惜？我們是否真的愿意讓 OpenAI 按照它的愿景來構建未來？還是說我們希望我們的愿景更加多樣化，并將其與經(jīng)濟利益分離？

OpenAI在邁向更加復雜的人工智能道路上占據(jù)了主導地位，當然，也有許多其他有潛力的機構在做相關的工作，這些機構并沒有與金錢產(chǎn)生直接的聯(lián)系，因而也受到了外界廣泛的關注。

就目前來看，大型科技公司的目標似乎是并不是建立一個滿足科學好奇心的通用人工智能，也不是建立一個最安全、最負責、最道德的人工智能。他們的首要任務是賺錢！他們會不惜一切做到這一點，即使這意味要走上一條模糊的道路，而我們大多數(shù)人都會避開這一道路。

OpenAI 的聯(lián)合創(chuàng)始人馬斯克甚至也認同這些批評：

馬斯克：我覺得 OpenAI 應該再開放一點。

OpenAI 已經(jīng)不再“Open”

在 Reddit 上，Alberto Romero 的文章也引起了網(wǎng)友的討論。

網(wǎng)友紛紛稱：OpenAI 早已應該更名為“ClosedAI”。

也許 OpenAI 公司扔在堅持他們最初的使命，但他們不能為了達到目的不擇手段。因為這些手段可能會損害更高的目的。

我們想要 AGI 嗎？從科學的角度來看，答案不可能是否定的。人們對于科學的好奇心是沒有極限的，然而，我們應該時刻評估潛在的危險。核聚變是非凡的，但核彈不是。

我們想不惜一切代價實現(xiàn) AGI 嗎？從道德的角度來看，答案不可能是肯定的。這些快速發(fā)展的技術將對我們所有人產(chǎn)生影響，所以我們應該注意到這個問題。

我們正在快速地更新這些深刻改變?nèi)藗兩畹募夹g。但是，如果只關心自己的利益和目標，無論是 OpenAI 還是其他人，最后都應該對后果承擔很大的責任。

對此，你怎么看呢？

參考鏈接：

https://onezero.medium.com/openai-sold-its-soul-for-1-billion-cf35ff9e8cd4

https://www.reddit.com/r/MachineLearning/comments/pizllt/d_how_openai_sold_its_soul_for_1_billion_the/

https://news.ycombinator.com/item?id=27676939

https://www.technologyreview.com/2020/02/17/844721/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality/

https://www.theverge.com/2019/11/7/20953040/openai-text-generation-ai-gpt-2-full-model-release-1-5b-parameters

https://syncedreview.com/2019/11/05/openai-releases-1-5-billion-parameter-gpt-2-model/

本文由AI科技大本營翻譯，轉載請注明出處。