相信很多大家對Anthropic CEO Dario Amodei：大模型規(guī)模擴大影響若能停止，對世界反而有利還不知道吧，今天菲菲就帶你們一起去了解一下~.~！

近日，美國人工智能初創(chuàng)公司 Anthropic將自家Claude大模型推進至3.5版本，并以Claude3.5Sonnet 模型保持其在中等規(guī)模模型市場的競爭力，號稱“速度更快、成本更低”。

截至2024年3月，Anthropic已籌集到73億美元的資金，其中，40億美元來自亞馬遜。如同OpenAI與微軟的強強聯(lián)手，Anthropic與亞馬遜的綁定也讓它被視作OpenAI的主要競爭對手。

作為一家專注于開發(fā)通用AI系統(tǒng)和語言模型的人工智能初創(chuàng)公司，Anthropic決定保持其非營利的公益屬性，它的創(chuàng)始團隊來自于曾經(jīng)這樣定位的OpenAI，公司創(chuàng)始人、CEODarioAmodei也一直在強調(diào)“負(fù)責(zé)任的AI使用”理念。

然而，大模型的規(guī)模競賽仍在繼續(xù)，以前卷“最大”，現(xiàn)在卷“最便宜”，而卷“最安全”的模型會被視作“太理想主義”甚至是品牌競爭的噱頭，因為規(guī)模越大、數(shù)據(jù)越多，對訓(xùn)練算法的要求越高，風(fēng)險也往往越難控制。

最近，《時代》刊登了Amodei的封面故事，其中一個話題便是Anthropic能否在與OpenAI以及微軟、谷歌和亞馬遜等科技巨頭競爭的壓力下成功完成其安全使命。

盡管Anthropic致力于研究尖端的人工智能系統(tǒng)和開發(fā)新的安全方法，但連Amodei本人也擔(dān)心這可能是一場危險的競賽，甚至?xí)员瘎∈請觥?/p>

圖源備注：圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney

以下為《時代》對Anthropic專訪的節(jié)選內(nèi)容:

《時代》:Anthropic是最年輕的“前沿”人工智能實驗室，它的規(guī)模也最小。但競爭對手擁有更多的資金，你們會認(rèn)為自己是弱勢一方嗎?

Amodei:當(dāng)然，您引用的所有事實都是真實的。但隨著時間的推移，這些事實變得不再那么絕對。我們已經(jīng)簽署了一些大型計算交易，并獲得了數(shù)十億美元的資金支持。相比之下，我們一些競爭對手的資金可能更少。

因此，當(dāng)我再說我們是弱者時，可能讓人感到有些尷尬。然而，相對于這個領(lǐng)域的巨頭而言，我們確實處于相對較弱的地位，這一點無可否認(rèn)。

《時代》:按照人工智能“縮放定律”，當(dāng)你投入更大的算力和更多的數(shù)據(jù)來訓(xùn)練大模型時，它的能力或效能也會相應(yīng)增強。在你們的大模型中，有哪些尚未發(fā)布但你已經(jīng)預(yù)見到的功能?

Amodei:我們最近才發(fā)布了新的模型，因此并沒有太多秘密功能未予公布。在某種程度上，我不打算深入探討這些細(xì)節(jié)。但我們確實清楚，技術(shù)進步仍在持續(xù)。我們尚未看到任何跡象表明這種進步正在趨于平緩。然而，我們所生活的世界充滿了不確定性，技術(shù)發(fā)展的腳步隨時可能停止。

每次當(dāng)我訓(xùn)練一個新的模型時，我都會觀察它，心中總是充滿了一種不確定的情感，擔(dān)心在某個時刻突然發(fā)現(xiàn)，這個模型并沒有如我們所愿變得更加強大。

如果這種“規(guī)模擴大的影響”真的停止，從某種程度上說，這對整個世界都是有利的，它將對所有參與者構(gòu)成一種約束。但這不是我們可以選擇的。當(dāng)然，這些模型帶來了許多令人興奮的好處。大多數(shù)情況下，這就是自然法則。我們無法選擇，只能發(fā)現(xiàn)我們生活在哪個世界，并盡我們所能去適應(yīng)和面對。

《時代》:你希望通過Anthropic的文化理念實現(xiàn)什么樣的目標(biāo)?

Amodei:我們實施了一項捐贈匹配計劃，允許員工向任何慈善機構(gòu)捐贈高達25%的股權(quán)，公司也將提供相應(yīng)的捐贈。這一計劃旨在吸引那些對公共利益懷有濃厚興趣的員工。對于重視公共利益的員工來說，我們的股票授予計劃顯得更具吸引力。當(dāng)然，這并不意味著我們剝奪了員工獲得經(jīng)濟激勵的機會，而是為公司的文化定下了基調(diào)。

在安全方面，公眾的觀點與我們的理念之間存在一定的差異。我們并不自詡為一家專門從事人工智能安全的公司，而是一家以公共利益為導(dǎo)向的公司。我們并不認(rèn)為人工智能系統(tǒng)本身具有固有的危險性，這是一個需要通過實證來回答的問題。

我更希望Anthropic成為一家讓每位員工都關(guān)注公共目的的公司，而不僅僅是一家專注于人工智能安全或系統(tǒng)失調(diào)的特定問題公司。在公司內(nèi)部，我認(rèn)為我們已經(jīng)成功實現(xiàn)了這一目標(biāo)，我們的員工擁有不同的觀點，但他們共同秉持著對公共目標(biāo)的堅定承諾。

《時代》:如果唐納德·特朗普（Donald Trump）在今年年底當(dāng)選美國總統(tǒng)，這對人工智能的安全將意味著什么?

Amodei:無論是誰擔(dān)任下一任總統(tǒng)，我們都將與他們合作，盡我們所能向他們解釋，美國需要在人工智能技術(shù)上保持領(lǐng)先地位，同時我們也必須為這項技術(shù)本身提供合理的保障。

我要傳達的信息是一致的。顯然，不同的政府會有不同的觀點和立場，我預(yù)計選舉結(jié)果將影響政府的政策走向。然而，我能做的就是表達我對這個世界真實狀況的看法。

《時代》:“強化學(xué)習(xí)”被認(rèn)為是讓人工智能系統(tǒng)更安全的最佳方式之一，因為它可以引導(dǎo)模型朝著既有用又無害的方向發(fā)展。但實際上，“強化學(xué)習(xí)”并沒有完全消除其中的風(fēng)險，這些風(fēng)險仍然可以通過越獄等技術(shù)實現(xiàn)。你是否會對“強化學(xué)習(xí)”這種方法感到擔(dān)憂?

Amodei:我并不認(rèn)為“強化學(xué)習(xí)”方法本身是脆弱的，我要強調(diào)的是我們目前還處在如何有效管理和利用這些系統(tǒng)的科學(xué)探索階段。在早期，它會產(chǎn)生“幻覺”并“越獄”。正如在發(fā)展的初期階段，我們試圖讓模型在某些情境下表現(xiàn)得更加友好，但在其他情況下，它可能會給出冗長或不相關(guān)的回答。

我們試圖引導(dǎo)模型向好的方向發(fā)展，并避免潛在的不良行為，這確實是一項挑戰(zhàn)。我認(rèn)為我們的模型并不完美，而且可能永遠(yuǎn)無法達到完美的狀態(tài)。

我們可以將其視為一個多層次的瑞士奶酪模型:每一層都有其弱點或漏洞，但如果你有10層這樣的模型疊加，那么任何潛在的威脅都將難以滲透這多層防線。沒有一種單一的解決方案能夠完全控制這些模型，我們需要將多種不同的方法和策略結(jié)合起來。

《時代》:鑒于風(fēng)險如此之高，你認(rèn)為使用這種策略是否足夠負(fù)責(zé)?

Amodei:我當(dāng)然更想生活在一個理想的世界里。但不幸的是，我們的現(xiàn)實世界里有太多的經(jīng)濟壓力，不僅僅是企業(yè)之間，國家之間也是如此。但是，如果我們能夠證明這些風(fēng)險是真實存在的，我希望我們能夠讓世界至少停下來思考一下這個問題。并且，我們需要以合作的方式來解決這個問題。

但我并不天真地認(rèn)為這樣的時刻會頻繁出現(xiàn)。畢竟，讓一列正在高速行駛的列車停下來極其困難，即使可能，也只能在特殊情況下短暫實現(xiàn)。

《時代》:Meta推出了開源人工智能模型，其功能與你們的模型相近。你對這種策略有何看法?它是負(fù)責(zé)任的嗎?

Amodei:我們關(guān)心的是模型的強大性，而非其是否開源。在實踐中，我認(rèn)為大多數(shù)的大型公司，在達到我擔(dān)憂的某個性能閾值之前，會選擇停止開源。我猜測Meta會如此，但我不完全確定。

開源作為一個關(guān)注點幾乎是在轉(zhuǎn)移問題，人們可能認(rèn)為開源會破壞我們的商業(yè)模式，但事實是，我們的競爭對手是任何能夠產(chǎn)出強大模型的人。當(dāng)這些模型被托管在云端時（我更傾向于將它們稱為開放權(quán)重模型），它們產(chǎn)生的經(jīng)濟效益與其他服務(wù)無異。

《時代》:微軟最近稱其正在內(nèi)部訓(xùn)練一個大語言模型，可能能夠和他們投資的OpenAI匹敵。同樣，亞馬遜作為你們的投資者之一，也在進行類似的訓(xùn)練，谷歌也是如此。你是否會擔(dān)心已經(jīng)處于領(lǐng)先地位的小型人工智能實驗室，只是暫時領(lǐng)先于這些資源豐富得多的科技公司?

Amodei:我們始終強調(diào)的一點是“用更少的資源做更多的事情”。我們始終努力維持一種狀態(tài)，即便使用更少的計算資源，我們也能與擁有更多資源的公司做得一樣好甚至更好。我們的競爭優(yōu)勢在于我們作為研究人員和工程師的創(chuàng)造力。

我認(rèn)為，不斷的創(chuàng)新產(chǎn)品比單純的計算能力更重要。誠然，大模型訓(xùn)練需要大量的計算資源，但只要我們能夠更有效地利用這些資源，用更少的資源實現(xiàn)更多的功能，那么這些資源最終會流向具有創(chuàng)新能力的公司。

《時代》:Anthropic已籌集約70億美元，足以支付下一代模型的培訓(xùn)費用。你曾說過，這筆費用可能高達數(shù)十億美元。隨著對下一代模型的培訓(xùn)需求增加，你是否開始考慮籌集更多的資金?你預(yù)計這些資金將來自哪里?

Amodei:我們已經(jīng)為下一個階段做了充足的準(zhǔn)備，但在更長期時間內(nèi)，我們?nèi)孕枰I集更多的資金。關(guān)于資金的來源，這很難預(yù)測，可能是來自傳統(tǒng)投資者、大型計算服務(wù)提供商，或是我們尚未考慮到的其他多樣化渠道。

《時代》:關(guān)于資金來源，政府很少被提及，但他們擁有大量資金，是一個潛在龐大的資源。這可能涉及政治難題，你是否考慮過或討論過與政府合作的可能性?

Amodei:這項技術(shù)已經(jīng)變得足夠強大，政府應(yīng)該在其創(chuàng)造和部署中發(fā)揮重要作用。這不僅僅是監(jiān)管問題，更關(guān)乎國家安全。某些技術(shù)方面是否應(yīng)該成為全國性的項目?我認(rèn)為模型在政府內(nèi)部會有諸多應(yīng)用場景。

我堅信，隨著時間的推移，最強大的模型可能會被視為對國家安全至關(guān)重要的資產(chǎn)我期望政府能更積極地參與其中，并以負(fù)責(zé)任的方式領(lǐng)導(dǎo)這項技術(shù)。這可能意味著政府將深度參與技術(shù)的研發(fā)。目前，這種合作形式尚未出現(xiàn)。

但鑒于我們正在構(gòu)建的技術(shù)如此強大，一旦其達到某種力量水平，個人或公司是否應(yīng)該成為其核心將是一個值得嚴(yán)肅討論的問題。我預(yù)計在未來不久?？赡苁莾傻轿迥陜?nèi)，這將成為一次非常重要的對話，具體形式將取決于當(dāng)時的情況。