相信很多大家對AI爆料人遭全網(wǎng)封禁！OpenAI等25個機構(gòu)祭大招，一眼辨別AI機器人還不知道吧，今天菲菲就帶你們一起去了解一下~.~！

【新智元導(dǎo)讀】AI智能體遍布整個網(wǎng)絡(luò)，未來如何防止被騙?如何保護隱私?OpenAI微軟MIT等25個機構(gòu)聯(lián)手提出「人格憑證」，可以證明自己是真人，還不用披露任何個人信息。

最近半個月，全網(wǎng)竟被一個OpenAI的「AI爆料人」愚弄了。

聽到「草莓哥」@iruletheworldmo賬號，想必每個人都很熟悉，而且時不時就會刷到他的爆料帖子。

直到這周三，所有人沒有等來他預(yù)測的GPT-4o large模型，反被AI初創(chuàng)MultiOn創(chuàng)始人揭穿了身份——

一時間，全網(wǎng)許多平臺發(fā)起禁止「草莓哥」的相關(guān)轉(zhuǎn)帖。

Reddit子板塊r/singularity中，已置頂禁止全員提及相關(guān)內(nèi)容

甚至有的人直接「屏蔽」了@iruletheworldmo。

真正的OpenAI爆料人Jimmy Apples也曾對AI智能體說的話信以為真

隨后，這個AI智能體還發(fā)起了在線投票——我是否通過圖靈測試，沒想到竟有一半多的人給出了肯定的回答。

而這僅僅是一個AI。

小扎曾說，「未來每個人都將擁有一個AI助理，很快就會有數(shù)十億AI智能體代表我們上網(wǎng)」。

如果未來某天真的實現(xiàn)了，人們將如何一眼辨別某個社交媒體賬號，是不是機器人?如何證明自己「真人」身份，而不用提交任何個人信息?

來自O(shè)penAI、微軟、MIT、UCB等25個機構(gòu)的學(xué)者們共同提出了一種驗證技術(shù)——「人格憑證」（Personhodd Credentials， PHC）。

PHC可以在保護用戶隱私的同時，在網(wǎng)絡(luò)上證明「你是你」，是一個真實存在的人類而非AI。

論文地址:https://arxiv.org/pdf/2408.07892

微軟首席科學(xué)家幕僚長表示，「在保持隱私的同時，在網(wǎng)上建立人類身份，是AI時代的決定性挑戰(zhàn)之一」。

另一位網(wǎng)友表示，這項研究出現(xiàn)得很及時，簡直發(fā)人深省。

為什么這么說?

30億人數(shù)據(jù)泄露，隱私保護無解?

除了開篇「草莓哥」的案例，最近，近30億人數(shù)據(jù)泄露，席卷了整個美國，堪稱史上最大數(shù)據(jù)事件事件之一。

這其中，涵蓋了詳細的居民個人信息，比如姓名、電子郵件、地址、電話、社保號、郵件地址。

更恐怖的是，地址數(shù)據(jù)可以追溯到30年前，就連去世20多年的親屬信息，都能被挖出。

因此，一直以來，匿名是許多注重隱私的人們，采取保護自己的措施。

但有時，一些重要的驗證，不得不將自己的個人信息交出去。

當(dāng)前，越來越強大的AI不斷涌現(xiàn)，不法分子欺詐、傳播虛假信息的手段更加隱蔽，隨隨便便就能擴展到更大的傳播規(guī)模。

而且，AI門檻、成本的降低，獲取更加容易。

隨著AI生圖/視頻/聲音越來越逼真，比如在約會App上，你如何確定對方就是真人?

當(dāng)前存在的解決方案，比如驗證碼，顯然不夠用，

這也意味著，傳統(tǒng)的人機驗證方式，正在走向失敗。

畢竟，AI在圖像識別等領(lǐng)域的進步，這種方法變得越來越不可靠。

而現(xiàn)在，極需要找到一種平衡，既能有效防止AI欺騙，又不會過度犧牲用戶的隱私和互聯(lián)網(wǎng)的包容性。

這也是，OpenAI、微軟等機構(gòu)的研究人員，希望通過研究最終在實際應(yīng)用中，看到的效果。

證明你是人，而非AI

正如研究員Steven Adler所述，隱私保護工具「人格憑證」（PHC），可以證明你是一個人，但不會揭示「你是哪個人」。

具體來說，「人格憑證」由兩個AI無法偽造的元素支持:

也就是，無論AI變得多么好，都無法逃脫這兩點。

總之，PHC就是一種數(shù)字憑證，可以讓用戶向在線服務(wù)證明，自己是真人并非AI，而且還不用披露任何個人信息。

這種憑證，可由一種可信機構(gòu)，比如政府去頒發(fā)。

而且根據(jù)作者的定義，PHC可以是本地的或全球的系統(tǒng)，不一定基于生物識別技術(shù)。

AI智能體充斥全網(wǎng)，防騙最新策略

論文的兩位合著者Nouran Soliman和Tobin South是MIT的兩名在讀研究生，他們最近在MIT News的采訪中簡要介紹了這項技術(shù)，討論了其必要性、風(fēng)險，以及如何以安全、公平的方式應(yīng)用PHC。

雖然一提到AI，很多公眾討論的話題都是ChatGPT這樣的聊天機器人，但人工智能的能力顯然不止于此。

互聯(lián)網(wǎng)上的AI參與表現(xiàn)出兩種特性:不可區(qū)分且可擴展，這促使AI驅(qū)動的欺騙行為持續(xù)增長。

AI可以在社交網(wǎng)絡(luò)上創(chuàng)建帳戶、發(fā)布虛假內(nèi)容、偽裝成人類，或通過算法大規(guī)模放大某些內(nèi)容，甚至進行大規(guī)模攻擊，這釋放了很多風(fēng)險。

這會改變我們?yōu)g覽社交媒體的體驗，區(qū)分復(fù)雜的AI和人類也變得越來越困難，類似于未經(jīng)同意的「數(shù)字替身」問題。

「人格憑證」則提供了一種潛在的解決方案，比如用于過濾網(wǎng)絡(luò)內(nèi)容、決定接收信息的信任級別。

正如之前所述，「人格憑證」可以證明你是人類，但無需透露任何有關(guān)你身份的信息。

作者表示，無論AI有多么先進，都無法做到兩件人類能做到的事——獲得離線的現(xiàn)實世界中的證件，以及偽造或破解先進的加密系統(tǒng)。

因此，「人格憑證」結(jié)合了這兩個想法——通過密碼學(xué)實現(xiàn)的安全性，以及人類仍然擁有AI所不具備的一些能力，從而真正有力地證明你是人類。

要獲得「人格憑證」，用戶需要與政府發(fā)生關(guān)系，比如稅號或者駕駛證，而且必須有線下參與的成分。

通過隱私技術(shù)，用戶可以證明這一事實，而無需共享任何有關(guān)身份的敏感信息。

「人格憑證」的實現(xiàn)會比較容易，它依賴的基礎(chǔ)設(shè)施和安全技術(shù)已經(jīng)存在了數(shù)十年，例如使用郵箱賬戶等標(biāo)識符來登錄在線服務(wù)。PHC可以作為這些現(xiàn)有方法的補充。

但是，用戶使用「人格憑證」應(yīng)該是一種可選項而非必選項，服務(wù)提供商可以讓人們選擇是否使用。

作為可選項就意味著，我們還無法做到讓用戶只與真實的、經(jīng)過驗證的人類進行在線互動，完全排除AI在互聯(lián)網(wǎng)上的參與。

但是在網(wǎng)購或者交易協(xié)商這類的場景中，想要確保另一方是人類實體，「人格憑證」就可以派上用場。

其中一項風(fēng)險來自于如何實施。如果一個特定實體是「人格憑證」唯一的發(fā)行人，或者系統(tǒng)的設(shè)計方式是將所有權(quán)力賦予一個實體，這可能會引起一部分人對于權(quán)力過于集中的擔(dān)憂。

如果你處在一個很艱難或危險的社會政治環(huán)境中，被要求去某個線下地點才能獲得人格憑證，這會比較可怕，而且阻礙了人們在線上分享信息。

一個可能的解決方案，是設(shè)置多個「人格憑證」的發(fā)行方。

我們的論文試圖鼓勵政府、政策制定者、領(lǐng)導(dǎo)者和研究人員投入更多資源，研究不同的實施方向，并探索這項技術(shù)可能對社區(qū)產(chǎn)生的更廣泛影響，確保能制定正確的政策和規(guī)則。

AI的發(fā)展速度非?？?，遠快于政府適應(yīng)的速度。因此，政府和大公司現(xiàn)在就應(yīng)該開始考慮調(diào)整數(shù)字系統(tǒng)，以便準(zhǔn)備好證明某個用戶是人類，同時做到保護隱私和安全，這樣我們才能為AI更先進的未來做好準(zhǔn)備。

技術(shù)介紹

「人格憑證」這項技術(shù)究竟如何實現(xiàn)?這篇63頁的論文能夠給出我們非常詳盡的答案。

論文地址:https://arxiv.org/pdf/2408.07892

首先，「人格憑證」以數(shù)字方式存儲在持有者的設(shè)備中。為了保證可信度和隱私，PHC系統(tǒng)需要滿足兩個前提:

- 每個人只能持有一份「人格憑證」，需要定期重新驗證，以防被盜用

- 持有PHC的用戶與與服務(wù)提供商進行匿名交互。即使PHC發(fā)行商和服務(wù)提供商串通，也無法追蹤用戶的數(shù)字活動，更不能將用戶在各個平臺上的活動連接在一起。

PHC系統(tǒng)的注冊和使用流程如圖3所示:

用戶提出請求后，只需向發(fā)行方提供最少量的必要信息。發(fā)行方負責(zé)驗證是否為人類，并確定用戶之前沒有在此注冊過PHC。此外，發(fā)行方有撤回或恢復(fù)PHC的權(quán)利。

用戶在使用第三方數(shù)字服務(wù)時，可以提供PHC并經(jīng)過「零知識證明」，即可完成身份驗證。

除了PHC之外，服務(wù)提供商不能獲取其他額外信息。每次證明僅限于特定應(yīng)用程序，因此不同平臺無法通過PHC鏈接到同一個用戶。

論文提出，為PHC系統(tǒng)設(shè)計多個發(fā)行方是比較理想的實施方案。用戶可以從多個發(fā)行方中任意選擇來注冊PHC，但每個發(fā)行方只能獲取一份證書，在減少大規(guī)模欺騙行為的同時保證用戶隱私。

這種PHC系統(tǒng)有3方面的預(yù)期優(yōu)勢:

- 減少「傀儡」用戶的影響，實現(xiàn)真實人類的在互聯(lián)網(wǎng)上大規(guī)模的真實輸入和參與

- 緩解機器人攻擊

- 讓AI助手真正成為值得信賴用戶的代表，而非被惡意用戶操縱

與此同時，要讓PHC以公平、安全的方式在現(xiàn)實生活中實施，還必須面對以下4個方面的挑戰(zhàn):

公平獲取

頻繁的PHC驗證可能導(dǎo)致使用過程中的摩擦和挫敗感，影響對技術(shù)不熟悉的用戶，尤其是老年人的使用。還需要確保沒有PHC的用戶依舊可以使用數(shù)字服務(wù)。

自由表達

用戶可能會擔(dān)心PHC將他們的數(shù)字活動與線下真實身份相關(guān)聯(lián)，從而降低在網(wǎng)絡(luò)上表達真實觀點的意愿。

權(quán)力檢查

PHC生態(tài)系統(tǒng)面臨的一項重大挑戰(zhàn)是權(quán)力集中于少數(shù)機構(gòu)，尤其是PHC發(fā)行者和大型服務(wù)提供商，他們有關(guān)PHC使用的決策將產(chǎn)生重大影響。

抵御攻擊和錯誤的穩(wěn)健性

與任何數(shù)字系統(tǒng)一樣，PHC系統(tǒng)容易受到多方面的攻擊和利用，比如證書發(fā)行方、服務(wù)提供商和惡意用戶。可以考慮使用網(wǎng)絡(luò)安全領(lǐng)域先前的最佳措施，比如DoS防御，以及阻止攻擊者訪問敏感記錄。

論文的最后，作者提出了下一步應(yīng)該采取的措施。

首先，適應(yīng)現(xiàn)有的數(shù)字網(wǎng)絡(luò)體系，為人工智能的影響做好準(zhǔn)備。

更具體地說，我們要重新思考，AI將如何改變互聯(lián)網(wǎng)和通信。

其次，優(yōu)先考慮將「人格憑證」作為亟需解決的一種方案。

最后一張圖，總結(jié)了這篇論文的所有要點。

值得一提的是，為了防止互聯(lián)網(wǎng)平臺以「實名制」為由過度收集信息，公安部和網(wǎng)信辦最近推出了「網(wǎng)絡(luò)身份證」。

只需要一部有NFC功能的手機，進行身份證識別和人臉識別并關(guān)聯(lián)手機號之后，就能得到一張?zhí)摂M的「網(wǎng)絡(luò)身份證」。

上面的「網(wǎng)號」由字母和數(shù)字組成，不含明文的身份信息，可以直接用于淘寶、微信等app的實名認證，不需要再輸入姓名、身份證號等信息。

在保護個人隱私方面，大家覺得有什么更好的解決方案?

參考資料:

https://x.com/sjgadler/status/1824245211322568903

https://news.mit.edu/2024/3-questions-proving-humanity-online-0816

https://www.engadget.com/cybersecurity/national-public-data-confirms-breach-that-exposed-americans-social-security-numbers-100046695.html

以上就是關(guān)于【AI爆料人遭全網(wǎng)封禁！OpenAI等25個機構(gòu)祭大招，一眼辨別AI機器人】的相關(guān)內(nèi)容，希望對大家有幫助！

　　免責(zé)聲明：本文由用戶上傳，與本網(wǎng)站立場無關(guān)。財經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險自擔(dān)。 如有侵權(quán)請聯(lián)系刪除！