91精品国产91久久久久久最新,黄色h视频,激情有码,久久综合精品国产一区二区三区,91精品视频观看,aaa免费视频,97久久伊人精品影院

關注我們
荊楚網(wǎng) > 國際

Open AI“宮斗劇”暴露人工智能監(jiān)管漏洞

發(fā)布時間:2023年12月01日16:34 來源: “伍之管見”微信公眾號

美國人工智能公司OpenAI旗下的ChatGPT上線已經(jīng)一年。近期,圍繞OpenAI首席執(zhí)行官薩姆·奧爾特曼去留問題的“宮斗劇”,短短幾天內經(jīng)歷了“反轉反轉再反轉”,似乎已經(jīng)落下帷幕。

塵埃落定之后,OpenAI的首席執(zhí)行官還是奧爾特曼,一切似乎沒變,但一切似乎又已經(jīng)完全變了。

這場大戲,揭開了OpenAI內部關于人工智能發(fā)展前途的矛盾,它暴露的不僅是一家人工智能公司的管理問題,更揭示了人工智能治理機制缺失的潛在風險。

作為全球知名的人工智能研究機構,OpenAI近年來一直是最受關注的科技公司之一。一年前,OpenAI推出大語言模型ChatGPT,掀起了生成式人工智能的熱潮,奧爾特曼也成為全球科技界風云人物。

網(wǎng)絡上流傳的視頻顯示,奧爾特曼宣稱自己沒有公司股份,也不想通過公司商業(yè)獲利。他還經(jīng)常在公開場合宣稱要警惕人工智能帶來的風險。

而透過這場“宮斗戲”,人們發(fā)現(xiàn)事情遠沒有奧爾特曼宣稱的那么簡單。

美國有線電視新聞網(wǎng)報道說,董事會之所以“逼宮”,是因為擔心奧爾特曼過于激進地推動人工智能開發(fā),存在嚴重的風險隱患。據(jù)報道,奧爾特曼私下里在人工智能開發(fā)方面態(tài)度激進,試圖推動公司更快把人工智能產(chǎn)品推向市場,通過銷售產(chǎn)品獲利。

根據(jù)路透社報道,此前有幾名研究人員寫信給OpenAI董事會,揭發(fā)一項名為"Q*"(發(fā)音為Q-Star)的“可能會威脅人類”的人工智能項目,引發(fā)了董事會的擔憂和不滿。據(jù)報道,該項目可能是OpenAI在通用人工智能領域的新突破。

什么是通用人工智能?OpenAI自己的定義是,在大多數(shù)具有經(jīng)濟價值的任務中,超越人類智慧的人工智能系統(tǒng)。簡言之,就是能夠取代人類大部分勞動的人工智能。

表面上,這場“宮斗戲”,是OpenAI首席執(zhí)行官奧爾特曼與董事會之爭;本質上,它是人工智能的冒險與穩(wěn)妥之爭。更愿意冒險的奧爾特曼勝出了。不久前,OpenAI在社交媒體X(推特)平臺上稱,該公司已“原則上達成協(xié)議”,讓奧爾特曼重任OpenAI首席執(zhí)行官,并組建新的董事會。

“宮斗戲”撲朔迷離,個中利益糾葛、恩怨情仇外人難以知曉,局中人的是非對錯難以評判。這場大戲更值得人們關注和反思的,是人工智能領域關乎人類發(fā)展的嚴峻問題和潛在的漏洞風險。

單靠公司治理體制,不足以對人工智能實現(xiàn)有效監(jiān)管;僅憑資本與市場的邏輯,難以有效遏制人工智能開發(fā)帶來的潛在風險。

目前世界多國正在加強人工智能監(jiān)管立法。歐盟正制定AI監(jiān)管法規(guī),法國、德國和意大利近期也就AI監(jiān)管達成一致,支持AI基礎模型“以行為準則方式強制自我監(jiān)管”;美國10月30日發(fā)布首個人工智能監(jiān)管行政命令,要求美國最強人工智能系統(tǒng)的研發(fā)人員需與政府分享其安全測試結果及其他關鍵信息等。

美國、英國等近20個國家11月26日公布一份建議性質的協(xié)議,一致認定企業(yè)需要在設計和使用人工智能系統(tǒng)時確保消費者等廣大公眾安全,需要監(jiān)控濫用AI系統(tǒng)現(xiàn)象,防止數(shù)據(jù)遭干預,審核軟件供應商資質等。

實際上,在OpenAI“宮斗劇”上演之前,中國10月18日就提出了《全球人工智能治理倡議》。這是中國在促進人工智能安全發(fā)展和應用方面作出的莊嚴承諾,為人工智能發(fā)展和治理問題提出了建設性的解決思路,也為相關各國討論和規(guī)則制定提供了藍本。

中國智慧和中國方案,為這個充滿未知和風險的前沿領域,帶來了更多的確定性和方向感。

或許,下次像ChatGPT這樣的新突破橫空出世時,人們除了新奇、驚艷,還會有更深刻、更長遠、更多維度的見解與對策。

(讀懂世界大事,請關注“伍之管見”微信公眾號。)

【責任編輯:楊威】