每(mei)經記(ji)者｜蔡 鼎    每(mei)經編輯｜蘭素英     

當(dang)地時(shi)間(jian)周二（5月28日），OpenAI稱董事會(hui)成立了一個(ge)負責把控AI開(kai)發方(fang)向的(de)(de)“安全委員會(hui)”，負責監(jian)督與公(gong)司項目和(he)運營相關(guan)的(de)(de)“關(guan)鍵”安全和(he)安保(bao)決策(ce)，而(er)這距離其內(nei)部負責評估長期AI安全問題的(de)(de)“超級(ji)對齊（Superalignment）”小組正式(shi)解散不(bu)到半個(ge)月的(de)(de)時(shi)間(jian)。

據悉，該委(wei)員(yuan)會(hui)(hui)的首要任務是在未來90天內評估并進一步發展(zhan)OpenAI的流(liu)程(cheng)和保障(zhang)措施。90天結(jie)束時(shi)，該委(wei)員(yuan)會(hui)(hui)將與(yu)全(quan)(quan)體董(dong)事(shi)會(hui)(hui)（成(cheng)員(yuan)）分(fen)享他們的建議。在全(quan)(quan)體董(dong)事(shi)會(hui)(hui)（成(cheng)員(yuan)）審(shen)查之后，OpenAI將以符合安全(quan)(quan)和保障(zhang)的方式，公開(kai)分(fen)享相關信(xin)息。

視覺中國圖

《每日(ri)經濟新(xin)聞(wen)》記者(zhe)注(zhu)意到(dao)，其實這并(bing)不是(shi)OpenAI首次組建專門(men)致力于AI安(an)全(quan)的(de)團(tuan)隊。去(qu)年12月(yue)，OpenAI就成(cheng)立過(guo)一(yi)個“安(an)全(quan)顧問(wen)小組”，該小組向(xiang)公司領導層提(ti)出建議，并(bing)且董(dong)事會(hui)被(bei)授予否(fou)決(jue)權。不過(guo)，從5月(yue)17日(ri)“超級(ji)對齊”團(tuan)隊解散到(dao)成(cheng)立新(xin)的(de)“安(an)全(quan)委(wei)員會(hui)”，足(zu)以證明AI安(an)全(quan)的(de)問(wen)題在(zai)OpenAI內部仍(reng)未得(de)到(dao)解決(jue)。

承諾將聘請第三方專家

除了(le)首席(xi)執行官阿爾特曼外，OpenAI新成(cheng)立的(de)(de)安全(quan)委員(yuan)(yuan)會的(de)(de)其(qi)他(ta)成(cheng)員(yuan)(yuan)還包(bao)括董事會成(cheng)員(yuan)(yuan)Bret Taylor、Adam D’Angelo和(he)Nicole Seligman，以及(ji)首席(xi)科(ke)學家(jia)Jakub Pachocki、OpenAI早期籌備團隊的(de)(de)Aleksander Madry、安全(quan)系統負(fu)責(ze)人(ren)(ren)Lilian Weng、安保(bao)負(fu)責(ze)人(ren)(ren)Matt Knight和(he)“人(ren)(ren)工智能對(dui)齊”（AI Alignment） 負(fu) 責(ze) 人(ren)(ren) John Schulman。從成(cheng)員(yuan)(yuan)構成(cheng)可以看出，沒(mei)有一個(ge)外部人(ren)(ren)員(yuan)(yuan)。

為了避免新(xin)成立(li)的(de)安(an)全委員(yuan)會因成員(yuan)構成而被認為是“橡(xiang)皮(pi)圖(tu)章”，OpenAI承諾將聘請第(di)三方“安(an)全、安(an)保和(he)技術”專(zhuan)家(jia)(jia)來支持(chi)委員(yuan)會的(de)工作(zuo)，包(bao)括網(wang)絡安(an)全專(zhuan)家(jia)(jia)Rob Joyce和(he)美國(guo)前司法部官員(yuan)John Carlin。但除(chu)此之(zhi)外，OpenAI并未(wei)更詳(xiang)細地說明外部專(zhuan)家(jia)(jia)組的(de)規模和(he)組成，也(ye)沒有透露專(zhuan)家(jia)(jia)組對委員(yuan)會的(de)具體影(ying)響(xiang)和(he)權力限制。

有(you)專家(jia)指出，OpenAI成立此類企業監(jian)督委員(yuan)(yuan)會(hui)，類似(si)于谷(gu)歌的高級技術外部咨詢委員(yuan)(yuan)會(hui)，其實在實際監(jian)督方面(mian)幾乎沒(mei)有(you)什么作為。

美國IT研究(jiu)與(yu)顧(gu)問咨詢公司Gartner高級研究(jiu)總(zong)監高峰在接受《每日經濟新聞(wen)》記(ji)者采訪時(shi)指出(chu)，OpenAI安全(quan)(quan)委員會(hui)成員全(quan)(quan)部(bu)(bu)是(shi)(shi)“自(zi)己(ji)人”并沒有什么(me)問題(ti)，因為(wei)OpenAI的(de)安全(quan)(quan)委員會(hui)是(shi)(shi)服(fu)務于內部(bu)(bu)的(de)，是(shi)(shi)對(dui)OpenAI產品(pin)的(de)安全(quan)(quan)和(he)(he)發展方向(xiang)進行(xing)評估(gu)。一般(ban)來說(shuo)，企(qi)業(ye)不太傾向(xiang)于引(yin)入外部(bu)(bu)人士，因為(wei)里面(mian)會(hui)涉及很(hen)多(duo)的(de)商業(ye)機密信息。所以如果沒有監管或者政府的(de)強(qiang)制(zhi)要求，企(qi)業(ye)通常(chang)只會(hui)對(dui)自(zi)身的(de)產品(pin)或股東負責。其實(shi)像谷歌和(he)(he)微軟(ruan)，他們(men)也有相(xiang)應的(de)一些安全(quan)(quan)部(bu)(bu)門(men)，主要就是(shi)(shi)確保產品(pin)的(de)安全(quan)(quan)。

安全優先級下降引擔憂

近期，OpenAI在安(an)全方面的問題成為外界的關注點(dian)之(zhi)一。幾個(ge)月來，OpenAI流(liu)失(shi)了不少(shao)非常重(zhong)視AI安(an)全的員(yuan)工，在這(zhe)部分人中(zhong)，有(you)一些對OpenAI在AI安(an)全方面的優先級下(xia)降表(biao)示擔(dan)憂(you)。

OpenAI的聯合創始人兼前首(shou)席科學家Ilya Sutskever也(ye)(ye)于今年5月離職，據報道部分是因為阿爾特曼(man)急于推出AI驅動的產品(pin)而犧牲了(le)安(an)(an)全(quan)性能(neng)。OpenAI前首(shou)席安(an)(an)全(quan)研究(jiu)員Jan Leike也(ye)(ye)緊隨其后宣(xuan)布離開，他在X平臺（前身為推特）上(shang)發(fa)布的一系列帖子中表示，他認為OpenAI“未走在解決AI安(an)(an)全(quan)和安(an)(an)保問(wen)題的正確軌(gui)道上(shang)”。

在 Ilya Sutskever 和 Jan Leike這兩(liang)位關鍵人(ren)物(wu)離職后(hou)，OpenAI專(zhuan)注(zhu)于研究AI生存(cun)危(wei)險的(de)“超(chao)級對齊”團隊正式宣告解(jie)散。

對(dui)于Jan Leike發(fa)表的言論，近期離職的AI政策(ce)研究員Gretchen Krueger 也表示認同(tong)，她也呼吁(yu)OpenAI提高問(wen)責制和透明度，并“更(geng)加謹慎地使用自己的技(ji)術”。另(ling)外(wai)，曾(ceng)在OpenAI擔任團隊治(zhi)理工(gong)作(zuo)的Daniel Kokotajlo也于4月辭職，原因(yin)是他對(dui)OpenAI能在AI 開發(fa)中繼續保持負(fu)責任的態度失去了(le)信(xin)心。

其(qi)實，這并不是OpenAI首次成立或組建專門(men)的安全顧問團隊。

去年12月18日，OpenAI就(jiu)稱正在(zai)擴展內部安全流(liu)程，以抵御有害人工智能的威脅(xie)。一個新的“安全顧問小組”將位于技術團(tuan)隊(dui)之(zhi)上，向領導層提(ti)出(chu)建議(yi)，并且董事會也(ye)被授予了否決(jue)權(quan)。

在(zai)當時的(de)博(bo)客文章(zhang)中，OpenAI討(tao)論(lun)了(le)其(qi)最新的(de)“準備框架”，即OpenAI跟蹤、評估、預(yu)測和防范日益強(qiang)大(da)的(de)模(mo)型帶來災(zai)難性風(feng)險的(de)流程。對(dui)于(yu)(yu)災(zai)難性風(feng)險的(de)定義，OpenAI的(de)解釋是(shi)這樣(yang)的(de)——任(ren)何(he)可能(neng)導致數千億(yi)美元經濟損失或導致許(xu)多人(ren)嚴(yan)重(zhong)傷害或死亡的(de)風(feng)險，包括但不限于(yu)(yu)生存風(feng)險。

AI監管呼聲日益高漲

在(zai)人工(gong)智(zhi)能(neng)大(da)模型的快速發展之下，全(quan)球(qiu)新一(yi)輪(lun)科技革(ge)命和產(chan)業變革(ge)正(zheng)在(zai)醞釀，但也(ye)衍(yan)生了一(yi)些擔憂(you)，數據安全(quan)、終端安全(quan)以(yi)及個人的數字主(zhu)權面臨(lin)更大(da)的挑戰。

以生成式AI為例，普華(hua)永道在去(qu)年10月發(fa)布的(de)(de)一篇文章中稱(cheng)，在疏于監管的(de)(de)情(qing)況下，這(zhe)項技(ji)術可(ke)能會生成違法或不當的(de)(de)內容，可(ke)能涉及侮辱、誹謗、色情(qing)、暴力等不合法或違規的(de)(de)元素；另一方面，生成式AI可(ke)能會基于已(yi)有的(de)(de)受版權保護(hu)的(de)(de)內容進行學習，這(zhe)可(ke)能導致知(zhi)識(shi)產權侵權。

被譽為“AI教父”的Geof-frey Hinton近日在接受媒(mei)體(ti)采訪時直言(yan)，AI很快將超越人(ren)類智能，其擔心人(ren)類對AI發(fa)展安全性(xing)方面的重視程度不夠(gou)。他(ta)還指(zhi)出(chu)，這(zhe)不僅(jin)(jin)僅(jin)(jin)是(shi)他(ta)個人(ren)的觀點，實際上(shang)這(zhe)是(shi)該領(ling)域領(ling)導(dao)者的共識。

出(chu)于對(dui)AI各方面的擔憂，4月下(xia)旬，美(mei)國國土安全部針對(dui)研發AI的“安全與(yu)保(bao)障”問題成(cheng)立顧問委(wei)員(yuan)會(hui)，集結(jie)了22名科技業(ye)高(gao)層(ceng)成(cheng)員(yuan)，包(bao)括OpenAI、微軟、Alphabet、亞馬遜網絡(luo)服務（AWS）等企業(ye)高(gao)層(ceng)，以及英(ying)偉達CEO黃(huang)仁勛和(he)AMD公(gong)司(si)CEO蘇姿豐。

美國國土安(an)全部部長馬(ma)約卡(ka)斯（Alejandro Mayorkas）表示，該委員會將協助(zhu)確保(bao)AI科(ke)技的安(an)全開展(zhan)，以及設法(fa)應對這類科(ke)技對能源(yuan)、公用(yong)業務(wu)、交通、國防、信息技術、食品和農業，甚至是(shi)金融服務(wu)等關(guan)鍵服務(wu)所(suo)構成的威脅。

不僅僅是(shi)美國(guo)政府部門，包括美國(guo)商業(ye)軟件(jian)聯盟(meng)（BSA）這樣(yang)的行業(ye)組織，也在(zai)推動對AI的監管。同樣(yang)在(zai)4月，BSA也發布了(le)文件(jian)呼(hu)吁(yu)在(zai)隱私立法中(zhong)制定(ding)相(xiang)關規則。

對于(yu)不斷增(zeng)強的(de)(de)(de)監管呼聲，高峰對《每日經(jing)濟新聞》記者分析稱，任何(he)(he)技術的(de)(de)(de)發(fa)展都是(shi)(shi)有風險的(de)(de)(de)，而(er)(er)AI比(bi)之前(qian)的(de)(de)(de)任何(he)(he)技術對于(yu)整個社會的(de)(de)(de)影(ying)響都要(yao)大，這(zhe)也是(shi)(shi)各方對AI監管呼聲較高的(de)(de)(de)原(yuan)因(yin)。另外，一直以(yi)來大家可(ke)能(neng)受到了一些(xie)科幻(huan)電(dian)影(ying)的(de)(de)(de)影(ying)響，覺得將來AI可(ke)能(neng)會超過(guo)人類的(de)(de)(de)智慧(hui)，可(ke)能(neng)控制人類。但是(shi)(shi)，現在的(de)(de)(de)AI離人類的(de)(de)(de)智慧(hui)還是(shi)(shi)有很大差距(ju)，短(duan)期(qi)內AI是(shi)(shi)沒(mei)有辦法超過(guo)人類的(de)(de)(de)。但當AI不再僅僅是(shi)(shi)個工(gong)具，而(er)(er)是(shi)(shi)成為主(zhu)導(dao)的(de)(de)(de)時候，就可(ke)能(neng)需要(yao)人工(gong)阻止了，這(zhe)可(ke)能(neng)是(shi)(shi)比(bi)較重要(yao)的(de)(de)(de)一個評判標準。

封(feng)面圖片來源：視覺中國圖