暖暖视频在线观看日本/国产成人精品a视频一区/精人妻无码一区二区三区/成在线人免费视频/17c一起草

每日經濟新聞
要聞

每經網首頁 > 要聞 > 正文

AI給出的答案不一定真實!華映資本董事總經理李巖談模型安全:既是挑戰,也是投資機會

2025-09-19 20:19:20

9月18日,AI應用工作組第二屆第一次成員大會在京召開。華映資本董事總經理李巖提出,衡量AI應用核心在于能否構建數據閉環飛輪,即“生成—分發—消費—反饋”,并指出模型安全分可控性和外部攻擊兩類風險。他表示,營銷、教育科研和“AI+物理世界”三大方向具備商業化潛力。

 每經記者|可楊    每經編輯|魏文藝    

在人工智能(AI)投資熱潮中,資本如何判斷應用價值與風險?

9月18日,AI應用工作組第二屆第一次成員大會在北京召開。華映資本董事總經理李巖在大會的主題演講環節提到,衡量AI應用的核心,在于能否構建“生成-分發-消費-反饋”的數據閉環飛輪。

李巖在演講中表示,他在AI投資方面的兩大核心判斷標準是,應用能否通過數據反饋形成良性循環,從而積累持久價值;模型能否在安全與穩定上建立保障,并在此過程中催生新的產業機會。

公開資料顯示,華映資本創立于2008年,是中國領先的創新驅動私募股權投資機構。自成立以來,華映資本一直堅持數字化投資主線,基于行業本質的獨立思考,著眼需求變化和技術演進趨勢,圍繞創新做投資。投資項目覆蓋科技、消費、企業服務和數字經濟等多個領域。

華映資本董事總經理李巖 圖片來源:受訪者提供

數據飛輪是AI應用價值的關鍵

回顧信息技術的發展脈絡可以看到,從搜索引擎到短視頻推薦,再到今天的生成式AI,每一代核心突破都對應著人與信息關系的改變。搜索解決了信息獲取的難題,推薦算法則打破了內容供需之間的壁壘。而生成式AI的獨特之處,在于直接突破了內容生產環節,讓用戶可以在真正需要的時刻,獲得高度匹配的內容。

李巖指出,AI本身是一個需要持續優化的工具,其核心價值在于構建一個自我強化的數據閉環,即數據飛輪。

“我們衡量一個AI應用是不是有核心價值的一個關鍵點,就是這個所謂的數據飛輪能不能轉起來。”李巖表示,這個飛輪包括四個環節,即“生成-分發-消費-反饋”的閉環,通過AI生成內容、有效地分發給用戶、用戶消費內容、并最終獲取用戶的消費反饋數據。

數據飛輪能不能轉起來,是衡量AI應用是否有核心價值的關鍵點。李巖指出,如果缺乏數據反饋,企業即便在算法或算力上具備一定優勢,也很難長期維持領先。“因為在長時間積累上,如果沒有很快的數據反饋,很難做到長時間的數據生成、內容的豐富度以及它的領先度。”

基于這一判斷,華映資本目前重點關注營銷、教育科研和“AI+物理世界”三大方向。

“在今天AI能力還不足以到我們想象的AGI一步登天,然后給我所有答案的這個過程中,我們需要有局部的數據反饋,去提升整個數據內容的質量。”李巖解釋道,營銷和教育場景能夠快速生成用戶行為數據,并迅速反饋至模型優化環節,從而快速構建起商業閉環,甚至形成競爭代差。

在營銷領域,中國長期積累了完整的電商與廣告投放數據鏈路,為AI應用提供了肥沃的土壤。李巖認為,這意味著,AI能夠快速復制和優化從達人種草、廣告投放到消費轉化的全過程,形成穩定的迭代機制。他提到,過去廣告主需要大規模投放才能形成影響,而如今AI可以通過快速與中小達人對接,低成本、高效率地觸達消費者。

教育場景中,傳統教育依賴固定大綱和統一教學進度,而AI可以根據學生的實時反饋,靈活調整內容和難度,這在學生體感和內容傳達上實現了質變。李巖表示,教育領域天然具備強交互屬性,因此能夠更快推動反饋閉環的形成。

科研則體現了AI在信息歸納與推理上的價值。從“AI刷題”到“AI研報”,模型能夠通過歷史數據和邏輯推導解決復雜問題,大幅提升研究效率。李巖指出,這些場景雖然專業性較強,但一旦獲得驗證,將為科研工作方式帶來實質性改變。

在他看來,這三大領域已經跑出代差,相比其他行業更快進入飛輪效應,具備成為率先實現商業化突破的潛力。

模型安全 風險與機會并存

在強調應用價值的同時,李巖也提醒市場關注另一個容易被忽視的議題——模型安全。

李巖直言,當前大模型輸出的內容本質上存在一種不確定性,“今天模型輸出的時候,我們看到的狀態就是,輸出的具體內容其實還是一個黑客狀態。你很難規定它一定按照預期,在千百萬次輸出的時候保證強一致性”。

李巖將模型安全分為兩類風險。一方面是模型本身的可控性,即在反復調用中能否保持穩定輸出。這一問題關系到AI產品的可靠性和可用性,直接影響用戶體驗和商業落地。

另一方面則是外部誘導攻擊,即模型在與外部數據交互時,容易被操縱輸出偏向性內容。“假如你開了聯網搜索后,會發現很多的結果很受互聯網搜索結果的(影響)。”他指出,已有創業公司在反向利用這一漏洞,“這很容易誘導(AI)通過互聯網搜索輸出一些他希望客戶看到的東西”。

他舉例,當詢問“最好的旅行社”時,未聯網的模型會基于訓練數據給出概括性答案,而聯網后結果可能被操控,顯示特定旅行社名稱。“這就是有人通過這個模型數據安全性的漏洞,反向地輸出一些模型的搜索。”李巖強調,這導致模型輸出的信息“并不是權威和中立的”,而是被誘導過的。

在李巖看來,這一問題不僅是挑戰,也孕育著新的機會。隨著AI逐步滲透進教育、醫療、金融等敏感領域,模型安全的重要性將進一步提升。從兒童內容過濾到國家級安全監管,再到企業合規與輿情控制,都可能衍生出新的創業方向。“這個其實都是一個很大的空間。”

他同時提出,市場不能僅停留在對前端應用的關注,更要評估企業在算法優化、工程化落地和產品打造上的“三角形”能力。極致算法、強工程力和極致產品力共同決定了一個AI公司能否長期立足,“你是不是能真的做到一個客戶愿意買單或接受的產品,這是一個千古問題”。

免責聲明:本文內容與數據僅供參考,不構成投資建議,使用前請核實。據此操作,風險自擔。

封面圖片來源:受訪者提供

如需轉載請與《每日經濟新聞》報社聯系。
未經《每日經濟新聞》報社授權,嚴禁轉載或鏡像,違者必究。

讀者熱線:4008890008

特別提醒:如果我們使用了您的圖片,請作者與本站聯系索取稿酬。如您不希望作品出現在本站,可聯系我們要求撤下您的作品。

歡迎關注每日經濟新聞APP

每經經濟新聞官方APP

0

0