17c一起草

<bdo id='0o2yk'><sup id='0o2yk'><div id='0o2yk'><bdo id='0o2yk'></bdo></div></sup></bdo>

每經網首頁丨
丨
丨
丨
視頻丨
丨
IPO丨
丨
丨
房產丨
丨
丨
丨
丨
每經商學院

首發快訊

每經網首頁 > 首發快訊 > 正文

浪潮信息發布“源2.0”千億參數系列大模型

2023-11-27 21:43:50

每經AI快訊，11月27日，浪潮信息發布旗下開源千億參數大模型系列“源2.0”。據悉該系列模型免費可商用，有參數值102B（1026億）、51B（518億）、2B（21億）三個版本，相關成果已開源，并提交了研究論文。浪潮信息在其論文中稱，源2.0在代碼、數學和事實問答等方面的能力測試表現好于Meta的開源大模型Llama 2。

在算法上，源2.0開發團隊提出局部注意力過濾增強機制LFA（Localized Filtering-based Attention），更關注上下文之間的強語義關聯。在數據集方面，浪潮信息主要使用中英文書籍、百科、論文等資料。（每日經濟新聞）