人工智能服務(wù)器采購項目招標(biāo)項目的潛在供應(yīng)商應(yīng)在線上獲取招標(biāo)文件,并于****年**月**日 **時**分(北京時間)前遞交投標(biāo)文件。
**1-** 推理服務(wù)器(數(shù)量:2臺);
一、功能用途(貨物用途、需實現(xiàn)的功能、目標(biāo)以及為落實政府采購政策需滿足的要求)
用于部署科研教學(xué)等軟件。
用于科研教學(xué)使用,為科研教學(xué)提供算力。
二、技術(shù)規(guī)格及參數(shù)要求(貨物基本參數(shù)要求,包括需滿足的質(zhì)量、安全、技術(shù)規(guī)格、物理特性等要求)
★1.整機規(guī)格:4U 標(biāo)準(zhǔn)機架式服務(wù)器。
★2.配置≥4顆自主可控處理器;單顆處理器核心數(shù)≥**核心,主頻≥2.6GHz;
★3.主板:主板內(nèi)存槽數(shù)量≥**;
★4.配置≥1TB 內(nèi)存,內(nèi)存頻率≥****MT/S;
★5.配置不少于2塊**0G SSD、2塊7.**T NVMe SSD硬盤。提供RAID卡,支持RAID 0、 1、 5、 **。
★6.配置≥4個**GE端口(滿配光模塊),配置≥8個**0GE端口(滿配光模塊);
★7.電源:配置≥4個****W冗余電源;
★8.不超過4U空間提供2.2 PFLOPS FP**算力;
★9.配置不少于8顆GPU/NPU,單顆GPU/NPU提供不低于**GB HBM,支持GPU/NPU直出**0GE 網(wǎng)口;
★**. GPU/NPU間支持fullmesh全互聯(lián),互聯(lián)帶寬最大不低于**2GB/s;
★**.配置獨立的遠程管理控制端口,支持遠程監(jiān)控圖形界面;
★**.支持故障檢測功能,精確定位硬件故障,可精確到FRU;
★**.支持告警管理及SNMP Trap、 SMTP、 syslog服務(wù)多種格式告警上報,保障設(shè)備7***小時高可靠運行;
★**.為保障供應(yīng)連續(xù)性及項目交付,須提供服務(wù)器主板廠家針對本次采購項目出具的供應(yīng)保障函,內(nèi)容須明確保障本次采購的服務(wù)器主板供應(yīng)的證明、承諾等材料。
★**.支持將本地媒體設(shè)備或鏡像、文件夾虛擬為遠程設(shè)備;
**.支持使用客戶端證書和證書密碼的雙因素認證方式登錄單板管理系統(tǒng)。
**. 推理服務(wù)器采用自研 RAID 卡。
**. 推理服務(wù)器采用制造商注冊地在中國大陸的BMC管理芯片。
**1-**管理服務(wù)器(數(shù)量:1臺);
一、功能用途(貨物用途、需實現(xiàn)的功能、目標(biāo)以及為落實政府采購政策需滿足的要求)
用于部署科研教學(xué)等軟件。
二、技術(shù)規(guī)格及參數(shù)要求(貨物基本參數(shù)要求,包括需滿足的質(zhì)量、安全、技術(shù)規(guī)格、物理特性等要求)
★1.整機規(guī)格:2U 標(biāo)準(zhǔn)機架式服務(wù)器。
★2.配置≥2顆自主可控處理器;單顆處理器核心數(shù)≥**核心,主頻≥2.6GHz;
★3.主板:主板內(nèi)存槽數(shù)量≥**;
★4.配置≥**2GB 內(nèi)存,內(nèi)存頻率≥****MT/S;
★5.配置不少于2塊**0G SSD、2塊8T HDD硬盤。提供RAID卡,支持RAID 0、 1、 5、 **。
★6.配置≥4個GE端口,≥4個**GE端口(滿配光模塊);
★7.電源:配置≥2個**0W冗余電源;
8.支持中文BIOS界面
★9.除“關(guān)鍵部件安全要求”指標(biāo)不適用于本項目外,其他參數(shù)應(yīng)符合《通用服務(wù)器政府采購需求標(biāo)準(zhǔn)(****年版)》(財庫〔****〕**號)中加“*”的指標(biāo)要求。
**1-** **G交換機(數(shù)量:1臺);
一、功能用途
用于服務(wù)器的業(yè)務(wù)網(wǎng)絡(luò)與存儲網(wǎng)絡(luò)的連接,確保組網(wǎng)結(jié)構(gòu)完整、實現(xiàn)相應(yīng)功能服務(wù)。
二、技術(shù)規(guī)格及參數(shù)要求(貨物基本參數(shù)要求,包括需滿足的質(zhì)量、安全、技術(shù)規(guī)格、物理特性等要求)
★1.產(chǎn)品類型:企業(yè)級數(shù)據(jù)中心交換機
★2.高度≤1U,固定接口交換機;
★3.交換容量≥4.8Tbps,包轉(zhuǎn)發(fā)率≥****Mpps,以設(shè)備廠家官網(wǎng)所列最低參數(shù)為準(zhǔn);
★4.交換機產(chǎn)品的處理器(CPU)芯片采用自助可控芯片;
★5.電源支持1+1備份,風(fēng)扇模塊≥4個;
★6.提供**/**GE SFP**接口數(shù)量≥**個,**/**0GE QSFP**接口≥6個;
★7.整機可用緩存≥**MB;
★8.支持M-LAG或vPC或DRNI等跨機箱鏈路捆綁技術(shù);
★9.支持RIP、OSPF、ISIS、BGP 、RIPng、OSPFv3、ISISv6、BGP4+等動態(tài)路由協(xié)議;
★**.支持Vxlan功能,且支持BGP EVPN特性;
**.支持VXLAN over IPv6功能;
**.遠程端口鏡像支持ERSPAN增強功能;
**.通過中國信息安全EAL4+級別測評;
★**.配置要求:萬兆多模光模塊**個,**G多模光模塊**個,**G多模光模塊4個,**0G堆疊線纜1條,雙交流電源模塊,風(fēng)扇模塊滿配。
★**.電源電壓:**-**0V AC。
**1-** 管理交換機(數(shù)量:1臺);
一、功能用途(貨物用途、需實現(xiàn)的功能、目標(biāo)以及為落實政府采購政策需滿足的要求)
用于服務(wù)器管理網(wǎng)絡(luò)的連接,確保組網(wǎng)結(jié)構(gòu)完整、實現(xiàn)相應(yīng)功能服務(wù)。
二、技術(shù)規(guī)格及參數(shù)要求(貨物基本參數(shù)要求,包括需滿足的質(zhì)量、安全、技術(shù)規(guī)格、物理特性等要求)
★1.產(chǎn)品類型:企業(yè)級數(shù)據(jù)中心交換機
★2.高度≤1U,固定接口交換機;
★3.交換容量≥**2Gbps,包轉(zhuǎn)發(fā)率≥**7Mpps,以設(shè)備廠家官網(wǎng)所列最低參數(shù)為準(zhǔn);
★4.交換機產(chǎn)品的處理器(CPU)芯片采用自助可控芯片;
★5.電源支持 1+1備份;
★6.提供≥** 個 **/**0/****BASE-T 以太網(wǎng)端口,≥4 個萬兆 SFP+端口;
★7.提供≥2個專用堆疊口,不占用業(yè)務(wù)口帶寬,堆疊帶寬(雙向)大于**Gbps;
★8.支持≥**K個MAC條目。
★9.支持IGMP v1/v2/v3、PIM-SM、PIM-DM、PIM-SSM等組播協(xié)議;
★**.支持靜態(tài)路由、支持 RIP、RIPng、OSPF、OSPFv3、IS-IS、IS-ISv6、 BGP、BGP4+等路由協(xié)議;
**.支持配置回滾不重啟功能。
★**.配置要求:萬兆多模光模塊4個,交流電源模塊2個;
★**.電源電壓:**-**0V AC。
**1-** 機柜(數(shù)量:1臺);
一、功能用途(貨物用途、需實現(xiàn)的功能、目標(biāo)以及為落實政府采購政策需滿足的要求)
用于承載數(shù)據(jù)中心服務(wù)器、交換機等的機柜。
二、技術(shù)規(guī)格及參數(shù)要求(貨物基本參數(shù)要求,包括需滿足的質(zhì)量、安全、技術(shù)規(guī)格、物理特性等要求)
★1、**U標(biāo)準(zhǔn)服務(wù)器機柜,規(guī)格:≥**0**********mm;
★2、SPCC優(yōu)質(zhì)冷扎鋼板制作,脫脂,磷化,靜電噴塑。
**1-** 人工智能平臺軟件(數(shù)量:1套);
一、功能用途
★1、人工智能平臺提供一站式的全場景AI開發(fā)與應(yīng)用功能,涵蓋從數(shù)據(jù)接入、數(shù)據(jù)管理、數(shù)據(jù)預(yù)處理、數(shù)據(jù)標(biāo)注、模型訓(xùn)練、模型評估優(yōu)化、模型推理部署、用戶體系管理和系統(tǒng)運維的全流程,使得用戶能夠在統(tǒng)一的平臺上高效完成AI項目的全生命周期的開發(fā)與管理。在校內(nèi)AI教學(xué)和科研場景中,實現(xiàn)算力資源靈活調(diào)度,AI數(shù)據(jù)處理和模型開發(fā)效率的大幅度提升(需提供完整的軟件界面截圖證明);
★2、平臺預(yù)置包括DeepSeek、千問和LLaMA等不少于5個第三方開源大模型,預(yù)置大模型需為開源發(fā)布的最新版本。支持基于大模型的知識庫構(gòu)建、在線推理、檢索問答等能力。支持校內(nèi)多部門基于大模型打造場景化智能體應(yīng)用,提升校內(nèi)教學(xué)、科研和服務(wù)管理的智能化水平(需提供完整的軟件界面截圖證明);
★3、平臺支持對不同架構(gòu)的國際AI算力芯片與國內(nèi)AI算力芯片(包括華為昇騰、寒武紀(jì)、海光、天數(shù)智芯和燧原等)和不同架構(gòu)的國際與國內(nèi)通用算力芯片(包括華為鯤鵬和X**等)等多種異構(gòu)算力資源進行調(diào)度、管理。平臺需提供至少3種不同算力芯片適配證明或軟件界面截圖證明;
★4、在執(zhí)行模型訓(xùn)練和推理任務(wù)時,人工智能平臺本身性能損耗≤**%。在訓(xùn)練數(shù)據(jù)集和相關(guān)鏡像準(zhǔn)備完善的前提下,訓(xùn)練任務(wù)啟動時長低于**秒,任務(wù)關(guān)閉響應(yīng)低于**秒,推理請求P**分位延遲低于2秒,平臺服務(wù)的HTTP P**分位延遲低于1.5秒(需提供完整的軟件界面截圖證明);
★5、支持資源彈性調(diào)度,支持多資源池劃分,用戶根據(jù)自身需要,將任務(wù)調(diào)度到所需的資源池上。支持資源視圖管理,包括系統(tǒng)資源視圖、作業(yè)資源視圖等(需提供完整的軟件界面截圖證明);
★6、支持專屬資源池和共享資源池管理。共享資源池可授權(quán)指定用戶組使用共享資源并配置可用資源上限,便于在AI教學(xué)、科研和大模型推理過程中靈活分配資源。支持普通用戶之間數(shù)據(jù)范圍隔離,普通用戶僅能查閱和使用自身的數(shù)據(jù);管理員可查閱組內(nèi)所有數(shù)據(jù),包括數(shù)據(jù)集、標(biāo)注任務(wù)、代碼開發(fā)項目、模型庫、模型訓(xùn)練項目(需提供完整的軟件界面截圖證明);
★7、支持多租戶(組織)和租戶隔離。支持多組織管理、用戶權(quán)限管理、用戶組管理及用戶管理。支持多種用戶類型,包括管理員、普通用戶等。支持用戶密碼保護,可通過郵箱驗證重置密碼或管理員重置密碼。支持用戶操作安全審計(需提供完整的軟件界面截圖證明);
★8、支持可視化零代碼構(gòu)建數(shù)據(jù)預(yù)處理和模型訓(xùn)練的AI流水線,自由拖拽AI組件與連接線,構(gòu)建端到端AI流水線。支持全流程自動化執(zhí)行,自動調(diào)度數(shù)據(jù)預(yù)處理、模型訓(xùn)練、評估、發(fā)布及服務(wù)更新等環(huán)節(jié)。支持將已驗證AI流水線轉(zhuǎn)化為可復(fù)用模板。實時可視化展示AI流水線運行狀態(tài)、節(jié)點日志與歷史記錄(需提供完整的軟件界面截圖證明);
★9、支持數(shù)據(jù)集上傳、數(shù)據(jù)集下載、數(shù)據(jù)集分類、數(shù)據(jù)集排序及數(shù)據(jù)集查詢等功能。支持查看數(shù)據(jù)集版本詳情,展示數(shù)據(jù)集文件結(jié)構(gòu),支持用戶查看數(shù)據(jù)集信息,文件目錄結(jié)構(gòu)等。支持數(shù)據(jù)可視化,支持直方圖、氣泡圖、柱狀圖等數(shù)據(jù)可視化方法(需提供完整的軟件界面截圖證明);
★**、支持用戶數(shù)據(jù)在個人空間管理,包括對文件和文件夾的新建、刪除、解壓、復(fù)制、移動、重命名、上傳、下載等,可在個人空間預(yù)覽常見的圖像、文本、音頻、視頻等文件。支持個人數(shù)據(jù)移動或復(fù)制共享給同一用戶組內(nèi)用戶使用(需提供完整的軟件界面截圖證明);
★**、支持多源異構(gòu)的數(shù)據(jù)池、數(shù)據(jù)源管理,支持創(chuàng)建本地上傳、http、關(guān)系型數(shù)據(jù)庫、rtsp數(shù)據(jù)流、MQTT等不同種類的數(shù)據(jù)通道,實現(xiàn)對結(jié)構(gòu)化、半結(jié)構(gòu)化、非結(jié)構(gòu)化等數(shù)據(jù)源的接入和管理,可用于回傳邊端數(shù)據(jù)、采集終端數(shù)據(jù)、用戶數(shù)據(jù)庫的接入等(需提供完整的軟件界面截圖證明);
★**、支持數(shù)據(jù)ETL,支持用戶選擇結(jié)構(gòu)化數(shù)據(jù)源、數(shù)據(jù)集,創(chuàng)建ETL工作流;支持SQL編輯,支持可視化拖拽的方式搭建ETL建模流程;支持將ETL各節(jié)點數(shù)據(jù)輸出為數(shù)據(jù)集(需提供完整的軟件界面截圖證明);
★**、支持圖像處理,包含尺寸修改、裁剪、顏色轉(zhuǎn)換、圖像反轉(zhuǎn)、高斯過濾、箱型過濾、圖片模糊等處理方式。支持對數(shù)據(jù)進行清洗,數(shù)據(jù)格式包括但不限于jpg、jpeg、png、txt、json、csv、xlsx,支持去近似、去模糊、去除語氣詞、去除郵箱、去除電話號碼、去除身份證號的清洗方式。支持對數(shù)據(jù)增廣,增廣方式包括但不限于幾何變換(縮放、平移、旋轉(zhuǎn)、水平翻轉(zhuǎn)、垂直翻轉(zhuǎn)、水平剪切、垂直剪切),色彩變換(亮度、對比度、色溫、色調(diào)、飽和度、反色、灰度值均勻分布),其他變換(高斯模糊、銳化、減少通道位數(shù)、遮擋)等方式(需提供完整的軟件界面截圖證明);
★**、支持圖像、文本、視頻、語音、3D點云等多種標(biāo)注類型任務(wù)創(chuàng)建,可實現(xiàn)多人標(biāo)注、團隊標(biāo)注,自動將標(biāo)注任務(wù)拆分成多個作業(yè),每個作業(yè)可分配不同的標(biāo)注員進行標(biāo)注,支持標(biāo)簽?zāi)0骞芾?。支持智能預(yù)標(biāo)注,使用自己上傳的模型進行智能預(yù)標(biāo)注(需提供完整的軟件界面截圖證明);
★**、支持采用不同架構(gòu)的國際AI算力芯片與國內(nèi)AI算力芯片進行模型訓(xùn)練。支持PyTorch、TensorFlow、MindSpore等國內(nèi)外主流AI框架。支持配置對接git代碼倉,直接加載代碼進行開發(fā)、調(diào)試;可通過在線Notebook、VS Code進行代碼開發(fā)、訓(xùn)練、評估。支持通過SSH信息或密鑰方式訪問代碼開發(fā)環(huán)境,方便開發(fā)者進行遠程調(diào)試。模型開發(fā)過程可視化查看,支持集成使用第三方工具鏈,包括TensorBoard、MindInsight等。支持conda,可在代碼開發(fā)中按需選擇并激活進入conda虛擬環(huán)境,進行模型開發(fā)/訓(xùn)練(需提供完整的軟件界面截圖證明);
★**、支持實驗對比,支持對項目中的模型訓(xùn)練、評估任務(wù)的基本信息、輸入?yún)?shù)、輸出指標(biāo)進行對比,包括表格對比和可視化對比。支持模型增量訓(xùn)練,可以加載已有任務(wù)輸出的權(quán)重文件,作為預(yù)訓(xùn)練模型進行增量訓(xùn)練(需提供完整的軟件界面截圖證明);
★**、用戶可基于預(yù)置大模型快速開展大模型微調(diào)訓(xùn)練。支持LoRA/全量微調(diào),微調(diào)過程日志可視化。支持對微調(diào)訓(xùn)練后的大模型進行量化、裁剪后部署推理,提供用戶推理可調(diào)用的API接口,方便用戶可以用接口的方式調(diào)用大模型的推理能力,提供推理調(diào)用監(jiān)控(需提供完整的軟件界面截圖證明);
★**、支持通過聊天窗口通過加載已微調(diào)的大模型進行對話,從而快速驗證大模型能力。聊天窗口可選擇不同參數(shù)的大模型進行交互使用,支持對大模型回答結(jié)果進行反饋優(yōu)化。
★**、支持用戶自定義大模型服務(wù)和知識庫檢索問答服務(wù),可采用自定義服務(wù)進行數(shù)據(jù)問答對生成、數(shù)據(jù)向量化和檢索重排序。支持Prompt模版管理,支持Prompt創(chuàng)建、管理、角色創(chuàng)建及賦能使用(需提供完整的軟件界面截圖證明);
★**、支持創(chuàng)建推理服務(wù),可配置不同架構(gòu)的國際AI算力芯片與國內(nèi)AI算力芯片和不同架構(gòu)的國際與國內(nèi)通用算力芯片創(chuàng)建推理任務(wù),提供在線預(yù)測服務(wù),支持用戶進行在線預(yù)測(需提供完整的軟件界面截圖證明);
★**、提供推理服務(wù)接口調(diào)用指南,展示推理服務(wù)的API接口地址、模型信息、輸入?yún)?shù)、輸出參數(shù)等信息,用戶可以通過復(fù)制API接口地址,調(diào)用中心推理服務(wù)。支持API鑒權(quán),包括但不限于API Key和AK/SK兩種方式(需提供完整的軟件界面截圖證明);
★**、支持圖片、文本等數(shù)據(jù)輸入預(yù)測,支持圖片、文本推理結(jié)果可視化展示。支持推理數(shù)據(jù)回傳,支持用戶將調(diào)用推理服務(wù)產(chǎn)生的推理數(shù)據(jù)回傳至平臺進行統(tǒng)一管理和使用;支持推理回傳結(jié)果可視化展示,可對推理結(jié)果按條件進行篩選,支持使用表達式對推理結(jié)果json字段進行高級篩選(需提供完整的軟件界面截圖證明);
★**、支持A/B測試,對于已部署的推理服務(wù),支持部署測試版本并導(dǎo)入部分線上流量,可用于后續(xù)不同模型推理結(jié)果的對比。支持灰度發(fā)布,支持配置流量分配策略,將推理服務(wù)升級至新版本。支持對在線服務(wù)進行監(jiān)控統(tǒng)計,包括QPS、響應(yīng)時間、調(diào)用次數(shù)等。支持使用在線服務(wù)對本地數(shù)據(jù)集進行推理預(yù)測(需提供完整的軟件界面截圖證明);
★**、支持使用客戶端上傳本地鏡像或Docker鏡像。提供容器鏡像隔離能力,支持為不同用戶分配相應(yīng)的訪問權(quán)限,實現(xiàn)用戶組間權(quán)限隔離(需提供完整的軟件界面截圖證明);
★**、支持集群監(jiān)控,提供集群、節(jié)點、設(shè)備、任務(wù)等多維度監(jiān)控,包括CPU/GPU/NPU使用情況、內(nèi)存使用情況、存儲使用情況、網(wǎng)絡(luò)吞吐量等。支持自定義配置告警規(guī)則,支持指定時間段內(nèi)的CPU/GPU/NPU占用率以及對應(yīng)內(nèi)存使用量的告警數(shù)據(jù)采集,提供告警頻率、通知間隔的設(shè)置,告警規(guī)則支持生效、停止、編輯、刪除等操作(需提供完整的軟件界面截圖證明);
★**、支持集群節(jié)點彈性伸縮。支持顯示任務(wù)運行列表,提供任務(wù)狀態(tài)和資源使用情況查看、任務(wù)查找、按模塊篩選、強制停止任務(wù)。支持任務(wù)排隊管理,可自定義調(diào)整任務(wù)排隊優(yōu)先級(需提供完整的軟件界面截圖證明);
★**、支持站內(nèi)消息提醒,包括任務(wù)消息和運維消息,支持篩選、標(biāo)記已讀、刪除等。支持集群日志管理,支持日志收集和查看;支持版本升級管理(需提供完整的軟件界面截圖證明);