京東雲發布言犀智能體平台、雲海AI存儲等八大智算產品
京東雲發布言犀智能體平台、雲海AI存儲等八大智算產品
2025-02-27中金在線
|
35742
在2025京東雲城市大會深圳站上,京東雲展示了其在大模型技術領域的最新進展,並發布了包括言犀智能體平台、言犀AI開發計算平台、超智一體化算力集群、雲海AI存儲在內的八大智算產品。同時推出“開發訓練+場景應用”雙引擎一站式平台,助力企業實現DeepSeek等大模型開箱即用、智能體深度開發與應用,全麵打通從模型落地到產業智能升級的最後一公裏。
京東集團技術委員會主席、京東雲事業部總裁曹鵬表示,當下,全國企業都在加速部署DeepSeek,讓員工零時差用上大模型。基於京東集團複雜場景實踐,京東雲構建了一站式大模型產品矩陣,從底層的智算基礎設施,到中間層的模型服務和工具,再到上層的Agent應用開發,支持企業快速部署大模型及應用。

麵向大模型的開發部署,京東雲持續升級言犀AI開發計算平台,進一步簡化了模型開發流程。平台不僅支持京東自身的言犀大模型,支持各類模型的調優開發,內置20餘種開源模型和豐富的數據集,並提供100餘種算法和工具鏈,幫助客戶根據自身業務特征,快速開發專屬大模型。此外,京東雲DeepSeek大模型一體機,通過自研的算力池化能力、智能推理加速引擎,充分融合軟硬件,實現了性能的全麵提升,推理速度提升50%,企業可以根據自己的需求靈活選擇不同版本,開箱即用。
在算力方麵,京東雲通過打造超智算一體化算力集群,滿足大模型對大算力的需求。具備單集群2000卡調度能力和全局超10萬卡調度能力,支持跨智算中心橫向擴展,通過軟硬件協同優化,將大模型算力利用率MFU提升至75%。
隨著更多性能的GPU都可以支持大模型,異構算力將成為主流,京東雲vGPUAI算力平台,針對DeepSeek大模型技術特點,通過推理加速與內核驅動級優化,提升單台服務器推理性能50%。通過集群算力池化調度提升集群利用率70%。全麵適配十餘家國產化算力資源。同時借助AI全密態機密容器能力,確保模型參數與訓練數據雙域零泄露,為用戶提供金融級安全防護。
在存儲方麵,雲海AI存儲可支持千億級參數AI大模型,4K隨機寫IOPS達到1000萬級,平均延遲在100微秒級,支持百GB級超大帶寬,性能提升30%的同時,通過存算分離技術實現成本下降30%,極致性能和極致性價比,更好地支持大模型落地應用。
在網絡方麵,基於京東集團萬卡集群大規模實踐,京東雲沉澱不同網絡部署的調優方案,推出高性能雲網絡,RDMA帶寬速率達到3.2Tbps,全麵支持高階GPU對於高帶寬的要求;通信延遲降低至2us。

智算中心往往功率密度更高,是傳統數據中心的5倍以上,對供電、散熱的要求也呈幾何級增長。京東雲基於10多年數據中心建設運營實踐,積累了豐富智算中心建設運維經驗。我們自研的阿爾法智能算力模塊,支持液冷係統一體化交付,PUE控製在1.15以內,可實現同等規模下投資成本下降15%。當前,京東雲已服務於超20家智算中心,打造高等級新型智算中心。
大模型安全是智能時代的終極防火牆。京東雲大模型安全可信平台,超200種自研紅藍對抗攻擊手法,覆蓋全部31類合規風險,全流程AI檢測精準狙擊,風險識別率95%+,硬核護航千億參數模型業務零漏洞。
在行業實踐中,京東雲成功支持某新能源汽車頭部廠商、某全球新能源科技領導企業,打造覆蓋全集團的智能計算底座,實現千卡級AI算力集群的精細化管理。技術上一方麵創新多元算力調度,顯著提升GPU利用率,另一方麵創建全生命周期AI開發環境,實現開箱即用,大幅提升研發效率。目前,該平台已支撐起企業智能駕駛研發、人形等20餘個核心場景,成為集團的 數智發動機 。
AI生產力澎湃,智能生長正當時。京東雲將以行業領先的智算基礎設施,為企業用戶提供極致性能、極致性價比的服務,持續降低大模型應用門檻,助力每個企業找到AI轉型的最優路徑。
加載全文