每日經濟新聞 2025-02-25 10:49:34
每經AI快訊,2月25日,DeepSeek官宣,今日開源代碼庫為DeepEP,它是首個用于 MoE 模型訓練和推理的開源 EP 通信庫。特點有:高效的全員溝通;節點內和節點間均支持 NVLink 和 RDMA;用于訓練和推理預填充的高吞吐量內核;用于推理解碼的低延遲內核;原生 FP8 調度支持;靈活的 GPU 資源控制,實現計算-通信重疊。
如需轉載請與《每日經濟新聞》報社聯系。
未經《每日經濟新聞》報社授權,嚴禁轉載或鏡像,違者必究。
讀者熱線:4008890008
特別提醒:如果我們使用了您的圖片,請作者與本站聯系索取稿酬。如您不希望作品出現在本站,可聯系我們要求撤下您的作品。
歡迎關注每日經濟新聞APP