Anyscale揭開了DeepSeek R1用於AI可擴展性的部署

王榮柴

2025年2月13日10:15

Anyscale推出DeepSeek R1的部署，為跨各種基礎設施的AI模型提供增強的控制、可擴展性和透明度，無需供應商約束。

Anyscale宣佈部署了DeepSeek R1，這是一款突破性的推理模型，專為自託管而設計，為組織提供了對其人工智能基礎設施和數據隱私的前所未有的控制。據Anyscale稱，這一舉措標誌著AI模型部署的重大轉變，實現了對各種應用的全面透明和定製，而不受供應商鎖定的限制。

DeepSeek R1: 人工智能部署的新時代

DeepSeek R1被譽為第一個自託管的推理模型，為組織提供檢查推理標記、定製模型行為和根據其需求選擇硬件的能力。這種靈活性對於尋求利用人工智能的力量而又不願妥協數據隱私或運營透明度的企業至關重要。

人工智能基礎設施的戰略問題

選擇正確的人工智能平臺對於優化和擴展人工智能部署至關重要。關鍵考慮因素包括平臺處理 GPU 工作負載的能力、可擴展性、數據安全性以及整體人工智能基礎設施專業知識。Anyscale 將自己定位為這些領域的領導者，強調其由 Ray 提供支持的開放系統和透明模型執行。

Anyscale平臺的優勢

Anyscale的平臺支持部署在各種雲服務和本地環境上，提供靈活性和可擴展性。全局資源調度器和智能實例管理器優化資源分配，提高性能和成本效率。

可擴展性和性能

Anyscale的基礎設施支持超過8,000個節點和50,000個GPU的部署，確保對大規模人工智能工作負載的可擴展性。該平臺承諾快速擴展性，集群在不到一分鐘內可擴展到1,000個節點，消除了閒置計算資源的需求。

未來可持續的人工智能部署

展望未來，Anyscale旨在無縫支持未來的人工智能突破。該平臺的設計理念側重於增強集成，而不將用戶鎖定在特定工具中，確保適應不斷髮展的人工智能技術。

Anyscale對DeepSeek R1部署的引入凸顯了其致力於提供穩健、可擴展和透明的人工智能解決方案的承諾，使企業能夠充分利用人工智能能力，同時保持對其人工智能基礎設施和數據的控制。

圖片來源：Shutterstock