业务合作发布作品

    发布DeepSeek私有化部署方案,超算互联网加速企业AI应用创新

    车导购头像车导购头像
    车导购02-14

    为助力更多企业及专业开发者部署包括DeepSeek在内的AI开源模型,近日国家超算互联网平台发布了“DeepSeek私有化部署方案”。方案依托丰富的轻量化AI工具,支持企业用户部署完整的DeepSeek对外API服务接口,实现AI应用创新。

    “DeepSeek私有化部署方案”不仅支持企业用户与开发者调用部署完整的DeepSeek对外API服务接口,还可根据实际业务场景深度定制,实现AI应用创新。

    超算互联网提供平台的丰富轻量化工具,支持企业实现AI部署在线调试及快速验证功能。而如多实例启动、线上服务扩缩容、服务版本管理等平台工具,也支撑企业在线推理场景中的多元应用诉求。

    「操作指导」

    第1步:Notebook轻量级开发工具开发调试;在Notebook中选择【异构加速卡AI】资源,并选择开发环境。在【模型镜像】处挑选目标镜像,现阶段平台提供DeepSeek R1(671B、70B、32B、14B、8B、7B、1.5B )系列模型。

    实例启动后可参考Markdown指引,调试部署参数或个性化开发,支持WebUI或API接口服务调试,完成后可保存镜像。

    ▲DeepSeek-R1模型镜像创建界面

    第2步:模型部署服务快速部署模型;基于平台镜像管理功能,企业用户与开发者可直接推送Notebook中保存的镜像到【模型部署】服务中使用;填写API调用地址,选择【异构加速卡AI】资源,快速部署为线上服务,获取API接口。

    ▲DeepSeek-R1模型部署开发界面

    次阅读
    评论
    赞同
    收藏
    分享
    评论
    赞同
    收藏
    分享

    评论·0

    头像头像
    提交评论
      加载中…

      热门资讯