期刊文献+
共找到10篇文章
< 1 >
每页显示 20 50 100
基于vGPU性能干扰感知的大模型推理负载资源高效配置方法
1
作者 张虎 孙明辉 +3 位作者 刘杨 戴鸿君 王继彬 张有利 《电子学报》 北大核心 2025年第11期3836-3851,共16页
人工智能(Artificial Intelligence,AI)技术的快速演进推动了开源大模型在多元化场景中的规模化应用.然而,随着图形处理器(Graphics Processing Unit,GPU)单卡性能的提升,在支持中小规模大模型推理负载时,GPU资源易出现闲置现象,导致整... 人工智能(Artificial Intelligence,AI)技术的快速演进推动了开源大模型在多元化场景中的规模化应用.然而,随着图形处理器(Graphics Processing Unit,GPU)单卡性能的提升,在支持中小规模大模型推理负载时,GPU资源易出现闲置现象,导致整体算力利用率不足.为提升数据中心GPU资源使用效率,业界普遍采用时空共享或虚拟GPU(Virtual GPU,vGPU)技术实现算力复用,其中vGPU凭借细粒度资源划分与安全隔离特性,已成为数据中心向多租户、多任务提供GPU资源服务的主流方案.然而,GPU资源共享技术不可避免地引入任务负载之间的性能干扰,尤其是大模型推理负载所需资源具有动态性和突发性.在不考虑性能干扰的情况下,会导致推理负载延迟显著增加,甚至引发服务质量目标(Service Level Objective,SLO)违约,影响大模型服务的稳定性与用户体验.针对这一关键挑战,本文提出了一种基于vGPU性能干扰感知的大模型推理负载资源高效配置方法.该方法首先通过大规模并发推理实验,构建了涵盖不同参数规模大模型、不同负载组合、不同负载强度下的多维性能表征数据集;在此基础上,建立了综合考虑推理模型特征、硬件支撑信息及系统监控指标的轻量化性能干扰预测模型,既保证了对关键性能指标的精准估计,也满足了资源配置决策的实时性需求.基于该预测模型,本文进一步设计了基于约束优化的经济型资源配置算法,以最小化GPU资源分配量为目标函数,以推理延迟不超过SLO阈值、吞吐量满足业务需求为约束条件,通过动态调整各负载的vGPU资源分配比例,实现了在满足推理负载质量约束的前提下GPU资源分配优化.实验部分构建了包含两类六种典型大模型的混合负载测试环境,并在NVIDIA A100和RTX6000硬件平台与HAMi vGPU方案上,与传统GPU配置策略进行了对比验证.实验结果表明,所提方法在严格满足SLO约束的前提下,相较主流方案可降低超过20%的GPU资源成本开销,验证了其在大模型推理场景下的有效性与经济性,为数据中心提升GPU资源利用效率、降低人工智能服务部署成本、促进开源大模型的规模化普及应用提供了重要技术支撑. 展开更多
关键词 大模型 推理负载 vgpu 性能干扰 资源配置
在线阅读 下载PDF
以vGPU技术云桌面提升中小学智慧校园终端管理效率的实践
2
作者 史远 《中国现代教育装备》 2025年第22期1-4,共4页
传统的机房存在运维成本高、设备闲置率高、教学适用性差的问题。针对这一问题提出了以智能调度和弹性管理为基础的vGPU技术应用下的云桌面解决方案,可以弥补目前vGPU技术在学校智慧化场景下的功能不足。利用其进行校内vGPU方案部署并... 传统的机房存在运维成本高、设备闲置率高、教学适用性差的问题。针对这一问题提出了以智能调度和弹性管理为基础的vGPU技术应用下的云桌面解决方案,可以弥补目前vGPU技术在学校智慧化场景下的功能不足。利用其进行校内vGPU方案部署并通过充分利用云桌面实现教学应用,满足了资源在低峰期和高峰期的分配需求。基于vGPU技术的云桌面教学有利于加快教育信息化的脚步,也有助于中小学智慧校园建设工作的落实。 展开更多
关键词 智慧校园 云化 基于vgpu技术的云桌面 设计与实施
在线阅读 下载PDF
基于vGPU虚拟图形服务系统的技术研究
3
作者 陈冠毅 胡露露 +2 位作者 张茜 齐春生 张全东 《石油石化物资采购》 2020年第11期35-35,共1页
随着科研生产的深入发展,地学软件应用中的一些问题逐渐出现:众多软件应用对硬件需求各有不同;软件的发展对终端硬件的要求越来越高;办公远程仿真软件对电脑硬件的要求限制了地学软件的桌面应用。针对以上难点,研究云计算、虚拟化、三... 随着科研生产的深入发展,地学软件应用中的一些问题逐渐出现:众多软件应用对硬件需求各有不同;软件的发展对终端硬件的要求越来越高;办公远程仿真软件对电脑硬件的要求限制了地学软件的桌面应用。针对以上难点,研究云计算、虚拟化、三维图像远端交互处理技术,本项目开发一套虚拟图形服务系统。通过该系统的应用,实现图形资源的整合、精细池化、动态访问;满足低性能客户终端对高性能图形资源的需求;实现类似B/S的便捷访问,增强数据管理的安全性;提高软硬件资源的管理时效和利用率,实现降本增效。 展开更多
关键词 vgpu 虚拟图形服务 负载均衡 资源池
在线阅读 下载PDF
基于VGPU的桌面虚拟化在三维设计中的应用 被引量:3
4
作者 韩栋梁 贺霄琛 李少飞 《电子工业专用设备》 2021年第1期52-56,共5页
三维设计软件在装备制造领域取得了广泛应用,传统的计算机存在系统稳定性较差和硬件可靠性不强的缺点,给数据安全和运维管理带来了一定的风险。近年来,虚拟化技术不断发展,在降低成本和能耗、提高运维效率以及系统安全稳定性方面优势明... 三维设计软件在装备制造领域取得了广泛应用,传统的计算机存在系统稳定性较差和硬件可靠性不强的缺点,给数据安全和运维管理带来了一定的风险。近年来,虚拟化技术不断发展,在降低成本和能耗、提高运维效率以及系统安全稳定性方面优势明显。基于三维设计所面临的问题,结合虚拟化技术提出了一种VGPU的虚拟桌面解决方案。 展开更多
关键词 虚拟图像处理单元 桌面虚拟化 虚拟桌面架构 三维设计软件
在线阅读 下载PDF
桌面虚拟化在气象业务中的应用 被引量:1
5
作者 孟金 冯勇 陈澍 《电子技术与软件工程》 2020年第5期133-134,共2页
本文以山东省气象局虚拟化平台建设应用为背景,介绍了桌面虚拟化的定义,阐述了气象业务和办公对桌面的需求特点、虚拟化系统架构设计和技术实现,以及基于用户需求的应用场景划分、业务功能布局,最后讨论了桌面虚拟化在业务应用中的实践... 本文以山东省气象局虚拟化平台建设应用为背景,介绍了桌面虚拟化的定义,阐述了气象业务和办公对桌面的需求特点、虚拟化系统架构设计和技术实现,以及基于用户需求的应用场景划分、业务功能布局,最后讨论了桌面虚拟化在业务应用中的实践和未来需要解决的问题。 展开更多
关键词 桌面虚拟化 气象业务 vgpu
在线阅读 下载PDF
基于虚拟桌面的勘探软件应用体系研究
6
作者 杨澎涛 范永合 +1 位作者 湛林福 孙友凯 《信息技术与信息化》 2022年第2期125-128,共4页
勘探专业软件逐步推出基于Windows操作系统的版本,越来越多的用户开始在Windows下使用专业软件。针对整个应用环境改变的问题,提出了一种全新的勘探软件应用体系。首先,通过研究提出了基于虚拟桌面的新的体系架构;然后基于该架构分别介... 勘探专业软件逐步推出基于Windows操作系统的版本,越来越多的用户开始在Windows下使用专业软件。针对整个应用环境改变的问题,提出了一种全新的勘探软件应用体系。首先,通过研究提出了基于虚拟桌面的新的体系架构;然后基于该架构分别介绍了部署层、管理层、应用层的相关结构及技术。通过这种全新的勘探软件应用模式能有效解决用户在个人电脑上独立安装专业软件,单独使用所导致的专业应用无法快速部署、难以变更、资源不足、数据无法共享、数据安全无法保障和运维困难等问题,真正实现“资源集中部署,灵活变更,共享应用”的目标,同时提高了资源利用率,降低了应用成本,能有效提升勘探生产的效率。 展开更多
关键词 虚拟桌面 vgpu 应用模式 AD域管理
在线阅读 下载PDF
勘探开发专业软件云平台关键技术研究及应用
7
作者 斯兴焱 段念 +1 位作者 朱睿 熊康祥 《信息技术与信息化》 2020年第7期79-82,共4页
针对传统模式下软硬件资产部署模式分散、使用效率低、共享程度差、主管部门难以掌握硬件资源利用率和各软件模块的使用情况等问题,本文提出了软硬件资源集中共享模式,通过对服务器、桌面、GPU全虚拟化架构及远程三维可视化接入等关键... 针对传统模式下软硬件资产部署模式分散、使用效率低、共享程度差、主管部门难以掌握硬件资源利用率和各软件模块的使用情况等问题,本文提出了软硬件资源集中共享模式,通过对服务器、桌面、GPU全虚拟化架构及远程三维可视化接入等关键技术的研究,建成了集硬件、软件、数据一体化管理的勘探开发专业软件云平台,满足了分公司地震解释、地质建模、数值模拟等研究业务需求,为推动多学科协同研究提供了坚强技术保障。 展开更多
关键词 虚拟化 vgpu VSAN 勘探开发
在线阅读 下载PDF
基于传统机房构建AI实验平台的实践研究 被引量:2
8
作者 陈春林 曹旭斌 《实验科学与技术》 2023年第4期141-144,共4页
人工智能教学正在融合到各个学科中,其理论教学和实践教学同样重要,并且人工智能的实验教学对实验条件有着特定的复杂要求。该文介绍了基于传统实验室机房进行架构改造、构建人工智能实验教学平台的方法实践和思考。通过充分利用现有的... 人工智能教学正在融合到各个学科中,其理论教学和实践教学同样重要,并且人工智能的实验教学对实验条件有着特定的复杂要求。该文介绍了基于传统实验室机房进行架构改造、构建人工智能实验教学平台的方法实践和思考。通过充分利用现有的工作站等硬件资源进行软件系统层面的架构实现,充分引入K8s、Docker等开源技术方案,在不影响日常教学活动的前提下创建能够充分提高教学和科研效率的人工智能教学全流程实验环境,优化运行机制和服务模式,实现教学资源的按需定制,提升教学治理水平,为人工智能的实验教学环境建设提供了有益的思路和方法。 展开更多
关键词 人工智能 实验教学平台 K8s Jupyter vgpu
在线阅读 下载PDF
桌面虚拟化技术在影像存储与传输系统中的应用 被引量:1
9
作者 李林 廖华杰 胡芳华 《医学信息学杂志》 CAS 2018年第12期33-35,共3页
以湘雅常德医院为例,阐述桌面虚拟化技术的内涵及原理,分析该技术在影像存储与传输系统调取图像以及安全与维护方面的优势,指出其应用能够提高影像调阅速度与医生工作效率,同时为系统工程师维护带来便利。
关键词 影像存储与传输系统 桌面虚拟化 分布式存储 vgpu 应用感知
暂未订购
虚拟化平台在节目制作网中的应用
10
作者 王昊 《广播与电视技术》 2016年第5期40-45,共6页
云计算、虚拟化在IT领域已经广泛应用,在广电领域的应用也已初见端倪。本文介绍了河南电视台都市频道节目制作网升级改造中,融入新奥特公司腾云虚拟化平台的解决方案。并对三种主流的虚拟化技术进行比较分析,采用Citrix公司的虚拟化方... 云计算、虚拟化在IT领域已经广泛应用,在广电领域的应用也已初见端倪。本文介绍了河南电视台都市频道节目制作网升级改造中,融入新奥特公司腾云虚拟化平台的解决方案。并对三种主流的虚拟化技术进行比较分析,采用Citrix公司的虚拟化方案是目前解决GPU虚拟化的有效途径。 展开更多
关键词 虚拟化 vgpu CITRIX 非编软件
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部