黄秋兰
- 作品数:29 被引量:103H指数:6
- 供职机构:中国科学院高能物理研究所更多>>
- 发文基金:国家自然科学基金中国科学院知识创新工程更多>>
- 相关领域:自动化与计算机技术理学机械工程更多>>
- 实现文件动态副本的键值文件系统及方法
- 本发明公开了一种在键值文件系统中实现文件动态副本的方法,用于针对特定文件进行动态副本的管理,该方法包括:由客户端定位特定文件的静态副本所在的第一子卷;从第一子卷读取特定文件的扩展属性,扩展属性中包括特定文件已有的动态副本...
- 汪璐程耀东黄秋兰
- 文献传递
- 基于块的分级存储系统多样性机制设计与研究被引量:3
- 2016年
- HazelNut是一种基于块的分级存储系统,为满足HazelNut多种存储设备和追踪迁移方式的管理需求,设计并实现多样性设备管理机制HNDisk和多样性追踪迁移机制HNType。HNDisk将物理存储设备分层管理,不限制设备种类和设备数量。HNType可按照公共接口添加类型模块,便于配置并选择不同追踪度量和迁移算法。在HNDisk和HNType的基础上,测试不同追踪度量对btier平均值迁移算法性能的影响,结果表明,追踪度量访问次数和访问字节数非线性相关,两者对迁移效果的影响不同,并且使用读写请求完成时间作为追踪度量至少可使顺序读写性能提升10%。
- 杜然黄秋兰程耀东陈刚
- 关键词:多样性LINUX内核可装载内核模块
- 国家高能物理科学数据中心分布式数据处理平台被引量:4
- 2022年
- 【目的】本文对国家高能物理科学数据中心分布式数据平台进行系统全面介绍,为高能物理及相关领域大科学实验的数据处理提供参考。【方法】文章介绍了国家高能物理科学数据中心分布式数据处理平台的总体构成、运行模式和智能运维等方面的关键技术。通过分析高能物理实验数据处理的计算特点与实际需求,介绍了数据中心“一平台多中心”的数据处理平台建设思想,阐述了平台为高能物理实验提供的跨地域资源共享、高性能海量数据访问以及用户实时交互服务等技术方案设计与实现。【结果】文章列举了数据中心分布式数据处理平台对两个高能物理实验的支持实例,助力科学研究成果获取。【结论】国家高能物理科学数据中心分布式数据处理平台已经成为高能物理学科的重要基础设施和组成,是学科融合、开展新研究方法的主要场所,满足了粒子物理、理论物理、空间天文、射线学科、加速器设计等科研领域的数据处理需求。
- 石京燕黄秋兰汪璐李海波杜然姜晓巍胡庆宝郑伟闫晓飞张玄同
- 高能同步辐射光源科学数据处理平台规划与设计被引量:7
- 2020年
- 【目的】高能同步辐射光源(HEPS)是我国“十三五”期间优先建设的、为国家的重大战略需求和前沿基础科学研究提供技术支撑平台的国家重大科技基础设施,开展超高空间分辨、时间分辨、能量分辨的高通量同步辐射实验。其一期建设的十五条光束线实验站,预计平均每天产生200TB的原始实验数据,峰值可达每天500TB。这些实验数据需要得到存储、共享,并能够进行准确实时的处理与分析。【方法】科学数据处理平台包括基础设施、科学软件、网络、计算、存储、公共信息服务等系统。【结果】该平台将为HEPS设施、科研人员、工程技术人员以及用户提供包括设数据传输、数据存储、数据分析、数据共享、科研协同等在内的网络、计算、存储等基础设施能力,以及提供科学软件、通用软件、通用信息系统和网络信息安全服务等。
- 齐法制黄秋兰胡皓田浩来田浩来汪璐王彦明赵海峰张红梅
- 关键词:数据存储数据共享
- 支持AFS环境的批作业管理系统PAFSI的研究与实现
- 采用TORQUE+Maui 作为作业管理系统,以及AFS 作为共享文件系统是实现大规模集群系统的常用技术之一。但是,目前在AFS 环境中向TORQUE 提交作业还存在一些问题。由于AFS 系统采用Kerberos 认证机...
- 黄秋兰Fabio Hernandez石京燕程耀东陈刚
- 关键词:系统架构
- 基于键值对系统实现树形目录结构的数据存储系统及方法
- 本申请公开了一种基于键值对k-v系统实现树形目录结构的数据存储系统服务端,用于与数据存储系统客户端通信以进行文件的写入和读取,包括:目录服务器集群,由若干个目录服务器组成,用于存储所写入文件的目录信息并以树形目录结构的形...
- 黄秋兰程耀东汪璐
- 文献传递
- 高能物理计算环境中存储系统的设计与优化
- 高能物理是典型的数据密集型计算,数据访问性能对整个系统至关重要,而数据访问性能与应用的计算模式密切相关。本文从剖析高能物理的典型计算模式入手,总结出其数据访问的特点,提出针对操作系统I/O 调度、分布式文件系统缓存等多个...
- 程耀东汪璐黄秋兰陈刚
- 关键词:海量存储LUSTRE
- 基于键值对系统实现树形目录结构的数据存储系统及方法
- 本申请公开了一种基于键值对k-v系统实现树形目录结构的数据存储系统服务端,用于与数据存储系统客户端通信以进行文件的写入和读取,包括:目录服务器集群,由若干个目录服务器组成,用于存储所写入文件的目录信息并以树形目录结构的形...
- 黄秋兰程耀东汪璐
- 文献传递
- Kubernetes异构资源细粒度调度策略的设计与实现被引量:6
- 2023年
- 在异构资源环境中高效利用计算资源是提升任务效率和集群利用率的关键。Kuberentes作为容器编排领域的首选方案,在异构资源调度场景下调度器缺少GPU细粒度信息无法满足用户自定义需求,并且CPU/GPU节点混合部署下调度器无法感知异构资源从而导致资源竞争。综合考虑异构资源在节点上的分布及其硬件状态,提出一种基于Kubernetes的CPU/GPU异构资源细粒度调度策略。利用设备插件机制收集每个节点上GPU的详细信息,并将GPU资源指标提交给调度算法。在原有CPU和内存过滤算法的基础上,增加自定义GPU信息的过滤,从而筛选出符合用户细粒度需求的节点。针对CPU/GPU节点混合部署的情况,改进调度器的打分算法,动态感知应用类型,对CPU和GPU应用分别采用负载均衡算法和最小最合适算法,保证异构资源调度策略对不同类型应用的正确调度,并且在CPU资源不足的情况下充分利用GPU节点的碎片资源。通过对GPU细粒度调度和CPU/GPU节点混合部署情况下的调度效果进行实验验证,结果表明该策略能够有效进行GPU调度并且避免资源竞争。
- 刘志彬黄秋兰胡庆宝程耀东胡誉田浩来
- 关键词:异构资源资源调度
- 高能物理计算环境中KVM虚拟机性能优化与应用
- 高能物理是典型的高性能计算的应用,对CPU计算能力要求很高,并且CPU的利用率高低直接影响高能物理的计算效率。虚拟化技术在实现资源共享和资源高利用率万面表现出很大的优势。本文基于KVM(Kemel—basedvirtua...
- 黄秋兰李莎程耀东陈刚
- 关键词:KVM