2023年10月14日上午,2023第六届双态IT乌镇用户大会两大主题峰会之一的“云原生和大模型革新IT生产力主题会议”成功举办。本次会议由ITSS分会、证券基金行业信息技术应用创新联盟指导,ITSS数据中心运营管理组(DCMG)、双态IT论坛、智能运维国标工作组主办,ITSS媒体组、AI范儿协办,共有来自金融、央国企等行业的500余人到场出席。
大模型时代已然来临!DCMG、双态IT论坛自2017年开始致力于推动IT生产力提升,历经七年,从最初的DevOps、微服务、容器到现在云原生技术的百花齐放。此轮技术范式已经实现了从概念认知到广泛的应用落地。以ChatGPT为代表的大模型,即将开启新一轮技术范式的跃迁!
IT新质生产力=(开发+测试+运维+安全)*(云原生+大模型)*信创
会议伊始,ITSS数据中心运营管理组组长肖建一代表主办方致欢迎词。肖建一表示,未来,以ChatGPT为代表大模型即将开展新一轮技术范式的跃进。正如刚刚开场视频中提到的:过去5年,云原生推动IT生产力发展,而未来5年,大模型将和云原生共同推动IT生产力发展。同时,对大会的召开表示祝贺,对出席大会的嘉宾表示衷心的感谢。
中国电子工业标准化技术协会执行秘书长朵晶表示,下一步希望ITSS数据中心运营管理组能够进一步推动更多的数据中心用户参与ITSS标准研制,应用标准,为产业转型升级和经济社会发展做出更大的贡献。同时,以ITSS标准为核心创建政产学研用五大主体联动机制,合理推动ITSS研制验证、转化、应用、改进、全生命周期标准化工作。实现在行业实践、人才培养、产品研发、业务赋能、能力建设等方面的价值。
行业&产业侧探讨云原生和大模型如何共同革新IT生产力
南方电网数字电网集团信息通信科技有限公司副总经理陈清明从数字化建设框架、技术路线、运维挑战、思考、探索、实践等方面介绍了南方电网在数字化运维领域的探索与实践。
陈清明指出,从技术方向来说,南方电网主要从“云化、微服务化”“应用架构中台化”“基础设施国产化”三个技术路线方向推进整体数字化转型建设工作。基于上述路线,主要面临资产、可观测性、稳定运行三方面的运维挑战,对此,南方电网公司从上到下采用一套安全运维管理体系;建立统一安全运维平台,实现全网一套平台、安全和运行一套平台。展望未来,陈清明表示,数字化运维的建设应当统筹运维业务的整体布局,整体运维体系建设对齐“四化”建设指引,做到运维流程标准化、运维操作自动化、运维决策智能化、运维业务数智化。
复旦大学计算机科学技术学院副院长彭鑫从开发、测试两方面介绍IT大模型。
清华大学计算机系长聘副教授裴丹从运维面临的问题与技术挑战、大语言模型的模型栈、运维大模型总体架构等方面介绍大模型的最新认知。
裴丹表示,运维数据本身既是多模态的,又是实时的,数据关系非常复杂,开发小模型的边际成本非常高。总结下来,面临的技术挑战有以下几方面:对错误容忍度比较低,判断对错、标注门槛高,结果必须可解释性强,支持知开销的私有部署,同时运维语料不足,私有语料质量数量更不足,大语言模型无法直接处理结构化、多模态数据等方面。尽管运维大模型面临非常多的挑战,但是有办法解决的。首先,通过模型分层方式,基于通识大语言模型建立懂运维大语言模型,在私有部署方面尽量做一些简化,减少对语料要求和推理的开销。其次,区分非结构化大模型。然后,通过检索融合本地的知识库,通过基础模型框架把这些都粘合在一起。整体而言,运维的大模型是大势所趋,前景可期,同时又是机遇和挑战并存。考虑到算法、算力、数据、场景等等各种问题,需要产学研用协同创新。
李海威指出,安全大模型发展依托1个数据统一管理运营平台,围绕5大赋能方向(检测,运营,开发,数据,攻击)发展安全大模型,构建“隐蔽线索发现能力”、“智能化安全运营能力”、“共同防御能力”,从而助力关基防护走向“高阶自智”。
陆培炜总结到,我们从理论和应用的层面对大模型在IT领域应用做了一些认知的解读,并做了大模型的IT领域赋能综述,为业界提供下一阶段规划和应用抓手。结合云原生,云原生在IT生产力方面提供了更多的灵活性和创新空间。云原生和大模型结合正在重新勾勒IT生产力的新的边界,云原生加大模型与IT四大领域结合,最终将形成IT新质生产力。
孟庆春指出,人工智能技术的飞速发展推动算力经济的发展。随着AI模型越来越复杂,参数量越来越大,训练算力需求的增长速度远超摩尔定律,同时不断攀升的巨额算力成本也给社会AI创新造成巨大负担。智能算力成为核心生产要素。金融领域因其特殊性,非常注重安全问题,同时对性能,对支持各类异构计算,包括对他本身隐私计算都有一定的要求。中科曙光本身立足于高性能计算,安全领域,做了很多关于异构计算,包括隐私计算方面的工作。大模型的国内算力呈现构建通用算力/模型支撑、非孤立存在、快速迭代演变、生态和市场壁垒的生态现状。在生态建设方面,中科曙光与与很多公司合作提供算力服务,主要用于人工智能能训练和推理、科学计算、通用CPU计算方面。
冷炜介绍到,基于AI大模型技术和高质量的资产数据,中信银行在软件测试领域打造了私域测试大模型—“第二大脑”,探索软件测试生命周期多个环节辅助测试人员提升测试质量和效率。建设和优化“第二大脑”的过程分为三个阶段:第一阶段是数据的清洗和过滤。通过整理测试领域内所有结构化数据(例如测试过程数据、结果数据、历史数据等)和非结构化数据(例如文档、图片、视频等)形成知识语料库。经过数据初筛,再由数据专家进行进一步的数据精筛,得到可供大模型使用的高质量数据;第二阶段是数据编织。采用数据编织技术分层管理数据,由数据专家和测试业务专家共同标注标准形成规范,最后由测试专家针对不同语料归纳提示词。第三阶段是模型的监督微调训练。即让模型学习提示词的意图,按照不同的语料,生成不同私域场景模型,最后在测试知识语料库和大模型算法的基础上生成测试知识的向量库,经过不断调整和优化形成较为稳定、可靠的私域场景模型。此外,冷炜还介绍了大模型的三大重要支撑要素,即工具、资产和人才,他也强调人才是推动测试大模型未来进化的核心和关键。
中国工商银行软件开发中心云计算实验室研究员范威从痛点问题、企业级能力建设、建设规划等方面介绍了中国工商银行基于大模型的智能研发实践。
范威指出,近些年,随着大模型技术的不断发展,智能研发也迎来了新一轮技术革命,在代码补全、代码生成、单元测试生成等领域也涌现出一些成熟的应用。结合开发人员在实际编码过程中遇到的痛点和问题,工行积极推动智能研发能力建设,以大模型、AIGC等人工智能技术为基石,持续实现人工智能研发助手在智能代码生成、代码识别与检测、代码转自然语言和交互式研发等领域的全方位能力突破,构建基于大模型的智能研发体系,覆盖我行从需求、设计、编码、测试、发布的研发全生命周期,全面提升我行数智化研发水平,立足金融领域助力国内智能研发技术逐步走向成熟。目前,人工智能研发助手已经建设代码补全、代码生成、代码检索三大能力,并已面向中心开展试点推广工作。
范威表示,展望未来,工行会持续优化迭代人工智能研发助手能力体系,研究业界模型调优实践,通过定制化训练、Prompt工程,积累代码模型调优经验,持续迭代大模型版本,提升大模型的能力,从业界开源模型逐渐迭代为与行内研发体系贴合的定制化模型。
国金证券科技研发部总经理熊友根从监管政策、发展历程、探索路径、开发现状、选型思路、实践效果、推广等方面介绍了国金证券在开发大模型应用的探索与实践。
白应东表示,大模型给网络安全带来的底层逻辑改变,主要体现在三方面:一是大模型推理能力带来检测能力提升,即利用大模型的上下文理解能力,将人能够辨别的威胁、传统特征方式不好辨认的威胁识别出来;二是大模型推理能力带来安全运营成本的下降,其本质就是替换了需要高级安全专家才能执行的任务,大模型可以执行复杂任务;三是自然语言交互带来产品使用便利度的极度提升,即通过将大模型总结归纳、总结能力链接到传统安全设备,显著降低安全设备的运营难度。总结来说,整体的思路是场景为先,数据为王,解决大模型的瓶颈不是从0到1训练大模型。
信息技术服务标准(ITSS)会议周方案介绍暨邀请仪式
ITSS分会一直致力于加速推进我国信息技术服务标准化战略的实施,提升产业标准化水平,支撑数字中国落地,加速产业数字化转型,构建信息技术服务产业生态,定期举办ITSS会议周。2023年度ITSS会议周拟定于2023年11月14日-17日在扬州市举办。
本次会议上,我们邀请中国电子工业标准化技术协会执行秘书长朵晶,中国电机工程学会电力信息化专委会秘书长欧阳述嘉,上海市经信委副处长何炜,中国建设银行运营数据中心副主任杨晓勤,华安证券党委委员、首席信息官徐峰,海通期货CIO何铁军,中债金科上海数据中心总经理何积泰、南方电网数字电网集团信息通信科技有限公司副总经理陈清明上台共同启动信息技术服务标准(ITSS)会议周邀请仪式。
云原生成果集中发布
会议现场我们邀请中国电子工业标准化技术协会执行秘书长朵晶、ITSS数据中心运营管理组组长肖建一上台为上海上证数据服务有限责任公司杜建新、上海浦东发展银行铁锦程、中债金科信息技术有限公司何积泰、四川新网银行股份有限公司李秀生、海通证券股份有限公司罗秋清、国家电网有限公司信息通信分公司欧阳述嘉、中国民航信息集团有限公司夏华胜、申万宏源证券有限公司陈滨、南方电网数字电网集团有限公司吕华辉、国信证券股份有限公司杨阳、安信证券股份有限公司梁德汉颁发ITSS分会专家委员会(数据中心领域)专家聘书。
为发挥标准的支撑引领作用,推动银行、保险、证券、能源、运营商等各个行业运用标准化、规范化、科学化的方式构建智能运维体系,持续提升智能运维服务能力。中国电子工业标准化技术协会信息技术服务分会组织编写智能运维系列国家标准,其中通用要求团体标准(T/CESA1172-2021)于2022年7月正式开启了智能运维通用要求标准的应用试点工作,中国建设银行、平安科技、光大银行、浦东发展银行、国泰君安证券五家单位率先开展了应用试点评估工作。
会议上,我们邀请中国电子工业标准化技术协会执行秘书长朵晶、ITSS数据中心运营管理组组长肖建一、上海市经信委副处长何炜、中国电子技术标准化研究院郭鑫伟为中国建设银行股份有限公司、平安科技(深圳)有限公司、中国光大银行股份有限公司、上海浦东发展银行股份有限公司、国泰君安证券股份有限公司颁发第一批ITSS智能运维团标评估证书。
随着云原生的普及,越来越多的行业用户开始将业务进行云原生化,基于云原生的技术可以提供更好的可观测性,跨平台管理和持续交付能力,作为数字化转型的服务基座,云原生不仅承担着稳定的重任,而且将以技术标准化,技术服务化的方式赋能行业用户。为此,中国计量科学研究院、中国质量认证中心、双态IT论坛和海通证券携手组织了《云原生服务稳定性保障能力评价技术规范》的编写。
会议现场,中国计量科学研究院沈庆飞、中国质量认证中心陈凯、海通证券股份有限公司罗秋清、中信银行股份有限公司闫鑫、中国邮政储蓄银行股份有限公司黄莺、中泰证券股份有限公司董红涛、太保科技有限公司丰隽玮、东方证券股份有限公司周浩波、南京云信达科技有限公司张兵、上海翰纬信息科技有限公司孙翊威共同发布《云原生服务稳定性保障能力评价技术规范》。
会议现场,中国电子工业标准化技术协会执行秘书长朵晶、中国计量科学研究院先进测量工程中心主任武彤、中国质量认证中心认证一部部长陈凯、ITSS数据中心运营管理组组长肖建一、太保金科云事业部总经理蔡健、同创永益副总裁郑星上台共同发布国标GB/T42581-2023《信息技术服务数据中心业务连续性等级评价准则》《数据中心业务连续性评价规范白皮书》,推出国内首个数据中心业务连续性等级认证。
圆满落幕
随着数字产业化基础不断坚实,产业数字化步伐持续加快,信息技术创新开始日新月异。中国电子工业标准化技术协会在提高电子信息产业标准化科学技术水平,促进电子信息产业标准化工作健康发展中,发挥着积极的作用。
ITSS数据中心运营管理工作组(DCMG)基于ITSS总结、制定和推广数据中心运营管理标准和实践,推动我国数据中心运营管理水平的提升。
在DCMG的指导下,双态IT论坛持续推动双态IT发展创新,致力于打造最完整的双态技术产业链。
此次大会,诸多优秀行业用户、权威专家与技术领袖,以主旨演讲、圆桌讨论等形式,向业界贡献了运维、大模型等领域发展过程中的宝贵经验。未来,ITSS分会、DCMG和双态IT论坛将持续推动双态IT发展创新,为更多的行业用户提供最具价值的实践参考。