使用微信扫一扫分享到朋友圈
AI智能、算力、云计算、大数据、数字化转型、生态发展、技术创新等先进数字技术成为加速企业转型的支撑力量,团队引入成熟人才,部署和解化适合企业层面的数字平台,数字化平台与全行业结合,产业互联网逐渐近向"数字孪生“,而软性工程最本质的东西,要时刻重的,技术依日是为业务提供服务,企业数字化在未来三年又是一个关键时期,内生动力是企业需要与产业发展相结合,使用数字技术,需要回归业务本质,本次峰会将以算力+智能为主旨,云原生架构、应用现代化、数字化产品、可观测、研发效能、组织效能等数字技术进行全面解析,帮组企业构建和借鉴适合自身的技术实践。
开幕致辞:拥抱AI与算力
笑含 CSDI发起人,百林哲创始人兼CEO
云上大模型训练及服务的基础设施架构和最佳实践
〇 分享简介 〇
大模型正推动新一波AI浪潮,推动云计算服务的范式发生变化。同时,大模型也带动算力需求激增,这些都决定了行业更加需要强大的模型+基础设施。
今天,大模型开发风起云涌,模型即服务随之呼之欲出,各行各业都在积极拥抱这一变化。智能计算,生成式AI,产业大模型,科学智算相继涌现,对AI基础设施同样也提出更高的要求。动辄千亿、万亿参数模型的训练和应用,均依赖从算力、框架到开发平台的体系化AI基础设施及工程平台能力。
本次分享将结合阿里云服务内外部大模型研究的实践,充分展开AI智算平台的技术创新和应用。
〇 分享收益 〇
目标:
1、 智算集群创新:高性能网络、高性能文件存储、高性能计算节点
2、 软件及框架优化:分布式训练、自动容错弹性训练、RLHF训练框架、LLM压缩、推理优化等
3、 工程平台:serverless化、工程化、稳定性保障
成功要点:
以先进智算能力,全面从集群、框架到开发平台的体系化,构建完善成功的AI基础设施及工程平台能力。
启示:
当今AI行业发展的基础设施必须做到软硬结合,以提升端到端的资源有效利用率和端到端的开发效率。
〇 分享亮点 〇
1. MaaS时代,先进的AI基础设施
2. 阿里云的最佳实践
3. PAI灵骏智算服务浅析及核心技术
a. 高性能集群
b. AI加速器
c. 工程平台、MLOps
d. 与AI MaaS社区的联动
PAI灵骏智算服务支撑MaaS创新
高性能计算集群:AIGC算力的底座
〇 分享简介 〇
数据、算法、算力共振推动AIGC发展,随着AIGC应用场景的不断扩大和数据量的不断增加,需要更强大的算力来支持大模型的训练和优化。高性能计算集群作为一种强大的计算资源,可以提供更高效、更快速的计算能力,帮助大模型更快地训练和优化,从而提高模型的准确性和泛化能力。因此,算力的不断提升是AIGC发展的必要条件之一,也是人工智能技术不断进步的重要保障。
本次分享将从算力云化的演进出发,阐述在AIGC引发的大模型时代,高算力和高智能对基础设施的挑战和实践中探明的一些发展方向。
〇 分享收益 〇
目标
云上输出大模型训练优化经验与实践能力
成功要点
1、 网络拓扑结构的优化;
2、 训练框架与通信库的优化;
3、 硬件故障处理流程;
4、 全方位监控体系;
启示
大模型训练算法复杂、模型参数量大,需要大规模的高性能计算算力,高速、低延迟的网络传输能力和高性能的存储能力,才能达到计算性能高,网络交换快,存储延迟低的性能目标。这种有效缩短训练时长,高效、稳定完成大模型训练任务,AIGC算力基础将有高性能计算加持。
〇 分享亮点 〇
1 AIGC场景下,大模型趋势的演进以及对算力的诉求;
2大模型训练算力解决方案简介
a. 高性能计算
b. 高性能网络
c. 高性能存储
3行业前景以及未来算力发展方向
4.高性能计算集群在人工智能领域的重要性和发展前景
金融科技的三重变革 :智能化、虚拟化、多元化
〇 分享简介 〇
金融领域做为信息技术应用排头兵、创新试验田,对利用新技术推动领域变革与发展,有着强烈的意愿;同时,由于业务属性使然,金融领域对技术风险极其敏感,在新技术落地上又趋于保守谨慎。因此,如何平衡好新兴技术的价值评估与落地风险控制,贯穿了每一次的金融科技变革。
本次分享将立足于当下,结合未来的技术发展,重点探讨这一轮技术变革下,以AGI和大模型技术、虚拟现实技术、IoT/区块链技术,可能对现有的金融业务模式、流程服务、体验交互等带来的变革与升级;同时,结合行业以及分享人具体案例,探讨实际落地过程中的问题与挑战。
〇 分享收益 〇
目标:
1 了解每轮金融科技变革的通用逻辑范式
2 金融3重革命的特点与经典案例
成功要点
大模型技术未来将类似云,成为通用能力,渗透到业务的各个环节产生助推;虚拟化技术将带来大量场景的爆发,同时变革人与人服务与交互
启示:
一个公司不可能抓住每次技术浪潮的机会,它只需要抓住契合自己的一项技术,并最终跟自身业务做好深度结合,就可以实现跃迁。在坚定的技术判断下,控制好切入时间点与投入节奏,才可能实现科技对业务效益最大化。
〇 分享亮点 〇
1. 金融+科技属性矛盾与调和挑战
2. 过去3轮金融科技变革的历程与特点(信息化、数字化以及数据智能化)
3. 探讨3重金融科技革命(智能化、虚拟化、多元化)内在逻辑以及潜在应用与挑战
4. 智能化升级趋势及典型案例
5. 虚拟化演进趋势及典型案例
6. 多元化趋势的介绍以及案例
关于未来金融科技趋势和应用的观点与建议
中国生成式AI产业现状与未来发展
〇 分享简介 〇
以ChatGPT为标志的生成式AI大模型技术无疑是今年最为火爆的技术创新,是人类向通用人工智能(AGI)迈进的一大步。它的理解、推理、总结和生成能力已经在各种应用场景中得到了广泛的应用。未来,随着技术的不断发展和数据的不断增加,生成式AI的发展前景将会更加广阔。同时,大模型也面临着一些挑战,如数据集的质量、模型的可解释性、安全性和训练大模型的能源消耗等。因此,未来需要研究人员不断探索和优化大模型,以更好地服务于人们的需要。
无论是行业、场景的碎片化,还是大模型的应用本身的较高壁垒特性,抑或是商业化落地所需的各种资源,大模型时代仍将具有云计算时代的生态化特征,一方面从底层基础层到中间的模型层再到上层应用层,本身就是一套生态体系;另一方面,大模型作为工具,其价值落地的过程势必是一个生态协作的过程。
本次分享将从历史看未来,给同行带来面对AI新时代的新的视角。不论是创业者还是打工人,在新技术到来时都会面临挑战与选择,需要学习新的知识、掌握新的应用能力。
〇 分享收益 〇
目标:
1领略生成式人工智能在各行业的应用前景,并明确了这项新兴技术如何成为创新创业的新机遇,从而实现个人和团队的职业发展目标。
2通过成功典型案例,从中了解到最关键的成功因素,以及如何从失败经验中总结教训,以帮助一些同业者在创新创业过程中少走弯路。
成功要点:
生成式AI的落地需要将大模型技术和私有数据、知识以及业务流程相结合才能满足用户个性化和场景化的需求。
启示:
生成式AI将从基于规则、机械记忆式的AI演变成真正“懂你”、能推理、善沟通的私人助理,辅助企业做决策并付诸行动。
〇 分享亮点 〇
1. AI进入新时代:从分析决策到创造生成
2. 生成式AI的原理及应用
3. 生成式AI的机会与挑战
4. AI新时代公司与个人的生存与发展
5. 展望生成式AI的创新创业机会。
商汤大装置+大模型打造的AGI时代基础设施
〇 分享简介 〇
AGI时代,模型的能力可以用算力衡量。AI大装置SenseCore做为AGI时代领先的基础设施,助力大模型的迭代速度日日更新,解锁AGI的更多可能。SenseCore AI大装置以人工智能大模型开发、生产、应用为核心,塑造一站式、自主研发AI云、AI平台、AI服务解决方案。
基于大装置的核心技术,大模型(Foundation Model)会彻底改变人工智能的开发范式,将对未来各产业的商业模式、产品模式、用户体验带来深远变革,是未来十年最具确定性的“大机会”,商汤AI大装置也为社会各行各业做出了丰富的大模型能力支持。应对大模型变革,传统计算基础设施也需要重大的改变。未来人工智能的发展方向为:大算力、大数据、大模型三位一体,需要一台把传统的“云计算”,“高性能计算”,“大数据”三套计算机融合成一套包含上万个AI加速器的“AI原生”计算机。
本次分享大模型时代的思考与产品实践,通过大装置AI云,将“AI原生”计算机开发对外服务展现,让大模型技术模糊训练与推理的边界,真实的训练推理为一套共享的基础设施。
〇 分享收益 〇
目标:
1了解AGI时代基础设施
2了解大模型体系及落地案例
3了解AGI创新应用
成功要点
大模型展示了令人惊叹的智能表现,能够在多个领域和任务上达到甚至超越人类水平,在语言理解、常识、逻辑判断上,表现出跨越式进步,达到了工业应用的红线;同时也存在一些产品化中待解决的问题,如幻觉、数学水平、规划,以及与人类价值观对齐等。
启示
大模型的发展推动了人工智能技术向更高的智能水平和更具挑战性的应用场景发展,在AI 2.0时代下,大模型范式转换带来的生产力变革,也对各产业商业模式、产品设计、用户体验来带新的变革与机遇。
〇 分享亮点 〇
1. AGI时代基础设施特点及商汤AI大装置SenseCore实践
2. SenseNova日日新大模型体系及案例
3. 新二八定律:商汤AI代码助手
AIGC催生技术研发模式的新变革
〇 分享简介 〇
IGC的兴起引起多个产业的更新,从电影业到教育业,从营销圈到机器人,每个行业都因为大模型而重新升级内部流程,从而将效率10倍甚至几十倍的提升。
当前企业都对大模型如何改进自己的生产流程感兴趣,而在在企业技术研发部门当中零星的也有程序员在使用ChatGPT,Co-Pilot在优化自己的代码。业界上可利用大模型提高整体企业研发效率实践指南不多,我们将以大模型+人混合编程的10万+行代码的经验,亲身实践了各种大模型+人的研发模式,来帮助企业利用大模型对研发流程、具体研发过程进行优化。
本次分享以具体实际开源项目研发案例,来诠释利用大模型提高企业研发效率,并在研发流程、分配工作上,让人和大模型有效配合,提高整体研发效率,同时也诠释在大模型环境下对研发流程产生深远影响,研发管理正在加速变化以适应更好的大模型驱动研发。
〇 分享收益 〇
目标:
1提升管理者和研发人员对于大模型提高研发效率的认知,
2了解大模型辅助研发的优点和缺点,在合理应用点来使用合理的大模型来辅助研发并 调整内部流程提高整体研发效率。
成功(教训)要点:
1. 鉴别私有化大模型,ChatGPT,Co-Pilot辅助编程的最佳场景和需要避免的坑
2. 以具体实践为基础,给出实际案例如何结合大模型提高研发效率,同时给出研发流程和研发模式需要适应大模型的改进点。
启示:
大模型趋势下,人工智能会渗透在企业每一个环节,大模型会更好的给研发环节赋能。而每一个企业都可以快速利用DataOps等先进技术打造企业私有化大模型提升整体研发效率,让“大模型”驱动的研发平民化。
〇 分享亮点〇
1. 大模型下新的研发模式和研发流程的方式
2. 在开发过程中ChatGPT、Co-Pilot、私有化模型对于研发流程和研发效率提升的方法,以及各自的优缺点
3. 在当前大模型条件下,无法实现的研发效率提升的点和解决办法
4. 利用DataOps辅助训练开发者大模型,让研发大模型更了解公司业务从而提高研发效率
5. 给出具体大模型辅助研发过程和研发产品示例,帮助AIGC在公司重落地,提升整体研发效率
AIGC低代码:创新智能研发模式变革
〇 分享简介 〇
每一次交互变革都引发了软件革命,Windows、互联网和智能手机的出现带来了企业软件的三次重大变革。AIGC的出现则引领了以语言交流为主、触摸为辅的全新交互模式,正在推动所有企业软件采用人工智能方式进行重写。
低代码作为数字化转型的基础架构,以其便捷性和普惠性备受青睐,与AIGC能力的整合将驱动企业软件研发向智能化方向发展,并实现生产智能化的应用,从而为最终用户提供个性化的智能助手。
本次分享将探讨如何结合AIGC、低代码、高质量的数据要素,探讨基于AIGC的低代码创新智能研发模式变革,实现智能化研发过程和应用智能化生产的全新碰撞。
〇 分享收益 〇
目标:
1了解AIGC带来的智能软件建设的全新理念;
2了解AIGC如何驱动软件研发过程的智能变革;
3了解AIGC与低代码如何驱动智能化软件生产;
4了解前沿的案例剖析;
成功要点
AIGC正在变革IT产业格局,不能生产智能应用的企业正被加速淘汰,智能变革会加速企业现代化运行。
启示
AIGC带来了全新的交互变革:以语言交流为主,触摸为辅,驱动所有企业软件会使用人工智能方式重写。
〇 分享亮点 〇
1、 未来企业软件生存的关键-智能力;
2、 AIGC助力打造智能研发流程;
3、 智能低代码平台变革企业复杂软件智能落地场景;
4、 普元在智能低代码落地案例;
企业数字化基石:算力基础设施驱动AI,AI赋能算力基础设施
〇 分享简介 〇
在数字化浪潮下,业务发展越起越依赖于AI和大数据获得技术红利。云计算基础设施技术具有非常重要的作用与影响,无论是电商、金融科技、云计算、大数据、AI等重要战略领域发展方向上,云计算基础设施技术的重要支撑作用已经无可替代。同时,云计算基础设施技术已经成为许多类型业务的直接竞争力,甚至在云计算、AI等领域中,计算能力、存储能力、网络能力都成为业务的一部分。
阿里算力基础设施规模,在国内算是翘楚之一,业内算力基础设施助力AI的发展是很多企业的关注点,结合自身的业务特点,成功推动AI在基础设施和云时代的全栈技术,先进技术包括数据中心、网络、服务器、计算硬件、存储硬件,以及智能化运营与自动化运维等内容。可实际落地的每个实践点,都是每个企业切实关心的方向。
本次分享以大模型与智算平台结合、AI与算力基础设施为思考起点,阐述其中的关系应用,阿里在长远技术发展和工程技术实践上,有非常多的沉淀,借此希望帮助国内企业推动技术革新
〇 分享收益 〇
目标:
1深入理解算力基础设施的价值,进而更具象理解算力基础设施在AI大浪潮下发挥的作用。
2 AI应用于算力基础设施,相互促进作用形成最佳的解决方案
成功要点
数字化转型的内在目的是在动态竞争,利用数字技术来增强企业的核心竞争力,并最终提高利润。云计算,大数据,人工智能和物联网等数字技术的广泛应用,成为加速企业发展而超越传统企业的武器。
启示
企业数字化基建的建设是企业数字化的基石,云计算、5G、人工智能等新兴技术的飞速发展,打下企业场景数字化基础。
〇 分享亮点〇
1. 云计算基础设施浅析
2. 互联网基础设施发展趋势
3. 阿里云基础设施规模
4. 算力基础设施例子分层(业内案例、阿里案例)
5. AI赋能算力基础设施案例思路
互联网是一个真正技术密集型产业,在人口红利已经见顶的情况下,研发效能相关的工作,不管是端到端devops平台的建设,效能洞察驱动过程改进,还是强化单兵能力,提高跨团队协作能力,必须全面综合各种手段提升研发效能已经成为行业共识,尤其2023年伴随chatgpt的横空出世,对传统软件研发模式的冲击迅速而来。研发质量效能更加夯实产品研发基础设施,赋能组织持续高质高效地交付产品价值和质量。
本专场将邀请多位效能领域专家,从平台,文化和流程等多维度视角展现效能提升改进思路,同时对AI for Dev领域也进行一定延伸和研讨。
出品人:白伟 快手研发工具链团队负责人
技术战略下的研发效能演进策略
〇 分享简介 〇
企业研发效能或者 DevOps 转型时屡屡受挫,投入产出比并不高。企业缺乏一个合理的技术战略布局,往往对新型技术无法做出有效识别以及投资策略。
如果缺乏技术战略大格局,只进行局部优化,会缺乏全局观点会舍本逐末,长期得不到有效提升。而各个企业的主要矛盾、起点和初始条件均不同。因此需要从整个企业的技术战略出发,制定研发效能的投资组合。
本次分享从技术战略模型的角度来重新发现研发效能改进的有效路径,并对多个失败案例进行分析。此外,也会从腾讯技术战略模型的角度来分析 GPT 会给未来的研发效能带来的影响。
〇 分享收益 〇
目标:
1技术战略模型理解企业的现状。
2技术战略模型理解研发效能相关技术的定位。
3定位对研发效能进行合理的投资。
成功(或教训)要点:
根据现状进行分级分类,不要采用一刀切的制度,以知识资产模型合理化研发效能投资,谨慎新成立研发效能的实体组织,谨慎选取用于考核的研发效能指标,是正确达成研发效能战略的关键。
启示:
通过合理的度量和考核来评定技术战略的执行情况,企业要建立自己的技术战略投资组合,不断更新评定当前的技术战略。并采用一定的模型来分析当前的状况,避免盲目的决策和投资。
〇 分享亮点 〇
1. 技术战略和技术战略模型
2. 在技术战略下的研发效能
3. 研发效能的演进正反案例
4. GPT 在研发效能领域的应用
研发效能大数据管理与应用实战
〇 分享简介 〇
随着软件研发领域的不断发展,软件研发过程的复杂性增加,如何提高软件研发的效率成为了一个重要的问题。为了提升组织的研发效能,度量研发过程和结果并通过数据来驱动过程改进是十分有效的手段。要想实现各种硏效度量指标需求,需要采集各种工具的基础数据、在数据仓库中建立模型、根据需求进行指标计算、并且可视化计算后的指标。
在实践过程中,典型常见问题为:
1. 硏效基础数据不准确,导致计算后的指标数据不准确;
2. 相同指标有不同的计算逻辑,导致难以对齐比较;
3. 硏效数据管理混乱,导致新的度量指标开发速度慢,成本高;
4. 数据报表开发效率低,导致验证数据和报表的周期长,大多数报表投入产出比较低;
5. 硏效指标设计不合理,导致没有解决研发问题,难以落地推广等。
本次分享将多个大型企业的硏效度量实战经验,通过数据驱动,有效地提高团队的研发效能,使研发效能基础数据能够高效、低成本地加工为合理的指标,让组织有更深刻的解决方案及思考。
〇 分享收益 〇
目标:
了解硏效数据的特点,效能度量的制约因素和数据提升研发效能的有效路径
成功要点
企业信息化对研发的核心价值有三个层次:运用技术更好的去支撑业务;用经验积累去影响行业。研发效能的三个主要驱动力便是流程+工具+数据。
启示:
阶段性与业务目标,落地产品对齐,都是高效研发效能的思考落地的关键,用数据、指标、系统等技术可建技术壁垒和技术基建,确保系统稳定,业务健康和持久发展。
〇 分享亮点 〇
1研发效能大数据平台建设实践
1)研发效能大数据概览
2)硏效大数据处理分析难点
3)硏效大数据平台建设实践
2数据驱动硏效提升的有效方法
1)度量研发效能的制约因素
2)数据驱动研发效能提升的有效路径和实践经验
编程现场现代化助力研发效能提升
〇 分享简介 〇
编码是研发过程中投入时间和精力最多的环节,编码环节的提效对于整体研发效能的提升是至关重要的。但从过往来看,针对编码环节的提效工作做的是偏少的,随着云和大模型技术的兴起,开发环境的云化、编码过程的智能化成为了行业重要的课题,
百度在多年的现代化编程现场的探索和实践中,总结了其三大特征:高效、智能、持续演进,和四大方向:在线化、一体化、数字化、智能化。并针对于此,构建了云IDE平台,当前已覆盖厂内80%的工程师,实现了开发环境的即用即得。编程现场大数据结合文心大模型,打造智能编程助手Comate,帮助工程师实时续写和生成代码、注释、单测,更快更好的完成开发任务,当前已覆盖70%工程师,高活用户采纳率将近50%,提效效果非常明显。
本次分享旨在给参加者对于现代化的编程现场一些启示,帮助参与者对于编码环节提效产生一些思路和投入的方向,使用云和大模型技术帮助企业实现软件生产力的提升。
〇 分享收益 〇
目标:
了解研发提效的关键环节,编码环节的提效方向,以及百度多年在研发在线化、编码智能化的探索和实践
成功(或教训)要点:
1、通过开发环境的云化,实现研发全流程在线,开发环境随时随地,即用即得,可以很好的解决开发环境部署困难、不一致、难复现、性能差以及跨OS开发困难等常见开发问题
2、研发工具和服务一体化集成到云IDE中,可以提升工程师的专注度和研发效率
3、基于大模型和编程现场大数据构建的智能研发助手,通过帮助工程师实时续写和生成代码、注释、单测等能力,可以极大提升工程师的编码效率和质量
启示
编码是研发过程中投入时间和精力最大的环节,编码环节的提效至关重要。开发环境的云化和编码过程的智能化可以极大的赋能编码提效,实现编程现场的现代化
〇 分享亮点 〇
1 研发提效的关键场景:编码
1)寻找研发提效的方向
2)推进编程现场从小作坊到现代化
2现代化编程现场的特征和探索方向
1)三大特征:高效、智能、持续演进
2)四大方向:在线化、一体化、数字化、智能化
3百度现代化编程现场的实践和案例
1) Dev in Cloud
2)代码智能化
3)未来的规划和畅想
4 QA
全链路质效提升探索之路
〇 分享简介 〇
精准设计符合企业当前现状的质效度量体系,并通过智能质效管理平台实现自动化质效度量指标扫描,输出健康度质效分析结论并智能推送诊断建议,可以为团队提供定制化改进方案及后续改进效果评估,是助力业务线达成质效全面提升的关键。
面对金融开业初期质量上的妥协和问题多的现状,让技术高质量交付,可通过建体系、搭平台、做度量三步走的方式,提升团队质量意识,实现质量内建,用自助化质量指标持续引领提升,助力业务达成"又快又好"的发展目标。
本次分享将以全局视角,与大家深入探讨在大模型时代的质量和效能如何借力发展,包括智能质效管理平台的设计思路、智能质效扫描策略、智能化质效诊断等。
〇 分享收益 〇
目标:
1明确全链路质量建设搭建全景,包括:开发端、测试端、发布端及现网;
2明确各阶段质量指标埋点/门禁,通过数据观测发现暴漏现有问题及后续改善效果;
3提供质效数据下钻分析方法论及个性化诊断方案,逐步建立工程师质量自诊能力。
成功要点:
结果性指标牵引过程性指标;指标设计的考量维度;软件成熟度所处阶段;度量成本和预期;度量效果评估者的视角;度量实施的复杂度,都是指标搭建成熟的关键思路。
启示:
质效指标线上运营顺利后,再启动数据平台接入建设,是构建质量运营的好思路;北极星指标的精准化打磨,度量数据的合理化运用才可以真正指导业务实现质效的全面提升。
〇 分享亮点 〇
1、全面解读0-1的质效搭建历程,为企业提供质效度量探索及北极星指标的建设思路;
2、通过落地案例的实操呈现为企业提供可借鉴和复用的数据驱动质效提升相关经验;
3、首次揭秘智能质效管理平台的搭建全过程。
4 QA
产研数字化大规模落地:建设高效协同工具链
〇 分享简介〇
随着互联网红利期成为过去式,在业务增量有限甚至萎缩的情况下,降本增效成为当下多数企业的必答题。流程形成工具链可以达到高效研发团队的协同,确保不同角色在不同环节内获取的信息是一致的,许多规模较大的公司为了解决这个问题,会选择自己研发一套最适合的解决方案,让不同工具实现信息互通。对于规模没有那么大,无精力去研发个性化解决方案的企业来说,最好的解决方案就是选择一款能够覆盖软件研发全流程的工具。
组织的数字化是实现降本增效的必要条件和有力抓手。而组织落地数字化离不开产研工具链的基础支撑,这其中涉及到协作平台、前端devops平台,后端devops平台以及客户端devops平台等;如何实现众多平台高质量的互联互通,进而降低数字化治理的落地成本,以及解决众多平台间领域模型不一致下的互通,将众多平台统一到一套工作流,这都需要进行深入的平台和机制设计。
本次分享将以快手多年具体实践,强力构建高效协同的产研工具链平台,助力降本增效的落地实践,与参会者进行深度研讨与交流。
〇 分享收益〇
目标:
通过工具的高效落地高质量的数字化基础,构建对于大规模组织有价值的协同工具链。
成功要点:
解决众多平台间领域模型不一致下的互通,将众多平台统一到一套工作流,可进行深入的平台和机制设计,设计高效协同的工具链会不断提升数据的置信度。
启示:
组织数字化治理过程中,定义可置信可度量的产研数据,离不开各端工具的间的高效协同,这对组织而言实现较低成本落地,对一线而言低侵入改变日常工作模式至关重要
〇 分享亮点〇
1没有工具链支持的数字化就如空中楼阁
2如何定义可置信的产研数据
3高效协同工具链的具体设计
4基于置信的数据进行规模化降本增效的初步实践
5 QA
基于LLM的智慧办公智能化测试实践
〇 分享简介 〇
随着人工智能技术的不断发展和应用,企业智慧办公更加普及和深入 。传统企业办公面临输入速度慢、纸质文件难利用、需求数据查找困难、业务流程查询难分类慢、资源运维难管理等痛点问题。通过信息技术手段,将企业的各个业务环节进行智能化、数字化、网络化改造,实现企业内部信息共享、协同办公、高效管理已成为一种新型办公趋势。
在这一趋势下,面对高度智能化的智慧办公系统解决方案带来的挑战,传统的测试方式已经无法满足现状,迫使我们作出改变。ChatGPT的发布,也让我们看到了大模型工具在测试领域应用的无限可能,为我们带来了新的探索和应用方向。
本次分享旨在探讨如何借助大模型在智慧办公类解决方案中提升终端效果与测试效率,保障系统稳定性。通过深入分析现有的技术和实践案例,为您提供实用的建议和启示。
〇 分享收益 〇
1. 目标:
1)智慧办公领域的效能提升经验,以及交付类项目质量保障的实践和探索。
2)端到端应用效果评测方法实践
2. 成功(或教训)要点:
始终关注客户需求和实际应用场景,深入现场收集问题,在大模型技术的加持与协助下,寻求最佳解决方案。同时,借鉴大模型在智慧办公音视频测试、端到端效果评测、PC端领域效能提升等方面的经验总结,提高测试效率和项目质量保障。这些实践经验也为其他行业的智能化转型测试提供了有益的借鉴和启示。
3. 启示:
结合星火大模型,建立AI终端产品效果指标与基线,充分调研技术复杂度与投入产出比,避免盲目的提效。
〇 分享亮点〇
1. 智慧办公类产品业务场景
2. 智慧办公类产品测试挑战
3. 端到端效果测试最佳实践建设
4. 智慧办公测试效能提升案例
5. 星火大模型在智慧办公实践总结与展望
近年来,随着企业数字化转型浪潮的兴起,传统的运维方式已无法适应,由运维主导的DevOps研效提升、面向运维工具研发的平台工程、围绕业务稳定性的SRE、面向云原生的运维以及借助人工智能、大数据的AIOps等运维新模式,正逐步成为运维领域发展的趋势。
本专场以探讨在企业内落地研发运维运营一体化,整体提高业务团队研发效率、降低成本、优化用户体验等方面的最佳实践。包括研发运维经典的实践以及成功案例,以及自动化运维、DevOps、大数据运维、AIOPS等方面的案例分析和实践经验。让业务场景化和极具稳定性,端到端持续交付来提高研发效率以及交付质量。
出品人:党受辉 腾讯助理总经理
阿里云百万服务器研发运维运营一体化实践
〇 分享简介 〇
许多企业投入数字经济的建设中,如火如荼地进行转型。行业中业务经营模式巨变,业务种类不断增多且复杂程度快速攀升,信息化系统的使用也越来越多。意味着传统闲散的、无规则的低效率IT运维管理模式将面临淘汰,取而代之的是适合大规模、提升用户体验、覆盖运维开发一体化管理模式。尤其伴随云计算、大数据、人工智能等技术的迅猛发展,企业对于服务器的需求不断增加,维护大规模服务器网络的复杂性显著。
服务器底层技术的快速创新,存储计算分离,AI基础设施,信创等出现,为业务带来了多样化的可能性。软硬件结合,发挥硬件的最大优势,提高服务器稳定性和可靠性,成为云厂商以及各个企业的共同诉求。
本次分享将结合阿里云在百万服务器规模下的研发、运维、运营经验实践,全面分享此过程中,经典沉淀的系列性系统创新与应用。
〇 分享收益 〇
目标
1.了解百万服务器实践过程中,成本、效率和稳定性优化的实践方法
2.了解最优的基础设施服务建设
成功要点
1. 标准化建设:构建研发交付标准与自动化运维流程
2. 数字化建设:大规模数据采集实践
3. 智能化建设:预测、诊断、异常分析等多场景应用
4. 场景化建设:性能优化,端到端联动
启示
当今的基础设施场景下,需要系统化的解决大规模运维,同时当前复杂场景下,离不开端到端的联动优化,提升运维效率和稳定性。
〇 分享亮点 〇
1.服务器研发领域:建设思路,核心应用
*案例:数据驱动的硬件定制
*案例:自动化研发测试系统
2.服务器运维领域:链路设计,核心应用
*案例:百万服务器的采集能力建设
*案例:服务器智能诊断能力
*案例:监控系统设计
*案例:运维效率提升实践
3.服务器运营领域:以性能、能耗为抓手
*案例:异构服务器应用中的难点
*案例:基于能耗的多级联动
4.服务器平台一体化建设收益,降低运维成本,提升服务器质量,构建竞争力
5.未来展望
6.QA
腾讯业务持续集成的应用实践及演示
〇 分享简介 〇
近年来,随着大数据、AI以及企业数字化转型浪潮的兴起,传统的研发模式,越来越难满足企业快速发展的需求。高效的研发持续集成方法以及技术研究在研运一体化中成为了众多企业探索以及技术核心竞争力。同时,如何有效降低研发和运维的成本也是研运一体化需要关注的重要课题,尤其是在大型互联网公司或传统企业,规模效应(比如规模构建,编译提速等)的放大作用,最终节省的成本也会是相当可观的。
为了让更多企业掌握持续集成体系和降本增效的方法,一方面需要体现高效的持续集成在企业中的重要性,以及传统企业面临的痛点。如何有效地解决提效工具落地、开发成本高、代码快速分析等难题。另一方面,需要将探索持续集成相关的实践和思考,持续集成各个垂直能力,包括流水线、代码分析、制品管理等技术如何落地来实现研发效率的提升。结合案例和方法论,给出对应的解决方案、应用实践和经验总结
本次分享腾讯CI团队在建设和落地过程中的实践经验的总结,聚焦在CI在腾讯业务内部如何落地场景实践上,解读CI建设和落地过程中的思考和转化。包括CI方法论、体系架构、实施过程以及产品演示等。希望能够帮忙到更多大型互联网企业以及传统企业了解CI技术提升研发效率,提高代码质量、实现研效提升助力企业快速发展目标。
〇 分享收益 〇
目标:
1中大型企业百人以上项目团队在规划和实施持续集成的落地方案
2优秀持续集成实践方法在企业内部的应用实践案例以及会踩到的坑
成功(或教训)要点:
a. 所打造的持续集成生态(流水线、代码分析、编译加速、PRE-CI等)已在腾讯内部大量业务使用和求证。
b. 方法论以及落地框架通用化,可以在企业落地CI方案起到借鉴。
c. 整套持续集成系统已开源到github
启示:
有效降低研发和运维的成本是研运一体化需要关注的重要课题,尤其是在大型互联网公司或传统企业,规模效应(比如规模构建,编译提速等)的放大作用,最终节省成本非常观。
〇 分享亮点 〇
1、 腾讯业务持续集成的背景以及历程故事
2、 如何步步打造CI系统(流水线、代码分析、编译加速、PRE-CI等产品)来助力业务持续集成成功
3、 腾讯内部业务的CI实践案例以及所踩过的坑
4、 结合小游戏进行演示和互动
5、 持续集成的经验总结及未来规划
6、 QA
大型互联网端到端稳定性运维建设实践
〇 分享简介 〇
DevOps第一阶段许多企业最关注提效,通过容器化,借力元原生,加强内部工具和自动化建设之后,交付的效率和质量通过度量数据(需求数、研发周期、延期需求、BUG、故障数、处理时效等指标)发现不再是我们的主要矛盾,此时次要矛盾(稳定性)会成为主要的矛盾。
应用生命周期里,从开发、测试,部署上线之后的运营,影响稳定性的因素有很多,代码质量、测试质量与覆盖面、规范与流程,操作和责任心,都会息息相关。
本次分享重点围绕着三个方面来展现稳定性建设方面的经典实践,以SRE为主导的组织升级,让部门协助的组织架构有明确管理、高效沟通、高效负责;以度量体系 建立指标体系,让发现、追踪、跟进、复盘等良性循环;以专项 治理和机制,运动式解决当前主要矛盾,同时智能监控与报警机制,不断优化召回率,以达到先于精准发现问题的能力。
〇 分享收益 〇
目标:
1、明确组织升级在稳定性建设中的价值体现 ,包括SRE职责、Oncall机制、Oncall人员能力建设及职责;
2、建设可以发现问题的方法和能力,从可观测的指标,通过专项治理的动作,定期的Review ,成解决问题的一整套机制。
成功要点:
1、打破各部门的边界,串联起测试、运维、开发、其他等多部门,都需要往前迈一步的思想和动作,同时,明确解决问题的第一负责人,从全局视角看待稳定性,不放过任何一个影响稳定性的风险点。
2、专项治理:每家企业主要矛盾不完全一样,但,寻找问题的方法是相似的,度量指标看问题,专项治理解决问题
启示:
稳定性治理关键核心要点
1、SRE,从被动支持,到主动驱动,从只看部门内,扩展到整个公司
2、流程与工具、平台约束提升稳定性至关重要,收好口,是减少误操作或乱操作的有效方法。
3、通过量化数据解决核心矛盾,结合每家实际情况。规范治理动作。
〇 分享亮点 〇
1、建立稳定性度量指标,通过指标看阶段性主要矛盾
2、从运维到SRE,完成组织升级,组织升级带来的组织变革。
3、专项治理实践:运动式当前主要矛盾、机制(流程、规范)和平台(约束),让同类型的问题得到根治
其中,完善SOP,设置必要的checklist,确保从治理一刻开始,后续不再出现漏添加等问题,除监控与报警,以及异常检测中大于n秒接口、异常状态码、SQL治理、元数据治理等专项。
4、通过治理引发的效果及可复制应用实践
5、稳定性的一些发展思考
6、QA
业务驱动的超大规模智能运维实践
〇 分享简介 〇
随着企业规模的不断扩大和业务的复杂化,对运维的要求也越来越高,超大规模智能运维成为了许多企业面临的痛点。在不稳定的环境下,运维团队在复杂性管理、故障检测与诊断、弹性伸缩、自动化运维任务和容量规划等方面面临着一系列的挑战。
本次分享将结合京东在业务驱动方面的理念和实践,面对庞大的业务规模、复杂的系统架构和高效的故障排查需求。如何更深入了解业务需求更好地规划和优化运维策略,确保业务系统的稳定性和可用性。此外,也会从智能运维角度,分享利用机器学习、自动化和监控技术,实现了智能故障检测、系统弹性伸缩和自动化运维,从而显著提升运维效率和响应速度。
〇 分享收益 〇
目标
提升企业的运维效率和稳定性,降低故障风险,为企业的可持续发展提供有力支持。
成功要点
以业务驱动为理念,有针对性的规划和优化运维策略,同时引入AIOPS,持续改进和优化自动化和智能化技术,减少人工运维成本和不确定因素,提高运维效率和可靠性。
启示
在超大规模智能运维实践中,需要不断探索创新,及时采纳新技术和最佳实践,保持对技术发展的敏感性,寻找适合自身业务需求的解决方案。
〇 分享亮点 〇
1. 海量服务面临的挑战:在不稳定的环境中,构造一个稳定的系统
2. 与业务场景结合,海量服务下的架构设计策略和技术运营,
3. Serverless弹性伸缩:运用容器自动弹扩缩能力,应对S级营销活动的爆发性流量难题
4. 从AIOPS到SRE:将软件工程的方法应用于运维领域,通过智能化、自动化、监控和持续改进来确保系统的高可用性、高性能和高效率运行。
5. QA
从数据到洞察:企业应用智能运维的实践和思考
〇 分享简介 〇
随着企业数字化转型的加速,大数据技术和AI技术的推进,运维管理变得更加智能化。传统的运维方式在监控、问题发现、告警以及故障处理等各个环节均存在明显不足,需要大量依赖人的经验、工作效率低下,并且在数据采集、异常诊断分析、告警事件以及故障处理的效率等方面都有待提高。
智能运维技术作为研发数字化转型的重要手段之一,其应用已非常成熟,但企业在实际落地过程中还是面临重重挑战,对于在组织内转换运维观念,与现有工具结合,提高数据分析效率、实现运维自动化、保障数据安全等问题,都有许多应用实践和经验总结。AIOps的发展趋势需重视传统企业面临的运维痛点,才能更好的支持企业数字化转型,最终达到解决运维效率低下、问题排查周期长、人工成本高昂等运维难题。
本次分享将团队在建设和运维过程中的实践经验的总结,聚焦在智能运维落地场景实践上,解读智能运维的建设和运维过程中的思考和转化。包括智能运维的整体规划、体系架构、实施过程、管理方案等。帮助到更多传统企业了解智能运维(AIOps)技术,提高运维效率和质量,实现企业数字化转型的目标。
〇 分享收益 〇
目标:
1中大型企业IT在规划和实施智能运维(AIOps)的实践过程
2智能运维场景的应用实践案例
3探讨AIOps相关的实践和思考,AIOps充分结合了人工智能、机器学习、大数据分析、自动化工具等技术,实现运维效率的提升。
成功要素:
1符合企业实际的AIOps规划和路线图
2人员能力的培养、组织心智的转化要同步,或先于技术和工具
3管理过程中要不断衡量业务价值,获得业务或管理层的支持
启示
将故障消灭在摇篮中,提质增效。把被动式故障处理变为主动式的风险预防,且是主动+智能方式,让IT更好地适应业务不断变化的需求,高质量的让业务以更快捷的速度应对市场和用户的变化。
〇 分享亮点 〇
1 智能运维(AIOps)的发展前景
2 智能运维的历程、挑战和思考
3 智能运维的应用案例(人机配合的服务台,全栈智能监控,数据分析和决策,自动化运维)
4 智能运维的经验总结和未来展望
5 QA
从IoT到机器人,从区块链到Web3,从5G到边缘计算,从虚拟现实到元宇宙,从大数据到AIGC,让人应接不暇。
数字技术加速融入并深刻改变每一个产业,各行各业的价值链被数字技术重塑,数字化转型成为各行各业的共识。在这一变革过程中,技术与业务的关系正发生根本性的转变,技术开发和交付方式也随之升级。技术研发组织是数字化转型的引擎,是企业数字化转型重要的支撑力量。同时,研发组织自身也面临着数字化的转型。
本专场将专注于数字化转型背景下,研发组织需要做出怎样的改变,它要求技术团队在各个方面进行转变和重构,一方面是软件研发的组织形式及流程设计,建立符合数字化时代快速反应的组织结构,另一方面是面向业务价值交付能力设计,高效地做好需求及价值共识,最后效能洞察及支撑的数字化研发工具体系,及时有效地充分利用技术升级带来的效能红利等,全面提升组织效率,来满足业务的要求。
出品人:张燎原 阿里巴巴研发效能资深专家
“研发效能36计:构建面向价值交付的数字化研发体系
〇 分享简介 〇
构建一套完整的研发流程和体系,可以大大提高研发效率和质量。数字化研发体系的建立,帮助企业实现数字化转型,提高产品创新能力和市场竞争力。
当下,数字化转型已成为企业的共识,从可选项变成必选项,并且越来越多的企业开始付诸行动。同时,技术部门在数字化转型中被寄予厚望,希望其能成为数字化的源动力。而现实中,技术部门研发体系转型常常面对方法太多、缺少有效方法,组织保障和支撑不足,面对业务部门难于说清楚价值等困难,整个转型难于有效落地。
本次分享将解析软件研发数字化转型的本质诉求,从技术和业务两个维度讲述软件研发的数字化转型方法和实践,构建企业数字化研发体系,建立底层的数据模型,并打通从业务、产品和技术协作闭环。为真正赋能组织和业务全面数字化转型,提升企业的业务发展和创新能力提供借鉴参考。
〇 分享收益 〇
目标
1. 清晰了解当前研发效能提升的问题及挑战;
2. 了解建设数字化研发平台从哪里开始到哪里结束,其背后的目标、路径和策略是什么
3. 了解研发平台的统一数据模型,避免被概念障目
4. 构建数字化研发体系需要什么样的组织保障,及其团队演进策略
成功要点:
以三方面构建数字化研发体系的方法和路径
A学习观察:量出为入,线性化梳理研发价值流;
B面向价值:以终为始,结构化分解业务需求;
C效能改进:洞察因果,系统分思考改进策略;
启示:
构建一套完整的研发流程和体系,可以大大提高研发效率和质量。数字化研发体系的建立,帮助企业实现数字化转型,提高产品创新能力和市场竞争力。
〇 分享亮点 〇
1. 企业提升研发效能的误区
2. 企业提升研发效能的价值和意义
3. 数字化研发体系建设的方法和路径
4. 面向价值交付的数字化研发平台的建设策略
5. 构建数字化研发体系的的组织演进
QA
数字化业务:个性智能数字助理应用实践
〇 分享简介 〇
AI数字助理媒体、电商、教育、金融等领域具有广泛的应用前景,相信在许多行业都会有很多商业价值和发展机遇。体现在数字化转型与岗位职责自动化之间的紧密联系,AI助理无缝集成到业务人员的日常工作中,如邮件、日程和任务管理等,使其成为业务人员的得力助手。
大模型与RPA的协同作用,创造出能够理解和执行复杂任务的智能AI助理。这种协同作用不仅提供个性化的、智能化的服务,还能帮助每个人提高工作效率。大模型+RPA技术的未来发展趋势,强调AI将是企业数字化转型的重要驱动力,管理者积极拥抱这种变化,将有助于推动企业的生产力提升,改变业务人员的工作方式,AI会引领的企业数字化发展。
本次分享将围绕数字化的主题,重点探讨讯飞星火大模型+RPA技术在企业转型中的赋能形态及赋能效果。大模型强大的能力在NLP、图像识别等领域发挥普惠力量。同时,分享大模型加持后的RPA技术如何泛化自动化边界,提升自动化能力,推进最终人人可用的AI助理目标达成。
〇 分享收益 〇
1. 目标:
1)大模型技术及能力边界
2)大模型+RPA技术融合后,提供新的数字化生产力
3)AI助理如何为员工提供个性化助理
4)AI助理产品构成形态
5)AI助理未来发展模式
2.成功(或教训)要点:
围绕打造企业数字化转型赋能工具为目标,深度剖析、定位客户及场景中的真实诉求及期待,如何借助AI+的技术优势,来实现产品的技术创新,拓宽AI赋能边界,满足周边需求,实现价值创造。
3. 启示:
企业数字化转型现阶段的需求、生成式流程自动化技术成为数字化转型过程中的重要工具,星火大模型+RPA的底层实现思路、技术边界、未来技术形态有直接赋能场景的转化价值。
〇 分享亮点 〇
1. 大模型在自然语言处理和图像识别等领域展现强大能力
2. 业务流程如何实现自动化运行
3. AI智能助理,推进企业实现数字化转型目标
4. AI助理融入企业工作流程
5. 大模型与RPA的协同模式
6. AI助理未来产品和技术形态
7. QA
数字原生企业的数字化能力提升
〇 分享简介 〇
当前业界“数字化转型”的口号风靡,“数字原生”属性突出,且目前整体信息化程度很高,部分业务已经完全达到“数字化”标准,但,不同业务间差距很大,每个企业都希望提升整体的数字化水平,赋能业务。
完成内部数字化标准提炼,基于标准挖掘业务域实际可提升的场景并立项去改进,通过业务域数字化能力提升,在降本提效和提升业绩多方面显著。
本次分享将借助实际数字原生企业数字化提升的真实案例,分享内部提炼的业务域数字化标准、落地过程和相关思考,为与会者以借鉴。
〇 分享收益 〇
目标:
数字原生企业内部数字化提升可落地方案
成功(或教训)要点:
1)围绕技术助力业务,在“深挖业务域”方向具体落地实践展示
2)业务域数字化提升的“三步走”:内部标准提炼->系统呈现现状->基于规则挖掘&提升
3)业务域数字化提炼的相关标准,及标准的解读
4)把不确定的事情变成确定的可实际落地,实践与思考
5)利用康威定律去保证一些重要事情落地
启示:
数字化转型会全面提高企业经营效率,整个研发与体系,在统一的标准下,可以真正提高信息的效率。且,企业通过数字化转型带来的效果,直接将效率效能拉到极致。
〇 分享亮点 〇
1.业务域数字化提升步骤
(1)明确标杆,输出标准
(2)搭建平台,管理评级
(3)挖掘空间,立项跟进
2.业务域数字化挖掘标准解读
(1)业务域划分解读
(2)可视化、配置化、智能化标准解读
(3)业务域数字化管理系统
3.业务域数字化提升案例
4.数字原生企业数字化能力提升思考
QA
金融数字化转型业务价值提升之路
〇 分享简介 〇
数字化转型不仅是金融行业的必经之路,也是整个社会推动智能、数字化、绿色、共享等方向的努力方向。未来,数字化转型只会越来越深入,技术手段也会变得成熟。金融企业不仅需要掌握创新的技术手段,跟上趋势,也要拥有基于业务价值的组织效能提升和超大规模项目管理能力,让团队立于不败之地。
未来的数字化发展通过多元渠道、数据产品和服务,构建立体的全方位、全渠道的服务体系,不仅是服务+营销+销售的全程数字化,也是数据整合与技术完美闭环,尤其是面对AI与大数据等技术的不断升级。
“滇峰”计划为银行业数字化转型树立了全面转型的标杆案例。本次分享将系统性的看到金融企业从信息化到数字化高速脱变的根因、思考和架构演进,同时以业务价值为驱动的业务全面数字化转型实践,其中包括前端、业务中台、数据中台、AI中台、PAAS、IAAS业务、产品架构设计如何落地,以及对关键的问题的思考。为技术管理者和高管带来最直接的金融业数字化转型未来的思考。
〇 分享收益 〇
目标:
1、银行全面数字化转型业务价值推动产品架构落地的深度探索
2、中台思想在业务架构设计中的作用和落地实践
3、银行数字化运营营销的实践和探索
4、微服务架构支撑产品架构设计中存在的问题
5、BizDevOps组织效能提升实践
成功要点:
“滇峰”计划作为银行业数字化转型树立了全面转型的标杆案例,为金融行业展现最好的金融业转型的思考借鉴。
启示:
金融企业的数字化转型终极目标一定是业务价值的体现。不仅需要掌握创新的数智化技术架构,跟上趋势;还需要通过强大以业务价值提升为导向的组织效能提升和超大规模项目管理能力、架构能力、中台能力等,形成更多稳定发展的战略能力。
〇 分享亮点 〇
1、银行业发展的架构演进
2、“滇峰”计划总体架构设计和业务价值
3、业务中台关键设计和思考
4、数据中台关键设计和思考
5、运营营销关键设计和思考
6、BizDevOps效能提升实践
QA
产研流程数字化建设之路
〇 分享简介 〇
数字化研发体系的核心是数字化技术和工具在研发体系的应用。先进的数字化管理,帮助企业实现研发全链路自动化、智能化、可视化,提高研发效率和质量,进而助力实现企业的创新和竞争优势。
通过数字化手段,提升质量和交付效率,是每个业务效能领域不断追求的目标。但在实际落地过程中,业务发展特征决定不同时期的挑战。互联网团队业务场景灵活,交付效率要求高,需要结合具体场景找到建设路径。
本次将结合腾讯应用宝案例,分享产研流程数字化建设的实践。
〇 分享收益 〇
目标:
1 业务场景下效能建设的思考
2 流程数字化建设方案和演进路径
3 标准化建设之路上的坑点和心得。
成功(或教训)要点:
以产研流程建设为主线,通过研发组织与自动化流程有机结合,厘清更清晰的交付秩序,通过数字化流程建设帮助企业提升运营效率,构建高效研效管理体系,打造高效研发团队。
启示:
每个研发企业都有自身的一套研发管理体系,度量与架构一个良好的产研流程是重中之重,拥有完善的产研流程建设,对企业的高速运转和持续获取竞争力起着强大的支撑作用。
〇 分享亮点 〇
1、 发布效率的效能故事
2、 需求流动的效能剖析
3、 产研流程建设的难点
4、 为什么要标准化为先
5、 自动化和平台化的收益
6、 数字化的终极目标是洞察
7、 发版数字化助力效率提升
8、 流程和度量相得益彰
9、QA
随着深度学习技术的不断发展,深度自然语言处理(Deep NLP)的应用和研究正在迅速发展。本专场着重探讨深度自然语言处理应用和研究的三大趋势:
1、大模型范式:随着计算资源的不断增强,研究者们可以构建规模更大的深度学习模型,例如BERT、GPT、Transformer-XL等。这些模型在自然语言理解和生成方面表现出色,使得机器翻译、智能问答、文本生成等任务得以更好地完成。
2、多模态应用:自然语言处理与图像、音频、视频等多模态数据的结合被视为深度自然语言处理领域的重要趋势。例如,在自然语言生成中,结合图像或视频等多模态数据可以使生成的文本更加生动形象。在自然语言理解中,多模态数据可以帮助模型更好地理解自然语言。
3、算力和架构挑战:深度学习需要大量的计算资源来训练和优化模型。随着模型规模的不断增加,训练一个大模型需要巨大的算力和存储资源。同时,知识蒸馏可以将大模型的复杂知识压缩到小模型中,从而实现小模型的高性能和高效率,这种方法在计算资源有限或需要在嵌入式设备等资源受限的环境下特别有用。
给予AI从业者全方位的借鉴和提高。
出品人:杨浩 华为2012 文本机器翻译实验室主任
大模型时代的机器翻译技术与应用
〇 分享简介 〇
机器翻译是典型的AIGC任务,虽然在1949年就正式提出,但直到2017年以Transformer架构为代表的神经机器翻译技术被提出,机器翻译的性能才逐渐被大众所接受。近几年工业界机器翻译的广泛应用,使得机器翻译的需求从单一语言翻译转向多语言翻译、从单领域翻译转向多领域翻译、从单模态翻译转向多模态翻译。尤其是ChatGPT等大语言模型的出现,给机器翻译的技术与应用也带来了新的机遇与挑战。
本次分享将回顾机器翻译的发展历史和当前行业现状。同时,结合当前产业界对机器翻译的需求,探讨了机器翻译从少量语种的实验性验证到多语言通用模型的发展,从单一正规文本到多场景复杂环境下的翻译应用,以及从无限计算资源假设到实际大规模部署等应用场景的变化。此外,结合实际应用场景,探索大型语言模型对机器翻译行业的启示。
〇 分享收益 〇
目标:
1、当前机器翻译的行业发展现状分析。
2、多语言、多领域、多模态和大规模部署场景下的机器翻译技术。
3、大模型给机器翻译行业带来的机遇与挑战。
成功要点:
1、多语言机器翻译对稀缺资源的语种有明显性能提升效果,对富资源语种需要设计独特的结构来防止小语种对其进行干扰。
2、大模型带来性能提升的同时也给机器翻译这类计算密集型任务带来了很大的部署压力,垂直行业、中小型高效模型能够更好的应对海量并发的场景。
启示:
无论是多语言、多领域、多模态机器翻译技术,还是基于大模型的机器翻译技术,总结起来在工业界应用时都需要降本增效,不仅需要提升复杂场景下的翻译品质,同时也有降低训练和部署成本的需求,模型并不是越大、越复杂才是最好,在特定的场景选择够用的模型才是性价比更高的技术路线。
〇 分享亮点 〇
1、机器翻译的历史与发展现状,以及新时代对机器翻译的应用需求。
2、机器翻译发展的三个特点:
(1)从少量语种的实验性验证到多语言通用模型;
(2)从单一正规文本到多场景复杂环境下的翻译;
(3)从无限计算资源假设到实际大规模部署。
3、ChatGPT等大语言模型的机器翻译能力。
4、大模型给机器翻译的启示和方法探索。
5、小牛翻译的机器翻译实践。
6 QA
AGI赋能工业制造:技术及应用
〇 分享简介 〇
未来10年内 AGI 将会超过 90 年代初人们所具备的专业水平,最终可能超过人类最大体量公司的总体生产力,潜在收益是非常巨大。AI整体的发展历程为算力、数据、算法的突破,迈向强人工智能AGI阶段。在 GPT-4 中愈加彰显通用人工智能( AGI)潜力。借助大模型,AI 的落地由此才有智能生产力。
AGI产业链可分为上游数据及底层算力供给;中游ToB定制化模型开发;下游形成ToC应用并进行分发。尤其在工业生产领域中发挥作用,AGI系统可以很多自适应来实现自动化,从而提高效率,减少人力成本。智能医疗 、交通、金融、制造等诸多场景,都出现了广泛的智能。
本次分享从AGI的底层到行业观察,以及工业制造中其多维度展现 AGI 在工业制造领域应用的场景,探讨通用人工智能如何提升生产效率,为人类整体福祉做贡献。帮助与会者建立AI底层框架的能力,推进 AGI 行业达成更多共同立场。
〇 分享收益 〇
目标:
1. 了解通用人工智能【大模型、生成式AI】的现状。
2. 熟知实现通用人工智能的技术
3. 解析通用人工智能【大模型、生成式AI】应用到工业制造场景
成功要点
1. 除了写诗和闲聊,通用人工智能【大模型、生成式AI】还能干实事:工业应用
2. 围绕工业制造,需要以人为本的可信 AGI
3. 了解AGI 在工业制造中的应用
启示
工业制造是人类生产力的根本,以及人类发展整体的福祉。前沿的人工智能技术应用到工业领域,既是AI价值之所在 ,也是人类文明之基石。
〇 分享亮点 〇
1百模大战:大模型百舸争流,AGI曙光初现
2技术探讨:AGI技术架构解析
3工业应用:可信、可控的 AGI
4场景为王:AGI 赋能工业制造提质、增效、降本
5人类福祉:AGI 加持之下的生产力提升
6 QA
从翻译工具到多语言助手:大模型下工业级机器翻译的未来之路
〇 分享简介 〇
大语言模型的出现为机器翻译技术带来了新的机遇。我们可以利用大模型的预训练参数或作为NMT模型的一个模块,以此提升翻译性能。同时,机器翻译数据也可反过来增强大模型的语言理解和生成能力。工业场景中,大模型和NMT可实现多语言、多模态、多层次的深层互操作和迭代优化。
大模型的多任务联合训练,也将促进多域知识的积累,并且在翻译、同传甚至垂直领域产生新的契机和优化范式。充分利用大模型的优势为机器翻译注入强大能量,构筑面向AIGC的多层次架构,技术人才的终身学习是通往未来工业AGI系统的必由之路。
本次分享主旨是提供一个L0大模型层和L1层NMT联合优化的范式,帮助企业软件开发工程师和科研学者,从0到1快速入门NMT,掌握TOP3的工业级NMT模型和架构;同时,利用大模型的海量数据和知识,以知识蒸馏和迁移学习,实现大模型增强机器翻译的质量和落地;最后,利用机器翻译来优化大模型的三大技术,上下文学习,指令学习和prompt持续优化大模型,让企业自主打造企业级可用的自有大模型。
〇 分享收益 〇
目标:
1基本掌握AIGC等大模型最新业界方向
2最新研究方向与产业落地的融合实践
3研究能力跟进和业务持续落地的方法论
4 开发和研究人员在大模型背景下,技术栈和持续成长之道
成功要点
利用大模型的优势为机器翻译注入强大能量,构筑面向AIGC的多层次架构,技术人才的终身学习是通往未来工业AGI系统的必由之路。
启示
基本掌握最新的AIGC/LLMs技术,将潮流技术通过知识蒸馏迁移学习等范式,融入自己的NLP/NMT产品和技术,提供更好用户体验和产品竞争力。
〇 分享亮点 〇
1. 大模型和NMT浅析
o 大模型(Large Language Model):通过大规模语料 pretrain 的巨大神经网络模型,如 GPT4、Llamma2等。
o NMT:基于神经机器翻译(Neural Machine Translation), Seq2Seq, Transformer等SOTA模型。
2. 大模型提升NMT能力
o 翻译: KPE, Knowledge Prompt for Translation Evaluation
o 同传:WhiSLU,Speech Language Understanding based on Whisper
o ICT应用: Biglog, Unsupervised Large-scale Pre-training for a Unified Log Representation 。
3. NMT反馈大模型质量提升
o 人机融合:Prompt Engineering
o NMT 作为下游任务微调大模型。
o 构建翻译对齐语料,提升大模型的多语言理解能力。
4. 大模型和机器翻译融合的未来思考
o 多模态翻译:视频/图文翻译。
o 知识蒸馏:大小模型的交互式提升。
o 大模型的AI平台Optimus:分享型的研究能力+自主产品的工业部署。
o 终身学习的AI从业者之路。
下一代搜索引擎:大模型下智能搜索核心技术演进和AGI趋势
〇 分享简介 〇
人类所做的所有事情本质上都在信息知识打交道,获取信息,对信息理解,基于理解再进行决策,因此,如何有效的获取信息和知识是人们最广泛的基本需求,而智能搜索技术一直在致力于解决这个问题帮助人们更高效的获取信息和知识,搜索引擎技术也从最初的关键词检索,发展到基于深度用户需求理解和语义理解,再到智能助手形态,在大模型时代下,智能搜索技术从关键词交互进化到自然语言对话交互,从信息检索进化到知识深度总结,全新一代的智能搜索正在诞生,同时,搜索是大模型最强的应用场景,也是未来通向AGI的必经之路。
技术分析从用户背后的基本需求出发,引出搜索引擎技术的要解决的问题和商业价值,大模型的技术发展的角度是当下搜索引擎技术整体AGI趋势。
本次分享搜索引擎背后的自然语言理解技术,搜索核心算法相关技术和问题,大模型下搜索的新交互形态;智能助手的关键技术以及在智能搜索场景应用实践,并对当前大模型技术做一个详细的技术洞察分析;对于行业基于大模型技术构建下一代智能搜索将让参会者见到智能搜索引擎技术挑战和机遇的攻破、面对。
〇 分享收益 〇
目标:
1.搜索引擎的行业发展,当前核心问题以及背后需求分析
2.搜索引擎背后的自然语言理解技术和搜索核心算法技术
3.搜索新交互形态:智能助手关键技术和问题
4.大模型智能搜索技术和难点问题
成功(或教训)要点:
1.技术演进背后的驱动力是创新的关键点
2.搜索引擎背后的自然语言理解技术是最重要的支撑技术
3.对话式交互是新一代搜索引擎在交互层面的显著提升,也是最自然和表达能力最强的交互方式
4.大模型在下一代智能搜索的成功关键在于超强的长上下文对话语义理解能力和直接生成答案的文本总结能力。
启示:
1.AI搜索是大模型最强应用场景,也是通往AGI的必经之路
2.大模型技术的最终目标一定是为了更好更高效的解决应用场景问题,跑通最典型的场景并形成数据闭环才能成功,而最大的场景就是搜索。
3.下一代搜索一定是基于大模型底座的能拟人交互的AGI助理。
〇 分享亮点 〇
1.搜索引擎的历史和发展现状
1.1 用户需求和核心问题分析
1.2 价值和行业发展
1.3 技术演进概述
2.搜索引擎关键技术
2.1 搜索核心系统架构
2.2 自然语言理解
2.3 用户理解
2.4 用户交互
2.5 搜索相关性
2.6 问题难点和挑战
3.搜索新交互形态:智能助手关键技术和问题
3.1 技术背景
3.2 对话式AI算法架构
3.3 对话理解和对话管理
3.4 混合检索技术
3.5 对话生成
3.6 问题难点和挑战
4.大模型智能搜索技术
4.1 大模型技术洞察
4.2 大模型智能搜索技术架构
4.3 答案总结和相关推荐
4.4 安全:毒性,偏见等
4.4 幻觉问题
4.5 未来技术挑战
5.方法论分享和QA
数字座舱智能化交互应用实践
〇 分享简介 〇
随着AGI技术和应用的快速发展,更高智能的人机交互、更全面的座舱环境感知和信息处理、更拟人化的情感体验,将为人们带来更加智能化、数字化的驾驶体验。
汽车的智能化是未来发展的一个重要趋势,它从自动驾驶到人工智能,汽车变得越来越智能化。其动力源、驱动方式、驾驶体验和驾驶舱智能化水平也在不断更新和升级。多种多模态智能化交互方式、环境感知和信息娱乐功能,可以做到更加自然地与机器交互和控制。智能座舱作为第三生活空间,数据互联互通能力对智能座舱智能座舱产业也是一项巨大的挑战,实现智能程度更高的人机交互反馈效果,语音、语义理解、体验识别等技术实现都与Ai相结合,制约着智能座舱产业的快速发展。
本次分享将从从工业界的视角,梳理蔚来汽车数字座舱在智能交互方向的算法实践,并与参会者一起探索座舱AGI方向的技术研发思考。
〇 分享收益 〇
目标
1.了解数字座舱智能化交互的研究进展;
2.了解AGI在数字座舱落地的考量因素及实践案例;
3.了解多模态AGI未来的工作方向 。
成功要点
面向AGI的交互架构设计;以情感价值和用户价值为落脚点;metric驱动的研发体系。
启示
座舱通用智能的未来必然走向多模态融合和跨模态融合交互,以更懂人懂车懂事为持续驱动力。
〇 分享亮点 〇
技术架构
· 多模态交互:算法、链路、关键能力
· design for AGI:感知、决策、执行&表达
· 情感价值和用户价值:Nomi情感体验的算法和架构
· metric驱动的研发体系:数据、指标、闭环迭代
关键能力
· LLM在线架构 & copilot stack
· mate的技术架构
· 懂我引擎
· 可视化的对话流开发
记人记事
大数据架构向云原生演进是行业重要趋势,也在企业数字化转型中成为支撑企业经营和业绩增长的主要手段之一。通过升级云原生架构,可以为大数据在弹性、多租户、敏捷开发、降本增效、安全合规、容灾和资源调度等方向上带来优势。
传统的大数据架构存在诸多问题,大数据业务和在线业务使用独立的资源池,导致资源流转困难,进而导致利用率低,成本上升;传统大数据组件繁多,安装运维复杂,在生产中使用需要大量的专家人力支持;传统大数据架构没有 CICD 机制,缺乏测试和质量控制流程;传统大数据缺少开箱即用的高可用、多租户、日志、监控、告警、认证、授权、审计、计费等能力。
本专场将邀请云原生大数据的一线技术专家分享在大数据云原生化方向进行的深入实践.
出品人:李亚坤 火山引擎云原生计算技术负责人
美团大数据集群云原生改造实践
〇 分享简介 〇
当前在分布式调度领域,Kubernetes已成事实标准。在大数据计算领域,如Spark、Flink均支持Kubernetes,以云原生化为目标。在深度学习领域,社区也有大量项目实现TensorFlow、PyTorch在Kubernetes的部署。
传统围绕Hadoop YARN管理集群的方式逐渐变得架构落后,主要体现在跟不上社区发展,架构设计不够灵活,对新问题的改造支持成本高。此前美团的机器学习集群已经基本完成云原生改造,出于统一集群管理、调度技术、资源效率、优化运维成本和集群架构的考虑,也需对大数据集群执行云原生改造。
本次分享美团在大数据集群云原生从0到1的过程,涉及大数据场景的特征和要求,实践中的关键项目以及一些重要经验。
〇 分享收益 〇
目标:
从0到1完成大数据集群云原生改造,对复杂业务场景下的大规模大数据集群云原生改造具备借鉴意义。
成功要点:
1 对不同场景下本质特征和需求的深刻理解,并根据场景做架构和实现适配;
2 从接入层、管控层、调度层到节点端全栈建设;
启示:
大规模云原生大数据集群管理的难点和经验,并对比机器学习和在线场景的特征,更加深刻理解集群管理的要点。
〇 分享亮点 〇
1、大数据场景的基本特征和需求
2、大数据集群云原生改造的实践过程及关键项目
3、实践过程中的关键问题和思考
4、未来规划
5、QA
云原生大数据引擎Presto on K8S实践
〇 分享简介 〇
随着企业的业务规模扩大,数据量级增加,数据引擎的部署规模也随之增长。在adhoc数据查询业务场景中,业务压力有着明确的时间周期特征,查询对计算资源的需求量会随着业务压力变化而波动。在传统的物理机部署模式下,集群运维成本高,难以灵活的动态伸缩,引擎规模的灵活扩缩容和资源节约利用之间产生矛盾。此外随着引擎部署规模增加,传统的物理机部署模式下,日常运维成本也会随之上升。
数据引擎的云原生化是当下业界普遍采用的新的大数据引擎部署模式。借助云平台弹性资源和容器化部署能力,引擎在低峰期可以通过缩容来实现节能,在高峰期快速扩容以满足吞吐能力要求,实现资源节约和引擎灵活性兼得。而且从运维角度看,引擎容器化也能带来更加高效便捷的运维体验。
本次分享美团Presto云原生化项目的一些实践和思考,内容包括引擎动态扩缩容、临时弹性资源上的部署方案以及 Presto 引擎在云上的一些部署构架的思考,希望为与会者提供一些借鉴和参考。
〇 分享收益 〇
目标:
1. Presto on k8s 部署和动态扩缩容设计实现
2. Presto 引擎容错能力设计与临时弹性资源部署
成功要点:
1. Presto k8s operator,封装复杂性,带来灵活性
2. 查询路由与引擎动态扩缩容,节约资源的同时轻松应对突发业务高峰
3. Presto 查询容错能力,利用临时弹性资源提升引擎吞吐能力
启示:
相较于传统的物理机部署方案,云原生化的大数据引擎部署可以兼顾资源利用效率与业务灵活性,同时带来更加高效便捷的部署运维体验。
〇 分享亮点 〇
1. Presto部署演变: 从yarn到物理机再到 k8s
2. Presto on k8s operator
3. Presto 集群动态扩缩容
4. 多集群下的查询路由策略
5. 弹性资源上的引擎稳定性
6. Presto Worker Group & stage粒度的路由策略
QA
Apache Doris 新一代实时数据仓库的架构演进
〇 分享简介 〇
随着数字化时代的发展,数据规模呈爆发式增长、数据类型变得更加复杂多样、数据时效的重要性愈加受到重视,这使得实时数仓技术正在发生着变革,而云原生时代的到来也对实时数仓带来了新的挑战。
在这样的背景下,Apache Doris 作为国内应用最为广泛的开源实时数仓之一,针对云上基础设施提供更加深度的适配。基于 Doris 内核研发的云原生存算分离版本 SelectDB Cloud,此时Apache Doris 将会以存算一体和存算分离两种形态呈现,以满足不同场景用户的需求。
本次分享结合实践应用,将Apache Doris 云原生存算分离架构设计的思考与实践,为与会者带来以数据为中心的新一代全场景统一湖仓,这也是最主流的技术借鉴。
〇 分享收益 〇
目标
了解数据分析需求的变化与数据分析架构的演进;
了解存算一体和存算分离两种架构的设计思考;
了解未来实时数据仓库发展的趋势和前景;
成功要点
Doris 性能在某些场景下比 Spark 要好很多,能够在海量数据场景下提供毫秒级查询服务。Doris 脱胎于 Apache Impala 和 Google Mesa 系统,并进行了大量改造和优化,最终让架构简洁、性能卓越、功能丰富、 OLAP 数据库简单易用。对开发者而言,是技术的福音。
启示
Doris 有望成为全球一流的开源数据仓库项目,帮助企业减少资源和维护成本,真正构建以数据为中心的新一代全场景统一湖仓。
〇 分享亮点 〇
1. Apache Doris 的解析与技术特性
2. 云原生时代数据分析需求的变化
3. 新一代实时数据仓库 Apache Doris 的全新架构
4. 未来实时数据仓库的发展趋势与展望
5. QA
字节跳动云原生大数据集群实践
〇 分享简介 〇
随着云原生技术和云需求不断成熟,多云多集群部署已经成为常态和趋势。复杂的业务依赖关系会产生大量的跨云和跨机房数据依赖,而跨云和跨机房网络通常成本高、延迟高、稳定性差,不仅影响业务的稳定性,还推高了企业成本。究其原因在于缺乏计算、存储和网络的统一视角,计算和存储资源分布不合理。
维护数百万核的云原生大数据集群有着很大的挑战和难度,因此,迫切需要对基础架构进行升级。经过计算、存储和网络一体化架构设计,字节实现平均作业完成时间缩短 50%+,跨机房流量减少 50%+ 的效果。
本次分享将对多机房统一调度关键技术在字节跳动云原生大数据场景的落地和收益进行深度解析。
〇 分享收益 〇
目标:
云原生大数据集群统一调度的架构设计和挑战,以及落地收益,对于大规模跨数据中心集群的管理具备借鉴意义。
成功要点:
1计算 + 存储 + 网络一体化细粒度资源管控;
2 基于虚拟队列的动态调度技术;
3 在线调度 && 离线访问特征分析相结合的作业加速技术;
启示
大规模云原生大数据集群管理的难点和经验,为与会者提供跨集群架构设计的思路和优化方案
〇 分享亮点 〇
1. 字节跳动大数据场景计算、存储的分布特征
2. 字节跳动多机房统一调度实践
a. 架构设计
b. 实践过程和落地收益
3. 多机房统一调度在字节跳动落地过程的核心问题和思考
未来规划
字节跳动实时数仓维表建设及优化实践
〇 分享简介 〇
近年来,实时数仓在许多行业和领域中都得到了广泛的应用,如金融、零售、制造业、互联网等。它可以帮助企业和组织实时监测业务数据,快速响应市场变化,提高业务决策的效率和准确性。实时数仓的建设能力成为了衡量企业数字化程度的重要因素。流式计算技术在实时数仓中充当了非常重要的角色,为实时数仓提供了实时收集、转化、加工等重要的基础能力,极大的降低了实时数仓的应用成本。
而在流式计算中,经常需要和各种外部系统进行交互,用维度表补全事实表中的字段。区别于离线计算中的场景,维表在流式计算中有着单独的语义表达和实现。同时随着业务场景的逐渐丰富,维表关联面临了许多不同的挑战和问题,本次分享将详细介绍字节跳动在流式计算场景中遇到的各种维表关联的问题及解决方案。
〇 分享收益 〇
目标:
介绍流式计算场景下维表关联面临的各种问题及挑战。
成功要点:
1 对于维表关联问题的深度剖析及问题抽象;
2 对于丰富的业务场景理解及建模;
3 字节内部流批统一的丰富处理实践;
启示:
大规模云原生大数据维表关联的难点和经验,为与会者提供跨流式计算中维表关联问题的解决思路和优化方案
〇 分享亮点 〇
1. 维表关联的背景介绍及流式计算中的基本概念
2. 点查维表面临的问题及解决方案
3. 广播维表的引入及解决的问题
4. 流式计算中维表的总结
云原生实时数仓建设与实践
〇 分享简介 〇
传统的存算不分离架构不能满足扩展性的需求,因此需要从云原生出发,对实时数仓进行架构的升级改造,提升系统的可靠性和扩展性。立足于云原生实时数仓,企业可进一步推动了湖仓一体建设,显著降低了数据准备成本,扩展了使用场景。
OLAP数据库帮助企业快速、灵活地挖掘海量数据的价值,在业务决策中起到了关键支撑作用。ClickHouse因其极致的分析性能在实时数仓领域得到广泛的应用,小红书从 2019 广泛应用ClickHouse,支撑实时分析场景的落地。伴随业务的快速增长,ClickHouse存算不分离的架构,在运维管理、成本控制等方面的劣势进一步显现,特此,企业构建云原生实时数仓的显著降低了运维成本,极致的可扩展性能够轻松满足业务的需求增长,并为业务方提供了更好的数据分析体验。湖仓一体的建设也为实时数仓引入了更开放的生态,极大扩展实时数仓的使用场景,显著降低数据成本。
本次分享云原生实时数仓从0到1的建设过程,包含架构原理、落地实践,以及在提效、降本方面的典型案例;同时,深度讲授在湖仓一体方向的探索和思考。
〇 分享收益 〇
目标:
1 从0到1完成实时数仓的云原生改造,通过云原生架构解决海量数据下实时数仓相关业务痛点
2 小红书在湖仓一体方向上的探索和思考,对湖仓一体的改造落地具有借鉴意义
成功要点:
存算分离架构是云原生改造的基础,存储可以采用更低成本的共享存储,计算和存储独立扩展,降低整体的成本;计算节点无状态,拥有弹性扩展的能力。
启示:
实时数仓数据质量高,具有极致的分析性能,数据湖的核心优势则在于开放的生态、支持存储各种类型的数据,湖仓的结合能够解决数据量特别大且多元化的场景,降低架构的复杂度,提高效率
〇 分享亮点 〇
1 背景
1)小红书实时数仓发展历史
2)实时数仓发展中遇到的问题
2 云原生实时数仓建设
1)云原生存算分离分层架构
2)基于对象存储的查询性能优化
3)容器化部署和弹性扩展实践
4)针对海量数据实时分析场景的优化
3 业务落地
4 湖仓一体建设
5 未来规划
金融级数据研发DataOps落地实践
〇 分享简介 〇
企业对于实现数字化转型的迫切度不断提升。尤其在在数字化转型过程中,存在数据孤岛、数据成本激增、数据安全隐患、数据化思维不足等问题,在安全、提效、降本等方面亟需找到破局方法。
金融数据体系极其复杂,内部关系错综复杂,伴随业务数据越来越多、数据全民意识越来越强,体系化的数据治理已成为不得不交的作业;而现实告诉我们,面对难找、难理解、不敢用、用不起的海量数据,传统的治理措施面临难以落地、落地效果不佳、效果难以量化等困局。海量敏感数据、质量管理、监控和告警等治理,以及数字化转型过程中稳定高效的对外高质量的提供数据服务,都成为了关键问题。
构建金融级数据研发DataOps一体化平台将会是一个破局点,将数据治理体系落地到研发流程中,保证数据价值最大化,降低数据应用成本,结合DMMA方法论与工具,让治理工作潜移默化到每个数据研发工作成员的日常工作流程中。始终以业务价值最大化为目标,对数据研发全生命周期进行管理,更好的服务业务需求,并且能将全行核心数据资产沉淀到平台上。
本次分享将从基础平台、数据中台和AI中台的架构设计出发,在解决安全、提效、降本等方面的实践中,给出与会者一些已有的成效借鉴。
〇 分享收益 〇
目标:
大数据架构和平台,探讨如何在重安全和轻成本的前提下,扩大核心数据的影响范围
成功(或教训)要点:
1金融企业大数据可通过引入数据湖、升级spark、冷热数据管理等提升计算性能、节约存储成本;设计安全原则、构建沙箱环境,确保数据安全的同时提升数据研发效率;夯实中台能力,共享共建,支持前台应用。
2实现金融级数据研发DataOps落地经验,保护金融敏感数据安全,将数据治理方法论落地在数据研发全流程,实现流批一体,保证离在线数据口径一致。
启示
将数据治理体系落地到研发流程中,保证数据价值最大化,降低数据应用成本,结合DMMA方法论与工具,让治理工作潜移默化到每个数据研发工作成员的日常工作流程中。始终以业务价值最大化为目标,对数据研发全生命周期进行管理,更好的服务业务需求,并且能将全行核心数据资产沉淀到平台上。
〇 分享亮点 〇
1. 金融大数据的问题与挑战
2. 金融大数据平台演进
a大数据基础平台
b数据中台能力建设
cAI中台能力建设
3. 金融代表性的大数据未来展望
4 QA
进入数智化时代,云上创新是企业加速数字化转型、提升竞争力的必经之路。作为诞生于云计算时代的新技术理念,云原生拥有传统 IT 无法比拟的优势,可以在资源管理、调度、弹性等方面做到更细粒度,帮助企业实现成本优化。
云原生能从技术理念、核心架构、最佳实践等方面,帮助企业 IT 平滑、快速、渐进式地落地上云之路。但我们也能看到一些行业因为种种原因,虽然认可云原生的价值,却因为遗留系统、技术债务等问题,还没有真正落地。一方面:企业对以容器为底座的云原生架构的启动效率、资源开销、调度效率、成本治理、故障定位等方面都会出现更高的要求。另一方面:企业需要采用平台工程的理念,重构研发组织文化和组织架构,将不同工作负载的统一管理,使得应用、中间件、AI和大数据等通过统一的基础设施进行治理。
本专场将邀请深耕云原生技术的一线专家,系统分享以Kubernetes为基础的云原生技术在Serverless、ServiceMesh、弹性和调度、企业级生产落地、云原生安全等架构创新方向的探索和落地实践。
出品人:汤志敏 阿里云云智能资深技术专家 容器服务ACK/ASK 技术负责人
Serverless Kubernetes 架构与AI应用实践
〇 分享简介 〇
以 Kubernetes 为代表的云原生实践已经成为企业上云的最短路径,越来越多的企业开始基于 Kubernetes 在云上构建自己的基础设施。伴随企业业务规模的增长,每个企业都希望在云上通过弹性提升资源使用率,降低成本。继传统的微服务应用之后,大数据和 AI 场景的应用也开始在 Kubernetes 基础之上构建。大数据场景的 Spark 应用开始逐从 Yarn 渐向 Kubernetes 迁移,而 AI 新型场景的分布式架构生产级实践几乎都是围绕这 Kubernetes 展开。
相伴而来大数据和 AI 场景的兴起,决定Kubernetes 架构的复杂性问题和面向资源的成本控制越来越难。大数据和 AI 场景的共同特征是资源需求量是波动的,不是稳定不变的。构建 Serverless Kubernetes 产品形态,一方面是形成标准化,另一方面是与云基础设施深度整合,让技术资源可以弹性灵活选择。凭借无服务器 Kubernetes 技术,多场景需求成为最灵活的技术支撑。
本次分享将让参会者理解 Serverless Kubernetes 构建的关键难点和解法,云上应用弹性的难点和解法,以及在典型 AI 场景中挑战和应对之策。
〇 分享收益 〇
1.目标:
构建 Serverles Kubernetes 的实践路径,以及在 Serverles Kubernetes 中构建AI应用的最佳实践,包括数据管理、模型训练和推理、工作负载调度等方面的方法和工具。
2.成功(或教训)要点:
1)Master免运维的难度:Kubernetes的master节点是集群的核心,需要处理API请求、维护集群状态,管理网络规则和路由等。实现免运维的难点在于如何设计自动化工具和流程来管理和维护这些核心功能。
2)Nodeless的挑战:在Kubernetes中,Nodeless是一种新的运行模式,它的目标是在不需要预先配置节点的情况下运行Pod。要实现这个目标,需要解决如何调度和分配资源,以及如何管理和隔离Pod。
3)模型管理和镜像秒级启动:AI 场景模型和镜像都很大,GPU 资源本身又很贵,所以按需使用资源在 AI 场景是刚需,而 AI 模型文件都很大,AI 应用的镜像也很大,这就给应用启动速度带来了很大的挑战,怎么解决大文件加载的冷启动问题在 AI 弹性场景是一个要解决的挑战。
3.启示
标准化与基础设施深度融合的 Serverless Kubernetes 形态是构建 AI 和大数据基础设施的最佳实践。
〇 分享亮点 〇
1. 分享Serverless Kubernetes价值应用
2. 构建 Serverless Kubernetes 的难点和挑战
3. 在Serverless Kubernetes中构建AI应用
4. Serverless Kubernetes的AI应用实践案例
5. 总结和展望
QA
基于MOSN的多运行时架构的生产落地实践
〇 分享简介 〇
ServiceMesh的发展,将RPC能力下沉到了Sidecar中,实现了应用与流量治理的解耦,应用不再需要关注限流、服务发现、服务注册等一系列复杂服务治理能力。但传统的微服务应用除了依赖RPC能力外,往往需要依赖多种分布式运行时能力,比如对象存储、消息队列、配置读写、缓存等能力。
伴随着上述运行时能力以及云服务提供商的多样化,导致了传统微服务应用在开发部署中面临了新的挑战。首先是移植性问题,传统微服务应用跟运行时能力强绑定,无法做到不同平台之间的无感迁移。其次不同编程语言的微服务应用无法共享一套SDK,需要重复性的“造轮子”。基于多运行时架构能力,可以实现将运行时能力下沉到Sidecar中,实现运行时能力与应用的解绑。
本次分享将让参会者理解多运行时架构发展建设的关键难点和解决方法,ServiceMesh与多运行时时架构的融合方案,多运行时架构落地实践中的痛点和解决方法。
〇 分享收益 〇
1. 目标:
多运行时架构和ServiceMesh的融合方案,以及如何在实际生产中落地多运行时架构的最佳实践,包括支持用户自定义拓展能力、性能优化、接口标准化定制等方面的方法。
2. 成功(或教训)要点:
接口标准化定义:基于多运行时架构构建的微服务应用,面向的不再是传统的SDK接口,而是一套基于GRPC的标准接口,因此接口的标准化定义决定了应用后期的可移植性。
与ServiceMesh相互融合:每引入一个Sidecar都会增加系统的复杂度,增加系统的运维成本,如何实现和ServiceMesh的融合,让ServiceMesh和多运行时架构融合在一个Sidecar中,降低应用部署和运维的复杂度至关重要。
用户自定义拓展接口:接口的标准化定义是一个漫长的过程,从Proposal到最终的敲定往往可能经历数月之久,如何在标准化的同时,支持用户自定义接口是一个需要解决的挑战。
3. 启示:
通过多运行时架构,实现将运行时能力下沉到Sidecar中与ServiceMesh相融合是当前云原生背景下构建微服务应用的最佳实践。
〇 分享亮点 〇
1. 分享基于MOSN的多运行时架构价值应用
2. 落地基于MOSN的多运行时架构的难点和挑战
3. 分享基于MOSN的多运行时架构的落地实践案例
4. 多运行时架构的未来展望
QA
大规模云原生容器应用编排的技术实践
〇 分享简介 〇
腾讯自研业务历经三年,包括QQ、微信、王者荣耀、腾讯会议等亿级用户规模的业务,都已全面上云,自研业务云上的资源规模已突破5000万核,同时也打造了国内最大规模的云原生实践。过程中,腾讯遇到了很多棘手的问题,也做了大量的技术优化和突破,比如:优化K8s集群和全局的资源管理调度实现65%的CPU利用率、提升容器应用链路上各层的稳定性,以及从面向集群过渡到面向应用编排以提升研发效率和应用可用性,都是所有企业在云原生改造过程中面临的问题,
针对不同的业务场景容器化,需要深入到业务形态和业务技术架构中,是攻克技术难题的关键。
本次分享将为与会者呈现腾讯大规模云原生容器应用编排的技术实践,希望能给大家带来有极具价值的经验和启发。
〇 分享收益 〇
目标
1. 如何提升容器的资源利用率
2. 如何提升业务容器化之后的稳定性
3. 云原生上云后,如何做好业务的容灾多活
成功要点
1云原生技术理念的布道,让所有业务”认识“到云原生上云能带来的业务价值;可以让企业极好的易用和稳定性的拥有容器管理平台,解决不同的业务场景容器化上云的痛点并沉淀产品能力,让所有业务”认可“云原生上云是可落地且极具未来价值;
2底层海量的资源规模,需要打造极好的资源调度编排能力,提升全局的资源利用率,从集团层面能达成上云后的降本增效的目的;
3各个业务云原生上云需要有一套度量机制,云原生成熟度模型,是有效的帮助各个业务去提升业务的指标。
启示
1.业务云原生成熟度的提升,是提升资源编排效率、利用率以及产品易用性的关键目标。
2.打破业务对”容器不稳定“的认知,需要在整个链路上去提升各层的稳定性,包括内核、运行时、节点、集群、多集群等。
3.针对不同的业务场景容器化,需要深入到业务形态和业务技术架构中,是攻克技术难题的关键。
〇 分享亮点 〇
1. 腾讯自研业务云原生上云的关键历程
2. 如何提升容器的资源利用率
3. 业务容器化之后的稳定性提升实践
4. 云原生上云后业务的高可用如何做的更优
5. QA
基于Istio的应用网关大规模生产化落地实践
〇 分享简介 〇
随着isito的成熟,微服务开发领域将迎来一次颠覆性的变革。从流量治理,负载均衡以及安全合规是大型网络服务遇到的共同的挑战。在虚拟机时代,由于虚拟机服务器的地址是相对固定,由此带来的网络变更也相对较少,通常只需要在硬件负载均衡设配上配置一次。尤其是k8s/容器时代的来临,由于容器的IP是短生命周期,其变更的频率是硬件负载均衡以及硬件防火墙难以承受的, 这也迫使我们构架下一代与云原生适配的网络。
Istio服务网格的出现以及社区的发展壮大,揭示了将硬件负载均衡迁移到软件负载均衡的技术可行性,eBay的基础设施平台从硬件负载均衡迁移到基于Istio以及IPVS的软件负载均衡已经多年,已有5万多个容器部署了sidecar,总流量达70Gb/s,连接数达6万/s,现在还在大规模,持续的将全站的网络服务迁移到Istio。
本次分享结合eBay基于Istio的应用网关的大规模生产化实践,将eBay Istio生产化部署的架构设计,支持多集群,多环境,多网关的的部署方式呈现,同时通过定义一套eBay内部的API资源在联邦级别管理多种流量治理的社区API资源,实现整个流量治理的生态迁移以及应用流量平滑迁移到Istio.最终在大规模实践中遇到了一些挑战揭示。
〇 分享收益 〇
作为最大规模之一的Istio服务网格,将服务网格落地的一些实践经验和教训,网格的部署,软件负载均衡的架构以及流量治理生态的构建深度解析。
成功(或教训)要点:
软件负载均衡和Istio的大规模落地在eBay也经历了一个漫长的迭代过程,它采用一种一致的方式来保护、连接和监控微服务,降低了管理微服务部署的复杂性。通过不同的项目上线验证了整个技术方案的可靠性,安全性以及稳定性,已成功全面铺开。
启示:提炼出该内容(或项目)的具体收益点。
Istio超越 spring cloud和dubbo 等传统开发框架之处,带来了远超这些框架所能提供的功能,无需应用程序为此做大量的改动,开发人员无需为功能实现进行大量的知识储备。Istio 大幅降低微服务架构下应用程序的开发难度,势必极大的推动微服务的普及。
〇 分享亮点 〇
1. 基于IPVS以及Istio的应用网关的架构以及实现
2. eBay定义的联邦级别资源以及如何构建新的流量管理生态
3. 如何平滑将应用迁移到Istio
4. Istio大规模实践遇到的挑战以及未来展望
5 QA
企业应用管理云原生技术转型和实践
〇 分享简介 〇
随着企业信息化水平的不断提高,应用服务已成为现代企业的重要组成部分。对应用的有效管理,直接决定了企业业务能否顺利开展,以及能否在成本和效率之间取得价值最大化。近年来,以容器为代表的云原生技术发展如火如荼,为企业应用管理提供了新的技术体系,开拓了新的思路。但如何在成本、效率和稳定性之间平稳落地应用云原生技术、兼容已有服务管理体系依然是我们需要持续探索和解决的问题。
后起之秀的得物,在快速的业务发展过程中基础设施的规模不断增长,继而对效率和成本的关注度也越来越高。以提升资源使用率和技术交付效率为目标,开始基于云原生技术建设整个服务体系的高可用性、可观测性、高运维效率,同时要保证成本可控。容器化过程中我们遇到了很多的挑战,包括:如何将存量的服务在保持已有研发流程不变的情况下,做到容器化部署和管理;容器化之后如何做到高效地运维;如何针对不同的业务场景,提供不同的容器化方案等;此外,通过技术手段实现持续的成本优化将是长期目标。
本次分享将结合得物在推进应用容器化过程中的容器平台建设、混部、调度和稳定性治理等相关方案和实践过程,与大家一起探讨如何在企业应用管理过程中落地云原生技术。
〇 分享收益 〇
1目标
1)分享云原生相关技术在得物内部的实践过程,供业内同行参考和交流。
2)调度优化、混部技术介绍和最佳实践。
3)容器平台/云原生AI平台建设过程分享。
2成功要点
1)在上云的同时,企业需要有核心技术方案的自建能力。
2)面向不同的业务场景,容器化的过程需要给出不同的解决方案,避免将容器属性强加给用户。
3)降本提效是云原生技术在企业中的最大价值,也应该是容器化实践的长期目标。
3启示
降本提效是容器化在企业中的最大价值,也应该是云原生技术落地实践的长期目标。
〇 分享亮点 〇
1、得物容器化推进历程
2、容器服务管理(配置管理、CI/CD流程设计、效率提升手段)
3、容器成本优化实践(画像/调度优化/混部时间/弹性伸缩方案)
4、云原生AI场景建设
5、QA
从消费端到产业端,各个行业的数字化进程都在加快,企业及组织都在积极进行数智化转型与探索。数智技术与企业自身业务场景相结合,为产品的体验设计,带来了很多新的创新机会。与此同时,如何能真正的将这些新的技术应用到产品设计中,为用户真正创造价值,提升用户体验,也面临着很多挑战。精准识别和定义智能化的场景,智能交互技术如何融入其中,业界有着全新的智能交互设计范式,好的产品和体验管理,构筑用户满意度更高的壁垒。
本专场将智能技术设计体验融合到产品中,让消费端体验升级。让产品注入更多智能化的线上线下服务体验,提升产业链的整体智能化、用户的智能决策过程,自动化过程等,优化增效。邀请业界资深用户体验设计专家和产品专家,分享数智时代下的体验创新设计实践与思考。
出品人:蒋颢 用友用户体验部总经理
大模型时代:游戏思维重塑产品体验创新
〇 分享简介 〇
以ChatGPT为代表的AI大模型诞生后,不仅在技术上实现了传统机器学习机制和模型的进化与变革,在商业应用上也实现了交互体验、功能体验、流程体验和情境体验的全方位的提升与颠覆。GPT大模型如火如荼的发展,各让大厂商相继入局,此种情况之下,大模型会成为像水电煤一样的基础设施,随着领域模型和专家模型的相继发展,生产范式也随之产生巨大的改变。
在这个科技树的加持之下,游戏化设计的思维方式将融合大模型的能力,有效提升用户体验,为产品创新带来新的突破,是一个非常有价值的命题。
本次分享从典型实际场景案例出发,引入一些大模型在各领域里的应用实践、游戏化设计的创新案例经验。以及探讨将科技向善的理念贯彻到实际产品创新中,通过科技的力量,为社会进步做出更多的贡献!
〇 分享收益 〇
目标:
1分享大模型的出现,为产品创新上行业上的加持。
2分享游戏化设计的价值以及在各个领域的应用思考。
3分享游戏化+AI+领域的产品体验创新推演方法论。
4探讨科技发展与科技向善的实际应用。
成功要点:
所有成功的产品背后,除了满足用户需求外,藏着游戏化设计的影子,也有着AI技术的加持。两者兼具,就能让你的用户流连忘返,欲罢不能。
启示:
游戏化设计与AI技术加持同时加持用户体验,组合拳的使用才是创新的钥匙。
〇 分享亮点 〇
1大模型的出现点亮了科技树
2游戏化设计让用户欲罢不能,跨领域案例解析。
3融合AI与游戏化,在各领域打造用户体验创新。
4科技向善,利用AI与游戏化探索实现社会价值创新。
AI变革之下B端产品的智能化创新设计
〇 分享简介 〇
随着火爆全网的GPT的出现,每个领域都开启了全新的Ai时代,越来越多的AI产品涌现出来,很多旧的工种或者能力会被AI取代,但随之而来的也会有更多新的机会涌现出来。一切的变革都是双向的,而如何将这个“危险”转化为”机会“。
在这个风口浪尖的时候如何快速将变革创新做准,做对,跑快至关重要。 在AI的行业应用层面,大家更多是聚焦在C端产品的体验和运用上,例如火出天际的midiourney,大家都在积极去探索和使用它,但真正应用在复杂的企业应用中却并不太多。
本次分享基于客户价值对复杂业务场景的B端产品智能化设计的应用进行分析及设计。从B端产品是如何将智能化的商业价值。到变化极快的时代怎样培养正确的创新思维、系统性的创新;同时,B端产品在客户旅程里的价值链,与关键业务场景怎么融合智能化设计,用产品体验能力为企业降本增效。
〇 分享收益 〇
目标:
1、了解B端产品的创新思路及系统性的创新方法;
2、了解B端产品复杂业务场景融合智能化设计
3、了解到B端的客户价值链。
成功要点:
面对B端复杂业务场景的产品进行创新设计,产品价值链条在客户旅程中,怎样让创新设计与客户价值匹配的天衣无缝。
启示:
建立从创新思维,到创新方法,典型产品应用场景的设计的整体设计思路全流程。
〇 分享亮点 〇
1 AI变革之下如何进行产品创新
1)AI时代交互变革分析
2)如何培养正确的创新思维
2)系统性的创新方法论
2 B端产品的客户价值链分析
1)B端产品与C端产品的差异化特性
2)B端产品客户画像特性
3)B端产品客户旅程价值链
3 B端产品基于客户价值的智能化设计
1)通用性场景智能化设计
1)财务场景的智能化设计
2)业务场景的智能化设计
生成式AI浪潮下的设计新思维与新范式
〇 分享简介 〇
从第一个比特开始被计算,到生成式AI的浪潮席卷全球,数字化如火如荼之际,智能化的大幕已徐徐拉开,人类社会的生产力和生产方式不断进化。
设计师如何潜入AIGC浪潮,用全新的设计思维、设计范式和设计工具进化设计,扩展设计的边界,促进产业升级;用全新的设计洞察、设计表达和设计标准,都促进MaaS繁荣。
本次分享将从三个核心方向展开:
1、AIGC Intro。代入行业与设计视角,分析AIGC的发展进程与影响因素,从算力、数据、算法、开源精神、社区等多维角度帮助听众理解AIGC与设计的关系;
2、AIGC Practice。结合阿里云设计中心在AIGC方向的思考和实践,从AIGC作为技术释放生产力,到AIGC作为方法释放想象力,分享AIGC设计的思考、过程和落地效果;
3、AIGC Next。结合平台、应用、行业的发展趋势,分享设计在大模型、AIGC、MaaS方向上的机会,共同眺望AIGC时代下的设计新价值,共同思考和探讨AIGC设计新思维和新范式。
〇 分享收益 〇
目标收益:
1、AIGC发展趋势下的体系化设计思维和方法;
2、阿里云设计中心在AIGC设计上的探索和实践经验;
3、AIGC设计方向上的趋势洞察和价值思考。
成功要点:
理解和掌握AIGC趋势下新设计思维和设计范式,理解MaaS产品在数据集管理、模型训练和模型推理方面的关键实现路径,理解垂类场景下的AIGC设计平台、插件及工具的组合运营方法,形成个人在生成式AI时代的知识体系和设计能力。
启示:
开源精神第一次走出技术圈,创意社区让人与AI共同成长。
AIGC作为技术释放设计生产力,AIGC作为方法释放创意想象力。
MaaS正在繁荣,变革产业上下游。
设计进化,从静态GUI设计到动态LUI为中心的设计
〇 分享亮点 〇
1. AIGC Intro:发展成因、关键路径、核心应用
2. AIGC Practice:
a) 阿里云设计中心AIGC设计标准化项目案例,数据集规范、模型规范等;
b) AIGC与非物质文化遗产结合的设计项目案例
3. AIGC Next:
a) AI Native,设计范式进化;
b) MaaS,变革产业上下游;
c) 未来企业的三种模式。
QA
AIGC在企业协同办公方向的创新设计
〇 分享简介 〇
随着ChatGPT等生成模型的迅速发展,AI技术实现了从 “感知理解” 到“生成创造”的跃迁。AIGC是继 PGC (专业生成内容) 和 UGC (用户生成内容) 之后的重大内容生产方式变革。有效的让AIGC 在企业中落地,帮助企业自身、帮助用户提高生产效率,是当前业界面临的最重要难题之一。
作为国内最早一批拥抱大模型、并探索生成式大模型在协同办公场景的落地的企业,阿里在这个过程中总结沉淀了一些经验,尤其是办公场景下,可以让智能化和业务适配完美结合,提升工作效率,包括:高效创作、高效使用数据办公、快速消费知识等
本次分享将围绕ASR在会议场景的落地实践思考,以及生成式大模型在办公领域的探索总结,旨在探索AIGC以及投身于AIGC应用方向的与会者以帮助和启发,为企业数字化转型舔砖加瓦。
〇 分享收益 〇
目标:
了解协同办公领域,基于“转换式智能”ASR完成会议场景智能化实践、基于“生成式智能”AIGC 完成文档、邮箱、项目管理、IM 等各个产品的全面智能化升级。
成功要点:
1. AIGC应用的宏观思考:让不同特色的产品和智能化结合
2. AIGC应用的微观思考:打磨好智能化产品的分支细节
启示:
1. AIGC结合不同特色的业务产品的创新设计,让大模型能力辅助企业插上数智化翅膀。
2. 细节决定成败,安全是智能化的底线,做好智能化安全以及对应产品设计是关键;大模型计算推理和网络环境是智能化的基石,面对大模型计算失败和网络环境异常,用户最佳交互显而易见。
〇 分享亮点 〇
1. AIGC与协同办公方向智能化概览。
2. 办公场景下,如何让智能化和业务适配完美结合,提升工作效率。以“协作式智能”、“转换式智能”、“生成式智能”、 “平台式智能”四大智能化主题分别展开,包括:智能化结合点、安全问题、智能化场景异常等核心话题。
3. 智能化在企业办公领域的未来展望。
4 QA
大模型时代的智能助手:小爱同学实践创新历程
〇 分享简介 〇
随着AI技术的飞速发展,AI大模型已经成为了当今科技领域的研究热点。AI大模型具有大量参数和复杂结构的深度学习能力,在许多领域都取得了显著的成果,如计算机视觉、NLP和语音识别等。同时,AI大模型也为未来智能助手的核心技术带来许多变革。AI大模型这种强大的计算工具,通过训练大型神经网络,可以学习到丰富的知识和技能,从而实现更加智能化的服务。教育、医疗、设备都有它的延伸。
借小爱同学这个AI助手,在手机、电视、音箱、智能汽车等设备上为高效的设备控制、信息查询、娱乐互动等功能。我们看到大语言模型的出现,在小爱同学中跨越式的体验升级,比如:1. 通用对话能力大幅提升,包括开放领域的知识问答、内容创作、闲聊互动、角色扮演等等;2. 垂直领域的专业助手成为可能,AI商品助手(销售&客服)、AI老师可以替代人的工作;3. NLP任务被更好的解决,效果更优。
使用大模型技术的过程不是一帆风顺的,大模型的幻觉问题、时新性不足、私有知识如何融合、成本高等这些问题摆在我们的面前。本次分享使用大模型技术的研发实践,以及大模型技术在快速的演进和变化之中,小爱对大模型在几个新技术方向的演进,包括多模态、插件化、任务规划做一个对未来的展望。
〇 分享收益〇
目标
1. 使用大模型技术升级产品的借鉴意义
2. 了解大模型技术在实际应用中面对的一些问题和挑战,以及解决思路
3. 探讨大模型技术的发展对AI产品可能的一些新机会
成功要点
通用对话能力大幅提升,以开放领域的知识问答、内容创作、闲聊互动、角色扮演等;垂直领域的专业助手以及AI商品助手(销售&客服)、AI老师等; NLP任务被更好的解决,效果更优等,几个方面全面展现核心产品能力。
启示
AI大模型是智能助手的核心技术,通过训练,系列技术挑战,包括数据问题、计算能力和算法优化等,会看到更多具有颠覆性的AI大模型应用出现。
〇 分享亮点〇
1. 小爱同学产品特点和技术架构
2. 大模型技术对小爱同学带来跨越式的升级
3. 使用大模型技术过程中的主要挑战及应对
4. 大模型的技术发展趋势展望
5. QA
应用现代化反映了变迁演变的过程,云原生、微服务、DevOps等,能够让企业进行软件敏捷迭代、加速产品开发创新的新模式都是应用现代化的典型特征,它延伸到应用的架构模式、运维模型和软件交付的全流程。从传统应用到现代化应用,包含很多关键技术:组装式交付,数智驱动,DevOps,服务化架构,安全可信,韧性等,本专场旨在向听众呈现最新的技术和实践经验,探讨现代化应用开发的最佳实践。
将探讨现代化应用开发的技术趋势和实践经验,为参会者提供一个深入了解现代化应用开发的机会,并学习如何运用现代化应用技术来优化开发流程和提高开发效率。涵盖多个现代化应用技术领域,包括容器、Serverless、基础设施即代码、持续集成/持续交付、可观测性和监控平台,以及应用弹性等,呈现现代化应用开发的璀璨,从架构设计到实现,从开发流程到监控,为开发者打造完美的技术之旅。
出品人:王宇博 亚马逊云布道师
数字化核心发展中应用现代化的关键技术实践
〇 分享简介 〇
应用是数字化转型的核心载体,也是企业竞争力的重要体现。随着大模型、AIGC、数字人、区块链等数字化技术不断创新和突破,IT产业正处于一个快速变革的时代,应用也进入新的阶段,
应用从“代码”构建演进到“代码+数据+模型+数字内容”共同构建的新形态,应用在价值、生成、体验、交付等多个方面将发生巨大的变化,应用更加迫切的需要实现现代化。
我们通过构建6大关键技术和产品,满足不同企业的应用现代化诉求,在这个过程中,对于应用现代化的理解和实践也在不断深入,利用这些新的技术,从传统的功能型向智能型现代化转变,实现业务创新和升级,是整合产业领域需要探讨和不断实践的关键,同时,也会促进产业界形成共识。
本次分享将应用现代化采用多种关键技术,传统应用升级改造为现代化应用的过程;以及现代化承载企业数字化的核心,在AIGC,大模型的发展下,IT产业发生较大改变,来给予参会者探索应用现代化价值展现。
〇 分享收益 〇
目标:
1 了解应用现代化建设的概念、价值、关键技术、方法论等,提高对应用现代化的认知和理解,为自身企业数字化转型提供参考和指导。
2 了解应用现代化建设过程中的挑战和困难,以及应对和解决的建议和策略,避免弯路和陷阱。
成功要点:
企业的应用呈现多样性和差异性,同样是承载企业主业务流的,如果不充分了解现有系统的功能、架构、数据和依赖关系,不充分了解应用现代化关键技术的针对性和方法论,可能会导致现代化投入过大或回报过低。
启示
应用现代化的关键技术:数智融合,研发数字化,可组装,服务化架构,安全可信,韧性。作为数字化的核心抓手,应用承载着企业的数字业务,新的技术和噱头层出不穷 ,应用现代化是个长期的过程,如何平稳有策略有步骤的实现应用现代化是每个企业都可能面临的挑战。
〇 分享亮点 〇
1. 趋势分析和洞察:AIGC、云原生等技术引领IT产业变革,应用进入智能化阶段,应用本身会产生哪些改变
2. 整体展现应用现代化对于行业整体的重要性
3. 应用现代化的关键技术
4. 应用现代化实践分享
落地应用现代化的策略和步骤建议
低代码组装式交付的关键场景和能力
〇 分享简介 〇
2022年低代码被Gartner列为12大战略技术趋势之一,在企业应用创新方面效果显著,不仅降低了开发者门槛,让全民开发者加入应用构建,而且通过可视化编排提高开发效率。海外众多企业通过低代码实现应用创新提效和行业经验沉淀。但,目前国内在低代码领域仍处于初期阶段,企业和开发者需要深入理解低代码的背景与技术,选择适合自己的低代码创新之路。
同时,也是现代化应用的关键能力之一,华为在多年低代码的探索和实践过程中,针对不同的场景,建设出不同的低代码平台,满足开发者在可视化大屏、轻应用、工作流、开发框架等不同场景的应用开发需求。Astro低代码平台用自身的数字化实践,应用在智慧城市、数字政府、智慧园区、工业制造、金融、教育等领域。我们传统的软件开发过程往往从基本需求设计、产品规划到前后端应用开发,最后到测试、部署和推出。低代码的简单、开发成本低,加重核心业务的抛光、快速试错,成为了开发强有力的支持。
本次分享将通过华为对低代码行业的探索与实践,将其关键能力和场景结合,为与会者以借鉴。
〇 分享收益 〇
目标:
了解低代码和全民开发者的重要趋势,覆盖的关键场景,创新提效方向,以及华为在低代码领域的探索和实践
成功(或教训)要点:
1、国内外低代码的发展趋势与场景区别,国外低代码启发
2、通过低代码实现全民开发者与专业开发者联合创新,很好的解决开发人力瓶颈与应用构建与发布效率问题
3、AIGC与低代码关系,如何更好地结合,提升开发者的效率和体验
启示
低代码作为企业全民创新的关键技术,覆盖应用需求分析、设计、构建、发布、运维全流程,同时低代码与高代码应该加强协同,突破现有零代码的天花板。结合大模型,低代码会继续降低开发门槛,帮助业界开发者提升体验。
〇 分享亮点 〇
1、低代码国内外趋势与启示
2、低代码技术探索与实践
3、华为云Astro低代码平台关键场景与能力
4 QA
架构安全:DevSecOps进一步安全左移
〇 分享简介 〇
近些年DevOps在众多企业内进行了落地,用以提高业务交付的速度和质量,从而提升企业的竞争力。传统安全开发模式因跟不上DevOps的快速的交付模式,成为业务交付速度进一步提升的瓶颈。为了解决这一问题,DevSecOps应运而生。DevSecOps通过安全左移,实现了安全和软件开发过程的完美融合,在保证业务交付速度的同时,使得软件开发更安全。
目前的DevSecOps安全左移主要集中在开发和测试阶段。然而,许多安全风险和威胁并非直接产生于开发编码阶段,而是项目设计阶段。在软件开发的生命周期中,任何风险与漏洞暴露的越晚,其修复成本和修复难度也就越高。因此,我们需要在 DevSecOps 的实施过程中去引入一整套适合DevOps模式的安全风险评估体系,让安全进行更彻底的左移,帮助项目团队进一步实现高质量和更安全的持续快速的交付。
本次分享将通过实际案例,讲解在技术,流程和人等各个维度的改变,最终实现安全架构设计在DevSecOps模式下左移的具体实现。
〇 分享收益 〇
目标:
1. SDLC安全左移中的安全架构设计
2. 安全架构设计在DevSecOps中进一步左移的具体方案和应用
成功要点
1加速现代化开发,成熟的DevSecOps实现将具有坚实的自动化,配置管理、编排、容器、不可改变的基础架构甚至无服务区计算环境。
2将安全集成到开发过程的所有阶段,形成完善的防御技术,提前发现并修补安全漏洞,从而降低了团队在产品开发周期中花费大量时间调整和修复的需要,成本效益更高。
启示
架构安全左移让DevSecOps团队及早发现潜在的安全风险,并在开发初始阶段确保消除安全威胁,从而进一步保障了产品的安全性并且减少了修复成本。
〇 分享亮点 〇
1 DevSecOps的行业价值解析
2 SDLC安全左移
3 DevSecOps技术和工具实践
4 经典案例: DevSecOps模式下进行安全架构设计左移
5 QA
构建业务弹性:微服务与serverless
〇 分享简介 〇
微服务和 Serverless 正在成为一对最佳拍档。云计算时代,容器和 K8s 的出现让微服务架构开始发挥更大的效能,如今云应用正朝着无服务器(Serverless)的方向发展,Serverless 简化了开发模式,开发者不用再关心 Server ,只需专注业务辑。这时,弹性是业务永恒的主题,新架构为实现弹性提供了突破口。
弹性成为企业架构转型的核心目标,微服务与Serverless被视为重要途径。Serverless 化和微服务化结合,带来极致的优势,我们可以不用再关心环境,因 Serverless 让资源打平,可以随意创造多套运营环境,做隔离、销毁、管理;应用接入更多框架;全生命周期应用托管;动态又弹性的底座;可观测性;场景弹性收缩,均能保证业务的可用性。
本次分享聚焦微服务与Serverless两大架构视角,立足实践案例,剖析弹性的本质,以及提升弹性的技术手段,以微服务与Serverless实践中遇到的困难及解决方案贯穿,让与会者对弹性有更深的理解,学习落地弹性架构的技巧。
〇 分享收益 〇
目标:
1从理论到实践全面剖析微服务与Serverless的最佳实践,
2探索构建弹性业务系统的技术手段,帮助企业提升敏捷性和抗风险能力
成功要点
微服务与Serverless两大架构视角,立足典型弹性架构最佳实践,弹性业务的技术手段,构建整个 Serverless 化的场景
启示
弹性作为思维模式和策略,微服务与Serverless是实现弹性的有效途径,这让弹性需要不断演进架构,才会有最优的解决方案。
〇 分享亮点 〇
1. 剖析面对影响业务弹性的各种挑战,如流量波动、依赖服务故障等。
2. 通过案例剖析微服务架构的主要特征和优势,如服务拆分、高内聚低耦合。
3. 分析如何利用微服务提高业务弹性。
4. 全栈式Serverless如何帮助业务实现弹性扩展
5. 通过实践案例,分析微服务和serverless如何提高业务的弹性,解决遇到的困难。
6. 微服务和serverless的发展趋势及对业务弹性的影响
Pass智能驱动的DevOps软件平台工程化探索
〇 分享简介 〇
平台工程是 DevOps 的下一个演变阶段,相较于 DevOps,其优势是以可持续的方式赋能和助力开发人员。平台工程能够帮助企业组织应对云原生环境的复杂性和增长,同时实现更快更好的软件交付。随着产品发展壮大,用户越来越多,需求各异,如何满足各个群体的使用诉求,不同行业客户对产品功能的需求不同,产品可以针对性的提供,但是底层技术功能应该是统一的。
DevOps带来开发交付一体化,一定程度上,提升了研发效能的提升,但是在交付运维阶段,主要依赖开发人员的参与,开发者的职责扩大了,兼职了交付、运维的职责,拖累了对主业的精力分配。平台工程的目的在于提升开发者体验、加快交付速度、加快业务价值变现。
为此,我们提出基于虚拟化的集群自动化、整合开发调试工具的云IDE、界面化的集群管理工具、以及利用大模型实现对应用的自动化诊断分析、对安全问题的自动化诊断、智能化的yaml编写推荐,通过这些嵌入到平台中,智能功能与工具统一不同开发人员的输出,收敛不一致的变量,提升功能模块的标准化,用可于执行的代码、框架,代替一个个脚本,让功能模块可组合、可交付,可标准化运行。
本分享将结合成熟成功的一套解决方案,规范、规则的,以平台功能+技术实现。在整个产品开发的各方在使用平台的过程中,如何标准化的效能提升,展现平台工程落地实践。
〇 分享收益 〇
目标:
1 一套成熟的平台工程能力(自动化、标准化、规范化)运行模式
2 全面的了解平台能力工程化的脉络和管理
成功要点:
将开发、交付、运维、运营过程中的主要环节,通过平台界面、流水线、自动化等方面的能力,解放开发者,提升软件的交付标准化程度,形成插件式的运行框架,统一的运行环境,实现软件快速交付、标准化交付、标准化运行+智能,让开发者从交付、运维中解脱出来。
启示:
借助云原生、DevOps等行业事实标准,发展配套的运行、管理架构或模式,将标准、规范融入到平台中。从开发者的角度,进一步抽象提取平台共性需求,提高平台能力的工程化程度。
〇 分享亮点 〇
1、DevOps流水线
2、K8s集群自动化
3、多集群全生命周期管理
4、软件打包规范标准
5、软件交付运行生命周期管理
6、数据接口消息能力开放底座
7、自助化封装、对接、运行调试
8、软件+组件+环境的整套交付运行模式
低代码融合AIGC,打造低门槛、高上限的智能开发平台
〇 分享简介 〇
国内外的各零代码、低代码平台发展迅速,低代码平台如何能够兼顾低门槛和高上限,是各大低代码企业容易遇到的痛点。另一方面,随着当前AIGC 技术的爆火,包含页面、逻辑、样式、数据建模等跨领域概念的低代码平台如何与AIGC有机结合、增强智能编程体验,也是大家拥抱AIGC时会面临的挑战。
低代码技术本身就是传统编程技术进一步发展的结果,低代码这种开发模式也是企业提升生产效率必经的一个环节。在软件开发过程中,领域建模是一个非常重要的环节。设计低代码这样一个复杂的平台,就是在对低代码编程进行领域建模。
本次分享结合网易多年来的低代码实践+AI的研究经验,融合AIGC的低代码平台所需的概念模型和工具设施,讲解基于可视化编程语言视角的实现架构,以及针对跨领域概念AIGC的模型训练和工程设计。
〇 分享收益 〇
1.目标:
设计一款低代码平台,从DSL设计上为AIGC智能编程打好基础,从根本上兼顾低门槛和高上限。
2. 成功(或教训)要点:
低代码是软件生产的最佳模式之一,自底向上的低代码DSL的概念抽象和设计方法、基于可视化编程语言视角的架构实践,以及AIGC模型训练和工程设计,低成本最大限度促进数字化转型。
3. 启示:提炼出该内容(或项目)的具体收益点:
效率提升,有始无终。AIGC能生成代码,但并不会取代低代码。低代码平台具备的许多基础能力与AIGC结合会产生更多创新性的功能。
〇 分享亮点 〇
1. 融合AIGC的低代码平台所需的概念模型和工具设施
2. 基于可视化编程语言视角的架构设计
3. 针对低代码跨领域概念的AIGC模型训练和工程设计
4. QA
随着企业业务的不断发展,对系统的可靠性和稳定性的要求越来越高。SRE将软件工程的方法应用于运维领域,能够更好地诊断和解决问题,提高系统的可靠性和稳定性,从而提升企业的业务水平和竞争力。
可观测性作为SRE中非常重要的一环,在现代化的软件系统中,系统规模越来越大,复杂度也越来越高,要求系统的可观测性非常高。可观测性在各种监控、日志、指标等手段来获取系统状态的实时信息,可更好地了解系统的运行情况、诊断问题和进行优化,基于可观测性的基础上,能够实现在变更、容量、压测、性能、容灾、应急定位等各类稳定性高可用场景下的实践和应用。
本专场以SRE构建大型IT系统可靠性工程,以及可观测性领域重要的时序数据库等基础设施和具体场景上的实践经验,进一步分享相应技术架构演进与性能优化实践,让与会者了解整个SRE领域最重要的可观测性相关的基础技术。
出品人:月凡 蚂蚁智能变更和AIOps负责人
服务可靠性工程(SRE)系列深度标准
〇 分享简介 〇
随着数字化转型的快速推进,应用程序和服务的复杂性不断增加,确保它们的稳定安全运行对于现代社会的高质量发展至关重要。信通院自2020年起开始致力于稳定性保障工作的研究。2021年基于SRE方法论,相继发布了可观测性、混沌工程等关键技术领域的行业标准。一些标准为工信部制定稳定运行政策文件提供了支持,并全程全面地支撑了工信部在全国范围内推行的“云服务稳定安全运行应急演练专项行动”,推广了SRE方法论的应用。
为进一步规范SRE的认知,信通院牵头撰写了SRE体系标准。该标准从技术应用与平台能力建设、SRE核心能力模块以及文化与人员管理三个方面进行了全面阐述,旨在推动行业对SRE的理解和应用。
本次分享通过此标准,统一业界对SRE的认知,促进SRE在各个层面上的广泛应用,从而进一步提升应用程序和服务的稳定性和可靠性。
〇 分享收益 〇
目标
1. 了解SRE方法论:SRE标准体系,了解SRE在业内获得统一认可的建设和评级模型。
2. 推动行业理解和应用:推动行业对SRE的理解和应用。
成功要点:
传播SRE的价值和实际效果,进一步让企业和行业在推动SRE中采用、实施其步骤中,提升应用程序和服务的稳定性和可靠性。
启示:
更好地理解政策层面对于应用程序和服务的稳定运行的重视程度。有助于企业在组织内部制定符合政策要求的应用程序稳定性策略和应急演练计划,以确保稳定性合规。
〇 分享亮点 〇
1 SRE发展历史
2 SRE系列标准体系
1)技术应用与平台能力建设
2)SRE核心能力模块
3) SRE文化与人员管理
3未来SRE规划
智能性能容量平台建设优化实践
〇 分享简介 〇
在数字化的浪潮下,企业纷纷上云,但对于如何高效地用云,减少不必要的IT资源支出的问题,同时保持业务的健康发展,业界一直在探索方案
企业一般靠人分析账单,判断资源消耗热点,再层层递进找到浪费的实体,但在释放资源时,为了保证业务的平稳运行,通常采用偏保守的策略,该过程缺少自动化的精确决策,导致无法推广到大规模且不可持续,需要数据驱动的完全自动化的解决方案。蚂蚁作为很早就上云的科技公司,性能容量与技术交付平台有很多研究。
本次分享将在线业务领域,特别的是业务关系金融民生,使用又快又稳的降本方式,最大化的依赖数据产生的最大价值。让与会者看到蚂蚁依靠数据和算法,大幅降低资源成本的方法论和平台建设实践。
〇 分享收益 〇
目标:
通过蚂蚁性能容量平台的建设实践分享,给其它用云企业一些输入和启发,帮助其安全可靠地降本增效
成功(或教训)要点:
基于数据和算法的智能决策,及时发现应用的容量不足风险或存在的资源浪费,并智能化化调节
启示:
企业正确管理和分配服务器资源,实现提升业务稳定性的同时降低成本,减少碳排放。
〇 分享亮点 〇
1. 容量稳定性体系建设
2. 弹性伸缩和容量规划
3. 性能洞察和优化
QA
基于SRE可观测的AIOPS实践
〇 分享简介 〇
伴随着网站架构的演进,运维变得越来越复杂,从传统运维、自动化运维到如今已开始逐渐迈向智能运维的深水区,每个阶段的迭代都围绕着如何解决大规模、复杂、不确定场景下的质量、效率和成本问题。目前,大多数企业的运维痛点围绕着运维实例规模的急剧扩张、技术多样性并迅速演进、企业上云甚至多云模式下引入的差异及复杂性。
当下,AIOPS技术改变了诸多的运维模式,从基于规则到数据驱动、从静态到动态自适应、从局部到全局、从被动响应到主动感知,在提高网站稳定性、提升研运效率、优化容量成本和服务治理等方面带来了更确定性的解决之道。
本次分享将围绕携程SRE体系和可观测性,借助AIOPS在网站稳定性、服务治理、容量、运维效率等场景的探索与实践。
〇 分享收益 〇
1.目标:
多角度洞察从传统运维、自动化运维、智能运维迭代过程中由于资源规模、技术演进带来的痛点、问题以及基于场景的解决方案
2.成功要点:
a) 建设以应用为核心的平台工程,具备规模化运维能力
b) 建设可观测性平台和数据后台,持续打磨数据价值和数据治理
c) 建设运维大脑,将数据、算法和运维领域知识相结合,从网站稳定性、服务治理、容量与成本、效率等角度提供自动发现问题、定位问题和解决问题的线索和决策建议,推动组织在系统、人员、流程上的优化
3.启示:
a) 海量的数据、规模化运维带来的场景复杂性是人工智能技术赋能运维的根本出发点,需要避免简单问题复杂化,在解决痛点的前提下发挥数据价值是关键
b) 数据质量和效率、数据管道的可靠性是做好AIOPS的基础
〇 分享亮点 〇
1、通过运维迭代的过程阐述当前运维的痛点与难点
2、基于SRE AIOPS的思考与理解
3、AIOPS的场景和当前普遍解法
4、携程在运维大脑的探索和实践
5、QA
强业务韧性的云原生可观测运维技术
〇 分享简介 〇
数字化转型浪潮下,企业IT架构进入云原生时代,实现了效率提升,也带来了更为复杂的运维挑战。交付效率要求提高,持续构建与发布、故障应对都让系统复杂程度升级,快速定位问题、提供链路分析、生命周期缩短,故障环境修复等,都能够通过系统可观测性建设得到答案。
系统可观测性成为必要,大型互联网应用的显著特点是高并发和复杂的架构体系。在这个技术架构中,服务链路错综复杂、微服务与分布式趋势增强,环境容器化等一系列变化也使得监控技术必须改变。此时,传统的监控技术已经不足以满足企业的高效排障的运维需求,这也正是可观测性取代传统监控成功上位的原因。
企业传统监控告警存在监控割裂、系统多、关联弱等问题,导致发现、定界、定位故障的能力不足,可观测性是解决这些不足之处的新晋热门技术。为提升大型系统的业务韧性,必须在监控告警体系之上进行升级,加强可观测性建设。为提升可观测性,需要深入理解业务架构,对观测对象分层分级、对观测数据进行横向纵向的关联、充分利用算法能力和数据分析能力让工程师变被动为主动,从而更快发现故障定位问题。
本次分享在复杂互联网平台如何加强可观测性建设,通过讲解案例讲解落地方法,重点讲述SRE如何通过可观测性来发现、定位、判断故障、修复决策,算法来自动化定界定位,帮助企业建设一体化平台化,升级运维体验。
〇 分享收益 〇
1. 目标:
1)SRE大型IT系统建设和改进增强可观测性能力;
2)SRE通过建设可观测性,达成跟研发、业务对齐工作目标和创造价值、体现价值的效果。
2. 成功(或教训)要点:
1)横向服务大量的业务,以一套统一的、低成本、高效的观测系统能对稳定性保障有重大帮助,能帮助工程团队对业务有更深刻认知;
2)纵向观测可深入理解系统的技术架构、系统架构。SRE可观测性建设需要加强关联性,把海量的状态信息串联起来,通过AIOps算法去理解系统状态,感知系统状态变化。
3启示
可观测性建设需要SRE围绕软件系统生命周期管理,从其设计到部署各个阶段加强观测性,认识到观测性的本质、深入理解系统,在系统发生变化后能快速感知到,做出准确决策并行动。
〇 分享亮点 〇
1复杂互联网软件系统中如何建设可观测性
2通过可观测性来发现、定位、判断故障,及案例
3告警即定界的建设思路及实践案例
4 QA
B站可观测平台保障业务稳定性实践
〇 分享简介 〇
云计算、云原生和大数据与AI等技术的蓬勃发展,给基础架构提出了新的要求与期待。而其核心目标并没有改变,仍是保障产线系统的质量、效率和成本。在这个过程中,可观测性帮助企业更好地洞察、优化和提升价值的核心方法。
在过往这些年,围绕指标、日志、Trace等各种观测手段层出不穷,帮助企业在复杂架构和链路中响应、定位和治理问题的过程中大幅降低故障处理时长,提升处置效率。可观测体系建设的目标是明确的,但,各个公司的基架标准化水平和资源投入都不太一样,如何更加务实的建设可观测平台、更加高效的保障稳定性目标,是值得我们持续思考的。
本次分享可观测体系建设的方法和思路,以及可观测平台保障SRE稳定性目标的实践。不仅看到可观测平台自身能力建设的实践,也能看到可观测与稳定性相关的场景化案例,给与会者带来最大的借鉴。
〇 分享收益 〇
目标
1、了解如何利用可观测性分析复杂业务场景、架构链路和应用风险
2、掌握如何构建以业务稳定性为核心的可观测体系
3、学习B站可观测实践的经验教训和启示
成功要点:
1、以业务需求为导向,结合组织和资源考量,专注于业务稳定性的主要目标,建设高效务实、适合自己的可观测平台。
2、以业务稳定性为主要目标,既夯实技术底座,又提升平台效率,还能推进架构标准化与数据质量建设,助力业务稳定性提升。
启示:
1、可观测性可以帮助业务提前发现风险隐患,快速感知并定位问题,持续优化改进,压缩故障时长,提升业务稳定性。
2、不脱离业务需求去建设可观测性,不一味追求技术先进性,适合自身的方案才是最好的方案。
可观测性不仅是一种技术手段,更是一种思维方式,企业需要一套良好的文化和机制推动,让可观测性成为团队的习惯和优势。
〇 分享亮点 〇
1、业务稳定性建设痛点与对可观测性的需求分析
2、可观测体系建设的方法和思路
3、B站可观测性保障业务稳定性案例
4、QA
数字化监控可观测性稳定保障实践
〇 分享简介 〇
在数字化转型的浪潮下,随着云原生技术的不断成熟,企业数字化转型也在不断加速,企业IT架构进入云原生时代,多云多集群部署已经成为常态和趋势,几何增长的云资源、微服务以及复杂化的调用关系与业务场景,传统人肉运维难以为继。如何保障系统的全面稳定,保证业务流程的高效运转,为系统运营提出了不小的挑战。
在云原生时代下,系统稳定性必须将安全生产保障左移,在入网控制之前介入,对入网控制、发布上线、故障预防、故障发现、故障定位,故障恢复、故障改进提供端到端工具支撑。
本次分享将围绕安全生产保障体系建设思路,以及端到端、全层级、全流程的系统全生命周期稳定性保障工具建设视角,展现可观测性建设、系统稳定性管理等领域的实践经验。
〇 分享收益 〇
目标
1、管理体系+技术体系结合视角,解读安全生产保障体系落地思路
2、以平台+应用模式构建系统全生命周期稳定性保障工具建设思路
3、横向到边、纵向到底的全层级全链路可观测性建设落地实践思路
成功要点
1、基于云原生下的生产运营支撑平台,以全局运营视角解读IT运维,提供端到端、全层级的运维工具支撑。
2、依托大数据与人工智能技术,助力企业数字化业务高效、稳定运行,从传统运维向自动化生产、智慧化运营转变。
启示
让企业运维数字化转型中提前发现风险隐患,可观测快速发现并定位问题,持续优化改进,有效压缩故障时长,全面提升系统稳定性。
〇 分享亮点 〇
1系统稳定性痛点挑战
云原生场景下的企业运维数字化转型痛点挑战
2安全生产保障体系
阐述安全生产保障体系的落地实践(制度、组织、工具、运营)
3稳定性保障工具实践
数字化监控平台工具能力(可观测性、稳定性保障、故障管理等)
4 QA
后疫情下,无论个人日常生活还是政府的社会治理,数字化渗透的程度都产生了明显的改变,同时,在企业管理上,特别是研发型企业组织中,“项目”作为实现战略、交付价值最重要的手段,项目管理的数字化也发生了长足的进步:割裂的产研活动信息在被打通、全链路的价值效率在被度量和分析、产研的工作方式正在被重构、更加精细化的组织管理和运营成为可能。
本专场将聚焦互联网组织里的项目管理数字化转型,通过解析不同互联网公司在项目管理数字化上的理念思考、架构设计及实践案例,给参会者从多个视角全面概览“项目管理数字化”这个话题的机会,希望帮助大家在这个话题上能刷新认知,并对其他公司的组织管理改进提供参考、带来启发。
出品人:鲁佳 大淘宝PMO高级项目管理专家
数字化转型之下价值驱动与动态决策的项目管理模式
〇 分享简介 〇
价值驱动是整个项目生命周期过程中各项活动的行动指南,也是实现价值交付系统的组织战略目标,为组织及其干系人创造价值。这是数字化时代下的项目管理者,有更好的体系框架进行有效项目管理的手段。
在数字化转型的浪潮下,传统企业面临诸多机会点,如何有效选择并成功实施,这背后都涉及到诸多项目立项及实施管理。当传统企业在面临数字化需求的不确定性,需求模糊和易变性特点时,仍然采用传统瀑布式项目管理方法时显得力不从心,无法快速响应需求及变化。因此传统企业需要一套新的项目管理方式来提升组织快速响应数字化下的需求。
本次分享将提出一套全新的体系框架动态投资组合(EDGE),并结合精益价值驱动、敏捷快速响应等一系列实践组合。帮助传统企业以客户为中心、快速响应等典型的项目管理最优方式。
〇 分享收益 〇
目标:
1. 为项目经理提供一种全新的视角(价值驱动)及精益敏捷思想来解决数字化需求的项目管理中的难点。
2. 为项目经理提供一套轻量级实践集合可以帮助项目集经理与项目经理提升项目投资管理和价值交付。
3. 双模多场景的模式赋能项目经理有效管理复杂环境下的项目交付
成功要点
项目中充分运用价值驱动与动态决策的机制,使数字化需求能以更快速、更低成本的满足用户诉求、为业务带来增长。
启示
在管理数字化需求的项目中,始终以用户为中心提供价值作为方向。并以持续迭代学习了解用户在结合动态投资决策,可以有效管理项目全生命周期。
〇 分享亮点 〇
1数字产品与数字化需求的特质
a数字产品的定义与特质
b数字化需求的特点
2瀑布式项目管理现在面临的挑战
a计划驱动还是价值驱动
b长周期与快速响应的冲突
c先造轮子还是先造滑板车
d一次性投注与动态投注
e“项目”与“产品”思维影响
3应对复杂场景下的双模多场景交付管理方式
a企业的复杂场景分析
b双模多场景管理模式的优势
c双模多场景管理实施办法
4经典行业实施案例
a头部金融客户实施案例
b头部科技制造业实施案例
C头部保险公司实施案例
5 QA
基于OKR价值交付的B端数字化效能改进
〇 分享简介 〇
后疫情下,影响消费低迷且互卷的市场情况居高不下,前有客户铺天盖地个性化的需求,后有竞品在不断”卷价格、卷功能”抢客户,在有限的资源下,企业逐渐陷入“保交付”和“产品力做深做厚”两难境地。如何降本提效,以最小的成本保交付&以最快的速度创新产品和服务变成了重要经营策略。聚焦在业务价值驱动运产研融合,并高效交付有效价值变成我们项目管理中的关键。
本次分享聚焦 B端数字化价值交付体系,围绕降本提效,以业务价值来驱动,产研效能管理为抓手,向前把控价值评估和导入,向后价值回溯与兵力盘点形成业务价值闭环。结合阿里+网易的业务项目经验,分阶段建立体系并推进落地的成功案例。
〇 分享收益 〇
目标:
阐述以业务价值驱动为核心价值交付体系对于交付效能所带来的变革和效果,并结合以往公司的成功案例进行验证
成功(或教训)要点:
1)体系建设:搭建适合业务现状的价值交付体系
2)工具建设:项目管理平台建设及项目数据可视化
3)复盘改进:针对指标数据进行回溯和改进,形成业务价值闭环
启示:
使用okr、项目管理平台工具化体系落地,以建立核心数据指标体系,形成可视化报表,全面review数据指标,对业务策略、项目策略、体系策略进行改进,是业务和组织现状因地制宜建立价值交付体系的根本。
〇 分享亮点 〇
1、to B 项目管理浅析
2、以业务价值驱动机进行变革的原因剖析
3、价值交付体系主要内容
4、价值交付体系成功案例
5、QA
先进企业的业务研发效率管理
〇 分享简介 〇
互联网企业的战略落地,依赖于业务研发的高效、准确和可持续的交付。在行业大背景降本增效且业务发展进入深耕阶段的时候,如何看清楚并管控好研发的交付过程,注重成本的控制和质量的提升,显得尤为重要。
从内部看,卓越的研发效率管理能够使管理者有数据进行指导改进且辅助决策,同时,使得我们更加了解一线研发过程中瓶颈和问题,更加有的放矢的改进。通过合理的可落地的研发效率管理,保障并提升业务研发的交付的持续、有效、速度、质量,从而为战略落地保驾护航。
本次分享从大型企业研发项目管理视角,洞悉业务研发在研发效率方面的思考和相对最优实践,及偏后链路的工程团队实践,最大化的形成高效研发团队。
〇 分享收益 〇
目标:
1、 业务研发效率如何建立度量模型、完善度量体系,为后续的持续改进提供基石
2、 业务研发的工程团队如何摆脱“工具人”
成功要点:
真实的现状利于规划切实可落地的打法,切片和聚焦现状,不采用全面铺开落地,而是优先去实现当下可解决的,且,权重优先,并选取合适的试点快速试跑和迭代,便于可以更快速的拿到结果。
启示:
研发效率一定要基于现状去推进,多维度考虑现实可行性,不能变成纯指标驱动的提效,同时在过程中需要不断校准目标,从而保障研发交付效率的可持续。
〇 分享亮点 〇
1、业务研发效率演进路线
2、业务研发效率面临的挑战
3、业务研发效率推进
1)需求管理如何破局。
2)项目管理如何支撑。
4、业务研发工程团队的生存之道
5、Q&A
大型互联网组织数字化管理建设
〇 分享简介 〇
互联网的流量红利时代已经过去,未来需要从过去一路狂奔式的成长,转变为关注“经营管理的提效”。这也代表着对组织提出更高要求,既要做到对外能快速响应和拥抱市场变化,对内也要能保障目标达成的资源效率最大化。
影响组织目标达成的因素有多种,在企业内部,最常见的是用项目管理来承接上层战略的落地。除了目标本身的制定与关联咬合,还涉及到产品与项目体系的脉络梳理、资源与兵力部署、研发效能管理、组织资产沉淀、成本收益分析等等。在这个过程中,呈体系的数字化建设,不仅能帮助组织做“熵减”,降低无序程度,还能提高运作效率,打破信息孤岛,将上下游链路完整串联起来,形成分析决策依据,将进而助力组织的目标达成。
本次分享以大淘宝为例,阐述互联网企业在数字化建设上的具体探索实践和思考总结,并让与会者看见先进组织的工具、流程、数字化能力的建设经验。
〇 分享收益 〇
目标:
从工具视角了解大淘宝在组织经营管理、项目管理、数字化能力建设方面的思考和实践。
成功要点:
1. 流程和能力要做因地制宜的裁剪,避免照葫芦画瓢。从规范化、在线化、自动化,到为决策提供依据。要想避免受到质疑,一定要形成体系化,可以做到多个维度相互验证,保证其真实性与准确性。
2. 数字化管理也是一种管理手段,是管理就会有管理的理念,管理系统的设计一定是带有设计者的管理理念的,在管理产品设计之前一定要和相关方就管理理念达成一致。
3. 数据不是目的,改进和形成更优的工作方式才是。需要结合运营的手段,体系化的推动变化。
启示:
1. 在线化信息要形成体系串联,产出完整有效数据,辅助最终的分析决策判断、识别具体问题、提供解决思路。否则,其有效性、置信度和价值认可,将会受到折损。
2. 产品设计的同时,要搭配好运营策略,不断优化,才能让机制/流程长期运转,产品系统被有效应用。
〇 分享亮点 〇
1. 企业数字化管理浅析
诠释大众理解与常见的“误区”
2. 数字化管理建设的必要性与实施方向
结合内外环境的趋势变化,说明为什么组织在此时此刻更迫切地需要去做数字化管理建设,以及站在互联网视角下,如何因地制宜地去做规范/体系/能力搭建与运营推广。
3. 通过项目管理作为出发点,以承接保障组织目标达成为核心,从点到面地介绍数字化体系建设的搭建思路。
a) 单项目管理:围绕项目生命周期,讲述核心节点的把控、产品设计与提效手段。
b) 项目组合/项目集管理:站在组织经营视角下,如何结合目标、兵力、成本、资产等因素,更快速地呈现网状关系下的决策分析依据。
c) 能力建设与运营节奏
d) 过程中的一些思考总结
QA
组织级项目管理平台建设经验分享
〇 分享简介 〇
只有在一个良好的组织级管理体系中,项目经理才能够吸收组织的经验、弥补自身的不足、及时得到战略层的帮助,从而大幅提升项目的业绩。任何企业都渴望组织有高水平的项目经理和项目团队,但更希望拥有高水平的组织级管理体系。
在当下环境中,企业面临着快速变化的市场需求和技术不断创新的挑战。对于大型科技企业更是,国内网约车业务已经发展成为包括几千名业务、产品、研发的大型组织。如何升级组织内协同机制,让业、产、研高效协同,成为了典型面临的重要问题。我们进行了多年的探索和实践,通过建立一套协同管理体系以及相应的线上化平台来承载新的协同方式。新平台的建设,一方面要配合业务节奏,解决过程中涌现的各种问题,逐步搭建和迭代不同模块;另一方面,需要充分照顾协同网络中使用者的体验和效率。经过几年的建设和迭代,组织级项目管理平台已成为了一个支持多种业务形态、多种角色的管理平台。同时,借助这个平台,打通了产研全流程的过程数据,支撑了内部的研发效能度量。
本次分享将大规模组织级项目管理平台建设方面的经验输出,帮助大家了解和提升组织级管理体系。
〇 分享收益 〇
目标
1了解大型组织产研管理思路和实践
2组织级项目管理工具平台建设路径
成功要点
全生命周期项目管理的方式,可透明化项目资源投入,降本增效。
组织级项目管理平台的建设,让有限资源合理规划平台能力。
通过分级指标体系量化管理,提供决策支持,真正实现项目管理平台实现端到端研发效能度量。
启示
高水平的项目经理和项目团队,均需拥有高水平的组织级管理体系。
〇 分享亮点 〇
1. 滴滴工程效能工具演进路线
1) 外采系统快速搭建,自建领域系统丰富能力,平台化整合,体系建设四个阶段
2. 复杂组织管理的挑战
1) 业务驱动下,业产研协作面对的挑战;
2) 大型公司多业务线、多形态业务对工具平台的挑战;
3. 工具平台建设路径
1) 支持业、产、研网状协同的需求管理方案;
2) 支持多种业态的项目管理方案;
4. 拓展场景建设
1) 以投入产出度量为目标,连通目标管理与资源管理的建设路径;
2) 以评促建的研发效能度量建设路径;
5. 产品建设及方案落地过程中的经验教训总结;
QA
生成式大模型成为了近期AI技术研究热点,也是一次AI技术的变革,会迎接到几大技术趋势:生成式AI进入应用爆发期,将极大推动数字化内容生产与创造;城市数字孪生在大规模趋势基础上,继续向立体化、无人化、全局化方向演进;基于多模态的预训练大模型将实现图文音统一知识表示,成为AI基础设施。融合运筹优化和机器学习的双引擎智能决策,将推进全局AI动态资源配置优化等等
智能浪潮下,任何一个领域都有被重塑的可能,本次专场将讨论生成式大模型相关技术的发展趋势,并探讨在各个行业和领域应用的机会和挑战。
出品人:张佶 阿里巴巴达摩院资深算法专家
大模型时代下的视觉大模型:落地实践与未来探索
〇 分享简介 〇
AIGC特别是Stable Diffusion、chatGPT/GPT4的推出,让大模型开始走出实验室,真正进入生产环境下的普及阶段。与语言大模型相比,视觉大模型更侧重感知能力,在研发和应用中需要面对更为广泛和复杂的场景挑战:从传统的视觉单模态走向图文多模态,实现开放世界的通用目标检测,实现视觉大模型与文本大模型的联动互补,以上都是当前视觉大模型亟待解决的问题。
本次分享将从从工业界的视角,梳理360人工智能研究院在视觉大模型方向的探索和心得;视觉大模型在搜索、短视频、安防场景落地的成功案例;同时也将对近期火热的多模态大模型研究进行总结和梳理,一并引出360人工智能研究院在MLLM方向上的研发思考。
〇 分享收益 〇
目标
1.了解视觉大模型方向的研究进展;
2.了解视觉大模型在工业界落地的考量因素及成功案例;
3.了解多模态MLLM未来的工作方向 。
成功要点
大模型的核心不仅是模型参数量大,更为关键的能够充分利用以往无法利用的“大”数据。
启示
视觉大模型的未来必然走向多模态融合和跨模态对齐,这一方向也更为符合现实业务对于AI能力的实际需求。
〇 分享亮点 〇
1. 视觉“大”模型的大指的是什么?
2. 视觉大模型案例1:跨模态
3. 视觉大模型案例2:开放世界目标检测
4. 视觉大模型与文本大模型的融合:MLLM
5.360研究院在MLLM方向的研究成果和未来方向
基于LLM + 知识图谱的新技术栈
〇 分享简介 〇
随着大语言模型和生成模型的飞速发展,人工智能和认知智能系统的主流实现方式正在经历翻天覆地的变革。这种进步不仅深刻地影响了信息检索、智能决策和内容生成等领域的自动化和智能化,而且还带来了前所未有的智能化成本效益。然而,这一进展的真正核心在于结合私有知识和大语言模型来构建智能应用。
传统的大模型技术已经能够通过语义检索能力的嵌入和向量搜索,轻松地接入超出token限制的非结构数据,但这只是开始。要真正实现基于私有知识的高效智能应用,企业必须进一步探索。这不仅仅是通过向量数据库和LLM构建demo,更重要的是确保结果质量和准确性。为此,知识图谱(Knowledge Graph)作为搜索增强和记忆层的核心组件显得尤为关键。
在本次分享深入探讨图的搜索增强与上下文学习的最新研究成果,解开“知识图谱与大语言模型”相互补充的奥秘,帮助企业打造图谱驱动增强的、可解释大模型落地应用,同时,阐明知识图谱和图数据库融合大模型技术的新标准组件。
〇 分享收益 〇
目标
1.掌握 LLM Graph RAG、Graph in-context learning 的核心原理、方法及其在实际应用架构设计中的实施方式。
2.深入理解大语言模型驱动新知识图谱的构建与应用。
成功要点
知识图谱的优势在于其能够提供结构化的、细粒度的知识,并且具有独特的推理和解释能力,这使其在大模型应用中发挥关键作用。大模型不仅促进了知识图谱的构建,还为图谱的集成层带来了降维的机会,从而简化了整体应用流程。
启示
结合大模型和知识图谱可以极大地提高AI系统的解释性、可视化能力,同时确保准确性和细节处理。未来,通过充分利用大模型的语义理解能力,结合知识图谱,可以将AI的应用扩展到更多的实际场景,实现更大的价值。
〇 分享亮点 〇
1.知识图谱与图数据库的核心解析:Graph、知识图谱和图数据库
2.大模型私有知识的探索:深入了解LLM RAG、现有应用范式及其存在的问题点。
3.进化的大模型范式:LLM Graph RAG的新范式及其在实际应用中的优势。
4.知识图谱的创新:探讨通过LLM加强知识图谱的构建和应用。
5. QA
大语言模型垂直化训练技术与应用实践
〇 分享简介 〇
与实体经济相结合是大模型未来的发展路径,特别多的企业将大模型落地到垂直领域,打造出金融、医疗、电力等领域的专业大模型。大模型都绝不是昙花一现的风口,而是影响人类发展的重大技术变革,也是拉动全球经济增长的引擎,是绝对不能错过的重大战略机遇。
大模型作为当下科技创新的焦点、全球人工智能竞赛的主战场,也带来了诸多研究挑战。以chatgpt为代表的的通用大语言模型技术,在搜索引擎等场景也展现了非常高的价值。却在垂直场景使用上缺存在挑战:不能很好理解领域知识,领域效果不够好;
存在数据泄密的问题,为此很多公司都禁止使用chatgpt;除了搜索、问答,还需要探索更多应用场景等,为了解决这些问题,最常用就是结合领域数据训练垂直领域的大语言模型,但训练大语言模型还是比较复杂,而且成本很高。
本次分享结合达观在大模型的实战经验,探讨垂直大模型训练的一些关键技术以及在办公场景上的应用。帮助更多企业打造专属模型,推动各行各业更快更好地分享智能化红利提供借鉴。
〇 分享收益 〇
目标:
了解垂直大语言模型训练的关键技术,以及办公应用场景
成功要点
1垂直模型需要选择合适的参数规模,太大成本太高,太小效果不好
2数据源的挑选和使用,对效果起到至关重要的作用
3、每次训练的成本非常高,训练过程中可以通过加速、微调等方法减低成本
4、除了问答之外,很多的场景可以充分发挥大模型语义理解的能力来提高效率
启示:
未来垂直大模型是重要的研究方向,通用模型和各领域专有的知识数据结合,让大模型从“万事通”变成政府通、行业通和企业通,这才是真正的价值。
〇 分享亮点 〇
1、行业需要垂直大语言模型的特征
2、垂直大语言模型训练的关键技术,包括了参数选择,数据挑选,微调方法,训练加速等
3、达观使用大语言模型的技术应用
4 QA
生成式AI个性化对话大模型
〇 分享简介 〇
ChatGPT 的发布极大地推动了生成式 AI 对话大模型技术的发展和工业应用,但随着人工智能生产力的极速发展,我们需要的不仅仅是一个功能性工具,而是一个更具有情感和温度的伙伴,它能够更好地理解用户需求和情感,提供更契合用户心理的个性化服务,生成式个性化对话大模型正是构建有“情商”的智能对话机器人的关键技术。
早在2022年初,阿里开启了生成式个性化对话大模型的研究工作,定义的个性化对话大模型是集知识、情感、个性、记忆的四位一体:知识,掌握丰富的世界知识,且能够获取实时知识,实现开放域对话;情感,情感的理解表达,实现有共情有温度的对话;个性,有鲜明的对话风格,实现自定义的人设对话;记忆,具备长短期记忆,实现用户偏好感知的对话。其个性化对话大模型也初步具备四位一体的能力,尤其是在知识、个性和多轮记忆方面表现突出。
本次分享将结合达摩院最新的研究和实践,探讨生成式个性化对话大模型的解决方案,并分享基于个性化大模型深度复刻个性化角色的最佳实践。
〇 分享收益 〇
1. 目标
a.了解个性化对话大模型的研究进展、趋势与应用;
b.了解个性化对话大模型的构建方案以及深度个性化角色复刻的实践经验。
2.成功(或教训)要点
a. 知识、情感、个性、记忆是个性化对话大模型的四要素;
b. 具备复杂指令遵循能力,让模型可以扮演多种角色、按照指令要求进行对话,是个性化对话大模型成功的关键。
3. 启示
个性化对话大模型可以面向终端用户提供更令人兴奋的个性化对话交互体验,个性化对话大模型的情绪价值是下一个赛道。
〇 分享亮点 〇
1. 个性化对话大模型应用
2. 个性化对话大模型技术实践
3. 深度个性化角色复刻最佳实践
4. QA
大语言模型在ICT领域的应用及实践
〇 分享简介 〇
人工智能大模型具有重要的战略意义,是未来科技竞争的制高点,也是重要的智能基础设施。ChatGPT发布之后,整个AI行业都呈现出火爆的态势,各行业均加大投资投入,加速了大语言模型的发展,使其快速应用到2C和2B的场景(例如办公场景)。这种新的范式势不可挡,我们要以更积极的态度去拥抱技术的发展。
AI正加速发展提供颠覆性范式创新,例如,2020年的AlphaFold展现出惊人的蛋白质结构预测效率,2022年的AlphaTensor发现了迄今效率最高的矩阵乘法运算法则。AI为科学研究和技术创新范式带来了全新机遇和挑战。备受国家瞩目,国家科技部、自然科学基金委也于今年3月联合启动了AI for Science专项部署。为此,应重新审视这一变局下的科技创新范式。尤其智能领域创新,一方面以智能技术先行带动体系创新,如概念设计、战法创新,另一方面是重新梳理创新成果体系,重视算法等软实力打造,以及大模型加持下的技术集成、模型训练方式创新等。
本次分享将以华为成功创新实践,探索大模型本质。通过机器翻译、智能运维、领域问答等几个场景,来诠释SFT、self-Prompt等技术,大模型为迈向更高级形态的AI奠定了重要的阶段性基础。
〇 分享收益 〇
目标:
1理解大语言模型本质,以及针对大语言模型的研究及应用实践。2能够自己动手针对自己工作场景的一些问题,采用self-prompt,sft,cot数据生成等技术去改进工作中的问题和优化流程。
3实现从理论到实践,从实践到生产的落地。
成功要点:
大模型可对人的历史经验、判断偏好、直觉认知进行精确理解,变成可供计算的特征表达;这些机器的推理计算过程及结果可通过自然语言留存。在运维、领域问答中,都会进一步促进人机混合智能的AI高级形态。
启示:
以智能技术先行带动体系创新,在研发模式中,打造算法等软实力,加持大模型技术集成、模型训练方式,粗浅地勾勒出人工智能的图景。
〇 分享亮点 〇
1. 大语言模型的现状
2. 大语言模型常见任务及构建方法
3. 大语言模型的研究及应用实践
4. self-prompt应用于智能运维
5. sft在领域翻译的实践
6. cot数据生成和评价
总结展望
近期,国家积极发布数据要素、数字经济、数字中国方面的政策,全力推动数字经济和数字中国发展。数据科学是为数字经济和数字中国提供基础与技术支撑的学科,它以大数据为研究对象,以机器学习、统计学和数据可视化等学科为主要理论基础,运用建模、分析、计算和机器学习等方法研究从数据到信息、从信息到知识、从知识到决策的转换,释放数据价值,最终实现生产力的提升。
本专场将结合政务、金融、工业等领域的数字化转型实践,向业界呈现如何利用数据科学释放大数据要素价值、构建数据智能应用,并最终支撑数字经济的发展。
出品人:刘译璟 百分点集团技术副总裁兼首席架构师
大语言模型在搜索推荐广告领域的应用、机遇和挑战
〇 分享简介 〇
当下工业界的主流搜索、推荐、广告范式,是在以“深度学习”为代表的“人工智能”和“机器学习”技术红利基础上发展起来的。在这之中,不乏一些龙头企业将“深度学习搜推广范式”应用到炉火纯青,它们在自有平台的应用场景中,利用日积月累的海量大数据,为用户提供个性化的智能服务,比如电商元老“淘宝”,内容翘楚“抖音”。然而历经数十年的发展后,搜推广技术不可避免地走入了“高原期”,用户反馈模糊、交互稀疏、数据噪声大、可解释性差,以及产品形态和技术架构固化等,这些都是现实场景中亟需解决的问题。
2022年以来,以ChatGPT为代表的大语言模型技术蓬勃发展,在chatbot和搜索引擎中已有了具体应用,但大语言模型技术带来的冲击远不止于此。可以预见到,在不远的将来,搜推广技术体系将会开启一场脱胎换骨的改造。一方面,大语言模型,作为一款可定制化改造的“微产品基座”,可以驱动当下搜索、推荐、广告的产品形态发生质的改变。另一方面,大模型技术的核心:基于生成式模型的语言理解方法、以及多模态语义对齐技术,可以被直接应用与改造搜索、推荐、广告系统中的多技术模块,包括但不限于内容理解、用户理解、物品表征、语义泛化、数据处理等。
本次分享回顾当下业界主流的搜索推荐广告架构;剖析大语言模型技术的本质和优势;以及探寻二者深度结合的契合点和路线图,深度探讨大模型时代算法技术迭代的新思维模式。让参会者理解当下搜索推荐广告技术的问题与瓶颈,尤其是大语言模型背景下,工业级搜推广框架中将会遇到的机遇与挑战。
〇 分享收益 〇
目标:
1. 当下主流搜索推荐广告的系统业务目标、技术体系、痛点。
2. 大模型技术对传统搜推广体系的改造和挑战分析。
成功要点:
1. 引入大语言模型技术,提升内容理解和表达能力。
2. 新的交互模式,增加用户粘性,更好地理解用户。
3. 优化内容生产以及供应链,提供多元丰富的copilot自动化工具。
启示:
拥抱大语言模型时代,革新思维模式,积极推动新技术在传统搜推广体系中的变革。
〇 分享亮点 〇
1. 主流搜索推荐广告的技术体系
2. 搜索推荐广告的技术瓶颈或痛点
3. 大语言模型的技术发展现状
4. 大语言模型技术对搜推广技术体系的影响
5. 总结:新的技术体系下,机遇和挑战并存,未来的发展趋势。
6. QA
空间计算:从数字孪生到生成式AI
〇 分享简介 〇
无论是赋能用户的协作设计,还是利用数字世界帮助观众在虚实之间切换、互动,乃至星球级别的数字挛生,都离不开扩展现实 (XR) 所创造的逼真、沉浸式环境。因为一体式头显可实现无线虚拟现实体验,从而日益流行。但这类一体式头显难以提供能满足企业级工作流需要的性能,比如实现复杂的模拟或实现数百万个多边形的细节可视化等
新一代沉浸式技术正在变得更容易获取,图形学和 AI 领域的最新技术突破正持续扩展 XR 的功能。云端流式传输、协作工具、真的渲染以及 AI这四项技术,正在树立 XR 生态系统新标杆。
本次分享从 XR 展开,随根溯源、借 XR 历史沿革的脉络来展现 AI 技术在此领域的诸多储备、应用案例,剖析四大技术与 XR 结合带来的可能性尤其会在 AIGC 与 XR 融合。让参会者XR 空间计算发展的脉络、能促进行业进步的关键技术及工具。
〇 分享收益〇
1.目标:
1) 当下XR行业的历史沿革、行业痛点、技术底座
2) 大模型技术对XR 行业的启思与应用
2.成功(或教训)要点:
1) 不拘泥于一体机,拥抱广域网下流式传输新常态。
2) 不打破原有DCC软件创作流程,尝试NVIDIA OMNIVERSE , 并借助其中的XR 拓展,打破端侧的屏障;并能在此平台上实现异地多端跨平台协同。
3) AIGC时代,AI的应用不仅可以在沉浸式环境中打造无手柄的畅快体验,而且还可以进行3D资产的快速生成与重建。
3.启示:
随着苹果推出VisionPro, XR 作为一个独立市场及业务方向被再次印证。面对一体机算力难题,面对人们对于XR内容的精度的需求,云端流式、AI应用等使专业人士能够在边缘使用强大的计算资源,运行高质量高保真的 XR 工作流,并将这些 XR 体验传输至任何地方。而协作作为效率提升的重要环节,使XR加入现有业务体系的ROI 计算更为清晰有效。
〇 分享亮点〇
1.XR的历史发展
2.串流技术在XR 领域的崛起,解决算力的分布问题
3.协作与高保真,解决XR的孤岛问题
4.AI空间技术,用LLM解决复杂的交互问题
5.生成式AI, NERF神经场渲染解决数字孪生的重建问题
6.机遇和挑战并存,展望未来
LLM在金融分析领域推理研究与应用
〇 分享简介 〇
金融报告分析在金融投资决策中至关重要。分析师和投资者需要处理包含文本和表格的异构金融数据,进行专业的数值理解、推理和计算。在这样复杂场景中,推理能力尤为重要,它能有效地理解数值之间的关系,规划合理的计算逻辑。传统的自然语言处理方法在数值推理方面能力有限,在金融报告问答任务中的表现并不理想。
大型语言模型凭借其强大的语义理解能力以及涌现的思维链推理能力,能够从文本数据中识别关键指标,进行复杂的数值推理,生成流畅的回答内容,为金融报告分析问答提供了更高效的解决方案。但是,大型语言模型对于金融报告的数值推理离实际落地仍然有着推理流程优化、信息召回、数值计算工具调用等问题。
本次分享,我们将探讨如何利用大型语言模型进行企业财报问答,优化推理流程,包括关键技术点的研究和应用探索。
〇 分享收益 〇
目标:
介绍自动化金融报告分析领域的技术难点,阐述数值理解和推理的重要性,并利用大模型进行相关的研究。
成功要点:
有效地进行计算逻辑规划和数值推理,辅助信息召回技术和计算工具调用算法。
启示:
大型语言模型在金融报告分析中的强大潜力以及面临的挑战。具体的收益点有:深入了解金融报告自动化分析领域,利用大模型的数值推理能力解决复杂的金融报告分析问题。
〇 分享亮点 〇
1. 国内外自动化金融报告分析的现状与趋势
2. 大型语言模型在金融报告分析中的问题与挑战,展示推理的重要性
3. 基于大型语言模型进行金融报告分析的技术研究,包括推理流程生成、关键信息召回、以及数值计算工具调用等方面。
4. QA
基于高性能特征数据库的特征管理引擎
〇 分享简介 〇
当下流行的AIGC应用中,特征管理成为实现AI应用的关键要素。越来越多公司开始重视特征生成、特征复用等工具,但很难在统一平台实现在线特征和离线特征的一致性管理。
本次分享将基于高性能特征数据库的特征管理平台,相较于目前社区开源的Feature Store方案,这个下一代平台在实时计算性能、特征定义难度以及特征管理界面方面都有显著的提升。采用高性能的时序数据库OpenMLDB,可通过SQL来上线特征,同时还支持多组特征的自动组合和一键上线功能。此外,特征管理Feature、FeatureView、FeatureService等多维度功能,让特征管理更加灵活和高效。也将结合AI应用落地实践,更好地理解这个特征管理平台为与会者带来的应用价值和优势。
〇 分享收益 〇
1.目标:
设计一款高性能且易用的特征管理平台,解决大部份AI场景落地最重要的特征计算难题。
2. 成功(或教训)要点:
特征管理平台不仅提供基本的特征增删改查和复用功能,还要能解决离线和在线的一致性问题,提供多种接口让离线和在线的业务介入。
3. 启示:提炼出该内容(或项目)的具体收益点:
使用特征平台不仅减轻了AI落地时所需要的编码开发量,让算法工程师可以快速验证和落地自己的想法,并且从根本上解决了特征不一致和数据穿越的问题,从而提升整体AI应用落地的效率。
〇 分享亮点 〇
1. 分享典型特征管理平台的价值
2. 下一代特征平台架构与实现
3. 特征平台应用最佳实践
4. QA
大模型之上的营销重构
〇 分享简介 〇
在大模型“智慧涌现”的推动下,企业数字化转型进入了全新阶段,借助数字化手段加速产品全链路运转,带动其市场价值的更快实现成为企业必答题。这场考验效率的“价值实现”路径中,营销占据举足轻重的位置,从体验、到购买、再到复购,贯穿全生命周期,数字化在营销的落地实践,使营销更加精细化和个性化,并使企业可以更好地掌握消费者行为和需求。当下营销领域的洞察、创意、媒介投放闭环运行多年,许多企业进行市场洞察、发掘行业及新品趋势,这里的创意指导和内容,是可以助力用户实现生意增长的。但,营销领域面临着一些问题和挑战,比如数据量巨大、数据质量低、内容生成效率低、内容质量不高等,这些问题都需解决。
以ChatGPT为代表的大模型技术的快速发展,营销在内容理解和内容生成上表现出优秀的能力,能够解决营销领域的内容洞察、用户洞察、创意生成、媒介服务等方面面临的效率问题。
本次分享将探讨大模型技术和营销领域的结合,以精准营销技术为切入点,深入洞察、创意、媒介、内容评判标准等各环节,探讨大模型技术对营销生产力的巨大提升。
〇 分享收益 〇
目标:
1了解精准营销领域与大模型技术的结合,
2以实际案例探讨大模型技术对营销生产力的巨大提升。
成功要点:
从浩如烟海的社媒数据里提取真正有价值的消费者声音,生成海量“四有三友好”的高质量创意内容
启示:
大模型技术在精准营销领域具有巨大的生产力提升,决定了更多企业在精准营销全流程中,广泛合理使用大模型技术
〇 分享亮点 〇
1.大模型+精准营销 - 营销生产力大爆发
2.大模型在内容洞察和内容生成方面的使用和挑战
3.以圈层营销为例,探讨大模型和精准营销的结合
4.QA
智能湖仓支撑 Data+AI 一体化数据架构
〇 分享简介 〇
在大模型的训练、微调等过程中,都需要大量的输入训练数据来提升模型效果。可以说训练数据集的规模和质量,是决定大模型最终推理效果的关键因素之一。同时,大模型时代,也给大数据和 AI 的架构带来一系列挑战。
传统的数仓平台,主要面向结构化数据的分析计算,以及面向 BI 场景。然而在 AI 场景下,除了结构化数据,还会有文本、图片、音视频等多种非结构化数据,通常使用数据湖存储。这两部分数据缺乏统一的管理。同时大模型的训练数据量级可能会达到 TB 级,对数据的读取性能也有较高的要求。这些问题都对传统数据架构带来了挑战。
本次分享将会针对以上挑战,分析解读智能湖仓架构为什么能够成为支撑 Data+AI 一体化的数据架构。并构建开源智能湖仓框架过程中的设计思考,架构设计以及落地应用的案例。
〇 分享收益 〇
目标:
1)解析智能湖仓一体架构的内涵,分析当前大模型等 AI 应用对数据组织、管理能力的新需求和架构上的挑战;
2)剖析智能湖仓框架如何能够更好地支撑 Data+AI 一体化架构,成为大模型的数据底座;
3)讲解我们在构建开源智能湖仓框架中的设计思考,优化经验以及应用案例。
成功要点:
1)智能湖仓需要提供开放架构和统一的接口,能够为流、批等大数据计算引擎,以及 AI 计算框架无缝对接,实现一份数据,多种计算模式;
2)智能湖仓需要统一管理结构化和非结构化数据,最大限度发挥数据湖的灵活性和数据仓库的规范性,成为统一的数据底座;
3)智能湖仓针对大规模 AI 模型对训练数据的访问要求,做出相应的性能优化,满足大型多模态模型训对 IO 性能的要求。
启示:
当前数据架构的发展趋势,决定智能湖仓在Data+AI一体化方向的重要性,开源智能湖仓框架在 AI 场景的针对性设计,功能特性和优化,以及在大模型等AI方向的应用将会给企业带来巨大的价值。
〇 分享亮点 〇
1. 当前Data+AI对数据架构体系的挑战和分析;
2. 智能湖仓架构介绍;
3. 介绍开源智能湖仓 LakeSoul 的设计理念以及对Data+AI一体化的支持;
介绍开源智能湖仓LakeSoul在Data、AI 场景下的应用。
随着新一轮科技革命和产业变革蓬勃兴起,互联网、大数据、云计算、人工智能、区块链等新技术与各行业加速融合,数字化转型成为企业发展中的热门话题,先行企业在数字化转型中逐步验证了在助于提高企业的创新产出和创新效率。数字化转型通过数字技术整合到企业的各个方面,使其能够适应不断变化的市场需求,数据服务在数智化转型中及担任数据赋能的重要抓手,同时也是以终为始促使数据整合、创新的源头,承担着承上启下的重要职责,如数据计算、数据仓库与数据湖数据分层的组织、对外部提供数据服务满足业务需求,数据服务附加的实践能力包括数据开发体系、数据资产地图、元数据是重要的能力承接。在数据服务架构体系中既对架构师提出了数据生命周期全盘统筹的思考,又要满足在企业业务满足中的最优实践,涵盖应用接入层、数据服务层、数据层等多方面内容整合。
本专场将围绕“让数据发挥大价值,数据服务架构最佳实践”主题,探讨数字化转型的形势下,企业如何运用数据服务架构的最佳实践打造助力于业务创新增长、发挥数字资产核心价值。帮助客户在大数据服务体系化演进、数据资产构建的应用实践、数据价值的创新挖掘、数据服务大规模挑战下优化等展开,拓展数据服务在数智化转型中扮演的角色,获得行业在落地过程中的优秀实践。
出品人:梁福坤 京东科技数字城市群总架构师
新一代数据服务架构实践与探索
〇 分享简介 〇
企业业务增长,对数据服务提出了更高的需求,满足业务多样性需求、业务需求响应及时性、数据服务质量要求较高等需求的同时,还需在大促、事件等业务来临时可以提供高可用和多方位的指标计算等数据服务。
当前企业存在业务增长与服务供给侧需求不满足的痛点:数据服务定制开发、数据服务管理分散、实时和离线分离造成数据不一致、流量临时增大情况下无法弹性扩展。
本次分享通过组织化的服务集约管理、弹性部署、流批结合、资源合理调度、数据强安全等策略保障对数据服务需求的实现、可管理、可调度,形成敏捷交付的新一代数据服务的探索。
〇 分享收益 〇
目标:
1理解数据服务在业务挑战的情况下痛点,数据服务在常规需求满足的情况下,对数据服务开发成本、管理成本、资源使用等带来的挑战,业务增长是数据服务的驱动力,如何针对痛点进行分析、决策和应对,以及对成功或者避坑的复盘。
2理解在不同形态的业务下数据服务面临挑战的情况下,新一代的数据服务体系的特征,以及相应的解决方案,理解业务匹配和服务匹配之间探索和实践,让不同业务形态、阶段能够找到答案
成功要点
以一体化大数据中心、智算中心为代表的新基建将持续获得持续建设,在算力高速增长的大趋势下,灵活架构、精细化资源利用率和绿色低碳能耗比等优势,决定企业可用技术拥有更佳可调度、管理的技术架构服务体系。
启示
每个企业都需要了解数据服务架构的新趋势,这可以让企业进行最好的调整和布局,满足大数据技术、云计算等数据激增流量,数据的弹性与管理,让架构更加安全、稳定、自动化。
〇 分享亮点 〇
1、行业上数据服务现状
2、数据服务演进的模式分析
3、新一代数据服务体系实践
4、数据服务未来的探索
QA
业务发展中数据服务演进的实践与思考
〇 分享简介 〇
不同阶段的互联网业务,对数据技术的需求有所不同。如快速增长期,迭代效率和性能保障是关键;而在稳定成熟期,则更需要精细化运营所需的数据支撑。在注重降本提效的行业环境下,更需要数据技术发挥明确业务价值,实现业务发展与数据技术的相互促进。
尽管当前业界已有较完整的数据技术体系,但高成本和长周期的问题往往导致技术建设与业务需求不匹配。为有效解决该问题,需要在迭代效率、数据治理与智能等技术上要有所取舍和敏捷变化。
本次分享从业务实践出发,通过梳理不同业务阶段的数据痛点,提供在计算流程、指标服务、精细化运营、人群挖掘等方面与业务匹配的解决方案与背后思考,为与会者提供一定思路借鉴。
〇 分享收益 〇
目标:
1了解不同业务阶段下数据要解决的核心问题和解决思路
2在数据技术上投入有取舍、与业务更契合,更好的帮助与驱动业务的良好发展。
成功(或教训)要点:
1、业务初始阶段,数据流程与服务的能力抽象与沉淀,加速业务与功能创新效率;
2、以指标为切入点,低成本实现数据质量优化和统一数据服务,降低老业务的数据治理负担;
3、实验数据分析与洞察归因,数据智能提升稳定期业务的精细化数据评价与洞察分析能力;
4、隐私计算下的数据流通利用,加强用户表征与人群挖掘的技术,提升用户运营效率。
启示:
数据团队需要与业务共进退,减少过度的追求技术本身,更多站在业务的视角去思考业务痛点和增长机会,让数据成为业务增长的有力引擎。
〇 分享亮点 〇
1. 业务架构背景与浅析
2. 业务初期,数据流程与服务的快速构建
3. 发展期,业务有感知、成本可控的数据治理
4. 稳定期,数据科学与智能支撑精细化迭代
5. 更多数据流通下的人群表征驱动用户运营
6. 发展趋势与总结
7. QA
基于自然语言问答的数据服务架构实践
〇 分享简介 〇
数字化技术管理内容资产,可以有效的让数据赋能业务经营。通过自助分析(Self-service Analytics)降低数据使用门槛、推动数据驱动文化,一直是数据团队追求的目标。
当前业界有两股技术力量正在各自飞速发展:一个是BI领域的语义层(Semantic Layer),屏蔽底层技术复杂性,带来业务可理解、口径统一的指标与维度;另一个是AI领域的LLM,通过量变到质变的涌现,带来大幅提升的语义理解能力。将语义层和LLM相结合,可以带来全新的基于自然语言对话的自助分析体验。
本次分享腾讯音乐在这个方向上的探索与实践,提出新的数据服务架构,结合开源的项目SuperSonic(开箱即用且易于扩展的框架),帮助企业快速构建基于自然语言问答的自助数据分析平台应用。
〇 分享收益 〇
目标:
了解自然语言问答如何在数据领域发挥价值,如何通过产品交互的创新,进一步降低数据的使用门槛。
成功要点:
语义层与LLM相结合会带来数据服务架构的创新,系系统设计与落地实践。
启示:
利用腾讯音乐的开源项目SuperSonic快速构建适合企业自身的数据问答平台。
〇 分享亮点 〇
1、自助分析平台的背景和发展
2、语义层和LLM各自的发展趋势
3、语义层和LLM相结合带来基于自然语言问答的自助分析
4、开源项目SuperSonic的设计思考和落地实践
5 QA
AIGC时代的超级个体:业务、架构和实现的融合
〇 分享简介 〇
AIGC正在给软件研发的形态带来根本性的改变。分工越来越细、框架、基础设施越来越复杂的趋势,将会被从根本上扭转。具有业务能力,同时,有效掌握了架构技术和实现能力的超级团队和超级个体,生产力将会获得数量级的提升。在这样的时代,我们需要更多架构能力支撑战略。
本次分享将从软件开发的价值创造过程出发,结合一线实践,分享AIGC在精益需求分析、领域建模、接口和契约以及演进式设计等若干方面将会带来的关键变革,以及软件架构师和开发人员应该为此奠定诸多良好技术基础。
〇 分享收益 〇
1. 目标
(1) 建立大语言模型时代的软件开发人员能力图谱。
(2) 理解价值为导向的精益软件设计方法论的关键实践和实践之间的联系。
2. 成功要点
在AIGC时代,建立高效的方法论,更有效地和大模型协同,发挥架构师的核心价值,有效提升生产力。
3. 启示
(1) 探索和发现仍然是软件开发的本质问题。AIGC可以加速探索和发现,但是人类仍然是探索和发现的主体。
(2) 围绕业务目标的快速构建和探索将会更加高效。领域模型在其中将扮演重要的角色。
契约是设计的核心,需要予以更多的关注,技术细节的影响将会弱化。
〇 分享亮点 〇
1. 审视软件设计的全过程:以探索和发现为中心
(1) 案例研究
(2) 领域模型、由外而内和设计契约
(3) 组件开发和复用
2. 利用好第二大脑:软件各个环节的副驾驶
(1) 需求分析和迭代规划环节的辅助
(2) 领域模型作为输入还是输出?
(3) 围绕设计契约的自动化构造和契约管理
3. AIGC时代的精益软件设计方法论
4. 未来探索:应用生态和应用架构的范式迁移
QA
大语言模型垂直应用场景服务和方案实践
〇 分享简介 〇
随着ChatGPT的横空出世,大语言模型(LLM)已经成为当前IT行业投资热点,越来越多的开发者和创业团队正在开发基于大语言模型的应用和工具。一方面,互联网科技大厂纷纷切换赛道,投巨资自研大语言模型,希望重复移动互联网时代的平台模式,基于大语言模型构建应用生态,为用户提供C端服务。另一方面,众多的行业应用开发者也希望基于商业化或者开源的大语言模型,充分发挥自身的行业经验和数据积累,重塑B端的垂直应用,大语言模型的应用方向具有很大挑战。
但,面对纷繁复杂、属性各异的大语言模型,选择合理的垂直应用场景和方案,已经成为行业应用开发者的通用课题。
本次分享将针对商业化的公有云大语言模型,以及基于开源的私有化大语言模型两种方案展开,同时,基于开源大语言模型,分享垂直行业的应用场景和方案,为垂直行业应用开发者提供最有益的借鉴。
〇 分享收益 〇
目标:
1,了解大语言模型的应用场景
2,了解基于大语言模型的应用系统框架
3,基于大语言模型的应用案例
成功要点
基于大语言模型改善系统交互方式、提升用户体验,同时结合向量数据库能力,提高信息查询精准度,减少大语言模型的“幻觉”。
启示:
基于大语言模型的应用开发者提供设计思路、开发方法、应用框架等,帮助开发者快速开展基于大语言模型的开发实践
〇 分享亮点 〇
1. 大语言模型发展趋势
2. 大语言模型应用方向和挑战
3. 基于大语言模型的应用系统框架
4. 大语言模型典型的汽车行业垂直应用案例
5 QA
数据治理和资源化的思考与实践
〇 分享简介 〇
传统的数据治理主要包括数据标准、元数据以及数据质量,其更加强调对业务系统存量数据的治理,同时,对于数据长效治理体制的建设也不够重视,所以传统数据治理在企业数据管理实践中也遇到了一些新的问题,例如开发与治理的脱节、烟囱式的数据开发、不同平台之间缺少统一的管控、治理缺少闭环等问题。
对于企业来说,数据的产出、应用和管理无处不在。在数字化的大浪潮下,无论是企业的管理者,还是企业的基层员工无时无刻不在和数据打交道,如何应用好数据、更好的挖掘数据价值是每个企业都面临的问题。企业使用数据的前提是了解数据,并不是所有的数据都值得去管理、去维护甚至去分析的。数据的生成、汇聚、存储、分析、共享等阶段都会因为数据管理的不当、数据治理手段的缺失,导致产生低质量的数据。低质量的数据不仅没有价值,它的存在还会导致错误的决策。因此,找出有价值的数据,应用与识别出数据资产是企业一个关键性的问题,而数据治理是解决这个核心问题的钥匙。
本次分享从网易内部的数据治理开发实践出发,阐述互联网企业在数据治理与资源化上的实践和思考总结,并结合外部金融、运营商等企业的落地实践,为与会者提供一些已有成效的借鉴。
〇 分享收益 〇
目标:
从互联网行业的数据治理和数据资源化实践出发了解数据治理开发一体化在互联网、金融、运营商等行业建设方面的思考和实践。
成功(或教训)要点:
1. 传统的数据治理是一个反向治理的过程,并不会融入到数据生产的整个过程当中,与数据开发、建模、运维、安全等环节都存在脱节现象,对于企业来说进行传统的数据治理就需要对其现有的系统和流程进行改造,必然面对高昂的成本,因此需要将数据治理的活动前置,从数据的生产环节加入数据治理的活动。
2. 数据治理是一个长期、可持续的过程,因此需要在治理活动的各个环节做到闭环,保证治理的结果切实落地。
3.企业的数据治理体系的构建,需要结合数据治理产品工具,将流程建立在工具的基础上,制度建立在流程的基础上,管理建立在制度的基础上,形成全链路的数据治理体系。在整个过程中需要结合企业实际情况,因地制宜。
启示:
将数据治理的过程融入到数据开发的全生命周期中,强调“先设计、后开发、先标准、后建模”的原则,其目标就是将数据治理的流程与数据开发的全生命周期相融合,在数据开发过程中,完成数据治理,从而解决企业在数据使用过程中找不到、看不懂、信不过、管不住的问题,帮助企业识别有价值的数据,沉淀数据资产。
〇 分享亮点 〇
1.企业数据开发与治理过程中的问题与挑战
将数据资源化、资产化过程中经常遇到的问题剖析
2.浅谈数据治理开发一体化
针对企业所遇到的数据开发治理过程中的问题,给出相应的解决思路
3.数据治理实践
a)互联网行业的数据治理实践
b)金融行业的数据治理实践
c)运营商行业的数据治理实践
4.思考与总结
QA
数字化产品是以产业新的商业机会和产品商业逻辑,从单一技术的应用发展到整个产品产业结构的重构。这个过程中企业有大量的流程自动化、应用场景化、业务数据化到数据资产化。尤其是在数字化进程推进下,众多企业逐步改善了工作流程,解决了流程效率问题。
伴随着大数据、AI等技术的发展,在数字化经纬交错的画卷下,企业由“改造四肢”转向“改造大脑”,由此数字化产品逐步贯穿于企业经营的每个环节,完成全面的服务进阶。
本专场将以“数字化产品:数据驱动的服务进阶落地”为主题,围绕数字化产品落地建设经验,探讨数字化产品如何挖掘数据资产价值、赋能企业发展,并探讨产品和大数据产品从业人员面临的机遇与挑战。让企业找到适合进行数字化产品改造和发展需要的,以及数字化产品助力企业发展,铸就企业数字化产品落地的关键支点。
出品人:张小墨 58同城数据中台产品负责人
数字化场景的产品设计运营与经营策略拆解
〇 分享简介 〇
近两年用户增长概念大热,本质上的含义是通过科学有序的分析,利用产品设计、运营手法、技术手段和精细化客群洞察等手段实现增长,对最终转化数据负责。
在早已不是野蛮生长市场的今天,是否能够做到有效的增长几乎是衡量一家公司的唯一标准。伴随着获客成本的不断攀升,增长黑客概念也在最近两年异常火热,很多公司也都配备了专业的用户增长团队。增长运营模式的成功与否,取决于企业是否能够制定适合的引流策略、优化转化环节,并持续优化流量增长的长效机制。只有不断学习和适应市场变化,企业才能在激烈的竞争中脱颖而出,实现持续的流量增长和业务发展。
本次分享通过一些经典行业案例和实际工作的实战经验,实现增长和优化过程中数字化产品,在经典场景的增长思路与策略设计,真正的实现当下数字化场景的运营经营心法。
〇 分享收益 〇
目标:
1数字化产品在不同场景的增长思路和成功案例。
2旅程关键时刻和aha相关概念,洞察产品和经营策略的关系。
3流量的差异性和客群差异性,了解如何拆解客群和做客户分类。
4增长的前提是产品设计的完备性和可用性,产品流程的顺畅和体验会影响增长的策略设计和转化效果。
成功要点:
理解客户当下的瞬时感受和诉求,重视客诉问题,及时搭建产品能力,站在经营角度给出反馈并快速调整,得到最佳实践结果
启示:
产品逻辑和经营策略紧密耦合,组合拳是未来企业数字化增长的利剑
〇 分享亮点 〇
1数字化场景和数字化产品的价值
2客户需求洞察下的本质挖掘
3人事景3D思维推演模型
4基于旅程关键时刻的经营行为拆解
5客群画像到问题发现到经营策略的链路设计
6数字化客服及VOC满意度的客群经营案例
7金融体系银行数字人经理的AI创新展望
8 QA
数字化转型产品建设中的必备技能:产品业务建模
〇 分享简介 〇
当前,企业信息化面临的痛点是信息化运营效率低下、成本过高、客户体验不佳和市场竞争力不足。这些问题导致企业难以快速发展和适应市场变化,因此数字化转型成为企业提升效益、降低成本、增强市场竞争力和提客户体验的必然选择。但,经过近10年的数字化建设企业已经迈入数字化建设中一个典型的“转折点”问题阶段——不是系统建设的不全面,而是如何在企业内部系统越来越多后,如何打通各个系统相互隔离的局面,实现业务层面的效率改善。
对于产品经理来说这个新的阶段也对大家提出了新的能力诉求:如何帮助企业成功迈过数字化转型中的转折点问题。为此要求产品经理摆脱以往只拘泥于垂直领域设计的思维,而是要真正站着企业管理者维度来全局审视。
产品业务建模的出发点是业务,终点也是业务。本次分享将结合数字化转型的现状和趋势,以全局视角来破解数字化转型中的难点,包括企业全盘业务梳理、场景需求分析和面向转折点问题的数字化产品策略设计等,帮助参会者理解数字化转型的本质和方法,从而能更好地推动企业数字化建设与发展。
〇 分享收益 〇
目标:
1以真实案例来示范,典型数字化转型方法论
2掌握数字化转型的核心技能
3产品业务建模方法定义与应用
成功要点:
无论是SaaS,还是中台等这些企业级产品,本质上对产品负责人的能力需求都是在业务建模这一范畴上,这就是理解业务且将业务运作系统化。
启示:
全局视角俯瞰产品数字化,实现面向企业的整体数字化建设。
〇 分享亮点 〇
1.当前中国产品数字化进程中真实需求和现状
(1)企业产品数字化历程总览
(2)数字化进程中的“转折点问题”
2.如何用一套方法搞定当下的数字化转型建设
(1)数字化转型通用方法
(2)产品业务建模的核心思路
(3)A大型互联网企业数字化转型案例分享
3.经历多个数字化转型案例后的建设感悟
4.QA
数字化核心引擎: 业务驱动的数据产品体系建设
〇 分享简介 〇
随着企业数字化转型的推进,数字化产品的价值被逐步放大。疫情期间,更是为企业数字化转型按下了加速键,很多企业希望通过数字化手段实现降本提效,找到业务发展新的增长点,完成生产组织形式与商业模式的升级。
可以说,数字化产品是企业数字化转型的核心引擎,以及数据中台的能力延展,即数据工具、数据服务模式与数据运营机制的结合体,也可以看做一种战略选择与运营解决方案,以及一套行之有效的数据运营机制。过往,58同城不断深化数据化产品体系建设,用数据服务增援业务发展,探索挖掘数据生产力,使其成为了企业产业化转型道路上不可或缺的组成部分。
本次分享将基于数字化产品体系建设过程的所见所得,阐述数字化产品体系建设的35N模式,同时,梳理数据化产品体系的建设流程、建设误区以及大数据应用对企业发展的长远价值等方面深入探讨。
〇 分享收益 〇
目标:
提升听众对数字化产品体系的认知,
了解数字化领域发展趋势,以及相关从业者在此过程中可能获得的机遇与挑战。
成功(或教训)要点:
1数字化产品体系是企业数字化转型的核心引擎
2业务驱动是数字化产品体系建设成功的关键因素
启示:
从产品数字化体系构成,完整的看到数字化产品体系建设基本流程,理解业务驱动对数字化产品落地的意义,伴随大数据对企业的价值以及数据价值挖掘为企业发展带来的赋能作用。
〇 分享亮点 〇
1. 浅析数字化与大数据应用
2. 数字化产品体系建设框架:3-5-N模式(3个领域、5个方向、N个专题)
3. 数据化产品体系建设思路与常见误区
4. 数字化产品发展趋势解析
QA
面向研发数字化转型:数字化产品研发平台打造
〇 分享简介 〇
非原生企业在进行产品创新数字化转型时可能会面临研发速度和敏捷性不足、数据驱动能力不足、 整体技术架构不适应、人员技能和文化适应问题等痛点。
“工欲善其事,必先利其器”。内置研发数字化转型实践的数字化研发平台可以大大提高企业的研发数字化转型成功率。
本次分享将结合中兴通讯在研发数字化转型方面的实践案例,探讨如何通过按“从线下到线上,从线上到在线,再到智能在线”的方法,实现企业内部研发数字化转型。中兴研发数字化转型实践过程中,同步打造了数字化研发平台Studio。希望成功实践,能为计划进行或正在进行研发数字化转型的企业带来巨大价值借鉴。
〇 分享收益 〇
目标:
1共享大型企业研发数字化转型的实践,打造自主可控的工具平台的方法
成功(或教训)要点:
1需要系统性设计:在进行转型时,采用系统性思考的方法,划分不同领域和模块,采用“分而治之”的策略,将复杂的转型过程分解成可管理的部分,以便更好地实施和推进。
2 将确定的成果尽快内嵌到研发平台中:转型实践需要在工具平台中内置,确保转型的最佳实践得以持续。打造数字化研发平台,并将转型方法和工具集成到平台中,可以帮助团队更好地理解和应用转型的原则和技术,从而持续推动转型的成果。
启示:
研发数字化转型和数字化研发平台建设是一个长期而持续的过程,需要持续投入。
〇 分享亮点 〇
1、研发数字化转型方法
2、中兴研发数字化转型实践
3、沉淀打造的数字化研发平台Studio
1)产品定义:数字化软件生产线
2)产品特征:一站式、端到端等
3)产品范围:DevOps+低代码开发+AI开发+数据应用开发
4)产品演进和规划方向:大模型加持、硬件数字化开发
4 QA
基于经营管理的B端AIGC产品化应用升级
〇 分享简介 〇
AIGC 新热点涌现,让企业内应用少价值方向ChatGPT问世,重新激发资本市场和企业经营对AIGC的想象力,但整体市场应用趋同,规模化价值应用尚未出现。服务于企业内部,以业务价值转化为目的的应用更为稀缺。面对新技术浪潮焦虑和企业务实需求的冲突,如何快速抓住本轮技术转型风口,带领企业进入下一代智能,是每个企业管理者都需要思考的问题。而B 端产品作为衔接技术和企业内部业务的工具,能够围绕垂直领域业务命题,应用先进技术,平衡技术和业务的动态发展是破题的核心。
智能化产品创新中,AIGC辅助经营升级+模式突破,成为三维定位回归企业经营发展核心;抓住角色、流程、工具,评估数字化、系统化、智能化三阶能力,成为产品视角抽象企业发展核心要素;三维定位,核心角色、核心数据资产、核心技术能力三维图,成为定位优化点+攻破点+革命点;4类AIGC场景技术业务融合,围绕核心角色工具建设,从底层到顶层实现技术辅助的经营管理升级。这些都在实践中卓有成效。
本次分享结合金服落地实践案例,共同探讨实现企业内部能力升级、价值升级、模式升级的AIGC产品化方法思路。也为行业现状梳理、方法探讨、案例共享3个模块,逐步给出相应思考。
〇 分享收益 〇
目标:
共享AIGC技术产品化落地,以实现企业价值或智能化升级的系统思考,与各业同行互相启发
成功(或教训)要点:
1)从上到下统一战略认知和布局,调动强化核心业务管理层思路,以实用价值为导向建设数据智能产品;
2)先放再精的产品建设思路,充分调动前线应用智慧,再精炼总结,保障技术有实用;
3)技术实用为导向,找到具体角色、场景,以技术辅助做整体流程升级优化,以实现真实可量化价值,反向推动技术核心地位,达成建设聚焦。
启示:提炼出该内容(或项目)的具体收益点
1) 保持技术清醒:不盲从,在非互联网的传统行业内,技术回归业务价值,实际发展需求决定技术落地方法
2) 激发广泛探索:企业内经营,发挥产品面向用户的绝对优势,以极简化的功能模式挖掘采集新技术的价值应用方法
3) 借产品实现经营升级:将新作业方法、经营理念以产品功能方式植入日常作业,实现由底层出发的全面升级
〇 分享亮点 〇
1. 企业内AIGC赋能场景地图
1) 市场应用方向及案例
2) 企业内落地痛点
2. 价值落地方法
1) 三维定位:找到AIGC合理产品化发力点
2) 产品建设:AIGC和业务场景融合的核心设计理念
3) 应用见效:激发内部应用热情持续优化
3. 案例分享:平安金服内部产品体系设计及落地案例
开幕致辞:拥抱AI与算力
云上大模型训练及服务的基础设施架构和最佳实践
高性能计算集群:AIGC算力的底座
金融科技的三重变革 :智能化、虚拟化、多元化
中国生成式AI产业现状与未来发展
商汤大装置+大模型打造的AGI时代基础设施
AIGC催生技术研发模式的新变革
AIGC低代码:创新智能研发模式变革
企业数字化基石:算力基础设施驱动AI,AI赋能算力基础设施
技术战略下的研发效能演进策略
研发效能大数据管理与应用实战
编程现场现代化助力研发效能提升
百度智能研发副总经理,负责文心快码(Comate)智能代码助手、云IDE平台、需求管理平台、代码静态分析平台、代码搜索服务、研发数字化和效率云平台等业务和团队。在代码智能化、静态分析、开发工具、软件测试、研发数字化等领域深耕十数年,积累国内外发明专利58个,已获授权专利34个。国家重点研发计划『基于编程现场大数据的软件智能开发方法和环境』技术骨干。OpenHarmony技术指导委员会IDE TSG成员。曾任移动互联全国创新大赛决赛专家评委,热爱技术创新,骨灰级技术平台和研发管理实践专家。
全链路质效提升探索之路
产研数字化大规模落地:建设高效协同工具链
基于LLM的智慧办公智能化测试实践
阿里云百万服务器研发运维运营一体化实践
腾讯业务持续集成的应用实践及演示
大型互联网端到端稳定性运维建设实践
业务驱动的超大规模智能运维实践
从数据到洞察:企业应用智能运维的实践和思考
“研发效能36计:构建面向价值交付的数字化研发体系
数字化业务:个性智能数字助理应用实践
数字原生企业的数字化能力提升
金融数字化转型业务价值提升之路
产研流程数字化建设之路
大模型时代的机器翻译技术与应用
AGI赋能工业制造:技术及应用
前达观数据副总裁,人工智能标准编制专家,、知识图谱和AGI著名专家,专注于知识图谱、AGI、大模型、自然语言处理、认知智能、强化学习、深度学习、AI大工程等人工智能方向。现在是上海市人工智能标准化技术委员会委员,上海科委评审专家,中文信息学会(CIPS)语言与知识计算专委会委员,中国计算机学会(CCF)高级会员,中国人工智能学会(CAAI)深度学习专委会委员,信通院大模型标准编制专家。 曾获得多个国际国家级、省部级、地市级奖项,拥有数十项人工智能领域的国家发明专利和会议、期刊学术论文。以知识图谱+大模型等产品服务于金融、智能制造、供应链、半导体、汽车工业、航空航天、新能源、双碳等领域。著有畅销书籍《知识图谱:认知智能理论与实战》。
从翻译工具到多语言助手:大模型下工业级机器翻译的未来之路
下一代搜索引擎:大模型下智能搜索核心技术演进和AGI趋势
京东零售大模型科学家、技术总监,前华为智能协作领域 AI 助手首席专家,前昆仑万维天工大模型高级总监,在 AI 助手,NLP 和搜索领域有十多年研发实践经验,曾任华为 - 北大联合语音语义实验室研究观察员,在华为,百度期间主导构建了业界一流的 AI 算法系统并落地 AI 助手以及搜索场景,在大模型方向上主导过业界知名大模型的核心技术研发,目前专注于大模型技术以及在 AI 助手搜推等领域的应用探索和实践,在 AI/NLP 领域申请超过 15 项发明专利并出版两部著作。
数字座舱智能化交互应用实践
美团大数据集群云原生改造实践
云原生大数据引擎Presto on K8S实践
Apache Doris 新一代实时数据仓库的架构演进
字节跳动云原生大数据集群实践
字节跳动实时数仓维表建设及优化实践
云原生实时数仓建设与实践
金融级数据研发DataOps落地实践
Serverless Kubernetes 架构与AI应用实践
基于MOSN的多运行时架构的生产落地实践
大规模云原生容器应用编排的技术实践
基于Istio的应用网关大规模生产化落地实践
企业应用管理云原生技术转型和实践
大模型时代:游戏思维重塑产品体验创新
AI变革之下B端产品的智能化创新设计
生成式AI浪潮下的设计新思维与新范式
AIGC在企业协同办公方向的创新设计
大模型时代的智能助手:小爱同学实践创新历程
小米公司小爱总经理,带领团队构建了小爱同学的技术架构和相应的AI产品,用户月活过亿。为小米的各类智能设备提供语音交互的服务,目前已支持小米人工智能电视、小米AI音箱及生态链其他智能硬件。王刚博士毕业于香港科技大学计算机系,长期从事机器学习方向的研发工作,在加入小米之前曾在微软亚洲研究院和腾讯工作。
数字化核心发展中应用现代化的关键技术实践
低代码组装式交付的关键场景和能力
架构安全:DevSecOps进一步安全左移
构建业务弹性:微服务与serverless
亚马逊云科技资深布道师,20年ICT行业和数字化转型实践积累,专注于AWS云原生、云安全的技术内容创建和研究,曾就职于VMware,戴尔中国,作为资深架构师专注为金融、教育、制造以及世界500强企业客户提供数据中心建设,软件定义数据中心等解决方案技术服务与落地。
Pass智能驱动的DevOps软件平台工程化探索
低代码融合AIGC,打造低门槛、高上限的智能开发平台
服务可靠性工程(SRE)系列深度标准
智能性能容量平台建设优化实践
基于SRE可观测的AIOPS实践
强业务韧性的云原生可观测运维技术
B站可观测平台保障业务稳定性实践
数字化监控可观测性稳定保障实践
数字化转型之下价值驱动与动态决策的项目管理模式
基于OKR价值交付的B端数字化效能改进
先进企业的业务研发效率管理
大型互联网组织数字化管理建设
组织级项目管理平台建设经验分享
大模型时代下的视觉大模型:落地实践与未来探索
基于LLM + 知识图谱的新技术栈
大语言模型垂直化训练技术与应用实践
生成式AI个性化对话大模型
大语言模型在ICT领域的应用及实践
大语言模型在搜索推荐广告领域的应用、机遇和挑战
空间计算:从数字孪生到生成式AI
LLM在金融分析领域推理研究与应用
基于高性能特征数据库的特征管理引擎
大模型之上的营销重构
智能湖仓支撑 Data+AI 一体化数据架构
新一代数据服务架构实践与探索
业务发展中数据服务演进的实践与思考
基于自然语言问答的数据服务架构实践
AIGC时代的超级个体:业务、架构和实现的融合
大语言模型垂直应用场景服务和方案实践
数据治理和资源化的思考与实践
数字化场景的产品设计运营与经营策略拆解
数字化转型产品建设中的必备技能:产品业务建模
数字化核心引擎: 业务驱动的数据产品体系建设
面向研发数字化转型:数字化产品研发平台打造
基于经营管理的B端AIGC产品化应用升级