瀹佸垱鏈潵 (瀹佸垱鏈潵娴庡崡)

12月5日,“宁创未来”建邺专场活动——算力调度和大模型行业应用研讨会在南京生态科技岛经济开发区成功举办。

“宁创未来”建邺专场活动——算力调度和大模型行业应用研讨会成功举办

本次活动由南京市工业和信息化局(南京市创新产品推广办公室)指导,南京市建邺区发展和改革委员会主办,江苏南京生态科技岛经济开发区管理委员会承办,南京联通建邺分公司提供相关支持。来自区内行业大模型应用实践的28家企业CTO、大模型架构师、产品经理和行业主管部门50余人聚焦算力调度和AI大模型行业应用实践及开源社区建设深入交流,探寻未来产业先机。

“宁创未来”建邺专场活动——算力调度和大模型行业应用研讨会成功举办

一、专题演讲

南京德塔金数据科技有限公司刘礼财围绕AI算力使用中面临的六大问题、10大痛点和AI开发全生命周期管理,介绍了公司研发的GPU调度软件系统,分享了GPU隔离、节点管理、资源监控能力,并分享了区内大块头智驾、土星视界、合见工软、网智天元等企业大模型训练管理案例。

“宁创未来”建邺专场活动——算力调度和大模型行业应用研讨会成功举办

南京星邺汇捷网络科技有限公司抢抓行业大模型应用先机,提前布局。公司CTO、首席架构师兰清向大家介绍了星邺汇捷助力大模型场景构建的解决方案和具体应用,他认为AIGC的价值在于为大模型提供加载能力,将静态的大模型变成生产可用,快速编排业务场景,注智AI应用构建。今年八月,星邺汇捷作为链主企业就已在“南京建邺数字经济暨AIGC产业大会”上对其“AIGC平台场景”进行了现场发布,同时也成为了“黑马·南京建邺新一代人工智能加速器”的重要合作伙伴。

“宁创未来”建邺专场活动——算力调度和大模型行业应用研讨会成功举办

作为江苏首家数字银行,江苏苏宁银行股份有限公司金融科技实验室主任助理施志晖表示,金融大模型应用研讨应力求客观、准确地反映相关趋势,从破除虚妄上探明金融业大模型的场景落地边界,从务求实效上确立营销、渠道、风控、代码助手与运维管理等方面会成为大模型在金融业价值与应用的关键所在。施志晖认为大模型能为金融行业提质增效,新兴AI赋能的数智体系,会从”+AI”迈进“AI+”。

“宁创未来”建邺专场活动——算力调度和大模型行业应用研讨会成功举办

阿里云计算有限公司陈哲分享了AIGC技术驱动的产业创新与魔搭社区介绍,现场展示了许多关于大模型与人工智能的最新应用范例,为区内智能驾驶、心理健康等类别的企业和研究院提供了创新机遇和合作机会。ChatGPT4之后,新一轮基于人工智能创新应用已拉开序幕,未来我们将看到无限的机会与可能。

“宁创未来”建邺专场活动——算力调度和大模型行业应用研讨会成功举办

来自北京的天云融创数据科技(北京)有限公司董事杨帆介绍了该公司一直秉承“数据+智能”的理念,致力于国产数据库和人工智能软件的研发与创新,推动企业向数字原生迈进,赋能产业数字化转型。列举了AIGC赋能社区服务的多个范例,能够同时提供数据基础设施和数字原生全产业服务链。

“宁创未来”建邺专场活动——算力调度和大模型行业应用研讨会成功举办

二、圆桌论坛

与会企业积极交流发言,共同探讨大模型和人工智能行业应用建设实践、算力需求及摩大开源社区。

南京基流科技有限公司市场VP张立岗谈到,作为一家刚刚落地建邺的新公司,存在的问题也是同类型企业的痛点:购买GPU受限。目前公司正在横向拓展,希望能与区内智算中心进行深度合作。

南京德塔金数据科技有限公司董事长刘礼财表示:智算中心公共技术服务平台由江苏南京生态科技岛经济开发区搭建,为建邺区人工智能企业或有意向在大模型和人工智能领域进行创新的企业赋能。对于有GPU需求的企业,可尽快提出申请,智算中心管理平台将以短期租赁方式为企业提供服务,欢迎更多企业积极参与其中。

“宁创未来”建邺专场活动——算力调度和大模型行业应用研讨会成功举办

江苏省联合征信有限公司技术负责人王治平介绍该公司业务以数据要素为核心资源的数据分析应用为主,目前公司紧紧围绕“1650”产业体系进行大模型应用,包括征信报告、数据分析、知识库、合同审查、法律意见等。王治平也提出了在大模型应用过程中存在的问题,他认为大模型部署后的数据安全问题值得大家深入探讨。

“宁创未来”建邺专场活动——算力调度和大模型行业应用研讨会成功举办

南京星环智能研究院院长夏正勋谈到,上半年公司共发布了两款数据分析大模型,该公司一直坚持从数据的全生命周期来观察和考虑并进行研发。

江苏南大电子信息技术股份有限公司大模型应用产品经理汪洵表示,目前该公司主营业务为金融和政府行业机器人,机器人在营销方面缓解了部分人力,该应用场景目前还在摸索阶段,适用于银行内部管理,对于不同类别和等级的员工进行业务知识的语音考核,通过语音交互进行打分。汪洵认为大模型的颠覆性发展对于机器人行业,既是挑战也是机会。

江苏海平面数据科技有限公司CTO孙杰介绍,该公司的主营业务为农机、发动机的智能网联。车联网数据偏结构化,而大模型面向的大多是非结构化数据,他提出的思考是:结构化数据的垂直应用如何与大模型进行结合。希望通过不断尝试,能使更多应用场景在大模型基础之上快速落地。

三、现场观摩

与会企业参观南京AI CITY创新赋能中心。南京AICITY创新赋能中心搭建了8台英伟达DGX A100集群(GPU的传输速率600GB/s),算力达到40 PFLOPS,是市内基于英伟达GPU的最大算力集群,具备快速开展人工智能大模型训练的能力。

“宁创未来”建邺专场活动——算力调度和大模型行业应用研讨会成功举办

进入数字经济时代,数据已成为驱动数字经济社会发展的新生产要素,而AIGC成为改变千行百业的新风口。建邺抢抓人工智能AIGC细分赛道,在智算中心建设与运营,大模型搭建与训练、标准制定和人工智能特色园区打造方面给予政策支持,支持区内大模型行业应用企业发展,从海量的不确定性数据寻找确定性的行业应用机会。(通讯员:王烨)