大模型落地中的狂奔、踩坑和突围

引言

“员工月均加班超100小时，部门负荷已达极限。”在业务竞争压力急剧增加的今天，大模型落地不再是”赶时髦”，而是企业亟需AI大模型在降本增效（如流程优化、决策加速）上突破现有困局。

企业希望凭借大模型的数据分析、逻辑推理与自动化处理能力，破解企业效率瓶颈，在诸如高效整合多维度数据资源将繁琐、重复性工作转化为智能化操作，通过精准捕捉市场动态与用户需求在业务各环节实现精细化运营等方面，释放人力价值、显著降低运营成本并提升服务质量。

当前，已经有大批企业进行了大模型落地，这个过程中取得了一些成就，也会遇到一些问题。在日前QCon全球软件开发大会·北京站的”企业AI落地中的战略、组织、与人才”闭门会上，来自不同行业的负责人就大模型落地中的成熟场景、踩坑经验及组织人才等问题进行了深度探讨。

一、落地演变

总体看来，传统行业对AI应用呈现阶段性变化：早期更多是尝试性探索，近几年则转向务实路线，聚焦成熟度高的技术，例如图像识别、视觉算法、OCR以及自然语言处理（NLP）等，在企业内已有广泛应用。

对于大模型应用，在去年和今年就呈现出了完全不一样的态势。去年，企业推进可能还会面临”有资源却求人用”的困境，大模型的成熟度未达企业落地门槛，因此多以探索和小规模Agent应用为主。而在今年，国产大模型（如DeepSeek、通义千问）能力快速提升，普及了大家对AI的认知，已呈现”需求井喷”现场，有一定技术储备的企业已逐步具备快速切换技术方案的能力。

二、落地要”价值导向”

具体来说，在新兴技术的发展初期，企业可以容忍短期低回报率，鼓励内部试点与概念验证（POC）。

到了应用落地阶段，核心就是要围绕”价值导向”做判断。不同于追求技术前沿，企业更看重短期内能否产生实效，尤其对于成熟技术来说，要看在六个月到一年半内的时间里能否得到可量化的投资回报，尤其如果在前六个月产生效果会被特别重视，这类项目要占到80%，超长周期项目则谨慎推进。

三、成熟应用场景的三个特征

当前大模型落地中常见的相对成熟的应用场景，背后有三个共性：重复性强、具备一定创意需求和范式可沉淀，这决定了其最为适合用大模型或Agent切入，并尽早产出价值。

对于企业来说，AI应用并不是要做”替代”，而是用来优化日常运营体系的方式，从流程自动化到交互智能化，都是企业效率升级的重要路径。

四、组织架构调整

没有AI基础的企业，通常需要进行架构调整来推动AI落地。而对于有一定AI技术积累的企业，则在架构上的调整较少。

两种调整模式

无论何种选择，大部分企业都开始组建专门的AI团队来推动企业内部的落地，最终可能形成“混合型”架构模式：一方面，一个精干的小团队走在探索前沿；另一方面，推动产业团队去拥抱AI。

人才与年轻化招聘

企业AI人才包括外部引用和内部转型两种方式。随着业务的”跨界”属性越来越强，企业更倾向兼具know-how与技术实践能力的复合型人才。

“招人难”是普遍现实。很多真正懂技术的人是刚毕业几年、来自顶尖高校的年轻人，因此一些企业把招募重心放在年轻实习生身上。企业采用“实习生+资深业务同学”搭配模式，由后者帮助理解痛点、抽象问题，再由实习生进行技术实现。

五、落地经验

不要盲目追求模型微调

一上来就要求”用自有数据微调开源大模型”是最典型的误区。表面看似乎一举三得：获得自主知识产权、向上汇报有成果、体现团队技术价值，实则从技术角度存在致命问题：微调需要高质量标注数据、算力资源及工程化能力，而企业往往会低估数据治理成本和模型维护难度，最终导致投入产出严重失衡。

底座模型更新迭代很快，企业几个月做的功能可能在一个新模型版本上线就被直接替代了。最好是让模型跑在自己的轨道上，企业在旁边做补充性的能力建设，实现“水涨船高”的效果。

绑定业务深度参与

站在岸上的人永远不会说”这个AI方案我满意了”。AI”最后一公里”一定是在业务中完成的，需要产品、业务和IT团队等的深度协作，一起推进试点、一起闭环场景。比如业务方需承担场景配置责任（如行业黑话翻译、分析范式定义）。

六、AI Agent落地的核心

2024年被视为AI Agent的爆发起点，硅谷超80%的新创公司在布局Agent领域。但长期来看，”Agent”可能像”App”一样不再被刻意强调，而是成为技术应用的底层形态。

当前，业内更为看好Agent在B端的应用，可以通过聚焦垂直场景（如客服、财务分析），替代传统SaaS，通过深度集成实现长链条推理与工具调用。

Agent落地的核心是解决高价值问题（如周报自动化淘汰低效团队），而非技术本身。企业需算清”问题价值vs解决成本”的经济账，避免过度投入大模型，而应专注在场景问题上。

关键数据一览

结语

企业在走过了初期对大模型抱有过高期待的阶段后，现在已经逐步冷静探索大模型的能力边界。在落地过程中，首先合理评估模型的能力，同时结合自身业务需求接入应用。大模型应用整体上还不成熟，但可以从容应对个别”点状”场景，未来形成成熟的”网状”应用场景还需要全行业的持续探索。