企业生成式 AI 的四种未来：面向战略韧性与适应性的情景规划
Four futures of generative AI in the enterprise: Scenario planning for strategic resilience and adaptability
当涉及生成式 AI 战略时，风险极高——不确定性也同样巨大。以下三年期情景可帮助组织规划其生成式 AI 战略。
When it comes to generative AI strategies, the stakes are high—and so is the uncertainty. These three-year scenarios can help organizations plan their gen AI strategies.
作者： Laura Shact, Brad Kreit, Gregory Vert, Jonathan Holdowsky, Natasha Buckley, Brenna Sniderman
Laura Shact
职务： 负责人 | Deloitte Consulting LLP 所在地： 美国
Laura Shact 是人力资本业务的负责人，负责开发和交付人员解决方案以支持战略业务目标。她在德勤拥有超过 15 年的咨询经验，主要服务于科技、媒体和电信行业的客户。
邮箱： lshact@deloitte.com 电话： +1 847 910 3176
Brad Kreit
职务： 高级经理 | 德勤综合研究中心 | Deloitte Services LP 所在地： 美国
Brad Kreit 是德勤综合研究中心的研究负责人，专注于工作的未来。他常驻圣何塞。
邮箱： bkreit@deloitte.com 电话： +1 408 704 2257
Gregory Vert
职务： 负责人 | Deloitte Consulting LLP 所在地： 美国
Greg 是德勤人力资本业务的应用 AI 负责人，专注于“让工作更适合人类，让人类更擅长工作”。他与客户合作，改造其人力资源和数字工作场所能力，为员工提供更具生产力、更富参与感和支持性的体验。他致力于帮助组织将 AI 及其他创新技术全面嵌入业务战略，以创造和实现可衡量的价值，并提升组织绩效。
邮箱： gvert@deloitte.com 电话： +1 312 486 4617
Jonathan Holdowsky
职务： 高级经理 | Deloitte Services LP 所在地： 美国
Jonathan Holdowsky 是德勤综合研究中心的高级经理，负责管理一系列关于消费者和制造业客户战略重要性议题的思想领导力项目。
邮箱： jholdowsky@deloitte.com 电话： +1 617 437 3198
Natasha Buckley
职务： 高级研究负责人，新兴议题 所在地： 美国
Natasha Buckley 是德勤研究与洞察组织的高级经理兼研究负责人。她的研究聚焦于技术、社会趋势、组织文化、伦理与信任的交汇点。在德勤，Buckley 领导着多项与学术机构（包括麻省理工学院和塔夫茨大学弗莱彻学院）的大型研究合作。
邮箱： nbuckley@deloitte.com 电话： +1 617 437 2585
Brenna Sniderman
职务： 执行总监 | Deloitte Services LP 所在地： 美国
Brenna Sniderman 领导综合研究中心，负责监督德勤的跨行业思想领导力。在此职位上，她领导一个研究团队，专注于数字化转型、信任、气候和工作未来等全球性变革——换言之，即组织如何在数字化、文化、环境和工作场所转型中运营和制定战略。
邮箱： bsniderman@deloitte.com 电话： +1 929 251 2690
文章类型： 文章 阅读时间： 23 分钟 发布日期： 2024 年 10 月 25 日 来源： 德勤综合研究中心
组织正在对生成式 AI 下大赌注。
近 80% 的业务和 IT 领导者预计，生成式 AI 将在未来三年内推动其行业发生重大变革。¹ 全球生成式 AI 的私人投资激增，从 2022 年的约 30 亿美元增至 2023 年的 250 亿美元。² 这一势头有增无减，预计 2024 年全球企业投资将达到约 400 亿美元，到 2027 年将超过 1500 亿美元。³ 随着经济学家预测，由于人口老龄化，未来几年劳动力参与率将下降，这些转型努力可能变得更加重要，这表明需要提高生产力。⁴ 在一个某些预测认为到本十年末可能实现人工通用智能（AGI）等重大突破的世界里⁵，或者五年内数字孪生体可以代表你参加会议的世界里⁶，生成式 AI 的可能性似乎只受限于人们的想象力。
这是一个大多数人不愿被抛在后面的世界：过去五年中，关于 FOMO（“害怕错过”）的在线提及量增加了 60% 以上。⁷ 尽管并非特指生成式 AI，但这种情绪反映了一个现实：任何赌注背后都潜藏着不确定性，而关于生成式 AI 对企业影响的不确定性程度是巨大的。⁸ 对增长和机遇的预测描绘了一种可能的未来，但另一种未来也同样可能：AI 进步放缓，组织在扩展和增强其 AI 能力方面遇到重大财务障碍。
组织领导者如何才能全面理解 AI 在企业中的未来，并制定最佳战略来应对未来的一切？
为了探讨这个问题，德勤综合研究中心对生成式 AI 在企业中的关键不确定性进行了前瞻性分析，借鉴了定量调查、主题专家访谈以及专有的地平线扫描计划（旨在捕捉生成式 AI 的中短期趋势）（方法论）。基于此分析，我们开发了四种可能的未来情景，描述了从现在到 2027 年底生成式 AI 的可能演变及其对企业的潜在影响。每种情景都呈现了一个不同的世界，其中生成式 AI 与企业共存并共同进化，对企业战略、政策和实践产生不同的影响。
通过利用这种情景规划来了解不确定的市场动态，组织可以在多种可能的未来下对其战略进行压力测试，以加强其投资。这些情景并非旨在告诉领导者将会发生什么或应该做什么，而是挑战和激励组织思考如何预测和管理围绕生成式 AI 的风险和不确定性。它们旨在帮助领导者把握可能塑造其组织的关键长期问题，并使他们具备更敏捷、更具前瞻性的战略。这并不是对所有可能出现的不同类型情景的全面看法，而是聚焦于一组特定的、独特的情景，这些情景在领导者继续构建其生成式 AI 战略时可能与企业相关。通过探索当前在生成式 AI 方面的战略和投资在不同背景下如何随时间演变，组织可以发现隐藏的风险和机遇，并在今天做出更明智的战略选择。
目录
- 生成式 AI 的不确定性
- 情景 1：有代价的增长
- 情景 2：泡沫破裂
- 情景 3：进步取决于人类
- 情景 4：一切就绪
- 如何使用这些情景
构建情景：定义生成式 AI 的关键不确定性
Building the scenarios: Defining gen AI’s critical uncertainties
我们的研究采用了一种称为“不确定性轴”的方法，这是一种情景开发方法，它依赖于结合两个高度不确定且具有高影响力的变量来定义四种可能的未来。⁹ 尽管关于生成式 AI 的成本、监管和持续进步存在许多问题，但我们的分析侧重于长期实施结果。基于对德勤 AI 主题专家的定性访谈以及多项正在进行的全球企业调查的输入，我们确定了以下两个变量：
- 利益相关者成果（x 轴）： 生成式 AI 的推广会带来怎样的经济、社会和工作场所后果？生成式 AI 的持续快速推广会推动商业和社会的整体共享增长，还是会导致不平等增长？
随着组织迅速实施和扩展生成式 AI 工具，一方面人们对扩大这些工具的访问以增加创新抱有极大热情，另一方面对潜在的工作岗位流失和不平等加剧的担忧也同样（甚至更）强烈。理解这些轨迹有助于理解长期增长机会以及与利益相关者信任、员工技能退化、迫在眉睫的监管影响等相关的风险。
- 实现绩效目标（y 轴）： 组织能否通过其生成式 AI 计划实现财务和运营绩效的改善？还是生成式 AI 的输出不仅无法达到投资回报预期，反而会导致组织混乱和绩效下降？
尽管对生成式 AI 充满热情，但许多组织在识别和/或扩展与关键业务目标相符的清晰、高价值用例方面仍面临困难。随着组织寻求扩大其在生成式 AI 方面的努力，它们可能会面临与如何最好地将这些工具整合到日常工作流程中相关的各种挑战。理解这些不确定性有助于理解可能需要采用的服务、保障措施和战略，以确保生成式 AI 工具为企业增加价值。
基于这些变量的每种情景（图 1）都探索了一种可能的未来，并审视了支持证据，包括数据点、专家观点以及可能变化的早期指标。每种情景还强调了对当前战略的影响。
探索情景
Exploring the scenarios
情景 1
Scenario 1
在短短几年内，大型语言模型（LLM）在处理复杂提示和生成上下文相关输出方面的能力已变得日益复杂。不仅工具本身取得了进步，它们还被嵌入到智能设备、可穿戴设备和工业设备中，在整个组织内创建了一层自动化智能。一些员工发现这越来越具有侵入性，但这有助于推动企业价值。许多组织已开始将这些智能系统转变为数字代理（digital agents），能够与人类或其他代理一起自动化处理复杂且开放式的个人和业务任务。
尽管技术进步几乎没有放缓的迹象，但生成式 AI 对企业的影响是喜忧参半的。在大多数行业中，早期并积极投资于转型的组织获得了效率和新的产品能力，这些已转化为定价优势和市场份额增长。这使早期采用者相对于竞争对手获得了持久的优势，而那些早期未投资生成式 AI 的组织则正在努力追赶。但最大的赢家是少数超大规模云服务商和半导体公司，它们的基础模型和技术基础设施正在推动经济增长。
虽然用户喜爱这些工具，但它们不断增强的能力使得许多面向运营的岗位变得越来越不必要。失业率正在上升，尽管经济学家对生成式 AI 在导致失业率上升中的作用存在分歧，但员工（无论在职还是失业）越来越将失业以及潜在的恐惧和财务不确定性归咎于 AI。
这些因素不仅降低了人们对经济的信心，还加剧了政治两极分化，并进一步侵蚀了对大型机构的信任——而这种信任的丧失代价高昂。研究表明，在发生负面的信任相关事件后，组织面临损失 20% 至 56% 市值的风险。¹⁰
恶意全球行为者利用日益复杂的生成式 AI 技术频繁发动数字攻击，这正在加剧公众舆论的转变。具有讽刺意味的是，这种信任的侵蚀正在创造对更个性化客户服务和人际互动的新需求。
影响：“有代价的增长”未来中的机遇与风险
人员
机遇
- 大多数员工欣赏生成式 AI 能力日益复杂，这解放了他们的时间，使其能够专注于更有成就感和目标感的任务。
- 那些通过确保员工从生成式 AI 中受益（例如，作为生产力辅助工具或创意协作者）来强化员工价值主张的组织，可以获得相对于其他组织的长期优势。
风险
- 年轻一代的职业道路转向受生成式 AI 影响较小的工作和任务，例如特定类型的技工。这使组织面临失去年轻员工的风险，这些员工可能对新兴技术更熟悉，但看不到可行的入门级职业道路。
- 那些急于实现效率的组织正在争相赢回现有员工（包括顶尖人才）的信任，这些员工现在依赖生成式 AI 工具来完成以前由同事完成的工作。
- 由于员工感到自主权减少，组织可能会错失增强创新的机会。
技术
机遇
- 将生成式 AI 集成到工业设备、机器人系统和其他企业技术中的组织获得了新的业务能力和业务线增长机会，这是仅仅提供独立工具所无法实现的。¹¹
- 在人类与 AI 代理的关系中保持人类的主导地位（“控制循环”而不仅仅是“在循环中”）进行质量控制，有助于降低可能随时间累积的错误率。
风险
- 生成式 AI 的持续增长和投资可能导致新的替代模型激增，可能导致现有架构过时。
- 生成式 AI 已接管软件设计、代码开发和客户交互，创建了更不透明的解决方案，人类越来越难以理解和管理。
- 技术生态系统复杂性可能急剧膨胀，因为供应商锁定、知识产权管理和监管压力等问题可能升级。
文化
机遇
- 拥有强大持续学习、技能提升和职业发展文化的组织，可能更能适应不断变化的格局，同时将对员工士气的影响降至最低。
- 领导者专注于加强信任并将生成式 AI 作为更大创新和转型战略一部分的组织，可以让员工保持灵感而非对技术进步感到恐惧。
- 组织越来越多地转向多元化、公平和包容（DEI）以及健康计划来提升员工士气。
风险
- 跨行业的重组浪潮可能影响企业文化并导致员工流失，尤其是在那些只专注于削减成本的公司。
- 可能错失效率之外的价值，导致巨大的机会成本。鉴于对削减成本的强调，组织可能难以创新。
信号：我们如何知道到 2027 年这种情景是可能的？
- 领先的生成式 AI 采用者与落后者之间的差距正在扩大。 德勤 2024 年第二季度《企业生成式 AI 现状》调查发现，在报告高专业水平的受访组织中，73% 正在快速或非常快速地采用该工具，而在报告有一定专业水平的组织中，这一比例仅为 40%。¹²
- 信任度已经在下降。 爱德曼信任度晴雨表显示，全球信任 AI 公司的比例从 2019 年的 62% 下降到 2024 年的 54%。¹³
- 年轻一代认识到即将到来的变化。 在最近的一项劳动力研究中，67% 的受访早期职业员工表示，考虑到 AI 对其当前工作的影响，他们可能会在未来两到五年内改变职业道路，而资深员工的这一比例为 46%。¹⁴
策略：您应考虑采取哪些步骤来为这种情景做准备？
- 在生成式 AI 之旅的初期，就将对生成式 AI 的投资与加强组织文化和信任的努力相结合。 在这种情景下，许多组织主要关注削减成本的努力，这可能会以牺牲员工信任和工作投入为代价，带来短期效率。通过将加强信任作为生成式 AI 战略的一部分，组织可以减少这些对士气的影响，同时为组织长期更强劲的增长奠定基础。将更大的透明度嵌入组织的生成式 AI 战略有助于培养信任。这可能包括为特定生成式 AI 和 AI 代理能力的输出分配责任。
- 在所有层级建立 AI 素养和教育，以帮助普及 AI 能力的获取。 这可以帮助员工自我选择是否愿意成为组织 AI 赋能未来的一部分。
- 培养和支持自下而上的生成式 AI 用例开发。 设计诸如“提示马拉松”之类的项目，以促进和庆祝跨职能部门的生成式 AI 采用。组织可以强化其对利用生成式 AI 的承诺，同时利用内部劳动力中的爱好者，他们可以识别有价值的用例以及限制扩展的问题。
- 强调并提供激励措施以增强组织创造力。 有意识地专注于激发创新的新方法，奖励跳出框框的思维，并增强思想多样性（例如，利用正在进行的多元化、公平和包容计划以及神经包容性项目）。¹⁵
- 在组织的不同层级审视劳动力规划策略。 考虑到不同级别和职业阶段的员工可能受到生成式 AI 的影响，重新构想员工价值主张并重新审视组织如何吸引和留住人才。特别是，组织可能面临减少早期职业员工入门级机会的风险，尽管这些员工可能最有能力识别生成式 AI 工具带来的机遇。为避免这一潜在陷阱，应明确定义入门级人才战略，包括员工将发展哪些技能，以及在组织内晋升需要哪些经验和专业知识。
- 确定领导层应如何沟通预期的变化，以强化其愿景并增强员工信任。 为激发信任，领导层应重申组织对该技术的承诺，阐明它如何支持公司的宗旨，并向员工宣传其益处。同时，领导者应透明地沟通伴随广泛采用生成式 AI 而来的潜在风险，以及他们计划如何应对。
情景 2
Scenario 2
在这种情景下，由于对生成式 AI 的期望远远超过了现实世界的能力，挫败感显而易见。尽管抱有厚望并投入巨资，但企业却难以收获他们预期从生成式 AI 中获得的许多好处，导致科技行业乃至更广泛的市场低迷。挑战的一部分在于生成式 AI 工具改进方式的一个奇特之处。虽然机器生成输出（包括文本、视频、图像等）的美学质量持续快速提升，但幻觉和其他准确性错误被证明要棘手得多。随着组织快速部署和扩展生成式 AI 工具，这种动态导致了混乱，因为决策者被大量看似高质量但通常包含细微错误和错误信息的数据和分析所淹没。在那些过于激进地裁员以期待未能实现的效率提升的组织中，这些问题更加严重，导致失业率上升，并且许多组织的员工队伍捉襟见肘。
此外，训练数据中的偏见会渗透到这些系统的输出和分析中，在全球商业和社会中延续不平等。与此同时，不良行为者能够利用生成式 AI 的能力来增加虚假信息和网络攻击。综合来看，这些因素导致人们对生成式 AI 乃至整个信息环境的不信任感日益增强。
尽管存在这些困难，但并非一切都是负面的。随着组织重新调整对生成式 AI 的期望，它们已经开始识别出明确的用例，在这些用例中，工具不仅提高了效率，还促进了收入增长和创新。具有讽刺意味的是，那些对 AI 实施采取审慎方法的组织，通过承诺在生成式 AI 转型过程中进行更大程度的协作（特别是与客户和员工），更有可能在这种未来中取得成功。
影响：“泡沫破裂”未来中的机遇与风险
人员
机遇
- 人才涌向那些没有急于进行重大变革的公司和行业。这些公司和行业可能不太需要快速纠正方向。
风险
- 那些迅速利用生成式 AI 降低成本的组织，面临员工焦虑加剧、满意度下降和孤独感增加的风险。
- 如果组织专注于降低成本而牺牲了对创新机会的投资，则可能面临与技能退化相关的重大挑战。这些公司可能也难以吸引新人才。