人工智能供应商和咨询公司:德勤事件给雇主带来的教训

德勤人工智能合同问题对加拿大雇主敲响了警钟,提醒他们重视供应商监管,一位学者就此向人力资源部门提供了供应商流程方面的建议。

你知道来自哪里吗?chnmc.com

联邦政府因授予德勤公司一份价值高达 110 万美元的合同而受到审查,该合同旨在帮助加拿大就业和社会发展部制定“用于开发和部署人工智能/创新解决方案的精简且可重复使用的流程”。pQ1管理咨询网

近几个月来,德勤两次因据称由大型语言模型(LLM)造成的引文错误而登上国际新闻头条——一次是 2025 年 10 月在澳大利亚,另一次是上个月在纽芬兰和拉布拉多。   pQ1管理咨询网

多伦多大学信息与负责任人工智能教授易卜拉欣·巴格里表示,雇主需要对供应商的做法有一个现实的预期;“任何签订合同协议的人都应该假定,在流程中无论如何都会使用人工智能。这应该是他们的基本认知。”pQ1管理咨询网

Bagheri 指出,即使组织试图在内部限制人工智能,执行起来也很困难——因此,对于咨询和技术服务的购买者来说,这种逻辑也适用于供应商方面:雇主客户很难了解个别顾问或分析师是否在悄悄使用大型语言模型 (LLM) 来撰写报告的部分内容或生成引文。pQ1管理咨询网

鉴于德勤目前引发的争议,巴格里警告说,不要想当然地认为高层领导明知故犯地批准使用生成式人工智能,因为这可能会导致错误的引用或其他错误。pQ1管理咨询网

“我认为整个公司都不知道项目中的某个人或几个人实际上会使用 Gen AI 或大型语言模型 来生成该报告的某些部分,”巴格里说。“而且我认为,从现实角度来看,该公司实际上并不知道那些引证是凭空捏造的。”pQ1管理咨询网

ai555.jpgpQ1管理咨询网

在供应商合同中为人工智能设定“允许的程序”

巴格里认为,与其禁止供应商使用人工智能(他认为这不现实),雇主更应该坚持制定明确的规则,规定供应商在工作中如何使用生成式人工智能,以及不可以使用哪些技术。他还表示,雇主应该确保这些规则写入合同。pQ1管理咨询网

“首先,也是最重要的一点,他们应该制定一套允许使用基因工程人工智能的程序。合同应该明确规定哪些行为是允许的,”他解释说,对于雇主而言,这意味着不仅要明确是否可以使用人工智能,还要明确在什么条件下、由谁使用,以及如何检查这个过程。“这样一来,如果基因人工智能在允许程序之外被使用,他们就有机会寻求补救措施,”他补充道。pQ1管理咨询网

“这将包括谁被允许使用人工智能辅助的输出或将其整合,LLM 是如何生成信息或内容的……审查频率如何,谁会被告知正在生成的内容,以及在何种程度上允许使用 GenAI 内容以及在何种情况下允许使用。”pQ1管理咨询网

1766455200134043.jpgpQ1管理咨询网

要求提供完整的审计追踪记录,而不仅仅是润色过的最终报告。

据报道,去年 11 月,纽芬兰和拉布拉多省向德勤支付了 160 万美元,购买了一份“卫生人力资源计划”,该计划中包含了四个不存在的资料来源。pQ1管理咨询网

2025 年 10 月,德勤因向澳大利亚政府提交的一份报告而面临类似的公众审查,该报告包含“捏造的引语和不存在的学术研究”。pQ1管理咨询网

据《独立报》报道,德勤向澳大利亚政府退还了29万美元的部分款项。pQ1管理咨询网

针对隐蔽使用人工智能的风险,巴格里表示,雇主应该改变他们对供应商的期望;通过在合同中加入“允许程序”条款,可以促使供应商披露他们如何使用人工智能。pQ1管理咨询网

“任何作为合同交付物制作的内容都应该有制作过程的‘审计追踪’,”巴格里说。“因此,合同现在应该强制执行内容制作过程,而不是交付单一的最终成果。”pQ1管理咨询网

对于人力资源和采购团队来说,这意味着要协商获取早期版本、草稿和内部审查记录,而不仅仅是最终的幻灯片或报告。pQ1管理咨询网

巴格里将此视为一项支持问责制的透明度要求。pQ1管理咨询网

“如果我要收到一份交付成果,我不想看到的是最终产品。我想看到的是迭代版本,我想了解这些迭代过程,这样我才能知道报告或最终交付成果是如何产生的,”他解释道。“这将有助于追究责任。人们可以回顾内容的生成过程、生成顺序以及实际操作情况。”pQ1管理咨询网

pQ1管理咨询网

提高对人工智能供应商的审批和员工参与度

Bagheri 进一步解释说,随着生成式人工智能在技术上变得容易快速创建冗长、令人信服的文档,这种审计跟踪变得越来越重要——如果无法了解工作是如何产生和审查的,雇主客户只能在收到甚至部署工作后才发现问题。pQ1管理咨询网

因此,Bagheri 表示,审批流程也应该改变:“要了解不同级别的审批是如何获得的……对交付成果的不同版本进行多次审批迭代。”pQ1管理咨询网

巴格里还建议,雇主代表应在供应商工作进行过程中积极参与,而不是等到最终产品完成才介入。这意味着企业代表应融入供应商的工作流程,随时参与决策或监督。pQ1管理咨询网

他说:“你希望那些在最终交付成果上签字的权威人士能够真正参与到内容中来。接收机构的人员应该真正参与到咨询过程中来,这样他们才能真正了解整个过程,知道有人在积极地思考这个问题。”pQ1管理咨询网

对雇主而言,这意味着要指定内部专家参加工作会议,审阅阶段性草案并对假设提出质疑。巴格里指出,这种方法除了验证之外还有第二个好处:“它还有助于在此过程中真正培养内部专业人才。”pQ1管理咨询网

Bagheri 将人工智能出现之前的咨询模式与现在使用 LLM 所能实现的模式进行了对比,并解释说,与其说是过度扩张,不如说那些在咨询过程中进行收缩和实施更多控制的组织只是在弥补“智力参与”方面的新缺陷。pQ1管理咨询网

他说:“人们一直很放心,因为咨询公司提交的报告是由很多人共同完成的,但现在,只需点击一个按钮,输入两个提示,你就可以借助LLM生成一份200页的文档。”pQ1管理咨询网

 “一份200页的报告已经无法代表对主题的深入思考。因此,任何寻求咨询服务的人都应该真正融入到咨询过程中。”pQ1管理咨询网

你知道来自哪里吗?chnmc.com
相关内容
德勤首席技术官:企业93%的支出都花在了技术上,只有7%花在了人才上,这种情况必须改变
德勤首席技术官:企业93%的支出都花在了技术上,只有7%花在了人才上,这种情况必须改变.

全球各地的企业董事会中,一种特殊的焦虑正在蔓延。这不仅仅是对机器人抢走工作的恐惧,更是在瞬息万变的市场中,对“买家后悔”的焦虑。德勤首席技术官比尔·布里格斯指出,随着人工智能从实验阶段迈向规模化的影响和价值,这种恐惧正在导致一种失衡的投资策略:企业将 93%的人工智能预算投入到技术研发中,而只有 7%投入到预期使用该技术的人才身上。...

德勤 | 2026年投资管理行业变革浪潮来袭:德勤最新报告揭示行业新机遇
德勤 | 2026年投资管理行业变革浪潮来袭:德勤最新报告揭示行业新机遇.

行业边界模糊化,产品融合成趋势根据德勤最新发布的《2026年投资管理行业展望》报告,2026年投资管理行业将呈现行业边界模糊化、产品融合加速的新趋势。传统对冲基金、私募股权(PE)及其他另类投资领域的产品架构差异正日益...

德勤 | 从实验到影响力:2026年科技趋势加速重塑商业格局
德勤 | 从实验到影响力:2026年科技趋势加速重塑商业格局.

根据德勤的《Tech Trends 2026》报告,随着技术创新和采用速度的加速,成功的企业正从技术实验迈向实际影响力。报告揭示了五个关键趋势,展示了企业如何在快速变化的环境中实现真正的商业价值。...

在线咨询