CIO缺乏成功指标,导致许多AI项目失败

CIOAge
根据IDC的研究,近三分之一的CIO不清楚其AI概念验证(POC)项目是否达到既定指标,却仍不断推出新项目,导致大量项目失败。

近三分之一的CIO不知道哪些AI概念验证(POC)项目达到了既定指标,然而,他们还是不断推出新项目——这种策略注定无法取得预期成果。

根据研究公司IDC的数据,许多企业已经启动了数十个AI概念验证项目,但其中很大一部分都以失败告终,部分原因是CIO们不知道这些概念验证项目是否达到了关键指标。

在IDC于9月进行的一项调查中,30%的CIO承认,他们不知道自己的AI概念验证项目中有多少达到了预期的KPI,或者被视为成功。

结合IDC 4月的一项调查(该调查发现企业平均启动了37个AI概念验证项目),9月的调查表明,许多CIO一直在盲目尝试,看看哪些项目能成功,IDC咨询与研究服务全球副总裁Daniel Saroff表示。

平均而言,在数十个AI概念验证项目中,只有五个进入生产阶段,而其中只有三个被认为成功,结果就是GenAI的“循环往复”,企业进行了大量实验,却收效甚微,Saroff说。

“当他们说他们不知道自己的KPI是什么时,他们真正想说的是,‘当我们确定概念验证时,我们没有衡量成功的标准,’”他补充道。

Saroff表示,潜在的成本可能非常巨大,有些概念验证项目的成本高达数百万美元。

与此同时,在IDC 9月调查的对象中,约70%的人表示,在每10个定制开发的AI应用中,有9个未能通过概念验证阶段并进入生产阶段。35%的CIO表示,他们的定制开发AI应用没有一个成功走出概念验证阶段。

CIO们在供应商开发的AI应用方面的表现略好一些,但仍有近三分之二的人指出,供应商主导的AI概念验证项目有90%的失败率。

成功难以定义

即使AI应用进入生产阶段,许多CIO也不清楚成功的标准是什么。近一半的CIO表示,他们要么不知道自己的AI生产应用是否成功,要么认为现在判断还为时过早。

Saroff表示,在许多情况下,企业似乎在没有充分准备的情况下就启动了概念验证项目。他补充说,许多企业在启动通用AI项目之前,没有清理和企业好内部数据。

“我们看到GenAI在很多方面都不成功,事后回想起来,原因很简单,那就是数据不好,”他说。“这是一项新技术,周围有很多炒作,人们觉得需要急于投身其中,但他们没有做好准备工作。”

EchoStor(一家增值分销商)的CIO Daniel Clydesdale-Cotter补充说,数据管理不善和访问管理不足似乎是阻碍AI概念验证项目成功的两大障碍。

“特别令人担忧的是,许多企业可能急于实施AI,而没有妥善考虑谁拥有数据、数据存放在哪里以及谁可以通过AI模型访问数据,”他说。“AI项目成功率的高不确定性可能表明,企业没有在专有信息、客户数据和AI模型训练之间建立明确的界限。”

Clydesdale-Cotter补充说,访问控制很重要。企业的财务团队不应该访问用于人力资源AI工具的数据,反之亦然。同时,AI工具运行所需的数据往往分散在企业内部。

缺乏规划

此外,咨询公司Segal(专注于人力资源和员工福利)的副总裁兼高级顾问Michael Stoyanovich表示,无法判断AI概念验证项目是否成功的CIO占比表明,项目启动前缺乏战略规划。

他表示:“这凸显了在评估AI项目成功时缺乏清晰度和衡量标准,这种不确定性可能导致资源浪费,更重要的是,可能错过改进的机会。”

在太多情况下,企业似乎在不考虑业务影响的情况下就启动了AI概念验证项目。他表示,虽然一些AI概念验证项目可以在内部生产力方面带来渐进式改进,但这些项目很少能改变游戏规则。

“企业只是盲目地投身其中,而没有制定一个将AI融入企业的周密战略计划,”Stoyanovich补充说。“实际上,暂停一下,深吸一口气,挺直腰板,然后快速制定一个战略计划,这不仅是合适的,而且可能是一个福音。”

RobobAI(一家利用AI帮助企业管理供应链的金融科技公司)的首席技术官David Curtis补充说,IDC的调查结果“令人警醒”,近三分之一的CIO不了解成功指标,而且90%或更多的概念验证项目都在失败。

他表示,许多概念验证项目似乎缺乏明确的目标和指标。他也同意IDC的Saroff的观点,即许多公司在数据不足或数据质量不佳的情况下启动AI项目。

Curtis表示,太多推动企业采用通用AI的人并不了解这项技术。许多高管对部署AI所需的工作量存在误解,一些人甚至错误地认为AI将取代许多员工。

“人们认为AI在某种程度上是神奇的,它将一次性解决所有问题,”他补充说。“根据用例的不同,处理AI的工作量相当大。这并不是从货架上拿起一件东西然后运行那么简单。”

Curtis表示,在某些情况下,失败的AI实验可能具有教育意义,并指引企业走向更好的项目,但是,许多企业在看到大部分AI概念验证项目失败后,可能会停止实验。

“我合作过的许多金融服务公司都没有风险文化,”他说。“如果某件事失败了,而且他们在上面花了数百万美元,他们可能就不会再做了。”

对于风险厌恶型公司而言,与启动数十个概念验证项目并迅速失败相比,事先做好规划可能是更好的选择。

“在实际开始之前,试着先消除一些风险,”Curtis说。“在我工作过的地方,内部资源都是非常宝贵的。与其有37个概念验证项目,不如先专注于两三个有意义的项目。”

从战略需求出发

EchoStor的Clydesdale-Cotter建议CIO在启动多个AI概念验证项目之前,仔细考虑战略业务需求。与Stoyanovich一样,他建议公司更专注于那些能带来竞争优势的AI项目,而不是那些只能带来小幅效率提升的项目。

他曾与一家公司合作,启动了一个项目,利用大型语言模型(LLM)来协助处理内部IT服务请求。通过AI回答许多IT服务查询,该概念验证项目成功降低了运营成本。

“客户非常喜欢这个结果,”他说。“但结果却是,‘要在你的数据中心运行这个项目,仅就新的硬件和软件要求而言,你可能就要花费上百万美元。’

“然后业务部门回来问,‘我们为什么要花一百万美元?我们可以雇五个人。’”

责任编辑:华轩 来源: 企业网D1Net
相关推荐

2011-08-08 08:59:21

CIO云计算

2023-09-19 09:35:31

CIO技能趋势

2023-01-29 16:38:19

人工智能项目数据仓库

2013-08-19 16:17:48

CIO

2019-12-26 17:47:19

信息化数字化转型5G

2012-10-16 17:01:31

2022-09-01 14:58:24

AI机器学习

2022-08-02 10:14:01

CIOIT团队

2014-01-07 14:01:07

展视互动在线教育

2014-02-27 16:56:58

CIO

2024-09-05 15:37:57

2013-05-17 09:49:24

敏捷开发开发项目项目

2010-05-09 19:20:11

2018-03-27 18:03:18

2023-02-06 10:37:50

数据驱动IT领导者

2022-02-17 10:35:29

人工智能人才缺口技术

2024-05-30 08:00:18

2024-06-07 06:37:34

2023-08-10 14:12:41

CIOIT顾问

2023-04-23 10:58:29

兼职CIO管理团队

51CTO技术栈公众号