CIO们站在将GenAI巨大潜力转化为实际价值创造的最前线,为此,他们可以选择三种方法之一。“接受者”使用第三方供应商提供的现成的GenAI软件,“创造者”自己创建大型语言模型(LLM),介于两者之间的是“塑造者”,他们将外部模型整合到现有系统中,创建定制化的应用。对于许多公司来说,成为“塑造者”是最合适的选择,因为它比构建基础模型成本低且复杂性小,比直接购买现成的更有用。
那么,“塑造者”如何才能成功摆脱试点困境,顺利扩大GenAI的应用?以下三个原则至关重要。
设定优先事项
在成功的技术转型中,行动与解决业务问题密切相关,这就是为什么CIO需要与业务部门领导者一起设定优先事项,并使这些选择得以实现。原则是识别GenAI推进战略的用例,这可能需要关闭失败的试点项目,并加倍努力推动那些有前景的项目。经济性也必须是这一分析的一部分,由于GenAI仍然非常新,成本可能会急剧上升,使得扩展变得困难。需要记住的一个规则是,每花费1美元来构建GenAI应用程序,约需要3美元用于变更管理,包括培训人员和积极跟踪性能。
同样重要的是,抵制放任技术团队自行其是的诱惑,这可能会导致多个有时重叠的平台,既耗费金钱又浪费时间。更好的方法是以一种能够相对容易地切换供应商或模型的方式来构建基础设施和应用程序。
不要将GenAI视为技术项目
GenAI是一项团队运动,而CIO是主教练。为了产生真正的影响,GenAI必须脱离IT职能,嵌入到业务中,这意味着将技术与产品、风险、法律和其他部门整合,这个跨职能团队的一个重要任务是开发和实施支持扩展的协议和标准。有多种方式可以开发这样的团队,CIO将在其组成和任务中发挥重要作用。一些公司已经启动了卓越中心,而其他公司选择了设立独立的战略和交付部门。关键在于团队能够很好地协作,明确目标,并定期检查进展。CIO需要确保团队不仅仅是工作的管理者,更是价值的创造者。
需要牢记的原则是,这不是在创建不同的部分,而是确保它们都能协同工作。每个用例都需要能够访问多个模型、向量数据库、提示库和应用程序,这意味着公司必须管理各种来源,如云端、现场、供应商或其组合中的应用程序或数据库,同时确保与现有协议(包括访问权限)的一致性和可靠性。
重用和适应现有技术
没有准确的数据和将模型连接到内部数据源的架构,高性能的GenAI解决方案是不可能实现的。例如,重要的是对内容来源的重要性进行评级,以便模型能够理解哪些应该被给予更大的权重,然而,很多时候,公司在追求完美,而他们真正需要做的是识别哪些数据最重要,然后投入精力进行管理。大型数据项目是慢性死亡的最可靠途径。相反,应该关注那些为高优先级用例驱动价值的数据领域。不要试图解决所有问题。例如,“有针对性的标签”就足以为GenAI查询提供高质量的答案。
在编写代码时,也许不需要重新发明轮子,而是要确保它运转顺畅。与其为每个用例编写代码,不如寻找可以服务于多种用例的解决方案。根据麦肯锡最新的AI状态调查,GenAI的高绩效者几乎是其他公司的三倍,能够做到这一点。可重用代码可以将GenAI用例开发的速度提高多达50%。为了实现这一目标,CIO需要在识别各个用例中共同的功能方面发挥领导作用,然后构建适合的工具。
捕捉GenAI的潜力比预期的更为困难。显而易见的是,集成它可能需要从操作模型到技术和数据系统的全面改造。为了让GenAI不仅带来价值,还能带来兴奋,CIO需要挺身而出,明确自己的位置,他们将负责创建团队、利用资产并指导战略思维,从而确保或阻碍GenAI在未来的发展。