随着代理型AI以惊人的速度发展，以下是选择AI代理构建平台的一些建议，以便你和你的团队以及供应商能够同时实现创新。
作为CIO，今年你的IT团队可能正在从评估和部署独立的第三方AI软件包，迅速转向在整个客户端和内部业务应用中集成自定义AI代理，以实现更进一步的自动化和生产效率。
他们可能正在使用至少一个AI代理构建平台，甚至可能同时使用多个。由于所有AI工具，包括AI代理构建平台，都在不断创新和更新，通常每天如此，因此在选择这些工具并确定一个将成为你首选平台时，值得记住一些事情。鉴于此，以下是一些需要考虑的更精细的要点，这些要点超越了功能和定价的基本层面，但仍然可能是成功的重要决定因素。
评估代理构建环境
如果我们从代理构建环境本身开始，代理供应商往往是在学习和创新的过程中。他们通常对大型语言模型(LLM)提供商和模型了如指掌，并了解一个模型相对于另一个模型的优缺点，然而，他们在用户界面(UI)和以客户为中心地看待其构建环境方面可能技能较少。他们的整个工作室可能会经常发生变化，因此你可能会同时创建代理并迁移到其工作室的新版本。
确保他们的环境直观易用，方便你测试代理，并为代理提供增强选项，如短期和长期记忆。此外，还应具备负责任的AI功能——反思、现实性和上下文相关性——以及安全的AI功能——公平性和偏见、毒性检查、人机协作和个人信息保护(PII)删除。你还希望一目了然地查看你订阅中使用的积分，以及增值功能，如使用AI改进代理的角色和指令的能力。
全面的API文档
在你的AI代理构建平台中构建代理后，下一步是使用API调用将这些代理实施到你自己的应用程序中。在API级别寻找丰富的文档，以及解释在即时配置代理时的顺序等更高级别的信息。清晰的文档可以帮助你自己的IT团队快速上手，并学习从环境设置到RAG(代表、属性和关系)创建和训练，再到代理创建，以及代理交互和查询所需的顺序。
他们还需要清晰的文档来了解如何监控和报告令牌使用情况，以及如何监控和显示历史查询、AI代理和安全性能，以及与其他系统的集成。拥有这些信息通常可以减半你的开发和测试时间，因为你的IT团队和代理提供商之间解决问题和疑问的来回沟通会大大减少。
获取专业服务和支持
由于代理构建环境因持续创新而不断变化，重要的是你的供应商拥有专业服务和支持，以便他们可以帮助你的团队在实施过程中建立信心并建立信任。
寻找慷慨提供支持的供应商，并愿意与你的团队合作，将你的代理推向终点。如果你能够接触到领导团队，那就更好了，他们可以就如何最好地利用其平台以及利用各种计划(如AWS合作伙伴关系和他们自己的附属计划)提供战略建议。
确保系统正常运行时间
AI代理基础设施的系统正常运行时间通常可以通过API调用进行监控，这对于成功部署至关重要。由于许多AI代理构建平台都是初创企业，你可能会发现，随着他们迁移到平台的新版本或对API及其代理、RAG和工具环境进行其他更改，环境可能会偶尔出现停机。
寻找内置方式来监控这一点，例如通过API调用或你可以轻松联系公司人员进行故障排除的方式。在AI代理性能监控方面，你需要查看响应时间和准确性，以及代理可用性。在错误率方面，请检查代理遇到的错误频率和类型，如错误响应、幻觉和检索信息时的错误。在某些情况下，代理只是失去了上下文，因此重要的是要查看短期和长期记忆等设置，并找出代理在其上下文记忆中保留了多少推断。
探索产品路线图
在清除构建和部署生产级代理的先前考虑因素后，你还想探索供应商的产品路线图。例如，如果他们的代理提供文本输出，他们是否有计划转向多模态，包括音频、图像和视频?这是否是你自己的部署中可能需要的功能?
对第三方工具和集成的支持也将至关重要。例如，如果供应商代理提供与X的社交媒体帖子集成，他们是否有计划支持LinkedIn?他们在推出新功能时是否有现成的示例?
好消息是，AI代理构建平台每天都在变得更好，拥有更直观的界面、更丰富的文档、更多的集成和更多的用例。创新的步伐令人瞠目结舌，创始人往往在天亮前就开始工作，只是为了跟上步伐。如果你与一个强大的AI代理构建平台合作，你可以解放你的IT团队，让他们少关注AI基础架构，多关注业务规则、用户界面和集成，这将使你的代理实施取得成功。
