微软在Ignite 2024上推出Azure AI Foundry，标志着从聊天机器人到代理以及使用人工智能进行业务流程自动化的可喜转变。
我们使用人工智能的方式正在发生变化。聊天机器人不会消失。我们将继续使用它们来提供基本的、自然语言的、自助服务的应用程序。但未来属于多模态应用程序，这些应用程序建立在大型语言模型（LLM）和其他人工智能模型上，作为自我组织软件代理。这些更复杂的人工智能应用程序将需要更多的思考、更多的代码、更多的测试和更多的保障措施。
人工智能的演变需要我们的开发工具的类似演变。尽管我们看到Power Platform的Copilot Studio开始提供构建以任务为重点的代理的工具，但更复杂的人工智能应用程序将需要更多的工作，即使得到了语义内核等框架的支持。
除了认知服务API外，Azure目前的许多人工智能工具都专注于构建接地聊天机器人，使用微软的Prompt Flow框架将外部矢量索引添加到LLM中，以进行检索-增长生成（RAG），以及在自己的人工智能安全工具中进行包装调用和输出。这是构建和运行微软自己的Copilot服务的成熟方法，但如果企业要获得下一代人工智能服务，他们需要能够帮助提供自定义代理的新工具。
介绍Azure AI Foundry
在Ignite 2024上，微软发布了其Azure AI Foundry SDK。该公司没有专注于像Azure AI Studio（像它一样好）这样的服务，而是将Azure AI开发带到开发人员所在的地方：他们的开发环境。Azure AI Foundry将插入Visual Studio和Visual Studio Code等IDE和编辑器，以及GitHub等平台。微软将Azure AI Foundry描述为“一个用于构建、评估和部署大规模人工智能应用程序的从汤到坚果的平台。”
这并不意味着Azure AI Studio的终结。相反，它将扮演一个新的门户角色，在那里你可以管理你的模型和使用它们的应用程序。它将作为业务和开发之间的桥梁，允许应用程序所有者、利益相关者和架构师共享有关您代码的必要指标。
新门户将帮助管理对工具和服务的访问，使用您的Azure订阅将关键信息带入单个视图。这有助于管理资源和特权，并降低安全漏洞的风险。了解您正在使用哪些资源是确保您拥有正确的控制并且不会忽视关键基础设施和服务的关键。
不仅仅是使用Azure AI Foundry的代码
Azure AI Foundry的一部分是Azure Essentials最佳实践文档的更新，该文档现在与Azure Migrate、云采用框架和Well Architected指南等工具合理地存在。开发团队应访问此门户网站，了解微软合作伙伴及其自己的服务团队开发的架构和设计最佳实践，以帮助构建云驱动的应用程序。
Azure AI Foundry将包含帮助您对模型进行基准测试并为您的应用程序选择合适的模型的工具。为不同的模型使用相同的指标，您可以看到哪个最适合您的数据，哪个最高效，哪个最连贯，以及它们的运行成本。在公共培训数据和您自己的培训数据上运行此新基准测试工具，以尽早做出正确的决定，降低选择不适合您要求或数据的模型的风险。
结果应该是开发人员和业务利益相关者协作的共同平台。随着现代人工智能通过代理从聊天机器人迁移到智能流程自动化，这种方法将变得越来越重要。开发团队必须了解他们试图解决的业务问题，而业务分析师和数据科学家则需要帮助提供必要的提示来指导人工智能代理。
除了新的开发工具外，Azure正在扩展其人工智能模型库。拥有近2000个选项，您可以找到并微调适合您的业务问题的模型。除了OpenAI的LLM和微软自己的Phi小语言模型外，其他选项还包括来自Rockwell Automation和Bayer等知名供应商的一系列行业特定模型。额外的新功能将使准备训练数据并用它来微调模型变得更容易、更快。
合并AutoGen和语义内核
与Azure AI Foundry的推出密切相关的是微软研究的AutoGen代理人工智能框架与语义内核的计划合并。该组合将帮助您开发和操作长期运行的有状态业务流程，在Dapr和Orl Orleans托管组件。随着AutoGen在奥尔良上构建，稳定的语义内核和AutoGen的多代理研究项目之间已经有足够的融合。
AutoGen仍将是一个研究平台，用于实验复杂的上下文计算项目。然后，项目可以移植到语义内核，为您提供支持的运行时，供您的代理在生产中运行它们。微软正在为这一过渡发出大量通知，过渡应该在2025年初进行。
如果我们要使用代理人工智能实现业务流程自动化，我们需要将代理与业务流程连接起来。对Copilot Studio来说，这很容易，因为它可以利用Power Platform的现有连接器架构。然而，即使使用Azure API管理等服务，构建和管理您自己的连接基础设施可能很复杂。访问企业数据有助于协调代理，同时为使用RAG的LLM提供接地。
管理与Azure AI代理服务的人工智能集成
与Azure AI Foundry一起，微软正在推出Azure AI代理服务，以支持这些与业务线应用程序的必要集成。Azure AI代理服务简化了与Azure自身数据平台以及Microsoft 365的连接。如果Azure AI Foundry是将人工智能带到开发人员所在的地方，Azure AI Agent Service则将其带到您的业务数据所在位置，例如Microsoft Fabric中的数据湖和存储在SharePoint中的企业内容等工具中。
Azure AI代理服务建立在Azure的基础设施功能之上，增加了对专用网络和您自己的存储的支持。目的是利用Azure现有的认证和监管批准，快速构建人工智能工具，以提供兼容的应用程序。此举应有助于企业采用人工智能，使用Azure AI Foundry将相关利益相关者聚集在一起，并使用Azure AI代理服务来应用必要的控制——用于内部和外部批准。
改进Azure的人工智能基础设施
除了新的软件功能外，Azure正在添加更多人工智能专用基础设施工具。在Azure Container Apps中托管的AI应用程序现在可以使用无服务器GPU进行推断，在不使用时将Nvidia硬件扩展到零，以帮助降低成本。其他选项提高了容器安全性，以降低在敏感数据上使用LLM相关的风险，无论是个人身份信息还是来自业务线平台的商业敏感数据。
Ignite是微软专注于其商业软件的地方，因此它是推出Azure AI Foundry等开发人员产品的正确场所。Azure AI Foundry旨在将人工智能构建到完整的软件开发生命周期中，从设计和评估到编码和操作，为开发人员、AIops、数据科学家和业务分析师提供了一个共同的地方，让他们与工具一起工作，以构建下一代人工智能应用程序。
有了代理人工智能应用程序，很明显，微软认为企业是时候超越聊天机器人，使用人工智能来获得灵活、智能的业务流程自动化的好处了。基于Azure AI Foundry和Semantic Kernel，我们能够提供我们想要构建的上下文感知长交易应用程序——确保它们既值得信赖又符合法规。
