创建卓越中心来有效管理生成式人工智能可以增加整个组织的成功几率。以下是如何很好地管理它。

生成式人工智能正在快速发展，吸引了投资并激发了开发者的兴趣和创造力。公司将其视为构建创新服务和转型行业的一种方式。然而，尽管开发人员热衷于用它来构建，但挑战是如何从最初的测试阶段转向大规模运营阶段，即解决项目集成和管理问题，以将试点项目投入生产。这是新技术项目的共同历程，从实验探索到整个组织的广泛集成。如果不及早考虑，这种扩散可能会导致治理和可扩展性方面的挑战。

治理和生成人工智能

从实验转向生产时，采用正确的治理方法至关重要。为了充分发挥生成式人工智能的变革潜力，需要在热情与有效治理之间取得平衡。尽管生成式人工智能利用组织数据和知识产权，但其快速发展可能会扰乱既定流程。如果缺乏明确的指导方针、倡导者和执行者，混乱和风险可能会增加。

建立一个能够支持跨部门协作的中央团队是理想的选择。无论您将其称为卓越中心 (CoE) 还是实践社区 (CoP)，该团队在围绕生成人工智能的使用创建通用规则和流程方面都发挥着关键作用。同时，应该有多个部门的代表参与进来，使团队与业务需求紧密结合。这不仅为他们提供了解决业务问题所需的技能和支持，而且还防止团队只关注隐私和安全等问题。将生成式 AI CoE 视为一个深入一线帮助实现业务成果的团队，而不是孤立地下达命令。

欧洲委员会主要承担三项职责：监督、教学和裁判。这三个方面对于所有人来说都是至关重要的，以便所有的行动和选择都指向同一个目标。

CoE 主管：领导、执行和自动化新技术项目的监督，创建一小组通用标准来管理所有参与团队。对于生成式人工智能项目，这可能包括开发统一的方法来管理提示配方、代理开发和测试以及开发工具和集成的访问。这些规则应该简单易行，以确保合规性，但必须严格执行。随着时间的推移，这种方法可以减少与既定标准的偏差，从而减少管理成本和技术债务。

例如，许多生成式人工智能项目在管理项目中数据的使用时将涉及处理和部署客户数据。在实践中，当涉及到客户的个人身份信息（PII）和企业知识产权（IP）时，应确保这些数据安全并与大语言模型（LLM）分离，同时能够合理使用在项目中。 。 PII 和 IP 可以通过快速工程进行部署，并提供有价值的附加信息，但法学硕士不应将其用于再培训或保留。

治理要务实。在执行规则时过于强制或过度会阻碍团队的努力并增加合规成本。与此同时，在某些情况下，必须阻止涉及隐私风险、不道德地使用数据或成本过高的实验。总体目标是避免制定繁琐的标准或抑制热情，并重点鼓励实践成为标准。

为了充分利用生成式人工智能，CoE 应支持和鼓励企业内部的实验。尽早设置保护措施可以帮助团队获得构建生成式人工智能服务、提示菜谱或自主代理的经验。随着团队经验的增加，一些严格的控制可以逐渐放松，帮助他们建立自己的代理并提交高质量的提示配方创意。由于生成式人工智能应用通常采用模块化设计，因此相同的控制、监控和评估方法可以应用于通用组件。 CoE 的目标应该是提供一个控制层，促进项目采用和构建，而不是阻碍项目开发。

CoE 教育者：实践和社​​区 理想情况下，这是 CoE 中投入最多精力的部分。生成式AI项目包括多种用户交互方式，从创建提示列表以获得LLM的优异成绩，到可以处理完整交易的功能齐全的交互式自主代理，旨在以最合适的方式为用户创造更好的体验。多个值。

为了有效部署此类项目，公司必须首先授权团队构建服务，然后帮助他们扩展服务。除了定义并执行相关标准之外，CoE 还应创建和共享实践和原则，以指导新团队并促进知识共享。需要围绕生成式人工智能及其潜力进行培训，以推动采用并赋予人们进行实验的能力。

有必要澄清原则和标准之间的区别。标准为活动和数据处理方式提供了基线，而原则则为建立标准提供了框架。例如，保护客户 PII 的标准明确了要保护的数据，而原则则确定如何使用和处理这些数据以创造价值。这些原则允许不同的团队围绕代理开发进行试验并采用不同的方法。

对于 CoE 来说，探索生成式人工智能的潜力并广泛分享实践至关重要。这个“传播者”职位可以帮助团队了解可用的代理和工具、完善想法并分享其他团队的经验。随着时间的推移，公司内部将会培育出一个强大的社区，鼓励成员之间相互分享经验和成果，从而促进项目的快速推进。

CoE 裁判：调解与决策 在任何技术领域，通常有多种方法可以实现最终结果或业务目标，并且人们在方法上存在分歧是不可避免的。在生成人工智能中，使用检索增强生成（RAG）和LLM微调、内容和模型调整等话题将引发热烈讨论。

CoE 在此过程中发挥着关键作用。有效的生成式人工智能治理必须涉及不同团队的代表，以便即使观点不同也能做出决策。同时，CoE需要能够快速确定解决特定问题选择哪种方法，或者相关人员是否需要通过实验获得更多证据来支持各自的论点。 CoE 的主要准则是每个人都尊重决策并努力支持业务目标。

为了让每个人都尊重一个决定，它需要得到多个利益相关者的认可。如果CoE不参与日常活动或没有真正的投入，它可能会被视为“象牙塔”。为了避免这种情况，专注于行动并保持决策的一致性，这有助于更快地解决争议。

投资生成式人工智能

生成式人工智能具有巨大的潜力。据埃森哲称，40% 的工作时间将用于使用生成式人工智能并重塑工作方式。为了交付相关项目，企业需要提供支持、治理和技能开发。当企业领导者认识到这种潜力时，他们就会投入大量资源来使其发挥作用。否则，你只能眼睁睁地看着竞争对手开展相关工作，而你却落后了。

创建 CoE 来有效管理生成式 AI 将增加成功的机会。 CoE 最大限度地提高生成式 AI 项目的价值，并让所有各方围绕目标进行参与。通过正确运用监督、教育和审查方法，生成式人工智能 CoE 可以有效促进应用和发展，并使 IT 和业务利益相关者的目标保持一致。