使用 Semantic Kernel 构建自定义 Copilot
本文重点介绍如何使用由 Azure OpenAI 服务提供支持的 Semantic Kernel 创建自己的 Copilot。我们将尝试利用大型语言模型(LLM)的优势与外部服务的集成。这将使您了解如何真正实现您的 Copilot 目标,不仅与零售业,而且与任何行业,无论是电力和公用事业,政府和公共部门等。它的整体功能和潜在的应用场景都远超于聊天机器人。
……一个技术老兵工作的点滴记录,专注、沟通、乐在分享!
本文重点介绍如何使用由 Azure OpenAI 服务提供支持的 Semantic Kernel 创建自己的 Copilot。我们将尝试利用大型语言模型(LLM)的优势与外部服务的集成。这将使您了解如何真正实现您的 Copilot 目标,不仅与零售业,而且与任何行业,无论是电力和公用事业,政府和公共部门等。它的整体功能和潜在的应用场景都远超于聊天机器人。
……OpenAI 的 GPTs 上线有一段时间了,在实际应用中发现 GPTs 内置对知识库的检索能力很一般,对话过程中经常拿不到期望的反馈内容。如果利用 GPTs 的 action 能很好地弥补这个缺陷。
总所周知加强检索知识库离不开 RAG,如果自建 RAG 将会是一个很大的工作量,而且还要考虑到知识库的更新问题。于是想到 Azure AI Search 提供了一个很好的解决方案,可以很方便地将知识库导入到 Azure AI Search 中,然后通过 API 调用来检索知识库。整个过程都不需要编码,所以将 Azure AI Search 与 GPTs action 结合起来是个不错的主意。
……Azure 机器学习 (AzureML) 与价值驱动 AI 领导者 DataRobot 之间的突破性集成,这是最近宣布的合作伙伴关系的结果。这种集成将 Azure 机器学习功能的强大功能与 DataRobot 在加速构建、部署和监视企业级 AI 解决方案的整个生命周期方面的专业知识结合在一起。
DataRobot AI 平台独特地将生成式和预测性 AI 功能结合在一个统一、开放和端到端的环境中。通过新的集成,DataRobot AI 平台现在可以轻松地直接在 Azure Kubernetes 服务 (AKS) 上运行。数据科学家现在可以在 DataRobot Notebooks Code-Assist 中利用 Azure OpenAI 服务的强大功能。他们还可以通过 Azure 机器学习托管的联机终结点为实时和批处理用例部署模型,同时在 DataRobot 中监视这些部署。
……Prompt Flow 在 Azure 机器学习工作室、Azure AI Studio 和本地开发笔记本电脑上提供,是一种开发工具,旨在简化由 LLM(大型语言模型)提供支持的 AI 应用程序的整个开发周期。Prompt Flow 使提示处于前端和中心,而不是像其他工具那样混淆它们或将它们深埋在抽象层中。这种方法不仅允许开发人员构建编排,还可以像在传统软件开发周期中评估和迭代代码一样评估和迭代他们的提示。
……我们很高兴地看到,在 Azure AI Model Catalog 中增加了几个新的基础和生成AI模型。从 Hugging Face 我们已经推出了一系列稳定的 stable diffusion 模型,falcon 模型,CLIP, Whisper V3, BLIP 和 SAM 模型。除了 Hugging Face 模型,我们还分别添加了 Meta 和 NVIDIA 的 Code Llama 和 Nemotron 模型。我们还将介绍微软研究中心的尖端 Phi 模型。Model Catalog 产生了40个新模型和4个新模式,包括文本到图像和图像嵌入。专业开发人员很快就可以轻松地将最新的 AI 模型(如Meta 的 Llama 2、Cohere 的 Command、G42 的 Jais 以及 Mistral 的高级模型)作为 API 集成到他们的应用程序中。他们还可以使用自己的数据对这些模型进行微调,而无需担心设置和管理GPU基础设施,从而帮助消除配置资源和管理主机的复杂性。
……基因学工作流程在生物信息学中至关重要,因为它们可以帮助研究人员分析和解释大量的基因组数据。但是,使用专用软件和复杂的依赖项创建一致且可重复的环境可能具有挑战性,因此与 CI/CD 工具的集成也很困难。
Azure 机器学习 (Azure ML) 是一个基于云的平台,提供一组全面的工具和服务,用于开发、部署和管理机器学习模型。Azure ML 原生提供出色的可重复性和可审核性功能,而没有多少工作流解决方案提供这些功能。它为运行工作流提供了一个高度集成和标准化的环境,确保每个步骤都以一致且可重复的方式执行。此功能对于需要使用具有特定依赖项的某些版本的多个工具和软件包的基因学工作流特别有用。
……Microsoft Azure 认知语音服务平台是技术和服务的综合集合,旨在加速将语音整合到应用程序中,从而扩大市场差异化。可用的服务包括语音转文本、文本转语音、自定义神经语音 (CNV) 对话听录服务、说话人识别、语音翻译、语音 SDK 和语音设备开发工具包 (DDK)。
人工智能教育是一项新兴技术,有可能彻底改变我们教授和学习语言的方式。语言学习最重要的方面之一是准确发音的能力,这就是 Azure 认知语音服务的新发音评估功能的用武之地。另一个关键机会是开发合成双语语音,用于使用自定义神经语音进行语言学习体验,以及我们的语音转文本功能。
……定制的 OCR 解决方案提供了在文档或图像中定义唯一类别的功能。通过与各种客户合作开发定制 OCR 解决方案,我们经常听到这样的问题:“此解决方案在我的数据上表现如何?我们开发了一种方法,允许使用表单识别器工作室根据自定义数据对 Microsoft 的表单识别器进行基准测试,并在一个过程中使用基本事实批注训练自定义模型。
在训练自定义表单识别器模型之前,必须具有标记或批注的数据集,也称为基本事实。为了提供注释过程的示例,我们创建了一个扫描的手写邮政地址的示例图像。真实名称为“John Doe”,地址为“000 Fifth Ave, NY 10065, USA”,如下图所示:
……Azure 视频索引器很高兴地宣布推出一项名为“特色服装”的新功能,该功能现已推出公共预览版。
借助此功能,发布商和广告主可以利用深入的上下文理解,在观看者最容易接受与广告互动的最相关时间投放最相关的广告。
这种洞察力使用先进的人工智能来深入了解关键时刻、主要角色、重要场景和所显示的情感,所有这些都是为了识别视频中出现的关键服装项目。对于这些服装商品,我们会提供它们出现的确切帧以及更多信息(例如边界框和时间码),这些信息可以帮助广告主和发布商匹配类似服装商品的相关广告,并将其放置在该商品在视频中展示的确切时刻。
……