使用 Semantic Kernel 构建自定义 Copilot
本文重点介绍如何使用由 Azure OpenAI 服务提供支持的 Semantic Kernel 创建自己的 Copilot。我们将尝试利用大型语言模型(LLM)的优势与外部服务的集成。这将使您了解如何真正实现您的 Copilot 目标,不仅与零售业,而且与任何行业,无论是电力和公用事业,政府和公共部门等。它的整体功能和潜在的应用场景都远超于聊天机器人。
……一个技术老兵工作的点滴记录,专注、沟通、乐在分享!
本文重点介绍如何使用由 Azure OpenAI 服务提供支持的 Semantic Kernel 创建自己的 Copilot。我们将尝试利用大型语言模型(LLM)的优势与外部服务的集成。这将使您了解如何真正实现您的 Copilot 目标,不仅与零售业,而且与任何行业,无论是电力和公用事业,政府和公共部门等。它的整体功能和潜在的应用场景都远超于聊天机器人。
……盛传埃隆·马斯克说过“基于碳基生命体的人类是硅基生命的引导程序”这句话,也因为当下人工智能在大模型的加持下被推向了一波新的热潮,人们对于智慧和生命形态有了更多的想象。
我的感觉是,现在提引导程序启动为时尚早。以当下我们的科技水平和认知,还有许多课题要探索,比如宇宙中是否有其他的生命存在,是否还有更高维度的生物。 这些研究有助于人类了解生命和文明的本源,或许决定了人类有了向何种生命引导的选择。
……这不仅仅是 2024 年 FireUG 第一次线下聚会,除了社区新老朋友的互动外,我们还带来了.NET Conf China 2023 的新鲜消息和微软定制礼品!🎁💥
项斌(Bin Xiang)微软最有价值专家
Alvin SSW China CEO
Yang SSW 资深专家
骆姜斌(Jerry) FireUG 组织者 微软最有价值专家
肖伟宇 FireUG 组织者 NetCorePal 框架开发者
13:00-13:30 暖场 活动介绍
……OpenAI 的 GPTs 上线有一段时间了,在实际应用中发现 GPTs 内置对知识库的检索能力很一般,对话过程中经常拿不到期望的反馈内容。如果利用 GPTs 的 action 能很好地弥补这个缺陷。
总所周知加强检索知识库离不开 RAG,如果自建 RAG 将会是一个很大的工作量,而且还要考虑到知识库的更新问题。于是想到 Azure AI Search 提供了一个很好的解决方案,可以很方便地将知识库导入到 Azure AI Search 中,然后通过 API 调用来检索知识库。整个过程都不需要编码,所以将 Azure AI Search 与 GPTs action 结合起来是个不错的主意。
……Azure 机器学习 (AzureML) 与价值驱动 AI 领导者 DataRobot 之间的突破性集成,这是最近宣布的合作伙伴关系的结果。这种集成将 Azure 机器学习功能的强大功能与 DataRobot 在加速构建、部署和监视企业级 AI 解决方案的整个生命周期方面的专业知识结合在一起。
DataRobot AI 平台独特地将生成式和预测性 AI 功能结合在一个统一、开放和端到端的环境中。通过新的集成,DataRobot AI 平台现在可以轻松地直接在 Azure Kubernetes 服务 (AKS) 上运行。数据科学家现在可以在 DataRobot Notebooks Code-Assist 中利用 Azure OpenAI 服务的强大功能。他们还可以通过 Azure 机器学习托管的联机终结点为实时和批处理用例部署模型,同时在 DataRobot 中监视这些部署。
……Prompt Flow 在 Azure 机器学习工作室、Azure AI Studio 和本地开发笔记本电脑上提供,是一种开发工具,旨在简化由 LLM(大型语言模型)提供支持的 AI 应用程序的整个开发周期。Prompt Flow 使提示处于前端和中心,而不是像其他工具那样混淆它们或将它们深埋在抽象层中。这种方法不仅允许开发人员构建编排,还可以像在传统软件开发周期中评估和迭代代码一样评估和迭代他们的提示。
……由于大模型的爆火,ML.NET 似乎快被遗忘在角落了,这次3.0版本的发布意外中带着些欣喜。总结其新特性和改进主要包括以下几个方面:
ML.NET 3.0增加了对象检测、命名实体识别和问答等深度学习场景的支持,这些场景都是基于 TorchSharp 和 ONNX 模型的集成和互操作性实现的。此外,还更新了与 LightGBM 的集成,使用了最新版本。
……在 AI 加持下的代码助手已经有很多了,如果你使用的是 VS Code,那么推荐安装 GitHub Copilot 来提升编码的效率。GitHub Copilot 为多种语言和各种框架提供支持建议,相信用过后就再也离不开飞一般的体验了。
在左侧点击扩展栏,输入“github copilot”搜索进行安装。或者由此一键安装。
我们很高兴地看到,在 Azure AI Model Catalog 中增加了几个新的基础和生成AI模型。从 Hugging Face 我们已经推出了一系列稳定的 stable diffusion 模型,falcon 模型,CLIP, Whisper V3, BLIP 和 SAM 模型。除了 Hugging Face 模型,我们还分别添加了 Meta 和 NVIDIA 的 Code Llama 和 Nemotron 模型。我们还将介绍微软研究中心的尖端 Phi 模型。Model Catalog 产生了40个新模型和4个新模式,包括文本到图像和图像嵌入。专业开发人员很快就可以轻松地将最新的 AI 模型(如Meta 的 Llama 2、Cohere 的 Command、G42 的 Jais 以及 Mistral 的高级模型)作为 API 集成到他们的应用程序中。他们还可以使用自己的数据对这些模型进行微调,而无需担心设置和管理GPU基础设施,从而帮助消除配置资源和管理主机的复杂性。
……