为什么大模型难落地?

以大模型为核心的 AIGC,在推广普及的早期阶段,观望者是多数。大模型难落地的话题屡见不鲜,同时各类充满创意和创新的项目不断在互联网上涌现,大家不禁会产生疑问,到底大模型落地有多难?

我尝试深追了一下,和身边的同事、好友以及合作伙伴谈及这个话题,慢慢有了一些切实的感受。原来大家对“落地”一词是有很多角度的理解。首先提出的一派观点就是产生收益即落地,能赚到钱说明被市场和客户认同了,道理上一看貌似也说得通。但是以收益来评价落地效果在早期阶段会有一些走样,比如 AIGC 相关的知识付费,对于提供者来说是“落地”了,可对于消费者来说这才刚刚了解和接触,能不能用到自身的工作、业务中亦未可知。于是有了第二类说法,使用 AIGC 像作个表情包,画一张宣传广告图,生成一小段音乐等等,有付费且最终被购买者使用了,这该符合“落地”了吧。有意思的是它们有个共通的特点,都是贴近生活娱乐的,产物都是被人类直接消费掉的,严肃地说它具有什么样的价值——其实心里也觉得是模模糊糊的。当然还有另外一种形式,就是所谓工具党,也称作卖铲人,比较常见于软件开发、办公效率场景,软件开发者喜欢用到 AI 编码助手,根据上下文智能地生成代码能极大提高开发效率,办公类工具就更举不胜举了,自动生成文案,润色稿件,生成 PPT 或 Excel 表的内容……传统办公应用在大模型的加持下的确焕发了新的生产力。

……

阅读全文

实现 Azure OpenAI 无密钥身份验证

与许多 Azure API 一样,Azure OpenAI 服务允许开发人员使用API密钥无密钥(通过Entra ID)进行身份验证。由于尽量避免使用密钥是安全最佳实践,因此我们在本文中将详细介绍如何使开发人员轻松地迁移到无密钥 Azure OpenAI 身份验证。如果您想立即行动,这里还提供了一个新的无密钥部署模板。

密钥的风险

首先让我们来谈谈API密钥的风险,使用密钥很省心,因为设置看起来很简单——你只需要一个端点URL和密钥:

……

阅读全文

使用 Semantic Kernel 构建自定义 Copilot

本文重点介绍如何使用由 Azure OpenAI 服务提供支持的 Semantic Kernel 创建自己的 Copilot。我们将尝试利用大型语言模型(LLM)的优势与外部服务的集成。这将使您了解如何真正实现您的 Copilot 目标,不仅与零售业,而且与任何行业,无论是电力和公用事业,政府和公共部门等。它的整体功能和潜在的应用场景都远超于聊天机器人。

……

阅读全文

从引导程序说起

盛传埃隆·马斯克说过“基于碳基生命体的人类是硅基生命的引导程序”这句话,也因为当下人工智能在大模型的加持下被推向了一波新的热潮,人们对于智慧和生命形态有了更多的想象。

我的感觉是,现在提引导程序启动为时尚早。以当下我们的科技水平和认知,还有许多课题要探索,比如宇宙中是否有其他的生命存在,是否还有更高维度的生物。 这些研究有助于人类了解生命和文明的本源,或许决定了人类有了向何种生命引导的选择。

……

阅读全文

FireUG x .NET Conf China - Watch Party

🔥 .NET Conf China Watch Party 杭州站活动来啦!🎉

—— FireUG特别呈现🔥

这不仅仅是 2024 年 FireUG 第一次线下聚会,除了社区新老朋友的互动外,我们还带来了.NET Conf China 2023 的新鲜消息和微软定制礼品!🎁💥

主要组织者

项斌(Bin Xiang)微软最有价值专家
Alvin SSW China CEO
Yang SSW 资深专家

主持人

骆姜斌(Jerry) FireUG 组织者 微软最有价值专家

肖伟宇 FireUG 组织者 NetCorePal 框架开发者

议程

  • 13:00-13:30 暖场 活动介绍

    ……

阅读全文

GPTs action 中使用 Azure AI Search

OpenAI 的 GPTs 上线有一段时间了,在实际应用中发现 GPTs 内置对知识库的检索能力很一般,对话过程中经常拿不到期望的反馈内容。如果利用 GPTs 的 action 能很好地弥补这个缺陷。

总所周知加强检索知识库离不开 RAG,如果自建 RAG 将会是一个很大的工作量,而且还要考虑到知识库的更新问题。于是想到 Azure AI Search 提供了一个很好的解决方案,可以很方便地将知识库导入到 Azure AI Search 中,然后通过 API 调用来检索知识库。整个过程都不需要编码,所以将 Azure AI Search 与 GPTs action 结合起来是个不错的主意。

……

阅读全文

Azure 机器学习和 DataRobot 联手加速生成式和预测性 AI 的价值

Azure 机器学习 (AzureML) 与价值驱动 AI 领导者 DataRobot 之间的突破性集成,这是最近宣布的合作伙伴关系的结果。这种集成将 Azure 机器学习功能的强大功能与 DataRobot 在加速构建、部署和监视企业级 AI 解决方案的整个生命周期方面的专业知识结合在一起。

DataRobot AI 平台独特地将生成式和预测性 AI 功能结合在一个统一、开放和端到端的环境中。通过新的集成,DataRobot AI 平台现在可以轻松地直接在 Azure Kubernetes 服务 (AKS) 上运行。数据科学家现在可以在 DataRobot Notebooks Code-Assist 中利用 Azure OpenAI 服务的强大功能。他们还可以通过 Azure 机器学习托管的联机终结点为实时和批处理用例部署模型,同时在 DataRobot 中监视这些部署。

……

阅读全文

FireUG 2023 年度回顾

2023 年 FireUG 技术社区在内容方面做了一些调整,把程序员的日常关注和专业技能的提升分开,这样便于利用不同的时间段观看自己感兴趣的内容。

系列公开课的内容如下:

公开课|DDD领域驱动设计

讲师:肖伟宇 期数:共14期(完结) 入口:去观看

公开课|AzureDevOps实战

讲师:骆姜斌 期数:共5期(未完结) 入口:去观看

公开课|PowerBI入门

期数:共3期(未完结) 入口:去观看

每月科技新闻

期数:共8期(未完结) 入口:去观看

……

阅读全文

多种环境部署 Azure 机器学习 Prompt Flow

Prompt Flow 在 Azure 机器学习工作室、Azure AI Studio 和本地开发笔记本电脑上提供,是一种开发工具,旨在简化由 LLM(大型语言模型)提供支持的 AI 应用程序的整个开发周期。Prompt Flow 使提示处于前端和中心,而不是像其他工具那样混淆它们或将它们深埋在抽象层中。这种方法不仅允许开发人员构建编排,还可以像在传统软件开发周期中评估和迭代代码一样评估和迭代他们的提示。

……

阅读全文

ML.NET 3.0 更新内容

由于大模型的爆火,ML.NET 似乎快被遗忘在角落了,这次3.0版本的发布意外中带着些欣喜。总结其新特性和改进主要包括以下几个方面:

深度学习场景的扩展

ML.NET 3.0增加了对象检测、命名实体识别和问答等深度学习场景的支持,这些场景都是基于 TorchSharp 和 ONNX 模型的集成和互操作性实现的。此外,还更新了与 LightGBM 的集成,使用了最新版本。

……

阅读全文