可与H100一战,微软首款5纳米自研芯片震撼发布!Copilot引爆办公全家桶,Bing Chat改名 siyushenqi.com • 2025 年 8 月 13 日 下午10:51 • 行业动态 • 阅读 428 微软的全球首款自研芯片Maia来了,算力上能和英伟达H100、AMD MI300X一战。微软的全线产品,都加入了Copilot宇宙,连Bing Chat都正式更名Copilot。 【新智元导读】微软的全球首款自研芯片Maia来了,算力上能和英伟达H100、AMD MI300X一战。微软的全线产品,都加入了Copilot宇宙,连Bing Chat都正式更名Copilot。 微软深夜炸场,万物皆可Copilot! Bing Chat,从此更名Copilot。 登录微软账号,就可以在Copilot专属网站上免费使用GPT-4、DALL·E 3。 OpenAI的全新王牌爆款——自定义GPT,也被塞进Copilot宇宙,变身为Copilot Studio。 打工人利器Office,也在Copilot的加持下全面升级。 而且,微软终于也开始制造定制芯片了!两款为云基础结构设计的定制芯片——Azure Maia 100和Azure Cobalt 100在昨晚闪亮登场。 全线改名Copilot,自定义GPT来了 今天,微软Copilot全面迎来了新时代。 在Ignite 2023 大会上,纳德拉宣布Bing Chat和Bing Chat for Enterprise,正式更名为Copilot! 除了Edge,Copilot可以在Chrome,Safari浏览器上网页运行,并且很快上线移动设备。 当然,Copilot免费版可以在必应和Windows中直接访问,还有一个专门入口(https://copilot.microsoft.com/)。 Microsoft 365中的Copilot依旧需要付费。 Microsoft 365的Copilot目前仅限于微软最大的客户,企业必须至少达到300个用户,才能进入AI驱动的Office助手的名单,每位用户每月收费30美元。 今年年初,微软还曾提到与谷歌搜索竞争的AI野心,但现在看起来,这家老牌巨头显然把目光投向了ChatGPT。 在OpenAI宣布每周有1亿人使用ChatGPT后,Bing Chat直接更名。 这不得不让外界猜想,尽管有价值数十亿美元的密切合作关系,但微软和OpenAI仍在争夺相同客户,而Copilot,就是微软试图抛给消费者和企业的最佳选择。 值得一提的是,微软大会还发布了低代码工具——Microsoft Copilot Studio。 与OpenAI可以定制的GPT还是有所不同,它是可以扩展到Microsoft 365。 其优势在于,Copilot Studio可以在同一网页上进行构建、部署、分析、管理内容。 更重磅的是,Copilot Studio无缝集成OpenAI的GPTs,允许开发者构建自己的GPT。 另外,Copilot Studio还有一个可以分析的仪表板,管理员可以集中监视使用情况并进行分析,在管理中心内控制访问权限。 微软还在Dynamics 365 Guides集成了Copilot,将生成式AI与混合现实相结合,帮助一线员工完成复杂的任务。 未来,工程师无需搜索大量文档或纸质手册,仅通过自然语言和手势就能查询信息。 微软自研芯片来了 此前,坊间曾传出传言:微软在悄悄构建自己的芯片,用于训练大语言模型,避免对英伟达过度依赖。 现在证实了——传言是真的! 今年的大模型热,让H100的需求激增,单块甚至在eBay上卖出了超过4w美元的价格。 这块大蛋糕,微软绝对不会放下,Azure Maia和Azure Cobalt CPU明年就会上市。 SemiAnalysis深度分析:https://www.semianalysis.com/p/microsoft-infrastructure-ai-and-cpu Azure Maia GPU(Athena/雅典娜) 虽然微软是四巨头(亚马逊、谷歌、Meta、微软)里最后一个发布产品的,但这次的Maia 100 GPU却毫不逊色—— 在算力方面能与英伟达(H100)和AMD(MI300X)一战,在网络IO方面遥遥领先,而在显存带宽方面则稍显落后。与目前使用第二代Trainium/Inferentia2芯片的亚马逊相比,纸面上的各项指标都实现了碾压。 具体来说,Maia采用的是台积电5nm节点工艺,拥有1050亿个晶体管的单片芯片。并支持微软首次实现的8位以下数据类型,即MX数据类型。 算力方面,Maia在MXInt8格式下,算力可以达到1600 TFLOPS,在MXFP4格式下则为3200 TFLOPS。 由于是在LLM热潮出现之前设计的,Maia的显存带宽只有1.6TB/s。虽然这比Trainium/Inferentia2高,但明显低于TPUv5,更不用说H100和MI300X了。此外,微软采用的是4层HBM,而不是英伟达的6层,甚至AMD的8层。 据业内人士分析,微软当时在芯片上加载了大量的SRAM,从而帮助减少所需的显存带宽,但这似乎并不适用于现在的大语言模型。 Maia的另一个有趣之处,便是微软对网络的处理。 就AMD和英伟达而言,它们都有自己的Infinity Fabric和NVLink,用于小范围芯片的高速连接(通常为8个)。如果要将数以万计的GPU连接在一起,则需要将以太网/InfiniBand的PCIe网卡外接。 对此,微软采取了完全不同的方式——每个芯片都有自己的内置RDMA以太网IO。这样,每个芯片的IO总量就达到了4.8Tbps,超过了英伟达和AMD。 为了充分发挥出Maia的性能,微软专门打造了名为Ares的机架和集群,并首次采用了「Sidekick」全液冷设计。 这些机架是为Maia高度定制的,比标准的19"或OCP机架更宽。 具体来说,微软在一个机架上搭载了8台服务器,其中每台服务器有4个Maia加速器,也就是共计32个Maia芯片。除此之外,还会配备网络交换机。 此外,Maia机架的功率可以达到约40KW,这比大多数仍只支持约12KW机架的传统数据中心也要大得多。 Maia 100服务器机架和「Sidekick」液却 值得注意的是,微软使用的是自己从第三方获得SerDes授权,并直接向台积电提交设计,而不是依赖Broadcom或Marvell这样的后端合作伙伴。 Sam Altman表示,第一次看到微软Maia芯片的设计时,自己和同事感到非常兴奋。而OpenAI也已经用自己的模型(GPT-3.5 Turbo)对Maia进行了改进和测试。 就在昨天 ,Sam Altman刚刚宣布访问量激增超出承受能力,Plus账号注册暂停 Azure Cobalt CPU CPU方面,Microsoft Azure Cobalt是一款基于Armv9架构的云原生芯片,针对通用工作负载的性能、功率和成本效益进行了优化。 具体来说,Azure Cobalt 100 CPU共有128个核心,并支持12条DDR5通道。 与微软第一款基于Neoverse N1的Arm CPU相比,基于Neoverse N2的Cobalt 100在性能上提升了40%。 与Arm传统的只授权IP的商业模式不同,Neoverse Genesis CSS(计算子系统)平台可以使CPU的开发更快、更容易,且成本更低。 就Cobalt 100而言,微软采用的是2个Genesis计算子系统,并将它们连接成1个CPU。 Arm此前曾表示,有一个项目从启动到完成芯片只用了13个月。根据业界推测,这里提到的很可能就是微软。 可以说,微软花了许多心思。在设计上的独具匠心,不仅让它具有高性能,还能控制每个内核和每个虚拟机的性能和功耗。 用于测试Microsoft Azure Cobalt片上系统的探针台 目前,微软正在Microsoft Teams和SQL Server等工作负载上测试Cobalt CPU,计划明年向客户提供用于各种工作负载的虚拟机。 重新思考AI时代的云基础设施 实际上,微软在芯片开发上有着悠久的历史。 20多年前,微软就和Xbox合作,还为Surface设备共同设计了芯片。17年,微软就开始构建云硬件堆栈。 Azure Maia AI芯片和Azure Cobalt CPU都是在微软内部构建的,微软对整个云服务器堆栈进行了深入检修,以优化性能,功耗和成本。 用微软硬件系统负责人Rani Borkar的话说,「我们正在重新思考人工智能时代的云基础设施,并从字面上优化该基础设施的每一层。」 现在,微软、AMD、Arm、英特尔、Meta、英伟达和高通在内的集团,都在标准化AI模型的下一代数据格式。 微软:我们和英伟达是互补,不是竞争 跟H100、H200,甚至是AMD最新的MI300X比较,Maia的性能如何呢? Borkar回避了这个问题,而是重申微软与英伟达和AMD的合作对于Azure AI云的未来很重要。 「重要的是,在云运行的规模上优化和集成堆栈的每一层、最大限度地提高性能、使供应链多样化,为客户提供基础设施的选择。」 据悉,要实现ChatGPT的商业化,OpenAI需要30,000块A100,如果用微软自研的芯片,显然会降低AI成本。 考虑到目前AI领域的速度,Maia 100的继任者很可能会和H200相同的速度推出,也就是大概20个月后。 随着微软本周推出更多的Copilot功能和Bing Chat的品牌重塑,Maia必然会大显身手。 GPT性能/总拥有成本 对于芯片来说,最重要的是性能。 在推理方面,需要注意的是,微软所做的内存权衡是非常不利的,这使得微软很难与之竞争。 H100的内存带宽是其2倍多,H200是其3倍,而MI300X甚至更高。 因此,在LLM推理方面,Maia 100的性能处于劣势。就每秒处理更大批大小的token而言,GPT-4推理的性能大约是 H100的1/3。 值得注意的是,这本身并不是一个大问题,因为制造成本与英伟达的巨大利润率弥补了大部分差距。 问题是,电源和散热仍需要更多成本,而且token到token的延迟更差。 在聊天机器人和许多协同Copliot工具等对延迟敏感的应用中,Maia无法与英伟达和AMD GPU竞争。 后两种GPU都可以使用更大的批处理量,同时可接受延迟,因此它们的利用率会更高,性能TCO也比Maia高得多。 在GPT-3.5 Turbo等较小的模型中,情况要好一些,但微软不能只部署针对小模型的优化硬件。因为随着时间的推移,GPT-3.5 Turbo等小模型将被逐步淘汰。 不仅在硬件上强强联合,微软会上还宣布将英伟达AI代工厂服务(Nvidia AI Foundry)引入Azure。 不仅有英伟达的基础模型、NeMo框架、DGX Cloud AI超算以及服务全部集成到微软Azure平台,向企业和开发者开放。 数学推理飙升50%,27亿参数Phi-2开源 开发者方面,微软在自家的Azure AI上提供了从数十亿到数万亿不等的基础模型。 纳德拉现场激动地表示,OpenAI团队做了非常出色的工作推动AI的前进,我们将继续推进深度合作。 他现场承诺:只要OpenAI一更新,微软就会在平台全部交付。 OpenAI首届开发者大会上的模型更新,同样上线微软开发者平台。其中,包括GPT-4 Turbo,以及GPT-4 Turbo with Vision,DALLE·3。 另外,微软还将提供GPT-4的微调功能。这样,开发者可以调用自己的数据去微调自定义的GPT-4。 至于定价,微软与OpenAI保持一致。 同样,微软Azure AI还支持开源模型。 开发者能够轻松地将Stable Diffusion、Llama 2、G42 Jais等最新的模型,通过API集成到应用中。 另外,微软还宣布了全新的小体量模型——Phi-2,仅有27亿参数,并将在未来开源。 最新Phi-2模型,同样是在教科书级数据上完成训练,比前身Phi-1.5更加强大,在数学推理上的性能飙升50%。 除了模型,为了进一步降低开发者门槛,微软还推出了全链条开发工具——Azure AI Studio。 它提供了完整周期的工具链,是一个端到端的平台,包括模型的开发、训练、评估、部署、定制等等。 相关阅读外贸展会后怎么跟进客户?72小时、7天、30天的完整SOP网易辟谣:王怡未离职,部分营销团队并入事业部OpenAI内部信"摊牌":微软联盟已成枷锁,将押注亚马逊合作突围哔哩哔哩首次全年盈利、友谊时光靠女性向小游戏扬眉吐气丨9家游戏公司财报深度拆解群核科技开启全球招股;众擎机器人完成2亿美元B轮融资;红熊AI完成2.1亿元A轮融资丨投融资周报需要日本PayPal代付;社交APP伊拉克支付提现渠道;收巴西各类流量;海外买量|私域神器每周合作精选No.201一周要闻NO.195丨恶意软件入侵谷歌商店;9家游戏公司财报深度拆解;非洲市场又一电商巨头退场;Meta首个"超级智能"模型亮相微软或考虑将《使命召唤》移出Xbox Game Pass泡泡玛特进军巴西:先打假冒伪劣智元机器人,一分为四! 本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/33309.html 赞 (0) 打赏 微信扫一扫 支付宝扫一扫 0 0 生成海报 关于作者 siyushenqi.com 关注私信 13.9K 文章 0 评论 425 问题 18 粉丝 私域神器:海外私域营销拓客软件 AI推理芯片,大模型「下半场」的入场券 上一篇 2025 年 8 月 13 日 下午10:51 OpenAI政变背后是科学家创始人的悲歌 下一篇 2025 年 8 月 13 日 下午10:51 相关推荐 老树开新芽,腾讯常青之路怎么走? 腾讯,可以说是世界上最大的游戏公司。 siyushenqi.com 2025 年 8 月 18 日 • 行业动态 477000 行业动态 拼图游戏闯入电影世界,掀起东南亚娱乐新风暴 “影游融合”杀出黑马。 siyushenqi.com 2025 年 9 月 10 日 417000 行业动态 无法清关!Temu在越南暂停运营 Temu应越南工贸部的要求,暂时停止在越南提供服务,以完成法律程序并获得越南运营许可。 siyushenqi.com 2025 年 8 月 5 日 424000 行业动态 5分钟吃透报价全流程,外贸人必看 做外贸的小伙伴都知道,报价是成单的第一道门槛—— 算错成本会亏,报高了会丢客户,手动做报价单还总被繁琐流程拖效率。 今天就把外贸报价的核心计算公式、报价单构成逻辑,以及能帮你省80%时间的工具整理好,从新手到熟手都能直接用。 一、核心报价公式 外贸常用的EXW、FOB、CIF报价,很多人容易混淆逻辑或漏算费用,这里直接给「公式+实例」,照着算就对了。 1. … siyushenqi.com 2025 年 8 月 13 日 下午10:51 428000 行业动态 投流价贵,爽点难找,短剧出海团队靠AIGC如何快速入局 AIGC如何帮短剧团队降低成本快速出海。 siyushenqi.com 2025 年 8 月 18 日 397000 行业动态 中国对外投资流量连续13年位居全球前三 中新社北京8月26日电 (记者 尹倩芸)中国商务部副部长兼国际贸易谈判副代表凌激26日在北京称,2012年以来,中国对外投资流量连续13年位居全球前三。 凌激在当日举行的国新办新闻发布会上公布了上述数据。他说,中国现在既是吸引外资的大国,同时也是全球对外投资大国。2024年,中国对外投资达1627.8亿美元,比上年增长10.1%。 一方面,中国投资规模居世界… siyushenqi.com 2025 年 8 月 13 日 下午10:51 428000 海外开发者谈丨论折叠屏时代手游设计 如何讨好这一批最多金的大R用户 手机厂商现在的屏幕是越来越不按套路出牌 siyushenqi.com 2025 年 8 月 3 日 • 行业动态 421000 行业动态 用扫帚除龙?印度出现“删除中国手机应用”的应用 “反中国情绪扩散” siyushenqi.com 2025 年 8 月 26 日 473000 国漫出海记,“快看”让全球一起催更 “首先,非常喜欢吸血鬼,还有就是图片!图片啊!!不能更加喜欢了,非常感谢!" siyushenqi.com 2025 年 8 月 25 日 • 行业动态 442000 行业动态 2020年8月全球热门移动游戏下载量TOP10 Sensor Tower 商店情报数据显示,Voodoo《Scribble Rider》以4460万次下载,位列2020年8月全球移动游戏下载榜榜首。 siyushenqi.com 2025 年 8 月 26 日 489000 行业动态 跟着短视频学高情商,为什么“真香”了 这是实用主义流行下的必然。对我有利的就相信,不利的就不信,以我为主、为我所用才是他们实用主义哲学的真谛。 siyushenqi.com 2025 年 8 月 18 日 415000 行业动态 我的WhatsApp双向私信群发技巧,这些坑我差点没踩死 WhatsApp双向私信群发是外贸业务中一项重要的技巧,但也有不少陷阱。本文分享了我的亲身经历,讲解了如何通过双向私信群发提高客户回应率,以及避免那些常见的错误。 siyushenqi.com 2026 年 3 月 6 日 328000 行业动态 比OpenAI的Whisper快50%,最新开源语音模型 生成式AI初创公司aiOla在官网开源了最新语音模型Whisper-Medusa,推理效率比OpenAI开源的Whisper快50%。 siyushenqi.com 2025 年 8 月 13 日 435000 这款美国iOS畅销前列的国产新游,藏了下一个扎堆出海的方向 倒逼欧美传统优势项目做品质升级? siyushenqi.com 2025 年 8 月 24 日 • 行业动态 456000 DTC时尚品牌Mack Weldon:什么才是重塑男士基本款? 近年来,伴随着“他经济”的市场规模日益壮大,不少行业都迎来新一轮的颠覆,越来越多新品牌在资本加持下入场掘金 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 459000 行业动态 OpenAI 高管首次透露:ChatGPT的发布得益于奥特曼的“尝试一下”... CNBC近日就最近工作的思考和对人工智能未来发展等问题对OpenAI首席运营官Brad Lightcap进行了一次采访。 siyushenqi.com 2025 年 8 月 13 日 429000 行业动态 VR游戏Beat Saber在Oculus Quest单平台累计收入破1亿美元! 10月30日消息,昨天Facebook公司正式改名为Meta、全力进军元宇宙让整个科技行业为之一震。 siyushenqi.com 2025 年 8 月 25 日 539000 多家游戏公司坐不住了:腾讯收入冲上新高,《蛋仔派对》成网易最赚钱手游 全球Top100里,有41家中国厂商。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 438000 行业动态 AI六小龙抢跑IPO:MiniMax、智谱均已通过港交所聆讯 12月16-17日,MiniMax与智谱AI先后通过港交所上市聆讯,成为首批拿到中国证监会备案即闯关成功的“AI六小龙”。 siyushenqi.com 2025 年 12 月 19 日 402000 行业动态 阿里开源R1-Omni,多模态情感识别 R1-Omni是由阿里巴巴通义实验室开源的多模态情感识别模型,首次将强化学习与可验证奖励(RLVR)应用于多模态大模型,显著提升了模型在情感识别任务中的推理能力、准确性和泛化能力。 siyushenqi.com 2025 年 8 月 13 日 423000 行业动态 超GPT-4o,1240亿参数!最强开源多模态模型 Pixtral Large! 法国开源大模型平台Mistral.ai开源了超大多模态模型Pixtral Large,该模型拥有1240亿参数,支持128K上下文,能够理解文本、图表、图像等。 siyushenqi.com 2025 年 8 月 13 日 399000 行业动态 宇树科技的IPO之路 宇树科技已完成C轮融资交割,由移动、腾讯、锦秋、阿里、蚂蚁、吉利资本等共同领投,老股东跟投,共募集约7亿元,投后估值约120亿元。 siyushenqi.com 2025 年 8 月 13 日 396000 行业动态 日本区游戏ASA投放观察:休闲热潮持续,国产游戏投放占比超20% 一直以来,我们的近邻日本都是全球最重要的游戏市场之一。 siyushenqi.com 2025 年 8 月 26 日 461000 行业动态 2亿月活,150亿美元估值,腾讯长期押注的Discord正秘密IPO 拒绝微软收购的超级兴趣社区,要上市了? siyushenqi.com 2026 年 1 月 8 日 379000 5月16日—5月22日共有25款游戏开测|GameRes GameRes游资网统计了2022年5月16日—2022年5月22日的最新手游开测信息,共有25款游戏开测。以下是下周开测信息: siyushenqi.com 2025 年 8 月 25 日 • 行业动态 488000 Ohayoo总经理徐培翔:成功发行9款破亿产品,休闲游戏市场300-500亿规模 “移动原生休闲游戏赛道”将是手游行业最后一波红利。 siyushenqi.com 2025 年 8 月 26 日 • 行业动态 463000 行业动态 iPhone 16会杀死大模型APP吗? 乘着AI东风,市值上呈现你追我赶之势的微软和苹果,在关于AI的下一步发展上,却有了不一样的心思。 siyushenqi.com 2025 年 8 月 13 日 379000 行业动态 “小龙虾”踢了Anthropic一脚 开源项目OpenClaw倒逼Anthropic密集更新,Claude新增远程控制、跨平台调度等功能,实现电脑自主操作,揭示开源驱动商业产品创新的行业趋势。 转自扬帆出海 2026 年 3 月 27 日 296000 字节社交心不死 即便张一鸣已经卸任字节跳动CEO,但他多年来的社交梦依然没有被遗忘。在字节跳动内部,关于社交产品的猜想,依然在前赴后继般尝试。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 302000 肆狼游戏、贪玩游戏、益世界确认参加第三届全球产品与增长大会-游戏研发发行对接会 肆狼游戏、贪玩游戏、益世界确认参加第三届全球产品与增长大会-游戏研发发行对接会 siyushenqi.com 2025 年 8 月 22 日 • 行业动态 521000 发表回复 请登录后评论...登录后才能评论 提交