成本降低98%!OpenAI开发者大会4大新功能,处理量爆增50倍! siyushenqi.com • 2025 年 8 月 13 日 下午9:17 • 行业动态 • 阅读 412 OpenAI发布了四项新的API功能,包括实时API、视觉功能引入微调API、API提示缓存和API模型蒸馏,旨在简化开发流程并提高效率。 摘要 通过这些API功能,GPT-4、GPT-4o mini等模型的成本降低了98%,同时处理token的数量增加了50倍。 提供了低延迟、多模态的生成式AI功能,支持语音到语音对话,并且可以集成到应用程序中,例如外语口语训练应用。 允许开发者通过图像数据集来微调模型,增强模型的图像理解能力,适用于视觉搜索、自动驾驶、智能城市和医学图像分析等领域。 提供了一个集成的工作流程,使开发者能够使用强大模型的输出来微调和提高更经济高效模型的性能,简化了模型蒸馏的复杂过程。 今天凌晨,OpenAI在美国旧金山召开了第二届开发者大会,发布了4大新的API功能。 分别包括实时API、视觉功能引入微调API、API提示缓存以及API模型蒸馏,大幅度简化模型的调用、微调、蒸馏等流程,实现“傻瓜式”高效开发。 Sam Altman表示,通过这些全新的API功能不仅能开发出强大且多元化的生成式AI功能、应用,同时将GPT-4、GPT-4o mini等模型的成本降低98%,同时处理token的数量暴涨50倍。 下面「AIGC开放社区」将为大家详细解读这4大API功能,对开发过程中有哪些重要帮助。 实时API OpenAI在开发者大会上已经正式发布了实时API的公开测试版,允许所有付费开发者在他们的应用程序中构建低延迟、多模态的生成式AI功能。 实时API提供类似最近新开放的ChatGPT的高级语音模式,支持使用API中已经支持的6种预设声音进行自然的语音到语音对话。这也就是说,可以将ChatGPT的多模态语音功能集成在应用中了。 例如,可以开发一个外语口语训练应用,ChatGPT的语音模式可以帮助学员纠正他们的口语发音。 OpenAI还引入了聊天完成API中的音频输入和输出,以支持不需要实时API低延迟优势的用例。开发者可以将任何文本或音频输入传递给GPT-4o,模型将以他们选择的文本、音频或两者的组合进行响应。 此外,现在有了实时API,很快还有聊天完成API中的音频,开发者不再需要将多个模型拼接在一起来使用。你只需要使用一个API调用构建自然的对话体验。 实时API使用文本和音频token价格:文本输入token的价格是每100万个5美元,输出token每100万个20美元。 音频输入的价格是每100万个100美元,输出是每100万个200美元。这相当于每分钟音频输入约0.06美元,每分钟音频输出约0.24美元,整体价格相当划算。 视觉功能引入微调API 自从OpenAI在GPT-4o上首次引入微调功能以来,已经有数十万开发者使用仅限文本的数据集定制了大模型,以提高特定任务的性能。但在许多特殊情况下,仅对文本进行模型微调并不能提供预期的性能提升。 所以,OpenAI在GPT-4o API上又引入了视觉微调功能,除了文本之外,还可以通过图像进行微调。开发者可以定制模型,使其具有更强的图像理解能力,从而实现增强的视觉搜索功能、改进自动驾驶车辆或智能城市的物体检测,以及更准确的医学图像分析等应用。 本次的视觉微调的过程与文本微调类似——开发者可以准备图像数据集,以遵循正确的格式,然后将该数据集上传到OpenAI的平台。可以使用至少100张图像来提高GPT-4o在视觉任务上的性能,并且随着文本和图像数据量的增加,性能会进一步提高。 例如,一家智能自动化平台Automat,构建桌面和Agent来处理文档并采取基于UI的操作,以自动化业务流程。通过视觉微调和屏幕截图数据集,Automat训练GPT-4o根据自然语言描述在屏幕上定位UI元素,将其RPA代理的成功率从16.60%提高到61.67%。 这与基础GPT-4o模型相比,性能提升了272%。此外,Automat仅使用200张非结构化保险文件图像训练GPT-4o,在信息提取任务上的F1分数提高了7%。 目前,GPT-4o的视觉微调功能每天免费提供100万token,有效期至10月31日。之后,GPT-4o微调训练将花费每100万token 25美元,推理将花费每100万输入token 3.75美元和每100万输出token15美元。 API提示缓存 许多开发者在构建生成式AI应用程序时,会在多个API调用中反复使用相同的上下文,例如,当修改代码库或与聊天机器人进行长时间的多轮对话时。 现在,OpenAI发布了了API提示缓存功能,允许开发者降低成本和延迟。通过重用最近看到的输入token,开发者可以享受50%的折扣和更快的提示处理时间。 新的API提示缓存会自动应用最新版本的GPT-4o、GPT-4o mini、o1-preview和o1-mini,以及这些模型的微调版本。 此外,对支持的模型的API调用将在提示长度超过1,024个token时自动受益于提示缓存。API会缓存提示中之前已计算过的最长前缀,从1,024个token开始,并以128个token为增量增加。 如果你重用具有相同前缀的提示,OpenAI将自动应用提示缓存折扣,无需你对API集成进行任何更改。缓存通常会在5到10分钟的不活动后清除,并始终会在缓存最后一次使用后一小时内移除。 API模型蒸馏 通常大模型蒸馏涉及使用更强大的模型的输出来微调更小、更经济的模型,使它们能够在特定任务上以更低的成本匹配高级模型的性能。 目前,模型蒸馏一直是一个多步骤、容易出错的过程,需要开发者手动协调多个操作,跨越不同的工具,从生成数据集到微调模型和衡量性能提升。由于蒸馏本质上是迭代的,开发者需要重复运行每一步,增加了大量复杂工作。 现在,OpenAI引入了一个全新的模型蒸馏服务,为开发者提供一个集成的工作流程,直接在OpenAI平台内管理整个蒸馏流程。 这个功能相当便利、高效,可以使开发者轻松使用o1-preview和GPT-4o等强大模型的输出,来微调和提高像GPT-4o mini这样更经济高效的模型的性能。 全新的API模型蒸馏包括: 存储完成:开发者现在可以通过自动捕获和存储GPT-4o、o1-preview等模型,通过API生成的输入-输出对,轻松地为蒸馏生成数据集。有了存储完成,你可以轻松地使用生产数据构建数据集来评估和微调模型。 评估集(测试版):开发者现在可以在OpenAI平台上创建和运行自定义评估,以衡量模型在特定任务上的性能。评估提供了一种集成的方式来衡量模型性能,而不是手动创建评估脚本和集成不同的日志工具。开发者可以使用存储完成中的数据或上传现有数据集来设置你的评估。评估也可以独立于微调使用,以定量评估模型性能。 微调:存储完成和评估完全集成到OpenAI现有的微调服务中。这意味着开发者可以使用存储完成创建的数据集进行微调工作,并使用评估在微调后的模型上运行评估,所有这些都在OpenAI的平台上完成。 以下是API模型蒸馏的示范: 首先,创建一个评估来衡量你想要蒸馏的模型的性能,我们就以GPT-4o mini为例。这个评估集将被用来持续测试蒸馏模型的性能,帮助你决定是否部署它。 接下来,使用存储完成创建一个蒸馏数据集,使用GPT-4o的输出来完成你想要微调GPT-4o mini的任务。你可以通过在聊天完成API中设置‘store:true’标志来自动存储这些输入-输出对,而不会产生任何延迟影响。这些存储的完成可以被审查、筛选和标记,以创建高质量的数据集进行微调和评估。 最后,使用这个数据集来微调GPT-4o mini。存储完成可以作为创建微调模型时的训练文件。一旦模型微调完成,你可以回到评估中去测试微调后的GPT-4o mini模型是否满足你的性能标准,与GPT-4o相比较。 需要注意的是,微调是一个迭代过程,如果初始结果不满意,你可能需要完善数据集,调整训练参数,或捕获模型表现不佳的更具体的例子,可以逐步提高蒸馏模型的性能,直到它能满足你的需求。 相关阅读外贸展会后怎么跟进客户?72小时、7天、30天的完整SOP网易辟谣:王怡未离职,部分营销团队并入事业部OpenAI内部信"摊牌":微软联盟已成枷锁,将押注亚马逊合作突围哔哩哔哩首次全年盈利、友谊时光靠女性向小游戏扬眉吐气丨9家游戏公司财报深度拆解群核科技开启全球招股;众擎机器人完成2亿美元B轮融资;红熊AI完成2.1亿元A轮融资丨投融资周报需要日本PayPal代付;社交APP伊拉克支付提现渠道;收巴西各类流量;海外买量|私域神器每周合作精选No.201一周要闻NO.195丨恶意软件入侵谷歌商店;9家游戏公司财报深度拆解;非洲市场又一电商巨头退场;Meta首个"超级智能"模型亮相微软或考虑将《使命召唤》移出Xbox Game Pass泡泡玛特进军巴西:先打假冒伪劣智元机器人,一分为四! 本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/32594.html 赞 (0) 打赏 微信扫一扫 支付宝扫一扫 0 0 生成海报 关于作者 siyushenqi.com 关注私信 13.9K 文章 0 评论 425 问题 18 粉丝 私域神器:海外私域营销拓客软件 AI出海风向标 | 全球AI APP产品Top100榜单解读 上一篇 2025 年 8 月 13 日 下午9:17 百度、字节、美图登入中国公司AI产品注意力TOP10,工具类产品出海抢夺用户心智丨AI榜单解读 下一篇 2025 年 8 月 13 日 下午9:17 相关推荐 知乎版GPT正式发布 知乎所处的环境和阶段,丝毫不容许任何懈怠。快则生,慢则死。 siyushenqi.com 2025 年 8 月 14 日 • 行业动态 435000 行业动态 圆桌讨论:破壁增长,玩赚全球——哇哇鱼科技 商务总监&投资总监 邓先耀、战吼网络 CEO Yans、伽马游戏 CEO 朱晓龙、深圳天苻科技 CEO 王子磊 圆桌讨论:破壁增长,玩赚全球 演讲视频完整回放 siyushenqi.com 2025 年 8 月 3 日 452000 行业动态 40元!我买到了最便宜的AI眼镜,就这? 2025年,智能眼镜在网络上引起热议,例如吉利控股董事长李书福在上海全球投资促进大会上佩戴自家智能眼镜演讲,引发了网友关注。智能眼镜这一品类在CES 2025展会上井喷,众多厂商纷纷推出相关产品。 siyushenqi.com 2025 年 8 月 13 日 496000 对抗ChatGPT,谷歌Bard公测炸场了:巨头开启AI对决 两大巨头的搜索之战正式拉开帷幕。 siyushenqi.com 2025 年 8 月 14 日 • 行业动态 412000 170万预约、4万测试资格秒空,这个新团队做的“二次元”来头不小 或许已经有朋友发现,一款还未正式上线的手游登上了今天(5月6日)App Store的Today推荐。而就在上周六(4月30日),这款由上海自意网络开发的二次元手游《无期迷途》才刚刚结束了最新一轮的删档测试。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 490000 行业动态 Claude 4系列模型来了!编码能力强于o3和GPT-4.1,记忆性能大幅提升 人工智能初创公司Anthropic在美国旧金山举办的首届开发者大会上发布了两款Claude 4模型——Claude Opus 4和Claude Sonnet 4。Claude Opus 4向付费用户开放,Claude Sonnet 4向免费和付费用户开放。这两款模型都针对编程任务进行了优化,具备分析大型数据集、执行长期任务和采取复杂行动的能力。 siyushenqi.com 2025 年 8 月 13 日 530000 行业动态 号称「音乐界ChatGPT」,Suno是怎么诞生的?会如何影响音乐产业? Suno 背后的团队是何来历?他们是如何做出 Suno 的?Suno 以及 AI 音乐生成软件会如何影响音乐产业? siyushenqi.com 2025 年 8 月 13 日 414000 行业动态 OpenAI、Anthropic罕见合作 OpenAI 与 Anthropic 暂时向对方开放未发布的 AI 模型(GPT-5 除外),进行联合安全测试,意在发现各自内部评估盲点并示范行业协同。 siyushenqi.com 2025 年 8 月 29 日 546000 行业动态 TikTok Shop商城在美国开启小规模测试,全面拥抱全托管模式 Tik Tok Shop商城在美国小规模上线。 siyushenqi.com 2025 年 8 月 12 日 469000 行业动态 干了10年外贸,我聊聊那些让你营销矩阵像蜘蛛网一样粘住客户的实战布局 干了十年外贸,我发现真正高效的营销不是追逐单个渠道,而是把独立站、WhatsApp、Facebook、TikTok等平台编织成一张“蜘蛛网”。本文用实战案例,深度拆解如何让各渠道协同,将客户牢牢粘在你的营销矩阵中,实现从流量到订单的无缝转化。 siyushenqi.com 2026 年 3 月 6 日 364000 Flat Ads、CM.com、Vonage确认入驻PAGC 2024 | 第四届全球产品与增长展会 ! 恭喜Flat Ads、CM.com、Vonage作为展商入驻第四届全球产品与增长展会。 siyushenqi.com 2025 年 8 月 18 日 • 行业动态 435000 东南亚“小腾讯”的增长神话 几年前,世界上最热门的科技股竟然来自美国以外的地方,这是不可想象的。 siyushenqi.com 2025 年 8 月 13 日 • 行业动态 376000 行业动态 海外双11开卖,200+品牌速卖通销售额双倍反超亚马逊 国内双11收官,海外双11刚刚燃起战火。 11月11日,阿里速卖通海外双11全球开卖。据内部人士透露,速卖通双11首日,至少有200个品牌达成超亚马逊日均2倍的销售额,部分行业头部品牌如音频设备EDIFIER、行车记录仪70mai、骑行码表iGPSPORT更是超亚马逊6-10倍爆发。 速卖通正在用激进的品牌策略和亚马逊争夺中高端品牌市场。今年9月,速卖通启动… siyushenqi.com 2025 年 8 月 13 日 下午9:17 412000 行业动态 《东南亚的大与小》——Monster Game-游戏负责人-王皓 《东南亚的大与小》演讲视频完整回放 siyushenqi.com 2025 年 8 月 3 日 398000 《荒野乱斗》《万国觉醒》被集体起诉,“开箱子”玩法在美国的监管动态与趋势分析 就中国游戏公司出海所涉的主要法域内开箱子玩法是否构成赌博、该玩法对游戏评级的影响、相关利益团体对该玩法关注的要点以多国在此方面重要的立法执法动态等问题为切入点,简要梳理欧美多国对开箱子玩法的监管动态,以供出海企业参考。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 487000 行业动态 被腾讯统治了5年的品类,迎来了前所未有的挑战者 光子想再造战术竞技赛道里的独角兽。 siyushenqi.com 2025 年 8 月 19 日 537000 让人三天爆肝20小时的修仙自走棋,到底有什么魅力? 修仙+卡牌+自走棋,修仙这一题材一直都是国内玩家中火热的品类,但与其他两项相结合却是闻所未闻。 siyushenqi.com 2025 年 8 月 24 日 • 行业动态 514000 从0到1布局拉美,商家必须知道的二三事 “攻略”拉美不是电商巨头的特权,中小商家在这片蓝海也能淘到金。 siyushenqi.com 2025 年 8 月 12 日 • 行业动态 413000 行业动态 微软开源3大突破AI Agent模型 小参数大性能,AIME24 数学 80.6%、GPQA-Diamond 科学 60.9%、BFCL 工具调用 60.8%,全面超越体量大 48 倍的对手。 siyushenqi.com 2025 年 9 月 8 日 471000 2026年1月 | 海外短剧应用下载与收入排行榜 2026 年 1 月海外短剧应用下载与收入排行榜。 siyushenqi.com 2026 年 2 月 10 日 • 行业动态 461000 行业动态 前海像样HuntMobi、乐盟控股 确认入驻PAGC 2025丨第五届全球产品与增长展会! 前海像样HuntMobi、乐盟控股 确认入驻PAGC 2025丨第五届全球产品与增长展会! siyushenqi.com 2025 年 8 月 17 日 500000 行业动态 PAGC2024丨游戏研发发行对接会圆满落幕 一起看看有哪些实力派项目&出海新思路吧! 5月9日,由私域神器主办,Xsolla和AppLovin联合赞助的游戏研发发行对接会圆满落幕。 siyushenqi.com 2025 年 8 月 18 日 500000 “叠纸系”浮出水面,鹰角还来助拳,这家上海年轻公司刚出道即走红? 没有透露玩法,只公布了数段介绍、一些图片和视频,就吸引了大量玩家关注,并斩获10万预约…… siyushenqi.com 2025 年 8 月 25 日 • 行业动态 550000 GICC推荐官 UME 创始人 韩昊辰、闪剪智能 副总裁 贝卡、帝视科技 CEO 高钦泉、太妃糖影视 COO 王子卓、DeNA 海外商务总监 李绍辉、寻光互娱 联合创始人 杨武军 邀您参与GICC2025丨第六届全球互联网产业CEO大会! GICC推荐官 UME 创始人 韩昊辰、闪剪智能 副总裁 贝卡、帝视科技 CEO 高钦泉、太妃糖影视 COO 王子卓、DeNA 海外商务总监 李绍辉、寻光互娱 联合创始人 杨武军 邀您参与GICC2025丨第六届全球互联网产业CEO大会! siyushenqi.com 2025 年 10 月 7 日 • 行业动态 483000 行业动态 外贸企业社媒矩阵获客成本优化策略与实战案例 社媒矩阵提升品牌曝光 精准定位目标客户 内容营销增强用户互动 数据分析优化广告投放 案例展示成功转化率 社媒矩阵提升品牌曝光 在全球化竞争激烈的今天,外贸企业必须通过有效的营销手段来提高品牌的曝光度。而社交媒体矩阵正是一个关键策略。通过在多个社交平台上同步运营内容,外贸企业能够广泛地接触到潜在客户,从而提升品牌认知度。 社媒矩阵的优势在于其广泛的受众覆盖面,… siyushenqi.com 2025 年 8 月 13 日 下午9:17 412000 行业动态 拼多多市值赶超阿里,Temu挑起大梁! 拼多多成为在美中概股中的市值第一股,再度引起了国内外媒体的热议。 siyushenqi.com 2025 年 8 月 12 日 475000 商机骤增150%!智能穿戴开卷,国货Amazfit冲进全球前三 智能穿戴设备,中国卖家赢面大吗? siyushenqi.com 2025 年 8 月 12 日 • 行业动态 480000 重要!出口企业必看!出口新规10月1日开始实施! 重要!出口企业必看!出口新规10月1日开始实施! siyushenqi.com 2025 年 7 月 23 日 • 行业动态 603001 面对日本游戏市场,本地化耕耘的几个层次 正好前面高总说到我们,这里先说一下这个产品的名字,其实我们在海外一般念它的英文名字叫《Pride of Eden》 siyushenqi.com 2025 年 8 月 26 日 • 行业动态 435000 行业动态 单月营收破1000万美元!朝夕光年《Marvel Snap》凭什么成为炉石继承人? Simultaneous Turns令比赛快速又有趣 siyushenqi.com 2025 年 8 月 24 日 519000 发表回复 请登录后评论...登录后才能评论 提交