人本智能时代:谁在为AI“立规矩”? siyushenqi.com • 2025 年 8 月 13 日 下午9:28 • 行业动态 • 阅读 440 随着AI技术的进步,AI不仅在能力上有所增强,还需要具备类人的价值判断。 摘要 本文提到了“人本智能”的概念,强调AI技术的发展应以服务人类为核心,确保技术的普惠性,并在技术发展与伦理道德之间找到平衡。 AI在医疗、自动驾驶、内容创作等领域的应用带来了新的挑战,如价值判断偏差、道德困境的决策标准争议和可能产生偏见或误导性信息的问题。 举例说明了企业如何将“人本智能”理念应用于实践,如联想集团在特殊群体服务、无人驾驶出租车等方面的创新,以及如何通过系统性方法论来解决AI的“三观”问题。 讨论了AI技术未来发展的方向,包括数据源、算法和评估三个层面的改进,以及企业在追求技术突破的同时如何守住伦理底线和责任担当。 在人类历史的长河中,技术的发展始终伴随着一个根本性的问题:技术究竟是用来服务人类,还是最终超越人类? 随着人工智能的不断发展和进步,这个问题变得尤为迫切。尤其在OpenAI推出的O1大模型展现出惊人的思维链能力后,我们不得不面对一个更具挑战性的议题:如何确保这些越来越“聪明”的AI,不止拥有能力更要拥有类人的价值判断。 被称为“传播学之父”的麦克卢汉曾提出过一个概念:人的延伸。在他的理论中,媒介是人感官的延伸、望远镜是人眼睛的延伸、汽车是人腿的延伸,那人工智能便应该是人思维的延伸。 其本质,浓缩成四个字,也就是“人本智能”。 在《我所看见的世界》一书中,华裔科学家、“AI教母”李飞飞也强调了以人为本的重要性,她认为:“如果人工智能要帮助人们,我们的思考就必须从人们本身开始”。 以人为本的背后带来的是科技的创新不断突破边界,以开放的心态拥抱新的可能性;社会的安全,强调在AI技术发展的同时,必须确保其对人类社会的负面影响降到最低;同时,也是技术的普惠,则要求AI技术的发展成果能够惠及每一个人,而不是成为少数人的特权。 近期,由财新智库、ESG30出品,上海交大、人工智能研究院、联想集团联合发布了《人本智能:人机共生时代的科技发展观》报告,科技界连同企业界正在积极探索这一命题的答案。 这些准则和报告的核心,都是试图在AI的快速发展与人类社会的伦理道德之间找到平衡点。它们试图回答一个根本性问题:在AI技术日益深入人类生活的今天,我们如何确保这些技术的发展不会偏离人类的根本利益。 这是一个在人工智能的开端,就必须深思熟虑的问题。 AI“成长”的新烦恼 随着人工智能技术的飞速发展,AI的能力已经从简单的对话应答进化到了复杂的逻辑推理。以OpenAI的O1大模型为例,它不仅在自然语言处理领域展现出了惊人的能力,更在模拟人类思维链方面取得了突破。这种进步,虽然为人类带来了便利,但也带来了前所未有的挑战。 一些令人担忧的案例相继出现:在医疗领域,AI系统在进行诊断决策时可能出现价值判断偏差;在自动驾驶领域,AI面临“电车难题”等道德困境时的决策标准仍存争议;在内容创作领域,AI可能产生带有偏见或误导性的信息。这些案例表明,随着AI系统变得越来越“聪明”,其决策逻辑和价值取向的重要性日益凸显。 随之而来的是对AI越来越强的监管和把控需求。AI在道德困境中的决策偏差,如在自动驾驶中必须选择撞向一边的行人还是另一边的障碍物时,其决策逻辑和价值判断的依据是什么?这些问题的复杂性在于,AI的价值观实际上是其训练数据的“投影”。这意味着,AI的决策不仅受到算法逻辑的影响,更受到其训练数据中蕴含的人类价值观的影响。 图源:网络 面临的挑战包括如何在多元文化背景下处理价值观差异,如何在保持客观性的同时维护主流价值观,以及如何在技术发展与伦理道德之间找到平衡点。这些挑战要求我们深入分析AI决策的具体影响,而不是过度渲染焦虑。我们需要客观地讲出真问题,即AI的发展可能会在不经意间放大人类的偏见,可能会在关键时刻做出不符合人类预期的决策,可能会在跨文化交流中造成误解。 在确立人机关系的过程中,《人本智能》报告中提出了“三线”理念。基准线是人机协作,通过混合智能实现人与AI的协同工作,提高效率和创造力;趋势线是人机共生,随着技术的进步,人类与AI的关系将更加紧密,走向“人机物”三元融合的新时代;底线是确保人类始终处于主导地位,无论AI技术如何发展,都必须确保人类的利益和价值观是最终的决策依据。 “人本智能”中的理念框架为AI的健康发展提供了重要指引。 在这一过程中,业界逐渐认识到,AI的“成长”不仅仅是技术问题,更是社会问题。它涉及到法律、伦理、文化等多个层面,需要政府、企业、学术界以及公众的广泛参与和深入讨论。而这些挑战并非不可克服的障碍,而是AI发展过程中的必经之路。 科技企业:从理念到行动探索 人本智能的全新理念,目前已经有企业开始进行实践。 曾斩获多项国际电影节奖的知名导演陆川,在2024年进行了一次有趣的尝试。 从年初Sora横空出世后,越来越多的电影人开始探索与AI共创能产生怎样的火花。在电影《西野》的创作过程中,陆川与联想AI PC进行合作,通过AI技术在后期制作环节大幅提升了工作效率。 “如果我们用传统的方式去做,storyboard、motionboard、previs 等等,再加上 CG……可能要做两个月,但是 这个片子,我们只用两天就做完了。它极大地节省了成本,还有人力时间。”陆川总结道。 更重要的是,对内容创作者来说,AI 和 AI PC 是一个知识平权的过程,能够让年轻创作者跨越门槛,快速实现创意的视觉化。普通创作者即使没有专业的后期制作团队,也能依托AI技术完成高质量的作品。 这是AI技术服务于每个人带来普惠价值的一个典型案例。而以联想为代表的企业,作为技术创新的主体,也是确保“人本智能”践行落地的关键角色。 以“人本智能”为核心的案例已经在各行各业开始扩散。 今年5月在武汉爆火的无人驾驶出租车萝卜快跑,也在具体的行驶过程展示了如何在复杂场景中平衡效率与安全。面对中国特有的复杂交通环境,萝卜快跑通过与政府合作,推动相关法规的制定和完善,确保自动驾驶技术的负责任使用。在技术层面,萝卜快跑采用了高精度地图、智能感知和精准决策技术,确保车辆在复杂道路环境中的安全稳定行驶。同时,萝卜快跑还建立了乘客反馈机制,通过收集和分析用户意见,不断优化服务,体现了企业在技术创新中的自我约束和社会责任。 萝卜快跑无人驾驶出租车 在武汉的实际运营过程中,萝卜快跑严格遵守交通规则,包括在遇到行人时进行礼让,通过多种维度的传感器实时收集周围环境的信息,帮助车辆识别障碍物、行人、车辆等,并作出相应的反应。尤其在经过学校路段时,经常出现因连续礼让行人而前进缓慢,但却在群众中引起好评。 在服务特殊群体方面联想也展现了AI技术的人文关怀。针对渐冻症(ALS)患者的交流困境,联想与斯科特-摩根基金会合作开发了一套创新的AI解决方案。该系统集成了圆形键盘界面、预测式AI、个性化语音复制和眼球追踪等技术,让患者能够保持个性化的交流方式。 渐冻症患者Erin Taylor通过这套系统,得以保留自己的声音,创建数字分身,实现了继续为孩子唱摇篮曲的心愿。更重要的是,这项技术即使在语音样本有限的情况下,也能生成富有情感和自然的语音效果。 技术的创新还延伸到了阿尔茨海默症患者群体。在联想与失智症创新组织(Innovations in Dementia)合作发起的“阿尔茨海默症智能计划”中,联想基于阿尔茨海默 患者生活经历定制了专门的 AI,打造出逼真的 3D 数字分身(avatar),为正在应对阿尔茨海默诊断的患者和家庭 提供 24 小时的对话式虚拟伴侣。 这些实践展示了AI技术在提升特殊群体生活质量方面的独特价值,折射出企业在AI发展过程中的深层思考。从最初的简单功能开发,到现在注重人机协作的协调,企业的AI伦理实践正在经历着质的提升。这种转变既是技术发展的必然要求,也反映了企业对社会责任的深刻认识。 在这个过程中,企业们逐步形成了一套系统的实践方法论。首先是将“以人为本”的理念具体化为产品设计原则,确保每一个功能的开发都以服务人的需求为出发点。其次是建立起覆盖研发全周期的伦理审查机制,从问题定义、算法设计到应用部署,每个环节都要进行伦理评估。最后是通过持续的用户反馈和场景实践,不断优化和改进AI系统的表现。 从理念到行动的转变,人本智能正在推动AI技术走向更加成熟的发展阶段。 技术创新:从思维链到价值链 在人工智能的世界里,技术的进步不仅仅是代码和算法的迭代,更是对人类智慧的延伸和道德伦理的深刻反思。当AI开始学会像人类一样思考,我们面临的挑战也随之升级。以联想集团的AI技术帮助渐冻人“开口”说话的案例为例,这不仅是技术的胜利,更是对AI“三观”塑造的一次深刻实践。 在训练数据的筛选优化方面,AI的“三观”实际上是其训练数据的“投影”。这意味着,数据的质量和代表性直接塑造了AI的语言表达、逻辑推理和价值判断。然而,数据质量问题和代表性问题成为了AI发展中的两大难题。有害内容的污染、偏见和歧视信息的嵌入、错误或过时信息的传播,都在考验着AI的“三观”。此外,数据的地域分布不均、语言覆盖不全、文化多样性的缺失,也是我们必须正视的问题。 攻克这些难题,我们需要从数据源、算法和评估三个层面入手。在数据源层面,构建多元化、高质量的训练数据集,加强数据审核和筛选机制,建立文化平衡的数据库,是确保AI“三观”正确的基础。在算法层面,开发价值观对齐技术,引入伦理约束机制,设计偏见检测和纠正方法,是确保AI决策公正性的关键。而在评估层面,建立价值观评估体系,开展持续性监测和优化,引入多方利益相关者参与评估,则是确保AI“三观”持续进化的保障。 训练数据对AI“三观”的深层影响。就像人的成长会受到成长环境的影响一样,AI系统的行为模式也深受训练数据的影响。这种影响既包括直接的语言表达方式和推理逻辑,也包括间接的知识结构形成和价值判断。面对这一挑战,企业一方面在数据源头下功夫,构建多元化、高质量的训练数据集;另一方面在算法层面创新,开发价值观对齐技术,设计偏见检测和纠正方法。 在安全训练的具体方法和多重保障机制设计上,AI的“三观”同样面临着考验。AI在面对道德困境和复杂决策时,如何作出符合人类价值观的选择,是我们必须回答的问题。通过模拟训练,我们可以在虚拟环境中让AI经历各种紧急情况,学习如何作出符合人类道德标准的决策。同时,伦理审查委员会的建立,可以为AI的决策逻辑提供指导和监督。此外,提高AI决策的透明度和可解释性,也是确保AI“三观”正确的重要手段。 实践证明,解决这些技术难题不能依靠单一手段,而需要系统性的方法论。 在推进这些技术创新的过程中,企业逐步形成了自己的最佳实践。在这个过程中,如何在追求技术突破的同时守住伦理底线,如何在拓展能力边界的同时坚守责任担当,这些都需要整个行业的智慧和勇气。 唯有如此,AI才能真正成为推动业务增长的核心引擎,为企业和用户创造持久的价值。 相关阅读外贸展会后怎么跟进客户?72小时、7天、30天的完整SOP网易辟谣:王怡未离职,部分营销团队并入事业部OpenAI内部信"摊牌":微软联盟已成枷锁,将押注亚马逊合作突围哔哩哔哩首次全年盈利、友谊时光靠女性向小游戏扬眉吐气丨9家游戏公司财报深度拆解群核科技开启全球招股;众擎机器人完成2亿美元B轮融资;红熊AI完成2.1亿元A轮融资丨投融资周报需要日本PayPal代付;社交APP伊拉克支付提现渠道;收巴西各类流量;海外买量|私域神器每周合作精选No.201一周要闻NO.195丨恶意软件入侵谷歌商店;9家游戏公司财报深度拆解;非洲市场又一电商巨头退场;Meta首个"超级智能"模型亮相微软或考虑将《使命召唤》移出Xbox Game Pass泡泡玛特进军巴西:先打假冒伪劣智元机器人,一分为四! 本文源自「私域神器」,发布者:siyushenqi.com,转载请注明出处:https://www.siyushenqi.com/32713.html 赞 (0) 打赏 微信扫一扫 支付宝扫一扫 0 0 生成海报 关于作者 siyushenqi.com 关注私信 13.9K 文章 0 评论 425 问题 18 粉丝 私域神器:海外私域营销拓客软件 豪掷10亿元,Kimi、豆包上演投流“军备赛” 上一篇 2025 年 8 月 13 日 下午9:28 Runway发布超逼真文生图模型—Frames 下一篇 2025 年 8 月 13 日 下午9:29 相关推荐 GTA5狂卖1.5亿套的背后是主机游戏行业的长盛不衰 自从2013年GTA5发售之后,这款游戏就成为了一个神话故事。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 464000 在这个禁止人类的AI论坛中,人工智能已经开始互相抬杠了 一个名为「Chirper」的论坛,正于近日快速发展并扩张,它与众不同的特点是「AI」。 siyushenqi.com 2025 年 8 月 14 日 • 行业动态 410000 行业动态 大模型的未来,快手在自己身上找答案 「AI 关小芳」受热捧、「可灵」再跃迁。 siyushenqi.com 2025 年 8 月 13 日 381000 百道数据、Akamai、data.ai、三七互娱确认入驻第三届全球产品与增长大会展位 百道数据、Akamai、data.ai、三七互娱确认入驻第三届全球产品与增长大会展位 siyushenqi.com 2025 年 8 月 23 日 • 行业动态 306000 行业动态 美妆占领短剧,抖音淘宝必有一战 国产美妆品牌能靠短剧翻身吗? siyushenqi.com 2025 年 8 月 8 日 459000 行业动态 200万中国人 卷入黄金非洲 在努力也不一定涨工资的时代,越来越多国人将目光投向非洲——传闻中,那里宛如20年前的中国,只要够聪明、够努力,就能在贫瘠的地方开出花来。 siyushenqi.com 2025 年 8 月 12 日 402000 行业动态 TikTok Shop重返印尼,为什么要和Tokopedia合作? TikTok为什么最终会选择和Tokopedia合作,而不是其他电商平台?以独立App回归的方式真的不可行吗? siyushenqi.com 2025 年 8 月 12 日 430000 行业动态 德国直播购物逐渐火热,或将迎来爆发式增长 直播带货的兴起为电商行业注入了新鲜血液。 siyushenqi.com 2025 年 8 月 12 日 463000 次时代品质打爆全场,这款卡牌MMO首日韩国畅销榜夺冠! 在中国厂商的出海之路上,韩国是一个不得不提的强劲对手。 siyushenqi.com 2025 年 8 月 26 日 • 行业动态 457000 行业动态 无限重生图片样式,999次也没问题! 你只需要把图片上传到Freepik,选择3D、绘画、怀旧、卡通、超现实等样式,就能在几秒内快速实现。 siyushenqi.com 2025 年 8 月 13 日 479000 行业动态 一周要闻NO.142丨iOS邮件诈骗专业人士解决建议;京东大规模招募海外商家;xAI进军AI视频领域;中国短剧狂卷全球 一起看看这周有哪些出海圈值得关注的大事记吧! siyushenqi.com 2025 年 8 月 14 日 422000 时尚无国界,看亚马逊云科技携手伊克罗德信息助力 Flamingo 打造电商独立站,掀起全球牛仔热潮 搭建低延迟、高转化、安全的云上跨境电商平台 siyushenqi.com 2025 年 8 月 12 日 • 行业动态 486000 行业动态 1年5000万下载量,印度短剧正在崛起 60–120 秒“算法叙事”在印度 2 年内从小众跃升为全民沉迷的娱乐现象,Kuku TV 等平台下载量破 5000 万,直接撼动传统流媒体份额。 siyushenqi.com 2025 年 8 月 29 日 524000 行业动态 5月新游数据丨《地下城与勇士:起源》上线首月流水超3.71亿元,《鸣潮》海外表现出色,《Solo Leveling》问鼎海外之最 五月全球新游市场稳步回暖,继此前一个月中小厂商爆发后,国内外手游大厂陆续登场,数款重量级IP及作品的落地之下,也带动全球新游市场整体流水迅速拔高。 siyushenqi.com 2025 年 8 月 18 日 463000 港澳台畅销前六,网易宝船的首个“小爆款”出现了? 据网易发布的2020年财报显示,网易全年在线游戏服务净收入为546亿元人民币,连续11个季度游戏收入破百亿,实现了稳步增长。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 484000 行业动态 乐堂集团 海外负责人 安旭 确认担任 PAGC 2025丨第五届全球产品与增长展会 游戏出海增长峰会演讲嘉宾! 乐堂集团 海外负责人 安旭 确认担任 PAGC 2025丨第五届全球产品与增长展会 游戏出海增长峰会演讲嘉宾! siyushenqi.com 2025 年 8 月 17 日 407000 私域神器每周精选|多款精品游戏找发行,发行寻产品、投资产品团队合作(第7期) 更多优质合作需求可参看往期合集《私域神器每周合作精选》。您也可以关注私域神器公众号,回复关键字“合作集”查看合作精选专题。 siyushenqi.com 2025 年 8 月 25 日 • 行业动态 423000 行业动态 非洲电商终于也快被中国人“占领”了 非洲电商市场成为中国跨境卖家的新目标。非洲最大电商平台Jumia的数据显示,其1.2万国际卖家中超过八成来自中国,贡献了平台三分之一的GMV,且年增长率高达60%。Jumia为吸引中国卖家,甚至在深圳设立了70人的本土团队。此外,南非本土电商平台Takealot也吸引了越来越多的中国卖家。 siyushenqi.com 2025 年 8 月 5 日 453000 行业动态 1110亿美元推进收购华纳兄弟,派拉蒙计划整合流媒体 派拉蒙以1110亿美元收购华纳兄弟探索,计划将Paramount+与HBO Max合并,整合后用户超2亿,直面流媒体巨头竞争。 siyushenqi.com 2026 年 3 月 5 日 233000 久游网络、乐享元游、深圳欣欣互动确认参加第三届全球产品与增长大会-游戏研发发行对接会 久游网络、乐享元游、深圳欣欣互动确认参加第三届全球产品与增长大会-游戏研发发行对接会 siyushenqi.com 2025 年 8 月 22 日 • 行业动态 459000 行业动态 深入理解RCS群发与传统SMS群发的核心区别 RCS群发相比传统SMS群发,具有更高的功能性与互动性,支持多媒体和互联网协议传输,提升了用户体验与安全性。RCS不仅能传递文本信息,还可以通过图像、视频等多种形式进行互动,适用于更丰富的商业营销场景。 siyushenqi.com 2026 年 1 月 25 日 367000 行业动态 lululemon:收割蜜桃臀,围猎中产男 女性意识的崛起是lululemon的基本盘,而中产男性才是lululemon更大的增量所在。 siyushenqi.com 2025 年 8 月 13 日 435000 行业动态 横店,到底相不相信AI? 横店,一个被竖屏短剧占领的地方,正在被AI分成两半。 siyushenqi.com 2025 年 8 月 13 日 427000 行业动态 最后7天!免费参会通道即将关闭,错过等1年!PAGC2025互联网出海行业超强演讲阵容公布! 2w出海精英共聚,5.21-22广州与您不见不散! siyushenqi.com 2025 年 8 月 17 日 479000 行业动态 春节大厂AI大战,不过是道「开胃菜」 2026春节大厂AI入口争夺战打响:腾讯元宝派10亿现金,阿里千问投入30亿,字节拿下春晚独家合作。红包背后是AI生态布局,从社交到电商的全面竞争。 siyushenqi.com 2026 年 2 月 10 日 309000 行业动态 沃尔玛平台活跃卖家已超100000,第三方市场加速崛起 第三方卖家服务收入,已成为沃尔玛增长最快的业务之一。 siyushenqi.com 2025 年 8 月 12 日 388000 当广告遇上兵法:见招拆招巧解投放难题,运筹帷幄决胜变现获客 当挑战与机遇同时来临,“专业性”就成为了成功的关键 siyushenqi.com 2025 年 8 月 3 日 • 行业动态 413000 究竟,什么是暗黑美学? “欢迎来到神秘奇幻的暗黑世界。” siyushenqi.com 2025 年 8 月 24 日 • 行业动态 478000 行业动态 红包轰炸AI社交,这场竞争“很中国” 2026年春节腾讯元宝、百度文心助手重启红包补贴大战,标志中国AI应用进入全球化获客白刃战,与OpenAI社交化战略形成中美双强格局。 siyushenqi.com 2026 年 2 月 3 日 329000 接棒华为市场,剑指苹果三星,荣耀Magic时代来了? 如果说超越华为,是对华为最好的致敬,那么超越苹果、三星,就是对华为最大的献礼。 siyushenqi.com 2025 年 8 月 15 日 • 行业动态 478000 发表回复 请登录后评论...登录后才能评论 提交