2025年7月15日：人工智能的下一个前沿——生成式突破、机器人里程碑与全球政策变革
生成式AI模型与技术
生成式AI领域持续涌现重大进展。OpenAI推迟了首个开源权重模型的发布——最初预计于今年夏季推出——以进行更全面的安全检查。首席执行官萨姆·奥特曼表示，他们“需要时间进行额外的安全测试并审查高风险领域”，并指出“权重一旦发布，就无法收回” techcrunch.com techcrunch.com。此次暂停发布正值业界对OpenAI下一代旗舰GPT-5模型的期待日益高涨，该模型有望于今年晚些时候发布 techcrunch.com。与此同时，开源领域竞争激烈：中国初创企业月之暗面（Moonshot AI）发布了Kimi K2，这是一款拥有一万亿参数的模型，据称在多个编程基准测试中超越了OpenAI的GPT-4.1 techcrunch.com——显示出AI研究领域日益激烈的全球竞争。
科技巨头们正在将生成式技术推向新的领域。在Google I/O 2025大会上，谷歌宣布对其图像和视频生成工具进行重大更新。公司推出了Imagen 4，这是一款更先进的文本生成图像模型，能够更好地处理文字并支持灵活的长宽比，同时还推出了Veo 3，一款具备声音生成能力的下一代AI视频生成器 theverge.com theverge.com。谷歌还发布了“Flow”，这是一款AI电影制作应用，通过调用Imagen、Veo及其Gemini人工智能，可以根据文本或图像提示生成短视频片段 theverge.com。公司的Gemini 2.5模型还获得了名为Deep Think的“增强推理”模式，专为复杂的数学和编程问题设计——在回复前会考虑多种假设 theverge.com。谷歌目前正在将Gemini整合进其生态系统：搜索中的全新AI模式可让用户在网络查询时向Gemini聊天机器人咨询 theverge.com，而“可定制”的Gemini AI助手也已出现在谷歌的Chrome浏览器和Workspace应用中 theverge.com theverge.com。
其他公司也在拓展生成式AI的应用范围。例如，Anthropic的Claude聊天机器人现已集成到Canva的设计平台中，用户可通过自然语言生成和编辑视觉设计theverge.com。ElevenLabs以及其他公司正在AI语音生成领域崭露头角，预示着未来合成语音和配音将与人类声音难以区分（如在RAAIS 2025大会中讨论）press.airstreet.com press.airstreet.com。甚至连埃隆·马斯克的xAI——最近刚经历争议——也在持续迭代其Grok聊天机器人。马斯克宣称新的Grok 4模型即将发布，并将Grok集成至特斯拉汽车，作为车载AI助手theverge.com。（马斯克本周的Grok 4现场演示最终变成了一次关于“AI对人类是利是弊”的漫谈theverge.com。）尽管充满戏剧性，生成式AI热潮依旧方兴未艾，每月都有更强大模型和创新应用问世。
机器人与自动化系统
机器人和自动化领域的进步正在将AI成果带入现实世界。亚马逊本月庆祝了其第100万个仓库机器人的部署，巩固了其作为全球最大工业移动机器人运营商的地位aboutamazon.com。为了协调如此庞大的机器人队伍，亚马逊开发了新的生成式AI基础模型DeepFleet。该系统就像机器人智能交通指挥官一样工作，提高了车队运行效率10%，并加快了订单交付速度aboutamazon.com aboutamazon.com。DeepFleet利用亚马逊丰富的仓库数据，不断学习最优路径，极大程度上有效“减少了机器人间的拥堵”，就像智慧城市系统为车辆指路一样aboutamazon.com。这项AI驱动的物流升级突显了自动化如何简化现实操作流程。
人形机器人在制造业中取得了一个里程碑。以 Atlas 和 Spot 机器人著称的 波士顿动力公司宣布，其先进的人形机器人Atlas将开始在汽车生产线上进行试运行。今年晚些时候，Atlas 计划在现代汽车美国工厂开始工作，这标志着双足机器人首次融入大规模生产。reuters.com。该试点旨在让 Atlas 在汽车工厂中执行如物料搬运和工具取送等任务。波士顿动力公司（现为现代所有）称这是机器人应对工厂熟练工人短缺的重要一步。这也强调了机器人在灵巧性和安全性方面取得的快速进步，为人形机器人与人类员工的协作铺平了道路。
自动驾驶汽车也达到了一个新的里程碑。特斯拉在德克萨斯州奥斯汀悄然推出了有限的机器人出租车服务——这是该公司首次部署没有人类驾驶员的汽车为乘客提供出行服务。大约十几辆搭载特斯拉最新全自动驾驶软件的Model Y，在过去一周里开始为特定乘客进行接送 reuters.com reuters.com。乘客坐在前排乘客座位（作为“安全监督员”），但汽车会自主驾驶在指定的城区环线上。首席执行官埃隆·马斯克称此次发布为“十年辛勤工作的顶点”，并指出特斯拉为了实现这一时刻完全自主研发了AI芯片和软件 reuters.com。在试点期间，乘车统一收取4.20美元的费用 reuters.com。尽管试点取得了成功，但专家们提醒，这只是早期阶段。“奥斯汀试点的成功将意味着序章的终结——而不是大结局的开端，”卡耐基梅隆大学教授Philip Koopman表示，并强调机器人出租车真正大规模应用可能仍需数年甚至数十年 reuters.com。尽管如此，特斯拉的实验——以及Waymo和Cruise扩展其无人出租车服务——都表明我们已经进入了无人驾驶出行的时代。监管部门也在逐步跟进：随着特斯拉机器出租车服务启动，德克萨斯州通过了一项法律，要求自动驾驶汽车服务必须获得许可（自9月1日起生效），以确保安全监管 reuters.com。
机器人也正在从道路和工厂扩展到更多领域。在国防方面，美国陆军正在推进人与机器协作和自主作战车辆的研究army.mil。而在消费科技领域，机器人助手依然是热门话题——从人工智能驱动的无人机到家庭助手机器人。人工智能与机器人的交汇正在带来新颖的创造：例如，麻省理工学院的研究人员利用AI算法设计了用于海洋探索的新型自主水下滑翔机news.mit.edu。凭借更智能的“大脑”和更优良的硬件，2025年的机器人能力前所未有——能与人协作，能应对不可预知的情况，正从实验室逐步走向日常生活。
人工智能监管与全球政策
在美国，联邦政府正在投入大量资源发展人工智能，并寻求简化监管。总统唐纳德·特朗普周二在匹兹堡主持召开了一场以“为人工智能增长提供动力”为主题的科技和能源领袖峰会reuters.com。在Meta、微软、谷歌、埃克森美孚等公司的首席执行官陪同下，特朗普宣布在宾夕法尼亚州为人工智能和清洁能源项目新增约900亿美元的投资 reuters.com reuters.com。“这是一个真正胜利的日子……我们正在做一些没人曾经认为可能做到的事情，” 特朗普在谈及人工智能推动时说道 reuters.com。白宫正在准备一系列行政命令以支持人工智能的发展——包括采取措施，使建设数据中心并将其接入电网更加容易reuters.com。正在考虑的一个想法是开放联邦土地用于人工智能数据中心项目 reuters.com。另一个是为专门用于高耗能AI服务器的新发电厂加快电网接入reuters.com。政府甚至正在权衡颁发全国范围的特别许可证，以简化数据中心的建设，绕过通常由各州颁发的许可以及相关繁琐程序 reuters.com。这些举措出台之际，美国对AI数据中心的用电需求正激增至创纪录的高位，引发了人们对电力短缺的担忧 reuters.com reuters.com。通过清除监管障碍，官员们希望加速推进人工智能基础设施项目——并让美国保持领先。在与中国的全球“人工智能军备竞赛”中领先reuters.com。
全球各国政府正在争相为人工智能的快速发展制定基本规则。在欧洲，欧盟人工智能法案（EU AI Act）——全球首部全面的人工智能法律——正从批准阶段迈向实施阶段。自2025年2月起，该法案对“不可接受风险”的人工智能系统的禁令已开始生效europarl.europa.eu。该禁令禁止在公共场所进行社会评分或实时生物特征监控等用途europarl.europa.eu。这项法律还对生成式人工智能施加了新的透明度要求。像ChatGPT这类大型人工智能模型的提供者必须披露AI生成内容，并公开受版权保护的训练数据摘要europarl.europa.eu。任何由AI生成的图像、音频或视频（如深度伪造），都必须明确标注其为AI生成europarl.europa.eu。高风险人工智能系统（例如医疗、教育或执法领域），在部署前必须经过审核和监管europarl.europa.eu europarl.europa.eu。欧盟将在未来两年分阶段实施这些规则，为行业提供合规的时间europarl.europa.eu。通过这项法案，欧盟旨在实现创新与“以人为本、值得信赖的人工智能”的平衡——这可能会为其他国家树立模板whitecase.com。
在全球舞台上，人工智能政策的协调正逐步形成。
七国集团（G7：加拿大、法国、德国、意大利、日本、英国和美国）的领导人上个月在加拿大卡纳纳斯基斯的峰会上将人工智能列入了议程。会议发表了一份“领导人关于人工智能促进繁荣的声明”，将人工智能主要视为一种经济机遇 rand.org。七国集团发起了一个GovAI大挑战，以促进人工智能在政府服务中的应用，并就中小企业采用人工智能达成了一项路线图协议rand.org。还宣布了加拿大与英国的合作伙伴关系，将在人工智能安全研究方面进行合作（包括与加拿大人工智能公司Cohere签署的谅解备忘录）rand.org。值得注意的是，G7的基调强调了增长、“繁荣”以及科技竞争力，而不是新的AI监管rand.org。这反映出一种转变：在经历了一年对人工智能安全的高度关注（包括英国关于人工智能风险的布莱切利园宣言以及经合组织通过广岛人工智能进程起草的自愿行业保障措施等举措）之后，钟摆正在回摆，开始鼓励创新 rand.org rand.org。尽管如此，对于前沿人工智能的担忧还是在场外被提出。联合国国际电信联盟（ITU）于日内瓦举办了善用人工智能全球峰会（7月8日至11日），伦理学家如Abeba Birhane强调了当前人工智能部署中存在的偏见与审查问题 thebulletin.org。今年秋季，联合国将召开首届全球人工智能治理论坛，旨在汇聚外交官、研究人员和业界，讨论人工智能在战争、伦理和发展方面的保障措施 unidir.org。简而言之，2025年下半年有望在政策圈内看到对人工智能的雄心与焦虑交织——一方面是大量投资以推动人工智能的发展，另一方面则是初步努力以遏制其风险。在美国的州一级，2025年见证了人工智能相关法律的激增。全部50个州今年都提出了AI法案，已有28个州（加上华盛顿特区及领地）通过了75项以上新的AI措施 ncsl.org。这些法律涵盖了各类议题：阿肯色州通过法规明确AI生成内容的归属权（将知识产权归于创建AI输入的个人或公司）ncsl.org。蒙大拿州实施了“计算权利”法，保护AI在关键基础设施中的使用，同时要求对控制如电网等的AI进行风险评估ncsl.org。北达科他州禁止使用AI驱动机器人骚扰或跟踪他人，更新了其刑事法律ncsl.org。纽约州现在要求州政府机关公开其使用的AI系统清单——旨在提升影响公民的算法决策的透明度ncsl.org。这一系列州级立法反映了两党对人工智能对社会影响的共同关注，从选举中的深度伪造到招聘工具中的偏见。美国立法者们也在讨论设立联邦AI监管机构及为AI安全研究提供新资金，但这些努力仍处于早期阶段。
主要企业公告和AI商业动态
AI领域的企业格局竞争异常激烈，无论是科技巨头还是初创公司，都在争夺领导地位：
- Meta 的超级计算机热潮：Meta 首席执行官马克·扎克伯格透露，公司正在建设数个巨型 AI 超级计算集群，用于训练未来的 AI“超级智能”模型。“我们把第一个命名为 Prometheus，将在 2026 年上线，”扎克伯格写道，并补充说，Meta 还在建设第二个集群 Hyperion，其电力将随着时间推移扩展到 5 吉瓦（gigawatts）theverge.com。这些令人瞠目的数字凸显了 Meta 在 AI 领域的雄心。有分析称 Meta 去年在某些 AI 研究领域跌过跤，但在算力上的新投入可能帮助其迎头赶上theverge.com。通过向定制芯片、数据中心和人才投入数十亿美元（Meta 甚至从 Apple 和 OpenAI 等竞争对手挖来顶级 AI 研究员theverge.com theverge.com），扎克伯格豪赌前所未有的算力将带来 AI 的突破性能力。
- 云计算力量整合：AI 基础设施的军备竞赛促成了一场重大并购。AI“超大规模”云服务商 CoreWeave——一家专注于 GPU 托管、快速成长的云计算供应商——宣布计划以 90 亿美元收购 Core Scientifictheverge.com。Core Scientific 是一家大型数据中心运营商（最初以加密货币挖矿闻名），近期已转向为 AI 提供算力。CoreWeave 已与 OpenAI 和 Microsoft 签下数十亿美元的云服务合同theverge.com，表示此次收购将“提升运营效率，降低未来扩张的风险”theverge.com。此次全股票收购将使 CoreWeave 控制 Core Scientific 在多个州的设施theverge.com，迅速扩大其 AI 任务的处理能力。这反映了 AI 热潮正通过整合重塑数据中心行业——而云计算新贵们正竞相满足模型开发者激增的需求。
- 芯片制造商加入竞争：知名半导体公司正推出新产品，以满足人工智能对计算能力的巨大需求。就在匹兹堡峰会当天，博通发布了其Tomahawk Ultra网络芯片，定位于人工智能数据中心 reuters.com reuters.com。该芯片充当高速流量调节器，在服务器机架内连接数百个人工智能处理器。博通的Ram Velaga表示，Tomahawk Ultra能够将比英伟达现有网络芯片多四倍的GPU连接在一起，并且使用基于以太网的协议，而非英伟达的专有系统 reuters.com。目标是帮助企业利用现成部件构建更大的“AI超级集群”，挑战英伟达在GPU之外的主导地位。台湾的台积电将采用最先进的5纳米工艺制造新的博通芯片 reuters.com。与此同时，英伟达因AI芯片需求股价飙升，却在多个领域面临日益激烈的竞争：谷歌自研TPU、AMD最新MI300加速器，以及博通等企业的网络芯片（更不用说英特尔也在研发AI优化芯片）。AI硬件市场的争夺正式打响，为训练下一代模型带来更快、更高效的芯片。
- 大型科技公司在人工智能基础设施上的投入：多项公告突显了在AI算力和能源方面的投资规模。谷歌确认达成协议，为其位于美国的数据中心争取高达3吉瓦的无碳能源（主要为水力发电），并与Brookfield Renewable合作，为其中西部未来的AI超级计算机提供能源 reuters.com reuters.com。黑石集团，全球最大的私募股权公司，宣布将在宾夕法尼亚州投资250亿美元建设新的数据中心和天然气工厂，以支持AI和云业务的发展 reuters.com reuters.com。而据报道，甲骨文则通过“Stargate”项目扩大了与OpenAI的合作，同意在美国为OpenAI独家提供额外4.5吉瓦的云数据中心容量 theverge.com。（作为背景，4.5吉瓦相当于增加了数座大型电厂规模的服务器，专用于训练和运行AI模型）。这些令人瞠目的数字彰显了由AI驱动的基础设施热潮：数据中心建设、电力交易和芯片制造都在加速扩张，以满足AI的需求。
- 产品发布与合作：在产品方面，各公司正将 AI 功能融入主流服务。微软开始在 Windows 中测试新的 Copilot Plus 功能，利用 AI 完成诸如描述屏幕上的图像和自动生成替代文本等任务 theverge.com。YouTube宣布将取消“生成式 AI 垃圾内容”的变现资格，明确相关规则，以遏制低质量 AI 垃圾视频 theverge.com。谷歌除在 I/O 大会上发出相关公告，还把 Gemini AI 助理拓展到企业级应用，甚至预演了与 Xreal 联合打造的Android 基础的 AR 眼镜，实现 Gemini 实时信息叠加 theverge.com theverge.com。而在一次引人注目的跨界合作中，xAI（伊隆·马斯克创办的 AI 初创公司）与 OpenAI、Anthropic、谷歌一道，获得美国国防部合同，为美国政府提供 AI 服务 theverge.com。五角大楼数字与 AI 办公室向 xAI 授予了最高达 2 亿美元的合同，即使马斯克的 Grok 聊天机器人刚经历一场公关危机（下文详述） theverge.com theverge.com。合同内容包括推出“Grok 政府专用”平台，为国家安全用途提供安全、定制化的 AI 模型 theverge.com。所有这些动态表明，从社交媒体到国防，每个主要领域都在被 AI 渗透，大公司和小公司都在争相抢占 AI 赛道。
- 人工智能伦理与法律争议：人工智能的快速部署也引发了法律和伦理上的争论。在欧洲，一组出版商对谷歌提起了反垄断投诉，称谷歌新的AI生成搜索摘要（“AI Overviews”）不公平地抓取其内容，并让他们陷入两难境地：要么允许自己的文章用于训练谷歌的AI，要么在搜索结果中被降权theverge.com。他们正敦促欧盟监管机构采取临时措施theverge.com。与此同时，在美国，OpenAI完成了对Global Illumination（io聊天机器人硬件制造商，由Jony Ive联合创办）的高调收购交易，以设计以AI为核心的消费级设备——但随即面临与此次收购相关的商业机密诉讼theverge.comtheverge.com。而在一件离奇的案例中，xAI被发现未经许可就在田纳西州运营燃气发电的数据中心以为其AI服务器供电；在当地压力下，马斯克的公司事后获得了15台天然气发电机的许可，尽管卫星图像显示现场实际有24台发电机theverge.comtheverge.com。环保组织仍对其排放及AI公司“快速行动，无视”环境法规的先例表示担忧。这些事件凸显出，随着AI企业规模的扩大，他们正面临现实世界的问责与法律挑战。
研究与学术突破
人工智能的学术研究与产业发展齐头并进，常常为企业奠定下一步创新的基础。过去一个月，学者们在多个领域宣布了显著突破：
- 提升AI推理能力：由麻省理工学院科学家参与的研究团队开发出一种新方法，使大型语言模型（LLMs）在复杂推理任务上表现得更好。通过训练模型更具适应性并将问题拆分为子任务，他们在战略规划和流程优化问题上取得了显著提升news.mit.edu。这有望帮助AI系统应对如日程安排、定理证明或供应链管理等需多步推理的挑战——而这些都是当前LLMs仍然难以胜任的领域。
- 精准医疗中的人工智能：在麻省理工学院的计算机科学与人工智能实验室（CSAIL），科学家们推出了CellLENS，这是一套能够在显微组织图像中识别隐藏细胞亚型的AI系统 news.mit.edu。这有助于揭示单个细胞在肿瘤或器官内行为的微妙模式，提升我们对细胞异质性的理解。这项于7月11日发表的研究为癌症免疫疗法带来了希望：通过定位影响肿瘤治疗反应的稀有细胞亚群，人工智能可以引导更精准和个性化的治疗 news.mit.edu news.mit.edu。
- 自主水下机器人：在机器人领域，麻省理工学院的研究人员创造了一种新颖的AI驱动的水下滑翔机设计流程——这种水下滑翔机是小型自主车辆，可以“滑翔”穿越海洋收集数据。AI通过流体动力学模型优化滑翔机的形状和轨迹，最终设计出全新的冲浪板大小的车辆，这些独特设计在人类工程师的传统直觉中从未出现过 news.mit.edu news.mit.edu。这些滑翔机通过利用浮力变化高效远距离移动，有望帮助科学家更有效地监测海洋生态系统或气候指标。
- 材料科学中的人工智能：7月4日，麻省理工学院团队发布了一项报告，展示了一套能够快速测量和分析新材料样本的机器人系统 news.mit.edu。这种机器人探针利用AI可以实时决定如何调整实验参数，大幅加快了新型半导体材料的特性分析。此类自动化实验室助手消除了缓慢的人为试错步骤，有望加速太阳能电池、电池及其他材料的发现——充分展示了人工智能对科学实验的放大作用。
- AI与能源“难题”：研究人员也在研究AI自身的环境足迹及其潜力。麻省理工能源倡议（MIT Energy Initiative）每年举办的一个专题研讨会上，专家们辩论了AI在气候危机中既是问题，也是解决方案的双重角色 news.mit.edu。一方面，AI训练耗能巨大——单一的大型模型在其生命周期内消耗的电力堪比数百个家庭。另一方面，AI能够极大提升电网优化、气候建模以及清洁能源技术的发现速度。大家的共识是：需要跨学科合作来确保AI的碳足迹在其被用于可持续发展时得到有效控制 news.mit.edu。一个引人注目的想法是利用AI设计更高效的AI芯片和算法（一种AI自我改进循环，以减少能源消耗）。
在学术界，AI安全、目标一致性与伦理也正逐渐成为正统的研究方向。关于AI目标一致性（确保AI系统的目标与人类价值观一致）的会议，吸引的不仅有哲学家，更有提出技术方案的计算机科学家。今年，学者们发表了神经网络可解释性提升方法、避免AI模型“幻觉”的技术，以及AI常识基准评测等研究。值得注意的是，享有声誉的图灵奖（“计算机界的诺贝尔奖”）于今年三月授予了Yoshua Bengio、Geoffrey Hinton和Yann LeCun，表彰他们在深度学习领域的开创性贡献——这是对该领域奠基性理论改变世界的认可。现在，新的研究者群体正基于这一遗产，继续攻坚AI系统不断增强时出现的艰难未解问题。
著名评论与专家视角
在AI开发的狂热浪潮中，科技与科学领域的领军人物正在发表犀利评论——有的乐观，有的审慎——探讨我们将要走向何方：
- 存在性风险警告： Geoffrey Hinton，常被称为“人工智能教父”，曾发出最为严厉的警告。在离开谷歌以便能够自由发声后，Hinton在接受路透社采访时表示，超级智能人工智能可能对人类构成比气候变化“更紧迫”的威胁——他认为这种风险可能在几十年内成为现实 reuters.com reuters.com。 “我不想说不要担心气候变化……但我认为[人工智能]最终可能会变得更加紧迫，” Hinton说，并指出没有明显的方法可以像减少碳排放那样“直接阻止”失控的人工智能 reuters.com reuters.com。他签署了呼吁暂停大型人工智能实验的高调信件，尽管他承认暂停可能是“完全不现实的”，并且主张现在应进行关于人工智能安全技术的深入研究 reuters.com reuters.com。图灵奖得主Yoshua Bengio以及其他一些人也呼应了这一观点，认为防范人工智能带来的灭绝级风险应当成为与防止核战争同等重要的全球优先事项 linkedin.com medium.com。这些警告促使一些立法者提出了国际监管的建议——例如，欧盟议会的一部分成员呼吁召开全球峰会讨论人工智能的未来，联合国也提出创建类似于国际原子能机构（IAEA）的人工智能监管机构的想法 reuters.com。
- 乐观与务实的声音：并非所有人工智能领域的人都在关注世界末日的情景。像Andrew Ng（吴恩达）这样的专家认为，当前人工智能的风险更为紧迫——从偏见算法到就业流失——需要实际的解决方案，而不是假设性的讨论。吴恩达最近将对人工智能的恐惧比作“对火星人口过剩的担忧”，呼吁公司提升透明度和模型的公平性，而不是因失控的超级智能恐慌（Meta 的Yann LeCun也持相似观点）。还有一些研究者则提倡人工智能的积极潜力：“人工智能将带来巨大福祉，”Hinton 本人曾表示，从个性化教育到医学突破都可受益fortune.com。在专家辩论中，拥抱人工智能利好与遏制其风险的紧张关系，也是核心议题。著名人工智能研究者Fei-Fei Li（李飞飞）经常强调在人工智能中需要多元声音和以人为本的设计，以便这些技术是“增强而非取代”人类。许多专家指出，人工智能是一种工具——如果正确引导，它可以比以往更快地帮助解决药物研发或气候适应等紧迫问题。
- 行业领袖发声：科技公司 CEO 也以 AI 时代的政治家身份发表看法。微软的Satya Nadella最近指出，人工智能正处于类似“古腾堡印刷机时刻”的转折点，并强调“需要护栏，而不是刹车”——他认为，负责任的发展而非暂停，才是前进之道。OpenAI 的Sam Altman在全球巡回会见监管者后，也认同需要一定的监管（甚至提出对最强模型建立国际许可机制），但同时警告不要因过度监管扼杀创新。当 OpenAI 决定推迟开源模型发布时，Altman 坦率地解释说这是因为“一旦开源，我们就无法收回”，突显了这一决定的分量techcrunch.com techcrunch.com。Anthropic 的Dario Amodei强调了人工智能对齐（AI alignment）研究的重要性，并指出该公司正在测试让 AI 解释其推理并遵循明确伦理规则的方法。Google DeepMind 的Demis Hassabis还提出，也许我们会迎来一份“AGI（通用人工智能）宪法”——即让超级智能人工智能带有一套价值观和约束机制，以确保其始终有益于人类。
- 公众反应与文化：来自各个领域的公众人物也在对人工智能的影响发表看法。在政治领域，一些美国2024年总统候选人将人工智能纳入其竞选纲领——例如，RFK Jr.以科技为主导的竞选提出将“人工智能应用于政府的一切”，这一做法因监管问题被批评者称为“灾难” theverge.com theverge.com。在娱乐领域，演员和作家正与人工智能的入侵作斗争：好莱坞工会一直在就限制表演者AI数字克隆进行谈判。就在本周，独立乐队Deerhoof将其音乐下架自Spotify，抗议流媒体版税可能为军事科技的人工智能研究提供资金——乐队表示，“我们不希望我们的音乐为人工智能战斗技术提供资金，”这反映了艺术家的担忧 theverge.com。而普通用户也在以新的方式接触到人工智能，从TikTok上的病毒式深度伪造视频（有些无害，许多却令人担忧） theverge.com 到越来越接近真人般有用的人工智能客服机器人。这种在公众话语中出现的兴奋和不安交织的局面表明，人工智能已不再是小众话题——它已成为涉及道德、就业、创造力及更广领域的主流讨论。
- 人工智能滥用的揭露：专家们并不回避揭露人工智能的阴暗用途。最近的《Wired》调查披露了一个利用生成式人工智能从穿衣照片制造虚假女性裸照的“AI裸照生成器”网站黑色产业链——本质上是一种自动化的骚扰手段 theverge.com。令人震惊的是，数十家此类网站竟然在公开运营，甚至通过广告网络获利。Indicator的研究者Alexios Mantzarlis领导了本次研究，他批评大型科技公司在无意间为这类滥用行为提供支持。Mantzarlis在接受采访时表示：“当明确发现这些AI裸照生成器的唯一用途就是性骚扰时，他们本应立即停止为其提供任何服务。” theverge.com。他的团队发现，在这类85家网站中，有62家依赖亚马逊（用于主机托管）或谷歌（用于登录API）等大型科技公司的服务，这意味着主流科技生态对人工智能恶意用途负有一定责任 theverge.com theverge.com。在社会上引发强烈反响后，一些服务商已经开始撤出对这些网站的服务，而欧洲监管机构也在新出台的反AI生成非自愿影像法规下密切关注局势。此事件凸显了人工智能伦理远非理论问题——它对人权和安全带来了真实且紧迫的影响，专家们正要求各方负起责任。
来源： 官方公司新闻稿；The Verge theverge.com theverge.com；TechCrunch techcrunch.com techcrunch.com；路透社 reuters.com reuters.com reuters.com reuters.com；欧洲议会新闻 europarl.europa.eu europarl.europa.eu；麻省理工学院新闻 news.mit.edu news.mit.edu；Wired theverge.com；彭博社 reuters.com；美国国会NCSL报告 ncsl.org；兰德公司评论 rand.org rand.org；以及在各类媒体上的专家访谈reuters.com reuters.com。
最后，值得一提的是专家圈针对人工智能的幽默与谦逊。当被问及飞速发展的现状时，一位人工智能研究者打趣道，现今的模型“经常出错，但却信心满满。”面对AI系统自信地给出答案（有时也闹出错误），这一戏谑颇具共鸣。正如一位谷歌科学家所说，接下来的任务是“把这些万能近似器变成可靠的工具”——让人工智能能够意识到自己不知道什么。在这飞速进展的时刻，全球领先的人工智能专家们对自己创造出的技术既感到敬畏，也保持清醒。他们达成共识：我们正进入人工智能革命的新篇章，实现这一强大技术真正造福人类，需要研究人员、产业界、政策制定者与社会前所未有的协作。2025年的AI故事，是一段非凡创新的传奇——也标志着我们如何面对挑战，将决定未来数十年的世界。
