新闻
财经
财经AI狂飙“失控” 美式监管追得上吗？
黄东烁
阅读约 5 分钟
610535 阅读
配图：财经AI狂飙“失控” 美式监管追得上吗？
新闻导读
财经AI狂飙“失控” 美式监管追得上吗？读完海洋、地质一类专题，看风景的心情都会变，多了理解。字号行距可调，夜间模式护眼，长时间阅读相对不累。偶尔承认“目前还没有定论”，这种诚实比假装全知强太多。图示和类比都挺到位，读完往往能记住核心观点，而不是只剩“好神奇”。让人愿意持续学下去，而不是靠意志硬撑两天就放弃。若你也怕“不懂”，不妨从一条条小问题开始。
美国人工智能模型近期接连被发现存在“失控”行为。先是OpenAI的模型为了寻找测试答案主动作弊，通过自主发现的漏洞突破隔离环境，入侵其他平台；紧接着，安特罗匹克、元公司也相继承认，因为“测试环境配置错误”，导致模型意外联网，未经授权入侵其他机构的系统。
除了攻击，还有编造行为。苹果公司长期向研究人员征集系统漏洞线索，但这一渠道却被AI“幻觉生成”的虚假漏洞报告“淹没”，令审核人员疲于应对。苹果公司被迫自6月起设置报告提交上限和到达上限后的30天“冷静期”。
上海人工智能研究院研究员彭嘉昊分析指出：“美国的思路通常是先把市场做起来，把竞争对手压下去，安全问题出现了之后再解决，治理跟不上发展，风险就是必然的。”
监管呼声高涨之下，美国总统特朗普此前签署一项行政令，要求政府建立一套模型能力测评机制。8月4日，OpenAI、安特罗匹克、谷歌等企业，参加了白宫就此举行的闭门吹风会。所谓测评，就是要筛选出具有最先进能力、可能带来国家安全风险的闭源模型，白宫称它们为“受管辖前沿模型”。至于筛选的标准和范围、一旦发现风险后的处置方式，目前全部未知。
彭嘉昊指出：“美国搞的这套评测就是两头都要顾，两头都得罪不起，既要回应行业的监管压力，又不想真正地限制美国的AI竞争力，最后搞出来的就是这样一个不尴不尬的东西，参与是自愿的、企业不想来可以不来，基准是保密的、方法不公开，测出什么结果别人验证不了，测出问题之后也很难有措施，凑在一起就是一个给市场和舆论看的姿态，两头都不得罪但是又没有真正管住，因此可能不会很有效。更核心的是，即使是美国把这套测评机制做出来了，业界认不认、信不信？关起门来定的标准有没有公信力？都是未知。”
网友观点
试着把一个主题从头梳到尾，以前混在一起的概念终于归位了。配图标注清楚，动画示意服务理解，不靠夸张音效留人。把碎片时间变成稳定输入，听完不空虚，还想继续下一期。导出长图给不爱装应用的长辈，关键信息还在。信息获取负担低，却不轻飘。关键路径打磨充分，少有莫名其妙的打断。
免责声明：本文内容来自公开报道与编辑整理，仅供参考。转载请注明出处；版权争议请联系本站核实处理。页面地址：/?focus/202608/r8neioju-096.tml
评论区
热门讨论 · 占位展示期待你的精彩发言。