（来源：上观新闻）
“四川街头出现棕熊”事件反转，又是AI伪造。
根据通报，先是有人出于“觉得好玩”的心态，生成了两只棕熊出现在街道上的虚假图片。随后又有人把图发在朋友圈，称其为“监控画面”。由于图片冲击力强，加上“监控实拍”的误导性描述，很快就在当地居民中引发恐慌，有居民说“都不敢送娃上学”。
看起来只是件有些荒唐的小事，但一个不容忽视、必须警惕的趋势已经越来越明显——随着AI技术飞速升级，AI生成的假内容越来越“真”，造成的负面影响越来越大，管控难度也越来越大。
拿棕熊事件来说，它不仅影响了很多居民的正常生活，还浪费了公共资源。而比此事影响更恶劣、造成更严重后果的，实际上在这两年的互联网上比比皆是。
早在生成式人工智能刚刚兴起时，就曾有一张“五角大楼附近爆炸”的AI假照片在社交媒体传播，一度导致标普500指数下跌，据分析可能触发了约5000亿美元的市值波动。今年五一假期前，一段AI生成的“张家界大峡谷玻璃桥断裂垮塌”视频在网上流传，引发网民和游客恐慌，影响到了许多同类景区的客流。网上此前还流传一起AI伪造的“内部饭局”视频，导致某饮料企业市值一周内蒸发超70亿元。
除了AI诈骗等能明显判定为主观恶意的事件，其他情况下始作俑者似乎很少受到与所造成影响相匹配的惩罚。在司法实践中，要认定构成编造、故意传播虚假信息罪或寻衅滋事罪，标准极为严格，所以AI造谣者多数止步于行政处罚。
但如今，AI生成的成本尤其是违法成本极低，但潜在“收益”却非常高。而且，有些人可能真是因为“一时兴起”用AI造假，但也不排除有些人是受指使打击竞争对手、或为股票交易等铺路。事实上，在国际互联网上，AI早已成为信息战、认知战的工具，批量生成各类看起来“好玩”实则暗藏祸心的内容，其底层逻辑也是一样的。
正如人民日报此前指出的，在AI技术的“加持”下，网络谣言已跳脱单纯的舆论纷争，演变为随时可能引发市场震荡的“黑天鹅”。
我们既要警惕并及时应对好每一只“黑天鹅”可能造成的影响，更要设法从根源上消除其诞生的土壤。技术的进步不可阻挡，治理更应当及时跟上。
过去针对AI造假的现象，谈的更多的是“平台要负起责任”。在新的技术语境下，对AI生成内容的鉴别越来越难，事前事中介入的难度越来越高，但这并不意味着平台就无计可施了。
有传播研究者提出，平台可以建立一套风险分级体系：对政治、金融、灾情、警情、公共安全、公共卫生等高风险内容，可以有限推荐来源可信的内容，比如主流权威媒体制作的新闻。对社会热点、争议性话题等中风险内容，对未经验证的内容限流处理——这在技术上是可行的，有海外社交平台正探索通过加密签名等方式，对实拍的视频进行认证。对娱乐、创意、艺术、个人生活分享，则可以事后处理为主，一旦造成负面影响再追溯责任。
如此，平台不需要再“猜”真假，只要能克制住流量冲动，就能让那些来源不明的内容天然处于传播劣势。
更进一步看，还是要提升AI造谣的违法成本。西南政法大学法学院教授陈伟指出，法律应匹配违法人员的违法成本与其承担责任之间的比例，否则遏制作用有限。中南大学法学院副院长杨清望等学者则呼吁完善法律法规，引入动态追责制度，对相关不法行为严加惩处。
这方面，我国已在逐步探索推进。不久前，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》，在支持AI技术创新发展的同时，划清法律“红线”，特别是根据AI在不同应用场景下可能造成的损害以及风险的性质和大小，依法准确认定法律责任。
而在此前湖南省首例AI造谣刑事案件中，犯罪嫌疑人阳某使用AI剪辑软件，制作并发布“化工厂重大事故”等恶性虚假视频，造成公众恐慌，最终被法院以寻衅滋事罪判处有期徒刑6个月。这一判例若在更大范围复制，将对这类违法行为形成更强的威慑力。
现实地看，如今以AI为代表的科技发展速度太快了，法律法规很难一蹴而就地完善到位。面对新形势和越来越多的新问题，要准确把握发展趋势和规律，以“搞科学研究一样”时不我待的紧迫感，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，才能让人工智能这匹千里马既跑得快，又跑得稳。
原标题：《上观时评 “街头有熊”又是AI伪造，社交媒体这个新趋势必须警惕》
