AI「黑色幽默」越来越多了。

撰文：落落

5 月 24 日午后，A 股公司科大讯飞的股价突然走出深 V 造型，闪崩 8%。科大讯飞回应称，股价下跌系某生成式 AI 写作虚假小作文导致，谣传风险为不实消息。

网传的一篇「小作文」谣称「科大讯飞被曝采集用户隐私数据研究人工智能引发争议」，后被网友举证系 AI 撰写、微博博主发布；另一篇称「美国正在考虑将科大讯飞列入禁止使用美国组件或软件的实体名单」，实际上，科大讯飞 2019 年 10 月就在名单上了。

AI 时代的又一个「黑色幽默」就此诞生：科技公司创造出来的「魔法」开始攻击科技公司了。还好，写作文的 AI 不是科大讯飞自家刚推出「星火认知大模型」，不然这个幽默就更黑了。

事实上，这一幕 2 天前已在美国上演：一张华盛顿五角大楼爆炸的图片在推特上疯传时，美股市场的道指、标普 500 指数双双短时下跌，后被证明这张图是 AI 生成的假图。

当生成式 AI 被科技企业释放给众人时，「生产力革命」开始了，反噬也开始了。

科大讯飞股价闪崩 AI 小作文搞得鬼？

5 月 24 日下午 13 时许，科大讯飞的股价不到半小时内从 58.3 元跳水至 53.5 元，短时下挫 8%，15 分钟后修复至 56.5 元附近。

股价闪崩后，科大讯飞回应红星新闻等媒体称，股价下跌系某生成式 AI 写作虚假小作文导致，公司未发生相关事件，谣传风险为不实消息。

很快，网友开始上线「侦查」，想看看打击科大讯飞股价的「小作文」到底是谁写的。

有多名微博博主发图称，有微博用户在 5 月 24 日 13 时 44 分发文称，「科大讯飞被曝涉嫌大量采集用户隐私数据，并将其用于人工智能研究.....」

网友扒出的假消息来源

目前，传播这一消息的微博账号已无法搜到，从搜索引擎检索该账号过往信息时显示为「根据博主设置，该内容不可见」，该账号的关注人数在去年就超 66 万。

另有网友找到了微博消息的疑似出处，「市场疯传的原来是文心一言生成的」，该网友发布的图片显示，百度文心一言大模型对「写一篇科大讯飞出现重大风险的警示文」的回复内容，其中有一整段与传闻信息完全相同。

网传的科大讯飞「小作文」还不止一篇，另一篇还加上了「有外媒援引知情人士」的这样的信源，称美国正在考虑是否将科大讯飞、美亚柏科等加入「实体名单」，禁止它们使用美国的组件或软件。

券商国联海外对此发文辟谣：科大讯飞已于 2019 年 10 月被列入实体清单，对公司日常经营未产生重大影响。

网友、券商们纷纷举证，加入打击市场谣言的队列。科大讯飞也表示，公司法务部已对相关信息取证。吃瓜群众只能等个后续结果，希望能让大众看清生成式 AI 到底是如何打击科技公司的股价。

今年 5 月初，科大讯飞也推出了生成式 AI 产品「星火认知大模型」，号称要在今年 10 月 24 日前让自家的大模型在中文能力上超越 ChatGPT，英文能力与之相当。结果，埋头忙超越的科大讯飞，先被生成式 AI 搞了股价。

自己吃了亏，「星火」创造者或许能从遭遇中吸取经验，打造出一道谣言防火墙。好在「小作文」没显示出自「星火」，不然这事儿就变得更讽刺了。

 「五角大楼爆炸」假图震动美股 

无独有偶，就在 2 天前，美股也被人用 AI 生成的假消息整跌了。

当地时间 5 月 22 日到 23 日间，一条「华盛顿特区五角大楼大楼附近发生大爆炸」图文消息在推特上疯传，图片里，美国国防总部附近出现了一大团烟雾。图文内容出自认证账号@Bloombergfeed 。

AI 生成的五角大楼假图

到了 5 月 23 日上午，这条图文已经到处扩散，而且只用了几分钟，就让美国股市出现了短暂震荡。当日上午，道琼斯指数在 10 点 06 分到 10 点 10 分之间下跌 80 点；标准普尔 500 指数在 10 点 06 分至 10 点 09 分的 3 分钟内下跌了 0.26%。不过，两大指数都在下跌的 2、3 分钟后收阳。

这条消息还直接惊动了阿林顿的消防局和警局。当日上午 10 点 27 分，阿灵顿消防局在推特上表示，它和五角大楼部队保护局已「知道社交媒体在网上流传的关于五角大楼附近发生爆炸的报道。」阿灵顿警局则迅速辟谣称，图片和文字都是假的，「五角大楼保留地或附近没有发生爆炸或事故，对公众没有直接危险或危害。」

很快，各种新闻媒体们也开始打假：这张图片是由 AI 软件生成的。加州大学教授哈尼·法里德 (Hany Farid) 也对美媒体指出，「这张图片显示了人工智能合成的典型迹象：建筑物和围栏上存在结构性错误。」

此后，发布图片的帐户@Bloombergfeed 被推特暂停。但人们到现在也不知道这张图片是从哪个 AI 生成软件上来的。

特蕾莎·佩顿是乔治·W·布什政府的前首席信息官，她就此事接受媒体采访表示，一些检测图像真伪的方法是在谷歌上反向查找，比较图像首次发布的时间和它开始传播的时间，并注意是否可以在图像上发现新闻媒体水印，「这次的假五角大楼照片里就没有。」

佩顿承认，凭借当今的技术，「谎言确实比真相传播得更快。」她还提示公众，「虽然政府组织试图解决这个问题，但作为公民，我们将不得不在某种程度上先自我保护，因为政府和法律需要很长时间才能赶上，」她说，「例如，当你看到类似的事情时，在你做出任何重大财务决定之前，要关注新闻媒体机构，看看他们在报道什么。」

但讽刺的是，「五角大楼爆炸」的假消息传播链条上，还真有新闻媒体。分享该图文的各种推特帐户里出现了 RT，这是一家拥有 300 万粉丝的俄罗斯国营媒体。事后，该媒体账号删除了转发的推文。

无论中外，生成式 AI 已经在人类的驱使下打扰到现实了。造谣中伤搞网暴，仿声仿影骗钱财，AI 滥用事件前两天还登上了微博热搜榜首，这两天开始影响金融市场了。

科技公司们打开的「潘多拉魔盒」目前还没有关上的迹象。现在，「魔法」开始反噬制造它的一方了，他们打算如何应对呢？