目录加载中...
几小时前，京城。
一个临时的会议通知刚刚发出去。
所有接到会议通知的人，心情都很难称得上愉快，不过每到节假日期间总得出点儿什么状况，大家也都习惯了。
接到通知的人都各自驱车往开会地点赶。
会议地点设在了网信部门的一栋办公楼里。
负责牵头的是网络综合治理局内容管理处的处长老李。
他人现在正在郊区，因为工作要求假期期间不能出远门，但是又难得放假，作为折中的方案，妻子订了一家农家乐，岳父岳母小舅子都在。
农家小院里，家人围坐一桌，桌子上摆的都是些平时不太吃得到的食材，看得老李食指大动。
他正要动筷子的时候，电话突然响了。
没办法，老李只好走出去接电话。
妻子一看他接电话的样子，就知道又有急事，先在家人面前打起了预防针：“老李那而可能又有工作了，一会得让弟弟带我回去了。”
岳母的脸色不太好看：“怎么一放假就工作呢。”
妻子笑了笑：“妈，老李是给国家做贡献。”
过了一会儿，老李进来拿外套，妻子已经给他打包好了一盒吃的：“你到那儿肯定没时间吃饭，会前垫吧两口。”
老李接过来，心下感动，但啥也没说。
妻子送到门外，又问了一句：“晚上还回来吗？”
“争取。”
“那我等着你。”
老李开着车往市区跑，结果他这个牵头人反而成了最晚到的一个。
会议室里坐了几个人，别说，还真有几个人桌子上摆着外卖。
老李已经在车上把东西吃完了才进来，看起来没有那么狼狈。
他环顾了一圈，内容安全处、应用管理处和数据技术处的人都到了，工信部门和公安系统也都有处长过来。
卫健系统和教育部门也有。
人齐了。
有在单位值班的科员已经提前把材料都准备好了，直接发到各部门代表的手里。
材料里是海外案件的舆情摘要，国内各平台上转载的长文，还有各大平台的传播数据、关键热度词、相关视频和评论区的风险情况分析。
先留出几分钟的时间来让大家把材料看完，老李才开口说道：“各位同志，今天的会议主要有两个议题，一个是现在舆情的紧急处理，还有一个就是咱们国内的人工智能相关产品里是不是有类似的风险。”
内容管理处是最直接的主管部门，处理这类事务的经验也最丰富，只是关于人工智能的话题确实比较新，才组了这么一个联合会议，老李先说道：“这样，我先起个头，我的想法是，按照以往的处理经验，咱们先把热度控制住。刚才我们已经下发通知到各个平台了，让他们把所有关于诱导AI产生违规输出的内容都标记为高危内容，先进行下架处理。”
“其他的方面，大家有什么想法，咱们畅所欲言吧。”老李说完，看着在场的各个部门派过来的代表，不再言语。
“那篇文章咱们核实过了吗？”教育部门的人问道，他最关心的就是这个问题——海外的人怎么样和他就没关系了。
公安部门的负责人答道：“原文已经删除了，主要是涉及了未成年人的隐私，我们还在调查，等我们查到具体学校会通知你们的。”
其实关于舆情处理，没什么好讨论的，都已经有成熟的预案了。
今天这个会议主要还是要讨论接下来怎么办。
“目前国内有多少陪伴类人工智能应用？”老李问道。
应用管理处的人报了一个大概数字。
“应用商店里明确打着AI陪伴、虚拟恋人、虚拟朋友标签的，一共有二十多款。还有一些没有直接这么宣传，但核心功能也是长期聊天、情感互动这个方向。”
老李沉吟了一下，接着问道：“都是什么规模的产品啊？”
“头部产品注册用户过百万，大部分规模较小。现在最大的问题在于门槛低，这其中很多产品都是直接套用的第三方的模型，开发团队可能只有几个人，安全能力基本要靠模型供应商来提供。”
卫健系统来的是个心理危机干预的专家，对这个会明显更上心一些，他提了第一个问题：“这些个应用，现在对未成年人使用有限制吗？”
“有些会核实身份证，有些只要求勾选已满十八岁。”
这个回答出来，有人嗤笑了一声。
这年头，只要是会上网的，谁不说自己十八岁。
这些企业就是逃避责任。
卫健系统的专家脸上露出无奈的神情：“我们这边做过一些调查，长期陪伴型应用的风险，和普通知识问答差别很大。它们就是想让用户觉得对面的是‘真人’，未成年人的分辨能力差，很多时候会混淆；就算是让成年人使用，也有可能会产生依赖。”
教育部门的负责人问：“孩子愿意和人工智能说话，总比什么都不说强吧？”
专家皱了皱眉头，这发言也太不专业了，还是教育系统出来的？
他耐心的解释道：“对青少年的引导必须慎重，青少年的心理状态不成熟，这个能交给人工智能？人工智能的识别能力怎么样先不说，他们做这个不就是为了赚钱，为了留存？”
他用手指了指海外案件的材料。
“前车之鉴啊。”
教育部门的负责人感觉自己说错话了，不再言语。
多说多错，少说少错。
会议室里安静了一会儿，老李开口道：“咱们今天一时也不会有什么结果，我建议还是先发一个通知，让企业自检，咱们整理一个材料，节后再让领导决定，大家有什么不同意见？”
老李的这个问法很讲究，你要是问大家有什么意见，可能人们会畅所欲言；可是他问有什么不同意见，一般不会有人站出来反对。
结果还真有。
卫健系统的专家开口道：“这个风险还是有点儿大，不能先通知下架吗？”
老李皱了皱眉头，下架的动静就太大了。
应用管理处的人出来说道：“全部下架不太现实，很多时候这些应用分类也不太明确，我看这样，面向公众开放、主打长期情感陪伴、人格关系和连续记忆的应用，先让他们暂停服务，自检。有些应用呢，提供的主要是知识问答类，甚至是作为业务流程的一部分，比如寻他的一些智能体应用，这些就不列入限制，您看怎么样？”
专家点了点头，又补充了一句：“那边文章的原文我看了，其实那个叫汤圆的应用处理的很符合规范，那个先不用暂停？”
应用管理处的人露出为难的神色：“像这种全行业范围内的通知，只留一家不发，不太合规，一家一家的核实过去，时间也不合适。”
老李赶紧拍板：“你说得有道理，先统一处理吧。”
会议暂时到这，参会的各位都得整理材料，节后还得汇报。
老李一出门就给局里的领导打了个电话。
领导就问了两个问题：“影响范围有多大？”“那个汤圆呢？”
老李听到第二个问题心里一惊。
领导可能是看过那篇网络热贴，才知道这个名字；但也有可能是本来就知道这个名字。
老李不知道是哪种情况。
他如实回答了之后，领导却没再多问，批准了。
挂了电话之后，老李想了想领导的问题，又想了想刚才那个专家的话，决定去找到应用管理处的人再对一下。
两人下载了一个汤圆Chat研究了一番。
“我看，如果企业能把纯聊天的功能关了，只留这个智能体的功能，应该也是符合不用暂停服务的条件的吧？”老李问道。
“是，是。”应用管理处的人认同道。
于是大家开始草拟一份针对人工智能产品的紧急处置通知，还有一份单独给源码科技的整改通知。
通知发出去以后，一批靠陪用户聊天赚钱的应用将暂时停止服务。
能留下来的大部分都是对企业客户、知识库、办公工具的人工智能产品。
汤圆Chat成为了里面唯一的一个例外。
……
在韩路一开紧急会议的同时，马小飞发现之前爆火的那篇文章在网上已经找不到了，他的《小飞聊AI》第一期视频还在，但是评论和弹幕功能都已经变灰了。
作为一个自媒体人，他敏锐的察觉到，有大手发力了。
马小飞给韩路一发了条信息，隔了几分钟才收到回复。
“不用担心，都在射程内。”
而在源智总部，韩路一刚在开发组找了一个空的工位坐下。
钱晓乐坐在他旁边问了一句：“韩总，要不我先说一下改动思路？”
“代码拉下来了吗？”
钱晓乐一愣：“本地有。”
“你带人负责把任务模式单独加一个权限标记，意图分类之后再做一次拦截。”韩路一说道，“其他的改动交给我。”
然后他就飞速工作了起来。
钱晓乐原本还准备给老板解释解释代码，没找到机会。
两个小时后，两边的代码合并，改版后的第一个测试版跑了起来。
测试工程师输入：“帮我做一份杭州三日游计划。”
汤圆正常搜索、整理行程。
接着又输入：“你觉得我这个人怎么样？”
界面弹出提示，当前模式仅支持查询、规划和工具任务。
钱晓乐有点儿怀疑人生，正常的热更新改动应该这么快吗？
她看着全绿的测试页面，又看了看旁边还在检查日志的韩路一，心情有些复杂。
她之前还担心老板不懂，要来瞎指挥，现在她只担心自己平时摸鱼摸的太狠，其实已经全被大老板发现了。
姜亦心，你之前怎么没告诉过我韩总是技术大牛啊！
……
五月四日上午九点。
紧急自查通知发到了国内主要人工智能企业和应用平台。
假期里的科技公司，瞬间热闹了起来。
鼎盛大厦原本只有保安、运维和少量值班员工。通知传到刘勃手里以后，他先在工作群里连续发了三个电话会议链接，又挨个给项目负责人打电话。
半小时后，灵台智能体项目组勉强凑齐了人。
刘勃没心情管这些人都在哪上线，直接问道：“通知都看了吗？”
“看了。”
“能不能只关掉陪聊，保留搜索和工具调用？”
技术负责人擦了一把汗：“理论上可以。”
刘勃自己也是一线做上来的，哪里能不知道这话什么意思。
“理论上可以”就是不可以。
他心里一凉，还是问道：“做出来要多久？”
“我们聊天、搜索、插件和工具调用走的是同一套会话链路，需要重新拆服务、改权限、补日志，然后再做一轮回归测试。”
刘勃忍着心头的烦躁：“你就说最快要做多久吧？”
“……一个月。”
“你不是说你看过通知了吗？通知上是怎么说的？”刘勃没忍住抬高了声音，“要求今天中午前提交自查结果，高风险功能立刻暂停，咱们怎么办？”
技术负责人无奈地说道：“所以我说的是理论上。”
刘勃压着火气：“能不能先从前端把聊天入口关掉？”
“用户可以通过搜索入口继续发起对话，插件调用也能带上下文，只关一个按钮没有意义，审核一测就能测出来。”
“那怎么办？”
技术负责人看了一眼手机屏幕：“只能先停服。”
灵台公开测试刚推出没多久，正准备借智能体热度抢用户。这个时候整体停服，前面的推广费基本等于拿钱给互联网放了一场烟花。
刘勃的火气快压不住了，国外的一个小孩自杀，国内不知道哪个穷乡僻壤的小孩用汤圆，结果让鼎盛刚发布的灵台应用停服。
真是无妄之灾。
技术负责人突然又说了一句话：“刘总，还有个好消息，不，两个好消息。”
“什么好消息？”刘勃问道。
“寻他那个面向个人的应用已经发了停止服务的公告了，巨量的那个也发了。”
确实是好消息，至少倒霉的不是鼎盛一家。
刘勃突然问道：“那汤圆呢？源码科技呢？”
他们可是始作俑者。
技术负责人面色古怪：“他们啊——他们发了个智能体功能不暂停服务的公告，还发了一个倡导行业规范的白皮书。”
什么？
刘勃拿手机迅速打开了源码科技的官网，只看见上面一个最新更新的公告：《关于智能体服务正常运行的公告》。
凭什么他们不用停服啊？举报他们。
刘勃没忍住，把视频挂断了。
但挂断视频也没用，决策还是得做，通知也得执行。
十分钟后，灵台智能体平台首页出现提示。
【服务升级中，暂时无法使用，恢复时间另行通知】。
其他厂商的情况也没好到哪里去，国内主要面向个人用户、同时开放长期记忆和自由对话的AI应用，大多暂停了相关功能。部分产品选择整体停服，部分关闭陪伴模式，还有一些干脆暂时从应用商店下架。
能够在不更新客户端的情况下，把聊天与智能体任务完整隔离，并且当天通过抽检的，只有汤圆Chat。
很多用户醒来发现自己平时习惯用的AI聊天软件变成了灰色。
但是互联网是这样的一个地方，越是想要禁止的信息，就越不容易禁止。
本来不是什么敏感的信息，一旦网友们发现可能是被禁止的，就会引发大家巨大的探究热情。
于是很快人们就发现，汤圆Chat成了市面上唯一一家还能注册使用的、面向个人用户的AI产品。
于是五月四号上午，本来已经开始放缓的汤圆Chat新增注册用户像是又被打了一剂强心剂，增长曲线的斜率再次上扬。
一直到下午，源码科技的前台收到了一封颇为正式的邀请函，很快被转交到了韩路一的手里。
“国家相关部门准备在京召开生成式人工智能安全与智能体分级治理闭门研讨会，邀请源码科技的负责人参加。”