8月29日晚,有网友发帖称南通大学财务处官方微信公众号回复的内容“高高在上”“阴阳怪气”。该网友在其微信公众号咨询缴费截止日期,但回复内容非但没有明确告知时间,反而指责其不积极缴费,“硬”向学校要截止日期而让双方都显得尴尬,还称咨询此类问题的同学“思路奇特”。
对此,南通大学财务处一工作人员表示,该回复内容是测试版AI自动回复,不是人为,也并非针对哪个老师和学生。工作人员发现问题后已经将该内容撤换。由于这个功能使用人数很少,所以发现问题较晚,他们也对此感到抱歉。
从微信回复的内容看,确实有点阴阳怪气,还自以为在抖机灵——有学生询问一下校园卡余额,还被说了一句“不会吧,你连这个都算不出来”。这确实不像是“正常人”的脑回路,学校说是AI回复的结果,也大体可信。
当然,即便这是AI,人也不是可以免责的:AI不也是人训练出来的结果?学生询问缴费截止日期,居然会出来一个讽刺学生的回复,虽然回答很“乱来”,但是也很有针对性。这不禁让人怀疑,这个AI是通过什么问题和大模型来训练出来的?
事后工作人员能撤换该内容,也说明AI也有人工审核和干预的元素。那么,一个阴阳怪气、油腔滑调的AI能够出现,至少也是审核不严的结果。
这起事件或许也是提了一个醒:在一个言必称AI的年代,我们很可能会在一段时间内,陷入一种技术扰乱的困境。
AI的“已读乱回”,已经引发了不少争议。一些社交平台在近期也涌入了AI机器人,一些毫无边界感的“癫狂”言论也曾引来众多围观。随着AI热度高涨,越来越多的企业或产品投入应用,此类“乱象”可能越发常见。
客观来说,这种情况很难完全避免。这是一种“AI幻觉”——指的是AI会生成貌似合理连贯,但同输入问题意图不一致、同世界知识不一致、与现实或已知数据不符合或无法验证的内容。毕竟,产品预设中的AI是不会说“不知道”的,那么它就有可能在乱序中生成答案,闹出种种笑话。
这是个行业问题,能否解决、多久解决、解决到什么程度,目前很难预测。这也是技术扰乱可能加剧的一个原因所在,更多产品会被投入市场用于调适。这同时也提了一个醒,在一些公共服务领域,对新技术的投入和应用理当更加审慎。
公共服务需要的是准确、有用,尽可能地简洁清晰。那么像“AI幻觉”这样的干扰就会带来困扰。这些问题在智能客服领域已经出现了,江苏省消保委发布曾发布《数字化背景下客户服务便利度消费调查报告》显示,71.2%的消费者表示,智能机器人“答非所问”“回答问题不智能”;23.6%的消费者表示,无法找到人工客服,或人工客服存在“踢皮球”等现象。
而这次高校公号阴阳怪气的回复,也把这一问题再次抛出。对于高歌猛进的技术,保持一种冷静也是必要的,尤其是在一些服务领域。毕竟,任何技术都是为人服务的,如果忽视了人的感受,无法理解服务的语境,再多的“机灵”“智能”“快速”,都会显得苍白而虚无。
(原题为《高校公号回复被吐槽,AI背不起“阴阳怪气”这口锅》 作者 清波 来源 红星新闻)
统筹:王长善
编辑:陈若松