近一段时间以来,“苹果智能”服务频繁被爆出在推送摘要归纳方面的各种错误,尤其是在涉及新闻报道时推送虚假信息,严重误导用户、损害媒体声誉。
“苹果智能”服务
苹果智能(Apple Intelligence)是苹果公司开发推出的个人智能系统,目前已被深度整合到了iOS 18、iPadOS 18 和 macOS Sequoia 中,其特色之一是可以识别用户个人情境重要的通知进行总结,让用户能快速浏览,来减少不必要的干扰。
然而英国广播公司(BBC)19日再次报道了苹果智能的错误推送问题。比如,苹果智能在推送本月初美国联合健康集团(UNH)旗下联合健康保险公司首席执行官(CEO)布莱恩·汤普森(Brian Thompson)于纽约街头遭枪杀的报道时,将其错误提取总结成“(枪手)路易吉·曼吉奥内(Luigi Mangione)对自己开枪”,并最终以“BBC新闻客户端”的形式,向苹果用户进行推送。
BBC特别提到,苹果智能在推送这些错误信息时,让人看上去以为是BBC在推送。
事实上,枪手曼吉奥内从逃离纽约直到被美国警方抓捕,从来没有对自己开过枪,这是苹果智能所生成的虚假信息。不过与该虚假信息一起被列出的涉叙利亚、韩国内容倒没有问题。
除此之外,苹果智能还试图将美国《纽约时报》的三篇文章整合在一起,总结出了“以色列总理内塔尼亚胡被逮捕”的信息,并以“纽约时报客户端”形式推送给用户。而这篇推文其实是根据“国际刑事法院对内塔尼亚胡发出逮捕令”的报道生成,并非内塔尼亚胡已经被逮捕。
美国深度调查媒体ProPublica的一名记者爆料,苹果智能将《纽约时报》新闻生成为虚假信息。
除了媒体指出的严重错误外,社交平台上许多用户也反馈了一些令人哭笑不得的错误推送情况。比如,有用户在凌晨1点收到通知,称自家的前门、后门和车道上有好多人,可实际情况却是空荡荡一片。
苹果公司曾表示,人们喜欢苹果智能是因为该服务可以将同一个源的多个推送信息进行整合,以方便用户一目了然,并优先处理重要的内容。然而这种与实际严重不符的推送内容,凸显出人工智能在这方面还存在诸多不完善之处,它在反向给用户带来了困扰与疑惑的同时,损害媒体声誉,进而可能会使用户会去寻求一些未经证实的消息源,导致虚假信息在社会层面上更容易传播。
分析认为,苹果智能之所以频繁翻车,大概与其应用的语言大模型体量有关。该模型是苹果公司自研,其在设备端的本地模型仅有30亿参数,如此“小体量”导致处理信息能力自然不足。
伦敦城市大学媒体政策教授佩特罗斯·伊奥西菲迪斯(Petros Iosifidis)就指出,可以看到苹果率先将智能服务市场化所面临的压力,但还是很震惊苹果推出了一款显然不成熟的产品。他认为,虽然该功能在产品竞争方面有潜在优势,但技术并不成熟,而且存在传播虚假信息的可能性。
目前,BBC的发言人表示,已向苹果公司提出投诉,并要求解决上述问题,不过苹果公司暂未做出回应