一位澳洲母亲对Snapchat上的新人工智能功能表示担忧，该功能允许用户（包括儿童）与一个虚假的机器人进行直接对话。
来自墨尔本的32岁母亲Teagan Luketic表示，在她13岁的女儿Olinda开始与名为"My AI"的功能互动后，她感到不安。据称，这个功能冒充一名25岁的男子，并同意与她在附近的公园见面。
Olinda告诉妈妈说这个功能很"可怕"，并详细描述了她与之对话的内容。因此，作为一名残障服务运营经理，Teagan假装是自己的女儿，亲自测试了这个功能。
墨尔本女子Teagan Luketic和十几岁的女儿Olinda（图片来源：雅虎新闻）
据Teagan称，一开始，这个人工智能功能的对话表现正常，但突然转向了令人恐惧的方向。
关于Snapchat的对话：
该应用的截图显示这位32岁的女士问Snapchat的"My AI"是否愿意在公园见面。这个功能同意了，并询问"你什么时候有空？"，但随后发生的事情让她感到惊讶。
尽管手机的定位服务关闭，但该功能建议他们在家附近的一个特定公园见面，Teagan声称。
Teagan继续问道"我怎么找到你"。AI机器人回应说，他会穿着一件鲜黄色的衬衫，绿色的太阳镜和绿色的背包。
snapchat中与AI功能对话的屏幕截图（图片来源：雅虎新闻）
此外，这个机器人自称为"25岁年轻"，并声称自己是男性。整个对话让Teagan感到不舒服，她担心自己的孩子和其他人的安全。
她说："所有的定位服务都被禁用，它却主动提出在附近的公园见面，还点名离我们家一公里的公园，这令人恐惧。
作为一个成年人，我知道这不是真实的，我明白位置信息是在注册时提供的，但对于孩子来说，这可能是令人害怕的。"
Snapchat的人工智能功能引发了"极度警觉"
"My AI"功能于四月份推出。根据Snapchat的网站，该公司仍在准备将"My AI"纳入其App的家长工具"Family Center"中，这将允许监护人了解他们的青少年是否与"My AI"进行对话以及频率如何。
Snapchat的一位发言人此前告诉雅虎新闻，该应用程序是"以隐私和安全为首要考虑而设计的"。
Teagan限制了她女儿的Snapchat使用，但仍然允许她使用它（图片来源：雅虎新闻）
由于安全原因，Olinda从9岁起就有自己的手机，但现在Teagan特别监控她在Snapchat上的时间，尤其是因为这次互动。她说："她只有一次与这个功能的互动，并立即告诉了我"。
Teagan表示，她无法删除Snapchat上的AI功能，这让她感到"极度警觉"。她甚至支付了Snapchat Plus的费用来尝试删除它，但声称无法成功。
Teagan表示，她不想删除该App ，因为她的女儿用它来与朋友交流。然而，Olinda的访问权限现在有所限制，她还试图教育女儿如何正确使用手机和社交媒体。
她说："就我个人而言，我对它知道我的位置并不感到不舒服，因为我知道拥有手机、使用社交媒体等，所有这些功能都可以获取我的位置信息。"
她说："我感到不舒服的是看到一个机器人像人类一样说话，透露他们的年龄、性别，然后提议在离我家附近的地方见面。这让你感到不安。"
这位32岁的女子希望明确指出这类事情对易受影响的儿童可能带来的危险，并警告家长要对孩子进行教育。
发表于 2023-6-18 22:10:10
支持
反对
