AI写邮件“漏洞百出”，澳企亏惨直接停用！专家警告：AI造成损失，员工可能要“背锅”

越来越多的澳洲企业开始使用AI提高工作效率，但大部分人并未意识到使用AI的潜在风险。

墨尔本某清洁公司的主管就表示，AI生成的邮件错误百出，让他们损失了一大笔钱。

Google与IPSOS在今年1月的调查显示，几乎半数澳人在使用生成式AI，其中近75%的人表示会在工作中使用AI。

与此同时，HR平台Workday的调查也显示，大约65%的澳洲员工确认雇主已在工作场所引入了AI。

然而，即便是简单到发一封商务邮件，使用生成式AI也可能带来意想不到的后果。

（图片来源：澳洲九号台新闻）

墨尔本End Of Lease Cleaning的主管Michael就有过一次惨痛的教训，一封简单的商务邮件让他损失了2000澳元。

为了提高效率，Michael的团队开始使用生成式AI工具以缩短回复客户邮件的时间，从原来的大约5小时缩短到1小时左右。

为节省时间，Michael的团队不再手动填写清洁服务的列表。相反，他们输入客户所需服务的提示，让AI生成一封详细列出服务内容、费用和报价的邮件。

（图片来源：澳洲九号台新闻）

虽然AI让回复时间大幅缩短，但Michael表示这一工具这并不完美。有几次，AI错误地将“局部墙面清洁”列为“全面墙面清洁”，这意味着Michael及其团队不得不以低得多的价格，提供价值500到700澳元的全面墙面清洁服务，这让他们损失了大量收入。

最后一根稻草出现在今年3月，当时，Michael用AI为一个需要约2000澳元的清洁服务生成报价邮件，他草草检查了一下便将邮件便发给客户。

直到一周后，Michael才发现邮件中充满错误。而此时，客户已经选择了其他公司。Michael表示，“AI让我们亏了不少钱”。

（图片来源：网络）

澳洲九号台新闻报道称，Michael并不是唯一一个因AI出错而付出代价的澳洲员工。其他受访者向9News透露，AI曾在邮件中错误地称呼客户或同事的名字及头衔，直接对工作产生负面影响。

但使用AI办公的风险远不止尴尬的失误。Dentons知识产权与信息技术律师Robyn Chatwood和Michael Park表示，生成式AI工具时常出现“幻觉”，即捏造不准确的事实，这些“幻觉”可能会给员工带来更大的问题。

此外，AI侵犯版权或错误泄露保密信息的情况也很常见，这在专业环境中可能引发严重后果。

Chatwood表示，一旦出现这种情况，员工“仍然负有相应的责任和义务”，“你不能仅仅归咎于AI出错，因为你本该检查的。”

（图片来源：网络）

Park警告称，澳洲员工保护自己免受此类错误影响的最佳方式，便是遵循雇主的AI使用政策，“如果公司的规定说不要用，那就绝对不要用，这是在保护自己避免那些可能出现的麻烦。”

当失去价值2000澳元的订单后，Michael及其团队已经停止在任何商务通讯中使用AI，即便这意味着邮件回复需要5小时，但他们觉得这好过因AI的错误而亏钱。

Michael表示：“如果你在使用AI，一定要在发送邮件之前检查两到三遍内容。”