调查：澳洲企业在未告知客户或员工的情况下使用人工智能

澳大利亚企业正在迅速借力人工智能，但三分之一的企业是在没有告知员工或客户的情况下使用了人工智能。(AAP Photo: Jeremy Ng)

一项针对使用人工智能的企业领导者的调查显示，三分之一的企业没有告知其员工或客户他们正在使用人工智能。

对澳大利亚企业的首席执行官、首席技术官和其他使用人工智能的公司领导者进行的一项全面调查发现，大多数人对负责任地使用人工智能的方法还不成熟或“尚在发展中”。

这些企业领导者表示，他们的公司正在以多种方式使用人工智能，包括提供全天候客户服务、推荐其他产品以及根据之前的互动为客户调整价格。

但有一半的企业没有对其使用人工智能进行人权或风险评估，并表示他们没有这样做的计划。

零售和酒店业在人工智能使用成熟度方面得分最低。(Fifth Quadrant)

随着人工智能在商业和日常生活中的应用迅速增加，联邦政府已宣布打算为高风险人工智能制定“强制性护栏”，包括可能出台《人工智能法》（AI Act），并禁止使用被认为风险过高的技术。

政府提出了三种制定人工智能规则的方案：

最轻微的方式：调整现有法规

设立适用于全经济环境的独立法案（可能包括禁止使用被认为风险过高的人工智能技术）

推出帮助政府决策的框架

联邦工业部长艾德·胡西奇（Ed Husic） 表示，人工智能提供了巨大的机遇，但目前的标准还很不足够。

“澳大利亚人知道人工智能可以做很多事情，但人们想知道如果事情失控，是否有保护措施。”他说。

AI带来机遇 但也会造成危害

澳大利亚科技委员会（Australia's Tech Council ）表示，人工智能有可能为经济带来数以亿计的收入，仅ChatGPT这样的生成式人工智能就可能在未来五年内为经济带来高达1150亿澳元的收入。

但人工智能的潜在危害正在显现。

例如，一些人工智能简历筛选应用程序对属于特定族裔和性别的求职者有不公平的歧视。

曾有原住民资料在未经同意情况下被用于训练人工智能，或被人工智能工具盗用。

用于检测学校和大学考试中作弊的人工智能检测软件可能会歧视非英语母语人士并导致不实作弊指控。

去年前三个季度，全球40个最常用的深度伪造色情网站上上传了近15万个深度伪造色情视频，其中包括泰勒·斯威夫特（Taylor Swift）和意大利总理被攻击等假视频。

随着人工智能的潜在危害越来越明显，澳大利亚的盟友已经开始制定法律来规管人工智能，包括欧盟通过了全球首个人工智能法案、加拿大和英国提出立法提案，以及美国几个州采取措施限制人工智能的危害。

澳大利亚政府正寻求根据人工智能对个人和社会的风险推出类似于欧盟和加拿大的预防措施。

这些措施包括：

要求人工智能的开发者和使用者建立问责流程、风险管理流程

允许人类干预人工智能系统

在使用人工智能做出有关他们的决策时告知个人

(function(v,d,o,ai){ai=d.createElement('script');ai.defer=true;ai.async=true;ai.src=v.location.protocol+o;d.head.appendChild(ai);})(window, document, '//a.vdo.ai/core/v-6parkbbs/vdo.ai.js');