AI生成“裸图”席卷澳洲社交媒体 知名学校被卷入(图)

专家警告说，目前没有针对AI生成“裸体图片”的应对措施。


上个月，维州一所高中九至十二年级的50名女生成为伪造裸体图片的目标，这些图片是利用人工智能和社交媒体照片（包括学校正式场合的图片）制作的。 这起被维州长Jacinta Allan抨击“可耻”的事件发生在墨尔本西部Bacchus Marsh Grammar的学生身上。一名17岁的前男学生受到警方警告，调查结束。 在另一起事件中，一名女教师成为5月份在墨尔本东南部Salesian College流传的虚假性图片的目标。一名15岁的男学生被开除。


莫纳什大学犯罪学副教授Asher Flynn说，这些未经同意的图片伪造事件不足为奇。


“我们需要小心谨慎，不要为相关人员开脱不尊重他人、性别歧视的行为，在很多情况下甚至是虐待行为。”她说：“工具存在并不意味着我们选择使用它来伤害他人就没有责任。” 6月份出台的联邦立法规定了新的刑事罪名，禁止分享未经同意的深度伪造敏感材料。 总检察长Mark Dreyfus当时表示：“此类行为绝大多数针对女性，延续了有害的性别刻板印象，助长了性别暴力。” Tom Harkin经常看到性别方面的问题。 Harkin先生走进全国各地的学校，在男女生班上分别对他们进行人际关系教育。 这位有两个孩子的父亲说，父母在孩子与谁交往、上哪所学校等问题上花费了很多精力和心思，但在网上，孩子们却自由自在。 “他们在这些不受监管的（网络）环境中，对生活、对性别的看法完全被扭曲了。”


“像Bacchus Marsh这样的事件发生后，焦点往往集中在男性肇事者身上。” “这些年轻女性的生活经历是怎样的，她们的生活受到了怎样的影响，她们还好吗？” 他说，社会对学生观看的有害色情制品一无所知。 “一些十几岁的男孩每周都会多次接触到支配（女性）、虐待女性的内容。” “在性生活中犯罪性扼杀的比率有所上升。” 数字人工智能工具可以将这些厌恶女性的态度转化为犯罪行为，但却几乎无法遏制。 数字安全专家David Fairman说，家长或学校对设备的控制根本无法覆盖现有的约2万种人工智能工具。 Netskope首席安全官说，不断跟踪、分类和在必要时审查新的人工智能工具是一场"军备竞赛"。


“没有灵丹妙药，因此，如果你是一个怀有恶意的人，总有办法利用系统。” Netskope与公司和学校合作，确定在其网络中使用了哪些人工智能，这并不是明确禁止人工智能，而是帮助组织决定如何将人工智能融入其实践中。 Netskope在两年前就开始了一项持续的网络欺凌检测计划。 “家长们可以开始研究并开始利用一些能力。但同样，这只是大拼图中的一块。” Fairman先生说。 “我认为，对下一代进行道德和伦理教育是一件大事。”


维州于2022年通过了《深度伪造色情法》，对制作和传播此类材料的行为进行惩罚。 维州警方Brimbank性犯罪和虐待儿童调查小组对Bacchus Marsh事件进行了调查。警方发言人拒绝详细说明该小组对此案的“调查”。


当时，Bacchus Marsh Grammar表示，学校“非常重视此事”，并已与警方取得联系。 “这件事影响到50多名女生。”校长Andrew Neal说。 “这不是Bacchus Marsh Grammar的问题。这是全国每所学校的问题，实际上是任何地方的每所学校的问题。”