当局周四表示，马里兰州一所高中的体育主任被指控使用人工智能在一段录音中冒充校长，其中包括种族主义和反犹言论。

有关部门表示，这似乎是该国同类案件中的首例，并呼吁制定新的法律来防范这种技术。

专家还警告说，人工智能正变得越来越强大，而如果没有更多的资源，检测它的能力可能会落后。

巴尔的摩县警方称，达吉恩·达吉恩伪造了派克维尔高中校长的声音，以回应这些人关于达吉恩工作表现不佳以及他的合同是否会续签的谈话。

警方称，达利恩被指控以指导女子足球队为借口，向室友支付了1900美元的学校资金。

警方在指控文件中写道，达里恩伪造了一段音频片段，听起来校长对黑人学生和他们的应试能力感到沮丧。

他们说，这段录音还录下了校长蔑视犹太人和两名教师的画面。

法庭文件称，该音频片段迅速在社交媒体上传播，并产生了“深远的影响”，校长被停职。

据当局称，这段录音使校长及其家人处于“重大风险”之中，而警察在他的房子里提供了安全保障。

警方表示，这段录音还在社交媒体上引发了一波充满仇恨的信息，并给学校打了大量电话。活动一度中断，一些员工感到不安全。

“老师们表示担心录音设备可能被安置在学校的各个地方，”指控文件称。

法庭文件显示，31岁的达里恩面临的指控包括盗窃、扰乱学校活动、跟踪和报复证人。

巴尔的摩县检察官斯科特·谢伦伯格(Scott Shellenberger)表示，这似乎是他的办公室能够发现的全国首例涉及人工智能的案件之一。

他说，马里兰州的立法机构可能需要更新州法律，以赶上新技术的邪恶可能性。

例如，谢伦伯格说，扰乱学校活动的指控“只会判处6个月的刑期”。

“但我们也需要更广泛地看待这项技术是如何被利用和滥用来伤害他人的，”检察官说。

根据对达里恩的指控，巴尔的摩县的侦探曾请专家分析他的录音。

法庭记录显示，科罗拉多大学丹佛分校的一名教授告诉警方，它“含有人工智能生成内容的痕迹，这些内容是在事后经过人工编辑的，为现实主义增加了背景噪音。”

记录显示，加州大学伯克利分校(University of california - berkeley)的一名教授告诉警方，“多个录音被拼接在一起”。

法庭文件称，巴尔的摩县的一名侦探发现，达里恩使用了OpenAI和Bingchat等大型语言模型，这些模型可以“告诉用户应该采取哪些步骤来创建合成媒体”。

Darien的网上法庭记录显示，他在周四缴纳了5000美元(8380新西兰元)的保证金。记录中没有列出可能代表他发言的律师。

巴尔的摩县警察局长罗伯特·麦卡洛说，达里恩于周三晚上在巴尔的摩/华盛顿国际瑟古德·马歇尔机场登机前被捕。

根据麦卡洛的说法，达里恩被拦截是因为他在飞机上包装枪支的方式，导致警察得知他有逮捕令。

麦卡洛说，当局已于周三晚上将逮捕令输入系统，并计划于周四上午送达。警长说，他不知道达里恩为什么要搭乘飞往休斯顿的航班，也没有暗示他试图逃跑。

巴尔的摩县学校系统建议终止达里恩的职务，督学米利亚姆·罗杰斯周四表示。

与此同时，人工智能正变得越来越强大，但“非常容易使用”，布法罗大学(University at Buffalo)媒体取证实验室主任吕思维(音)说。

“你基本上可以把任何对象的声音上传到这个平台上，”Lyu周四告诉美联社。“然后你可以给它文本，你可以开始创造那个人的声音。”

Lyu说，可以从社交媒体上收集某人一两分钟的谈话录音，然后用来重现某人的声音，并指出这并不总是完美的。

Lyu的研究重点是识别人工智能生成的声音和图像。他说，这些模型正变得越来越强大，而检测方法也在努力追赶。

“这有点像一个永恒的猫捉老鼠的游戏，”吕说。“但如果我根据目前的情况预测发展速度，那么检测将会落后，因为我们的资源较少，而且没有像生成方面那样得到那么多的关注。”

-美联社本·芬利报道

点击分享到