AI换脸还不够，居然有人用真人配音生成色情内容？

       伴随着AI在形成图片与文字等方面的技术性日渐完善，许多人逐渐独辟蹊径，探寻起 “AI响声”的概率。

       前不久，B网站的“AI孙燕姿”好像已经超过自己，变成了一个新的互联网技术浅池。

       让人感到惊讶的是，AI产生的音质居然真的跟孙燕姿个人的响声类似，假如不用心听压根听不出与本人的差别。

       但就跟AI照片、文本经历过的一样，AI响声还在欠缺管控的情形下逐渐走向了旁门左道。

       近期，一位Twitter客户Robbie92公布了一篇贴子，控告起《上古卷轴5》的Mod小区在使用AI配声来建立与传播没经自己许可的淫秽色情具体内容。

       大家都知道，《上古卷轴5》打没刷Mod完全就是两个游戏。因此，老滚5的Mod小区可以说是比游戏还需要重要的一个存有。

打Mod的老滚5

       在其中，Nexus Mods是老滚5最大的一个Mod小区。

       终究此网站起源于《上古卷轴3》的Mod建立和交流，而现在已经发展成为不仅仅是上古卷轴系列诸多这款游戏的关键Mod由来。

网址中具有6w+的老滚5Mod。

       在今年的4月，Nexus Mods公布了一篇公示，公布“AI产生的Mod并不是违背我们自己的标准”，公布热烈欢迎Mod创作者运用AI工具制作Mod。

Nexus表明AI产生的Mods并不是违背网址标准

       也许恰好是这个原因，Mod小区里的AI作品也变得越来越广泛，好像用AI改进NPC行为模式等Mod也有许多。

老滚5的AI会话Mod

       说实话，把AI技术性增加游戏里面，实际上可以在很大程度上提高游戏玩家游戏体验。终究当NPC拥有“自我认同”，会依据游戏玩家行为采取行动，还会令小伙伴们获得更为沉浸于的感受。

       但是一旦有创作者逐渐运用AI专用工具做一些“不正当手段的事”，事情就渐渐变得并不简单了。

       据twitter客户Robbie常说，在老滚5的Mod社区里，许多系列配音员都是在不经意之间被Mod创作者运用到了淫秽色情中科数控。

       Mod创作者把这些配音员的声响导入到一个叫做“ElevenLabs”的AI响声复制专用工具中，而且衍生出了显著含有淫秽色情特性的对谈，比如令小伙伴们和游戏里面的血族Serana用起来真人配音的声响做一些少儿不宜的情景。

       虽然看起来并没什么，因为在老滚5中加上R18Mod玩家们在眼里应该算是正常使用了，其实这个问题在于——这种响声均是由真人配音演员配音的。

       在Robbie列页面上，涵盖了许多很成功的配音员，比如这其中的April Stewart，她不但在老滚版本中被任命为好几个人物的配声，同时为《命运2》和《耻辱2》带来了响声；同样在《龙腾世纪：起源》中向泽弗兰配声的Jon Curry，及其一直在动画和游戏里面为神奇女侠配声的Susan Eisenberg。

配音员April Stwart跟她配声的影视角色

       在老滚5成千上万的Mods中，这名时尚博主列举的只是他能看到的极少数配音员，事实上拥有更多的配音员在不经意之间，他们的声音被用来了淫秽色情具体内容。

       在Robbie发推文而且斥责以后，这件事也引发了网络上的激烈讨论。

       与之前AI制图的分歧一样，此次的配音员们也与绘师一样，联合逐渐在网络上发音，以“VA（Voice Actor/Actress，配音员）＞AI”的宣言口号遏制AI响声的不正确运用。

       可就在配音员的抗议声传来时，好像还有更多网民适用AI真人版音乐的二次创作。

       前几日，P5中佐仓双叶的英配艺人Erica Lindbeck看到了Youtube上有些人运用了他在P5里的配声翻唱歌曲了别的音乐，于是将这视频链接分享到推特，而且表明：“请检举这部分内容，这是一种违纪行为。”

       但随后，Lindbeck的处理方式引起了许多键盘侠的关注，她开始评论留言中争执和辱骂，而且故意将这个视频很多投放在Youtube上。

       最后，Lindbeck在一片异议声里删掉了她twitter和Instagram账户，不会再发布一切响声。

油管上很多投放短视频

       我认为，在相关法律法规获得健全以前，这还是一个社会道德相关的问题。

       尽管AI响声确实某些情况下带来了很多方便，创作者可以通过较低的成本费创作作品，但从配音员的角度看，当AI不用通过一切批准或付钱就能效仿和拷贝他们的声音时，这相当于是摔到地上人家工作。

       更为关键的是，缺乏法律法规的维护，不仅仅是配音员的声响，全部将你的声音信息内容暴露于公共服务平台得人，都有可能在她们不经意之间被用来一些敏感内容，例如淫秽色情或暴力行为具体内容，乃至被用以诈骗短信。

       当一个人的面孔乃至响声都可以用AI重构，那样此人每一个个人行为都会被故意歪曲，可以想见会面临怎样不可避免造成的伤害。

和之前的变脸事件一样，Twitch的美女主播依然在面临被AI淫秽色情变的难题

       所以我说，我们在AI响声这些方面或是需谨慎一些吧——终究今日AI换了一个其他人声，明日估计就到大家我了。