前一阵子，我们突然发现了一个很离谱的事儿：
在本人完全不知情的情况下，差评君的声音，被偷去卖不可言说的保健品了。
咱不是啥声优，也不是名人歌手。可现在，逆天的AI已经能用5、6秒的样本，复刻盗用任何一个普通人的声音了。
看完了这些视频，差评君都有点怀疑自己，是不是真干过这个配音兼职，但这兼职费也没到账啊？
在这细思极恐的时刻，咱是真的很想知道，这玩意儿到底发展到啥地步了？？？
我们查了不少资料，发现AI声音克隆虽然看起来刚成熟不久，变现的赛道上却已经拥挤得很了。
首先，上游的工具准备阶段，卖铲子的老套路依然在赚。
声音克隆的工具其实不少都是免费的，像ElevenLabs、各种github开源模型等等。
材料也是免费的，从各个网站视频里扒名人大V的语音就行，只要10秒左右的高质量音频，足够后续任何内容的生成了。
教程，还是免费的。视频平台上搜索一下“声音”，“克隆”关键词，相关的教程五花八门。
从复杂的开源部署，到简单的打开网页一键生成，效果看起来一个比一个吊。
把这些免费的工具、素材、教程一块打包，就能轻松卖个几分十几块。
这些技术含量极低的玩意儿，少则卖几十单，多的居然卖了两百多单。
商品详情页普遍打着“只要x秒样本、相似度高达90%+、定制任何语音、情感高度还原”等等宣传语，点进去就是一波焦虑营销，号称是做自媒体必备。
到了下游，用AI声音克隆做什么样的“自媒体”，才是真正赚钱的地方。
靠着这些素材和工具，利用明星的知名度和大伙儿的热情，用AI克隆明星声音，成了最快的起号办法。
他们甚至还把防gank和吸粉的经验总结起来，整出了声音克隆界的千层套路。
来源：素之初私域
不想被封，就要用“杭州薛之谦”、“东北权志龙”这种擦边账号名；官方人物碰不得；绝对不要声称是本人。
想长期养号，就得多个明星声音混剪、搞点方言，或者用老明星声音钓鱼网友怀旧情怀。
可以说，平台的雷区和爽点都被玩透了。
良心一点的，不拿去盈利倒也还好。像是用明星的声音去翻唱各种歌，每天能发好几首，最高点赞也上万了。
更恶心一点的，就打着明星和家人的旗号，开始直播带烂货圈钱了。
比如前一阵子，央视也报道了声音克隆的乱象。
有的视频开局一张图，再盗用体育明星的声音，就能给“家乡”各种农副产品做代言。
一堆网友以为真是本人，纷纷下单支持，直接卖出去了4.7万单。
收益全被灰产吃干抹净，风险却甩锅给明星本人。
粉丝以为是偶像开新号，稀里糊涂就关注了；消费者买到烂货，骂声全冲着正主去。
声音的影响力，一点不比形象差。
最难绷的是，克隆成本极低的另一面，AI分辨检测成了昂贵、且很难完成的任务。
我们最先找到的是这个叫AIVoiceDetector的网站，在没有任何免费试用，效果未知的情况下，检测AI声音的价格最低是一个月17.8美元。
也就是说，别人花五十多终身使用，甚至免费搞出来的东西，我们要想去证明，每个月就要花一百多。
免费的检测倒是也有，我们也找了几个，可免费的AI声音克隆各有各的吊，免费的AI检测软件各有各的拉。
我们用浏览器插件Hiya测了前沿部江江的真人配音和大饼的AI配音，结果AI得分96，真人配音87，小丑竟是我自己啊。
做声音克隆出身的Elevenlabs，即使有相关的技术积累也听不出是AI。
所以，为啥现在分辨AI声音克隆这么难？
造成这个局面的，一方面是因为AI声音合成技术，已经今非昔比了。
现在的克隆技术，使用了大量的语音数据进行训练，又把音色、情感、语调、节奏等等维度拆开建模，细节都能学得人味十足。
来自AmandadeAndrade博客
与克隆技术飞速发展相对的另一面，检测工具搞得实在太被动了。
他们要等新的克隆技术出现，花时间采集新数据，重新训练模型，才可能有效。
矛和盾的不均衡发展，让现在AI声音克隆正在逐渐失控，背离发展的初心。
本来吧，它是用来帮助我们给自己发声的。
像是咱这种搞媒体的，有了它就不用天天花那么多时间去录音修音了，一键生成，又快又省心。
对于一些发声困难的人，AI克隆更是他们重新说话的希望。
像是演员李雪健老师，之前就通过AI帮助修复声音，继续表演创作。
可惜的是，这项刚刚成熟的技术，还没等来完善的使用规范，就已经被滥用了。
我们也咨询了法务冯律师，他表示，根据《民法典》第1023条明确规定，自然人的声音保护参照肖像权保护的规定。声音作为人格权益的一部分，具有人身专属性，未经许可不得擅自使用、复制或商业化利用。
然而，受害者的自证要比侵权麻烦得多。在这个守不住底线的互联网，你的声线也守不住了。
AI声音克隆，正在走向和deepfake换脸一样的结局。
对于我们这些普通人来说，一些靠声纹识别的安全技术，比如要念出来的验证码，以后还会有效吗？
给银行打的电话，他们还能确定是我本人吗？
虽然现在声音只是被盗去给视频配音，倒是不算啥大事。但可以预见，我们距离这样的电话已经很近了：
“是我是我，妈，我现在急需用钱，能先给我打1万块吗？”
