搜狗“变声”功能上线 技术滥用让人“细思极恐”
5月24日,搜狗CEO王小川在极客公园rebuild大会上现场演示了其智能语音模拟系统,模拟了高晓松和东北妹子的声音。
不仅如此,搜狗还主动“碰瓷”了人工智能领头企业科大讯飞。原来,在5月21日科大讯飞2019年新品发布会上,其董事长刘庆峰就使用了实时变声技术,带来了一段变声演讲。
看似相似的技术,其实搜狗离科大讯飞的变声技术还有很大差距。差距主要体现在“实时”上,搜狗今天在rebuild大会上所展示的,实际上是通过录音再转换变声的。而科大讯飞做到的,则是货真价值的实时变声。
虽然技术上的差距还很明显,搜狗输入法却已经正式上线了“变声”功能,表示只要用户在语音输入中输入想说的话,再选择一个喜爱的角色,就会瞬间把声音转化成该角色的声音。
搜狗急于将变声功能上线、并为此感到沾沾自喜的同时,人们却对搜狗不负责任的行为表示担忧和愤怒,“细思极恐”“打电话也不知道是不是骗子打的”等声音此起彼伏。
据2019年搜狗第一季度财报显示,截止3月底,搜狗输入法日活用户已达4.43亿,用户群体可谓十分广泛。而这项语音模拟功能,竟然直接嵌入在用户量如此庞大的搜狗输入法上,恐怕会危及到公共安全。
首先,它极易成为诈骗犯的帮凶。如今,电信诈骗十分猖獗,特别是对于年纪教长、对互联网不够熟悉的人来说,十分容易被骗。
据公安部公布数据显示,近10年来,我国电信诈骗案件每年以20%至30%的速度增长,仅2018年全国公安机关电信诈骗案件立案69万起,共造成经济损失222亿元。据统计,电信网络诈骗案件的破案率不足1成,远远低于其他刑事案件的破案率。正是因为披上了“科技”的外衣,想要打击电信网络诈骗,难度也越来越大。
而搜狗直接将变声功能推向市场,无疑是给诈骗集团提了个醒,他们将十分欣喜的看到变声功能的发展。也许未来,当你接到亲戚朋友的电话时,你都无法确定他究竟是他了,因为只要一键变声,我们谁都不能分辨。
除了诈骗问题更难防范以外,还有一些靠声音识别进行加密的功能也将面临巨大威胁。例如声纹识别技术,这是一项根据语音波形反映说话人生理和行为特征的语音参数,自动识别说话人身份,实现快速精准的身份认证的技术。而不加验证的将语音模拟直接应用于市场,显然会使得语音加密变得不再安全。
虽然该功能目前只能模拟特定人物的声音,但是搜狗急于应用它,对于它存在巨大的安全隐患视而不见,显然是不明智也缺少责任心的表现。要知道,科技是把双刃剑,人类如果一步步突破伦理的边界而毫无反思之心,最终将会葬送自己的生活,也毁了整个社会。
也许你说,一个功能而已,有这么可怕吗,我们来具体看一下这款“变声”功能究竟是怎样的。据悉,搜狗的变声功能由搜狗知音团队打造,官方宣传的特色就是还原度极高,变声到指定角色的音色与该角色的原始音色十分相似,几乎可以做到以假乱真。其次,它自由空间大,搜狗这一“变声”功能对用户本身的音色没有任何限制,每个人均可变声到预先指定的音色,真正具有“任意人变声到同一人”的能力。最后,它将用户输入的语音内容、语速、停顿、情感等均转化为高逼真度的指定角色声音,因此较为自然,甚至可以还原出感情色彩。这样看来,人们的担心就很有道理了,以为自己不会被骗的侥幸心理实在不该存在。
虽然科大讯飞在此项技术上显然更厉害,可以做到实时变声,但刘庆峰一直强调“不能滥用技术”,公司所做的展示只是一场技术实力秀,这才是价值观正确有格局的公司,所以这就是为什么科大讯飞才是引领人工智能未来的企业。
科大讯飞董事长刘庆峰在2019新品发布会上强调,人工智能要持续发展,最核心的是它的价值观如何阳光健康与人为善,所以像变声技术这样一个黑科技,我们显然是不会轻易在各种APP中对外开放的,一定是要有一种健康、安全又有趣的方式来跟这个世界来对接。
在人工智能快速发展的今天,我们很高兴看到企业在该领域的不断探索以及所取得的亮眼成绩,让我们对未来的智能生活充满信心。然而,企业在技术应用的背后,也应该更具责任心,对每项应用深思熟虑,让技术推动生活朝更好的方向发展,而减少科技对生活的伤害。
搜狗此次将变声技术直接投入市场,显然是欠缺考量的,希望更多的企业要以此为戒,科技领域的良性竞争不仅体现谁做得更快,更体现在谁做的更好、更具长远眼光。
