<dl id="2ki44"><tbody id="2ki44"></tbody></dl>
  • <dfn id="2ki44"><pre id="2ki44"></pre></dfn>
  • <pre id="2ki44"><cite id="2ki44"></cite></pre>
  • <pre id="2ki44"></pre>
  • “AI 孫燕姿”爆火后,Meta 發(fā)布通用語音生成 AI:支持多種語音功能

    2023-06-23 12:28:13 來源: InfoQ

    Meta 發(fā)布語音生成 AI 模型 Voicebox

    近日,Meta AI 宣布在生成式 AI 語音模型領(lǐng)域取得了突破:開發(fā)出了首個可泛化至多種語音生成任務(wù)的模型 Voicebox,無需專門訓(xùn)練即可達成頂尖性能表現(xiàn)。Meta AI 研究人員分享了多段音頻樣本和一篇研究論文,其中詳細介紹了他們采用的方法和取得的成果。


    (資料圖片)

    與圖像及文本類生成系統(tǒng)一樣,Voicebox 能夠創(chuàng)建多種樣式的輸出,包括從零開始創(chuàng)建輸出、修改給定樣本等。但與以往不同的是,Voicebox 并非簡單創(chuàng)建圖片或一段文字,而是直接生成高質(zhì)量的音頻片段。該模型能夠為括英語、法語、西班牙語、德語、波蘭語和葡萄牙語在內(nèi)的六種語言合成語音,同時執(zhí)行噪聲去除、內(nèi)容編輯、風(fēng)格轉(zhuǎn)換和多樣化樣本生成等任務(wù)。

    在 Voicebox 出現(xiàn)之前,生成式 AI 語音模型需要配合精心準備的訓(xùn)練數(shù)據(jù),就各項任務(wù)接受特定訓(xùn)練。Voicebox 使用一種新的方法,可直接從原始音頻和隨附的轉(zhuǎn)錄結(jié)果中學(xué)習(xí)。與只能根據(jù)給定音頻片段續(xù)寫結(jié)尾的自回歸模型不同,Voicebox 能夠修改給定樣本中的任意部分。

    據(jù)了解,Voicebox 能夠出色執(zhí)行各種任務(wù),具體包括:

    結(jié)合上下文的文本到語音合成:使用長度僅為兩秒的輸入音頻樣本,Voicebox 即可匹配樣本的音頻風(fēng)格并據(jù)此進行文本到語音生成。后續(xù)項目有望為無法說話的人士提供語音支持,或者為游戲 NPC 及虛擬助手快速生成對話語音。

    跨語言風(fēng)格轉(zhuǎn)換:給定一段語音樣本,外加一段英語、法語、德語、西班牙語、波蘭語或葡萄牙語的文本,Voicebox 即可生成對應(yīng)的朗讀音頻。這種能力訟人興奮,未來可以幫助使用不同母語的人們通過自然且真實的方式開展交流。

    語音降噪與編輯:Voicebox 的上下文學(xué)習(xí)為其賦予了強大的語音生成能力,可無縫編輯音頻中的片段。它能重新合成被暫時噪聲干擾的語音部分,或者替換掉說錯的詞,而無需重新錄制整段語音。用戶可以找到語音中被噪聲(如狗叫聲)干擾的原始片段,剪切出來并指示模型重新生成。有朝一日,這種能力還可用于清洗和編輯音頻,且使用過程與目前流行的圖像編輯工具一樣輕松便捷。

    多樣化語音采樣:利用多樣化的真實數(shù)據(jù)完成學(xué)習(xí)后,Voicebox 將可生成與人們的現(xiàn)實對話高度吻合的以上六種語言對話音頻。未來,此功能可用于生成合成數(shù)據(jù),協(xié)助提升語音助手模型的訓(xùn)練效果。研究結(jié)果表明,基于 Voicebox 生成的合成語音訓(xùn)練出的語音識別模型,在性能上幾乎與使用真實語音的模型相當(dāng),錯誤率降低了 1%;與以往同類文本到語音模型相比,合成語音數(shù)據(jù)訓(xùn)練結(jié)果的錯誤率更是大幅降低 45%至 70%。

    Voicebox 的誕生,標(biāo)志著生成式 AI 研究又向前邁出了重要一步。在文本、圖像和視頻生成等方面,具備任務(wù)泛化能力的可擴展生成式 AI 模型已經(jīng)激發(fā)了人們對于跨任務(wù)潛在應(yīng)用的濃厚興趣。Meta AI 希望音頻領(lǐng)域未來也能掀起同樣的潮流,同時繼續(xù)保持深耕和探索,關(guān)注其他研究人員如何在 Voicebox 的基礎(chǔ)之上尋求新的突破。

    Voicebox 背后的 Flow Matching 技術(shù)

    現(xiàn)有語音合成工具的主要局限之一,在于只能就專門的任務(wù)配合準備好的數(shù)據(jù)接受訓(xùn)練。這些單調(diào)而干凈的輸入數(shù)據(jù)相對有限且難以收集,因此也導(dǎo)致輸出結(jié)果變得同樣單調(diào)。

    Meta AI 的研究人員基于“流匹配”(Flow Matching)技術(shù)構(gòu)建了 Voicebox,這項技術(shù)是 Meta 在非自回歸生成模型領(lǐng)域的最新進展,能夠掌握文本到語音之間高度不確定的映射。非確定性映射非常重要,它使得 Voicebox 能夠從不同的語音數(shù)據(jù)中學(xué)習(xí),且無需對各種變化要素做詳盡標(biāo)注。也就是說,Voicebox 能夠在多樣性更強、規(guī)模更大的數(shù)據(jù)之上進行訓(xùn)練。

    與當(dāng)前最先進的英語模型 VALL-E 相比,Voicebox 在可懂度(即單詞錯誤率,前者為 5.9%,Voicebox 為 1.9%)和音頻相似度(0.580 對 0.681)方面均更加強大,且速度要快 20 倍。在跨語言風(fēng)格遷移方面,Voicebox 也優(yōu)于領(lǐng)先模型 YourTTS,能夠?qū)⑵骄鶈卧~錯誤率從 10.9%降低至 5.2%,并將音頻相似度從 0.335 提高至 0.481。

    Voicebox取得新的先進結(jié)果,在單詞錯誤率方面優(yōu)于Vall-E和YourTTS。

    Voicebox還分別在英語和多語言基準測試中的音頻風(fēng)格相似性方面,達成了新的頂尖成績。

    研究人員使用超過 5 萬小時的語音錄音,和來自英語、法語、西班牙語、德語、波蘭語和葡萄牙語的公共有聲讀物轉(zhuǎn)錄對 Voicebox 進行訓(xùn)練。經(jīng)過訓(xùn)練后,Voicebox 能夠在給定前后語音和片段轉(zhuǎn)錄數(shù)據(jù)時預(yù)測出語音片段。它還能學(xué)會根據(jù)上下文補全語音,從而被應(yīng)用于其他語音生成任務(wù),包括在無需重建整個輸入的前提下生成音頻的中間部分。

    “AI 孫燕姿”爆火后,再看語音生成濫用風(fēng)險

    Voicebox 擁有眾多令人興奮的用例,但 Meta 也承認其存在潛在的濫用風(fēng)險,所以 Meta AI 的研究人員決定暫不公開 Voicebox 模型或代碼。Meta 在社交平臺上公開表示:“與其他強大的人工智能創(chuàng)新技術(shù)一樣,我們認為這項技術(shù)也可能會被濫用,造成意外傷害。”

    事實上,語音生成引發(fā)的濫用風(fēng)險并不少見。以華語樂壇最近爆火的“AI 孫燕姿”為例,AI 讓孫燕姿翻紅的同時,也讓背后的風(fēng)險顯露出來。一方面,AI 合成聲音可能涉及侵權(quán)問題,另一方面,也可能帶來一系列倫理和法律的風(fēng)險。

    我國《民法典》第 1023 條第二款規(guī)定,對自然人聲音的保護,參照適用肖像權(quán)保護的有關(guān)規(guī)定。第 1019 條第一款規(guī)定,任何組織或者個人不得以丑化、污損,或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意,不得制作、使用、公開肖像權(quán)人的肖像。由此可見,比照對肖像的人格權(quán)保護,未經(jīng)權(quán)利人的同意,也不得制作、使用、公開利用權(quán)利人的聲音。

    此外,語音生成也會成為電信詐騙的利器。前段時間,美國和加拿大各地使用 AI 合成語音進行電信詐騙的案例多發(fā),不少老年上當(dāng)受騙。加拿大警方稱,最近加拿大各地都有不少類似案件發(fā)生,涉案金額已達數(shù)百萬加元。有受害者表示,犯罪分子使用的聲音和她兒子的聲音簡直一模一樣。在美國,類似的詐騙案件近期也呈上升趨勢。

    作為首個能夠成功執(zhí)行任務(wù)的多功能、高效泛化模型,Meta AI 堅信 Voicebox 即將開創(chuàng)生成式 AI 語音模型的新時代,但與其他強大的 AI 創(chuàng)新成果一樣,這項技術(shù)同樣可能因誤用引發(fā)意外危害。對于語音生成帶來的濫用風(fēng)險,Meta 也想好了對策——構(gòu)建一款高效分類器,用以區(qū)分由 Voicebox 生成的音頻和真實語音,借此緩解未來可能出現(xiàn)的種種風(fēng)險。

    在論文(https://research.facebook.com/publications/voicebox-text-guided-multilingual-universal-speech-generation-at-scale/)中,Meta AI 研究人員還具體講解了如何構(gòu)建一款高效分類器,用以區(qū)分真實語音和 Voicebox 生成的音頻

    參考鏈接:

    https://ai.facebook.com/blog/voicebox-generative-ai-model-speech/

    http://www.xinhuanet.com/ent/20230620/85f213fc8b914b7a9ea17addc3cec01e/c.html

    本文轉(zhuǎn)載來源:

    https://www.infoq.cn/news/YF1LRfH3Ttt7eZ0mBPjQ

    標(biāo)簽:

    相關(guān)熱詞搜索:

    [責(zé)任編輯:]

    相關(guān)閱讀

    最近更新

    国产精品无打码在线播放9久,91高清在线视频,极品主播的慰在线播放,国产在线播放不卡
    <dl id="2ki44"><tbody id="2ki44"></tbody></dl>
  • <dfn id="2ki44"><pre id="2ki44"></pre></dfn>
  • <pre id="2ki44"><cite id="2ki44"></cite></pre>
  • <pre id="2ki44"></pre>
  • 主站蜘蛛池模板: 在线观看人成视频免费| 欧美天天综合色影久久精品| 强开小婷嫩苞又嫩又紧视频| 好吊色青青青国产综合在线观看| 四虎影视在线观看2022a| 久久久91精品国产一区二区三区 | 超级香蕉97在线观看视频| 直播视频区国产| 女让张开腿让男人桶视频| 免费在线精品视频| av片在线观看| 欧美高清xxxx做受3d| 好男人在线社区www| 免费人成视频在线观看网站| www.91色.com| 清冷受被放置play分腿器| 成人亚洲综合天堂| 免费观看黄色的网站| h视频在线免费观看| 波多野结衣视频网| 国产精品成人自拍| 亚洲线精品一区二区三区影音先锋| av网站免费线看| 欧美片免费观看网址| 国产精品亚洲片夜色在线| 亚洲欧美综合乱码精品成人网| √在线天堂中文最新版网| 牛牛在线精品免费视频观看| 国产视频精品免费| 亚洲av成人综合网| 青青草91在线| 性欧美高清come| 亚洲黄色免费网站| 尤物yw午夜国产精品视频| 日韩欧美亚洲另类 | 亚洲国产成人精品无码一区二区| 99热在线精品播放| 欧美影院在线观看| 国产伦精品一区二区三区| 三级日本高清完整版热播| 波多野结衣被绝伦强在线观看|