美國語音 AI 初創(chuàng)公司 ElevenLabs 昨日發(fā)布了一款合成語音檢測工具 AI Speech Classifier,該工具可以準確檢測出用戶上傳的音頻數據中是否包含 ElevenLabs 旗下語音合成 AI 生成的任何內容,該公司聲稱其“準確率超過 99%”。
ElevenLabs 此前已成功籌集 1900 萬美元(IT之家備注:當前約 1.36 億元人民幣) A 輪融資,該公司自 1 月以來一直在通過測試版本的語音生成 AI 為用戶提供文本轉語音和語音克隆等功能,目前注冊用戶數已經超過 100 萬。
不過,自從 ElevenLabs 的語音生成技術發(fā)布以來,外界對該技術的積極與消極影響關注度都有所增加。該公司表示這一技術可以用于為獨立作者制作有聲讀物、為游戲廠商提供角色配音、幫助盲人獲取在線文本內容亦或是建立世界上第一個 AI 廣播電臺。但與此同時,人們也擔心別有用心者會利用聲音克隆技術讓名人發(fā)表可怕的歧視性言論。
ElevenLabs 此前已表示,正在研究語音克隆技術漏洞的解決方案,此次推出的工具應該正是為此進行的探索之一。該公司在公告中表示:“AI Speech Classifier 的發(fā)布是邁向透明度的最新一步,也是我們致力于創(chuàng)造一個更安全的生成媒體世界的基石。”