MIT又一突破!用AI過濾音源,讓音樂更悅耳
一般利用均衡器可以將音樂中的低音部分調(diào)出來(lái),但是麻省理工學(xué)院的計(jì)算機(jī)科學(xué)和人工智能實(shí)驗(yàn)室(Computer Science and Artificial Intelligence Lab,CSAIL)的研究人員發(fā)現(xiàn)了更好的解決方案。他們所研發(fā)的新系統(tǒng) PixelPlayer,能夠利用人工智能來(lái)區(qū)分和過濾聲音,讓音樂聽起來(lái)更洪亮或更柔和。
將指定視頻錄入經(jīng)過充分訓(xùn)練的 PixelPlayer,系統(tǒng)隨機(jī)能夠過濾伴奏,同時(shí)識(shí)別音源,接著計(jì)算圖像中每個(gè)像素的音量,然后通過“空間定位”確定產(chǎn)生相似音波的片段。
今年9月,德國(guó)慕尼黑即將舉行歐洲計(jì)算機(jī)視覺會(huì)議(European Conference on Computer Vision),會(huì)議中要發(fā)表的一篇新論文則詳細(xì)論述了“像素的聲音(The Sound of Pixels)”。麻省理工學(xué)院計(jì)算機(jī)科學(xué)和人工智能實(shí)驗(yàn)室的博士生,同時(shí)也是這篇論文的合著者 Zhao Hang 同學(xué)表示,“最好的情況就是,我們能識(shí)別出哪種樂器發(fā)出怎樣的聲音!
PixelPlayer 的核心是一種基于樂器組合多模態(tài)訓(xùn)練的神經(jīng)網(wǎng)絡(luò),數(shù)據(jù)集采用了 Youtube 上 714 條未經(jīng)修剪且未經(jīng)標(biāo)記的視頻。其中,總時(shí)長(zhǎng)為 60 小時(shí)的 500 條視頻用于訓(xùn)練,剩余的則用于驗(yàn)證和測(cè)試。在訓(xùn)練過程中,研究人員分別根據(jù)原聲吉他、大提琴、單簧管、長(zhǎng)笛和其他樂器向系統(tǒng)饋入了算法。
這只是 PixelPlayer 多重機(jī)器學(xué)習(xí)框架的一個(gè)部分。經(jīng)過訓(xùn)練后的視頻分析算法將從剪輯幀中提取出視覺特征,這就是系統(tǒng)的第二個(gè)神經(jīng)網(wǎng)絡(luò),即音頻分析網(wǎng)絡(luò)。音頻分析網(wǎng)絡(luò)將聲音拆分為片段,并從中提取特征。最后,音頻合成網(wǎng)絡(luò)將把上述兩個(gè)網(wǎng)絡(luò)輸出的特定像素和聲波關(guān)聯(lián)起來(lái)。
PixelPlayer 進(jìn)行完全自監(jiān)督的學(xué)習(xí),人們無(wú)需對(duì)數(shù)據(jù)注釋,而且系統(tǒng)目前已經(jīng)能識(shí)別 20 種樂器。Zhao Hang 說,較大的數(shù)據(jù)集增強(qiáng)了系統(tǒng)的識(shí)別量,但識(shí)別樂器子類的能力卻不佳。系統(tǒng)也可以識(shí)別音樂元素,例如小提琴的諧波頻率。
研究人員認(rèn)為 PixelPlayer 可以進(jìn)行聲音剪輯,或者幫助機(jī)器人理解動(dòng)物、車輛和其他物體所制造的環(huán)境聲音。他們寫到,“我們希望我們的工作能夠開辟新的研究途徑,從視覺和聽覺信號(hào)角度實(shí)現(xiàn)聲源分離”。(編譯:楊卟咚)

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
圖片新聞
-
機(jī)器人奧運(yùn)會(huì)戰(zhàn)報(bào):宇樹機(jī)器人摘下首金,天工Ultra搶走首位“百米飛人”
-
存儲(chǔ)圈掐架!江波龍起訴佰維,索賠121萬(wàn)
-
長(zhǎng)安汽車母公司突然更名:從“中國(guó)長(zhǎng)安”到“辰致科技”
-
豆包前負(fù)責(zé)人喬木出軌BP后續(xù):均被辭退
-
字節(jié)AI Lab負(fù)責(zé)人李航卸任后返聘,Seed進(jìn)入調(diào)整期
-
員工持股爆雷?廣汽埃安緊急回應(yīng)
-
中國(guó)“智造”背后的「關(guān)鍵力量」
-
小米汽車研發(fā)中心重磅落地,寶馬家門口“搶人”
最新活動(dòng)更多
-
即日-9.16點(diǎn)擊進(jìn)入 >> 【限時(shí)福利】TE 2025國(guó)際物聯(lián)網(wǎng)展·深圳站
-
10月23日火熱報(bào)名中>> 2025是德科技創(chuàng)新技術(shù)峰會(huì)
-
10月23日立即報(bào)名>> Works With 開發(fā)者大會(huì)深圳站
-
10月24日立即參評(píng)>> 【評(píng)選】維科杯·OFweek 2025(第十屆)物聯(lián)網(wǎng)行業(yè)年度評(píng)選
-
11月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會(huì)
-
12月18日立即報(bào)名>> 【線下會(huì)議】OFweek 2025(第十屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
推薦專題
- 1 先進(jìn)算力新選擇 | 2025華為算力場(chǎng)景發(fā)布會(huì)暨北京xPN伙伴大會(huì)成功舉辦
- 2 人形機(jī)器人,正狂奔在批量交付的曠野
- 3 宇樹機(jī)器人撞人事件的深度剖析:六維力傳感器如何成為人機(jī)安全的關(guān)鍵屏障
- 4 解碼特斯拉新AI芯片戰(zhàn)略 :從Dojo到AI5和AI6推理引擎
- 5 AI版“四萬(wàn)億刺激”計(jì)劃來(lái)了
- 6 騰訊 Q2 財(cái)報(bào)亮眼:AI 已成第二增長(zhǎng)曲線
- 7 2025年8月人工智能投融資觀察
- 8 9 Manus跑路,大廠掉線,只能靠DeepSeek了
- 10 a16z最新AI百?gòu)?qiáng)榜:硅谷頂級(jí)VC帶你讀懂全球生成式AI賽道最新趨勢(shì)