小米汽車取得數(shù)據(jù)壓縮網(wǎng)絡(luò)模型構(gòu)建專利,壓縮后的小規(guī)模數(shù)據(jù)集能夠極大地減少神經(jīng)架構(gòu)搜索中訓(xùn)練不同模型所需的計算量
時間:
小采
股票
2024年1月27日消息,據(jù)國家知識產(chǎn)權(quán)局公告,小米汽車科技有限公司取得一項名為“一種基于數(shù)據(jù)壓縮的網(wǎng)絡(luò)模型構(gòu)建方法、系統(tǒng)和介質(zhì)“,授權(quán)公告號CN111008693B,申請日期為2019年11月。
專利摘要顯示,一種基于數(shù)據(jù)壓縮的網(wǎng)絡(luò)模型構(gòu)建方法、系統(tǒng)及介質(zhì),該方法包括:S100,構(gòu)建用于對神經(jīng)架構(gòu)搜索的原始數(shù)據(jù)集進(jìn)行數(shù)據(jù)壓縮的蒸餾器;S200,將蒸餾器用于合成高密度蒸餾數(shù)據(jù);S300,將合成的高密度蒸餾數(shù)據(jù)用于進(jìn)行神經(jīng)架構(gòu)搜索,從而搜索出最優(yōu)網(wǎng)絡(luò)模型。本發(fā)明通過蒸餾器來壓縮數(shù)據(jù)集,通過去除用于神經(jīng)架構(gòu)搜索的大規(guī)模數(shù)據(jù)集中的冗余信息,將大規(guī)模數(shù)據(jù)集轉(zhuǎn)化為小規(guī)模數(shù)據(jù)集,并盡量多地保留大規(guī)模數(shù)據(jù)集中的信息。壓縮后的小規(guī)模數(shù)據(jù)集能夠極大地減少神經(jīng)架構(gòu)搜索中訓(xùn)練不同模型所需的計算量,加速模型搜索。