AutoML大提速,谷歌开源自动化寻找最优ML模型新平台( 二 )


实验结果
ModelSearch用最少的迭代次数来改进生产模型 。 谷歌研究者在近期一篇论文《ImprovingKeywordSpottingandLanguageIdentificationviaNeuralArchitectureSearchatScale》中展示了ModelSearch在语音领域的性能 , 它能够发现关键词检测与语言识别模型 。 只用了不到200次的迭代 , ModelSearch得到的模型就优于专家设计的内部SOTA生产模型 , 并且前者的训练参数少了大约13万个(184K参数vs.315K参数) 。

AutoML大提速,谷歌开源自动化寻找最优ML模型新平台
文章图片
ModelSearch经过给定迭代次数后得到的模型准确率与之前的关键词检测生产模型性能对比 。
谷歌研究者还使用ModelSearch , 在CIFAR-10图像数据集上寻找适合的图像分类架构 。 使用一组已知卷积块(包括卷积、resnet模块、NAS-A单元、全连接层等)后 , ModelSearch能够在209次试验(即只探索了209个模型)后快速实现基准准确率——91.83 。 而之前的顶级架构达到相同准确率需要的试验次数要多得多 , 例如NASNet算法需要5807次试验 , PNAS需要1160次试验 。
【AutoML大提速,谷歌开源自动化寻找最优ML模型新平台】目前 , ModelSearch的代码已开源 , 研究者可以使用这个灵活、不受领域限制的框架发现ML模型 。