突破90分大关！百度预训练模型ERNIE登顶GLUE榜单 超过微软、谷歌

在“让人工智能与人顺畅交流”的过程中，自然语言处理是很重要的一环。由于计算机语言与人类语言截然不同，有了这项技术，AI才能真正“听懂”人们所说的话。

近日，预训练模型界的“MVP”百度ERNIE，在自然语言处理领域权威数据集GLUE中荣登榜首，并以9个任务平均得分首次突破90大关刷新该榜单历史，超越微软MT-DNN-SMART、谷歌T5、ALBERT等一众国际顶级预训练模型的表现。XLNet、RoBERTa、T5、MT-DNN-SMART等模型平均分数分布在88-89分范围。

GLUE榜单是自然语言处理领域最权威的排行榜之一，由纽约大学、华盛顿大学、谷歌DeepMind等机构联合推出。

据此前报道，百度的可持续学习语义理解框架ERNIE 2.0持增量引入词汇(lexical)、语法 (syntactic) 、语义 (semantic) 等3个层次的自定义预训练任务，能够全面捕捉训练语料中的词法、语法、语义等潜在信息。

继1.0后，ERNIE英文任务方面取得全新突破，在共计16个中英文任务上超越了BERT和XLNet, 取得了SOTA效果。