预训练语言模型技术论坛@CNCC | 数图回看
导读:以BERT和GPT为代表的预训练语言模型自从2017年提出以来取得了巨大的成功,改变了整个自然语言 处理的面貌,几乎刷新了所有自然语言处理任务的成绩,而且在工业界也开始获得广泛的应用,其影响甚至远 远超出了NLP的范围。最近新出现的GPT-3模型更是表现出了惊人的能力,似乎再一次印证了“大力出奇迹” 这样一个道理。
导读:以BERT和GPT为代表的预训练语言模型自从2017年提出以来取得了巨大的成功,改变了整个自然语言 处理的面貌,几乎刷新了所有自然语言处理任务的成绩,而且在工业界也开始获得广泛的应用,其影响甚至远 远超出了NLP的范围。最近新出现的GPT-3模型更是表现出了惊人的能力,似乎再一次印证了“大力出奇迹” 这样一个道理。