NeurIPS 2022前线 | iWudao最新深度学习研究成果正式发表
2022-12-05
12月1日，吾道科技携最新研究成果参加人工智能顶会NeurIPS 2022，并发表论文FR: Folded Rationalization with a Unified Encoder。论文介绍了吾道科技最新自研自解释模型，并将该模型应用于舆情分析系统，使其能针对舆情预测结果给出高质量的、便于用户理解的解释说明，实现了AI技术在金融领域应用场景的新突破，获得了大会及众多参会专家的高度认可。
▲吾道科技AI技术专家王俊博士讲解论文
近年来，基于神经网络的深度学习技术席卷了自然语言处理领域，许多深度学习模型虽然具有不错的性能，但其基于不透明的“黑盒模型”，模型含有超大数量的参数，导致最终用户难以理解并判断模型具体的决策机制的可靠性。为了解决这个问题，业界开始探索具有自解释能力的模型。例如，一个具有自解释能力的舆情分析系统除了可以通过预测器（Predictor）对文章给出正面/负面的分类结果以外，还可以通过生成器(Generator)从文章中筛选出具体表述正面/负面信息的片段（Rationale）作为分类的解释。但是在现有的自解释模型中，预测器和生成器在训练的过程中常常会出现步调不一致的情况，导致输出没有意义的杂乱解释。
▲自解释模型流程演变
（左为之前的两阶段框架，右为本论文提出的折叠统一框架）
在发表的论文中，吾道科技通过对预测器和生成器在自解释模型的博弈过程中产生的训练速度差异的深入观察和分析，提出一个简明但有效的方案，将预测器和生成器各自独立的编码器(Encoder)加以折叠之后，合并成一个统一的共享参数的编码器，进而有效处理了两者步调不一致的问题，使得本文方法输出的解释文本的质量和之前的业界性能最好的方法(SOTA)相比有了显著的提高。此外，该项研究成果已投入至吾道科技相关产品的项目开发中，在大大提高了舆情分析产品的可靠性的同时也明显改进最终 用户的体验。近年来，吾道科技一直深耕人工智能领域，致力于AI技术的前沿探索和在金融场景下的深度应用，此次研究成果被NeurIPS 2022录用，是对吾道科技将人工智能研究和金融领域应用相结合的持续不懈努力的肯定。未来，吾道科技也将更积极落实各项研究成果，为用户提供更优质、更智能的产品和服务，为推进金融数字化转型、提高行业生产力贡献一份iWudao力量。
