2019年8月15日,微软正式推出了第七代微软小冰,这一年也标志着微软小冰的走过了第五个年头。作为微软推广其人工智能应用与落地的高级品类,并历经了前六代的积累,有着更完备情感计算引擎的微软小冰正朝着更全面、更广泛的平台化方向迈进。当前,微软小冰自身的技术演进也在持续的推进过程中。面对平台化战略带来的多样化需求,微软小冰也需要进行快速的自我迭代,以应对各种已知的和未知的应用场景,以实现微软小冰的通用化,甚至在某种程度上实现自我学习。
就像婴儿咿呀学语一样,“对话”不仅是微软小冰的价值输出核心,也是实现自身进化的引擎。作为一个走向“自我完备”的对话AI,微软小冰需要做到进行更长的多轮对话,从人类和其他对话AI中学习,能够跨模态吸收知识,还要具备强大的比喻联想能力和创造力。这些能力贯穿了对话机器人这些年来,甚至可能是未来一段时间整个业界的研究与发展的方向。
微软小冰的对话引擎进化,一部分来源于三种模型:检索模型、生成模型和共感模型。其中,检索模型通过重用已有的人类的对话来实现人机交互,目前不仅能够在单轮对话中实现高精度的回复匹配,在多轮对话中也有着很好地表现;生成模型现在能够自然地把外部的知识引入进来,通过基于注意力机制的序列到序列的模型遴选话题语料,最后再在解码的过程中单独做出一个话题的生成概率,让话题能够更容易出现在回复中,使对话更加深刻。
而共感模型的核心是通过对话策略对整个的对话流程进行把控,因此共感模型背后是由有两个模型组成的:回复生成模型,决定机器人说什么;策略决定模型,决定机器人要怎么去说。
这两个模型结合在一起就把微软小冰从原来基于上下文直接产生回复的模式,变成了从上下文到决策,然后再根据这个决策来决定说什么。共感模型最大的灵活性就在于策略,这个策略可以是一些要表达的意图,比如主动引导话题、提问、向对方确认一些事情,或者听一听用户在说什么,或者做一些无意识的、简单的回复。它也可以是一些话题,也可以是一些情感等等,当然也可以是意图、话题、情感的组合,通过这种策略组合,可以产生非常多样的、复杂的对话流程。通过策略模型就可以去管理整个复杂的对话。
当微软小冰积累足够多的策略时,团队引入了meta-word的概念,将语句中的不同属性排列、变换、组合,就可以生成各种各样的回复,在整个对话的流程中,秩序通过变换属性就可以组合成多种的对话。这种模型可解释性很强,并且可以做成像一个接口一样,工程师可以通过编辑这个接口,编辑meta-word中的属性,以及这个属性的值去打造具有各种各样的风格、情感、话题、意图等等各种各样的对话机器人。
各种模型的不断进化也给微软小冰的研发团队带来了一个有趣的尝试:通过Co-teaching算法让两个检索模型在训练过程中互为师生,互相交流。在每一次迭代的时候,一个模型都把它从数据中学到的知识传达给另外一个模型,同时又从另外一个模型中接触到它的知识,然后这两个模型互相学习,最终希望能够得到共同的进步。微软小冰首席语音科学家栾剑表示:“由于有了Co-teaching,每一个模型的效果都得到了提升。”
微软小冰的对话引擎进化的另一部分来自于多模态交互。简单来讲,多模态交互就是用户通过输入对话、语音、文本知识、多媒体,输出也可以是对话、语音、多媒体。在这个过程中,机器人能够把多模态的知识连结在一起,进行消化、吸收,最终把它有机的组合起来,并进行输出。
在关于多模态的研究中,微软小冰团队受“体验模拟假说”的启发,通过调动微软小冰自己以往的记忆,与一些图像和文字的匹配,使得微软小冰看到一个故事的句子之后,调动出她以前的一些经验,然后模拟出现在的场景,甚至做一些替换,然后使得这个场景更加一致。其中,上下文感知故事编码、密集视觉语义匹配以及一对多覆盖增强等技术让微软小冰实现对文字的联想,与图片进行匹配,并通过Storyboard Creator对现有图片进行再创作,使得文字和场景更加匹配。这种多模态的表达方式极大提升了微软小冰的对话维度,让微软小冰在诸如学龄前儿童或者失读症等环境等更多场景中也能充分地展现其对话能力。
随着第七代微软小冰的不断进化,其独特的创造能力也在不断突破。唱歌是微软小冰的“拿手好戏”,参数模型的演进使得小冰现在能够通过一组DNN就能分析乐谱信息,相比之前利用不同DNN分别分析乐谱信息中关键内容,现在的参数模型能够让合成的歌声更加流畅;而通过原始波形输入、全卷积网络与残差连接,以及软分类标签,让混合伴奏音频中的人声音高提取成为可能,这也使得微软小冰的音准更加准确。更优质的模型和更多的数据输入,让微软小冰不仅能够自己唱歌,出单曲,也能辅助音频制作者更好地创作,使创作者的效率更高。
微软小冰的创造里不止唱歌,现在也能够像人一样使用比喻句。微软小冰研发团队从中文诗歌的主题中抽取了120个主题,扩展出6个词,并用日志进行过滤,找出小冰的用户也喜欢说的一些概念,最终确定了96个抽象词,同时找出3000个具体的名词,并将这些词用Word Embedding来进行表达,并通过分别对形容词、名词和动词的不同表达进行不同的处理,让微软小冰最终能够表达出通顺、恰当、新颖的比喻句。
不论是引擎的进化还是创造方面,第七代微软小冰正在不断地突破自我,让其形象更加智能、立体,甚至更像一个“人”。并且,第七代微软小冰正正在覆盖更多场景,帮助厂商做出各种各样的AI,让更多的人用上AI。微软小冰首席科学家宋睿华表示:“我们也希望微软小冰以后能够成为一个通用的平台,能够让她帮助厂商包括我们去做出各种各样的AI来。这样最终就可以形成一片AI的森林,我们也把他们叫AI beings。”
责任编辑:ct
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)