该模型主要目的是计算query和document的相似度,而论文提到的搜索场景下,用户输入一个query,该怎么返回召回的documents,所以建立这个模型来计算query和doc直接的相似度。
整个模型是首先通过对query 和doc中的term 进行编码, 然后做三层FC,最后接softmax层输出计算loss,softmax层的输入是经过三层FC后的query和doc的余弦距离,loss计算的是query和被点doc余弦距离的负对数。
- Term vector, 可以通过one-hot进行编码,由于vocabulary 会很大,且存在未登录词,模型进行了改进,采用word hash,即将单词拆分成如下形式,"#good#" -> "#go, goo, ood, od#"。但对于中文来说,此种方式不见效,中文可以拆分成单字,偏旁、部首,后者做embedding。
TO BE Done

