和我一起构建搜索引擎（四）检索模型

构建好倒排索引之后，就可以开始检索了。

检索模型有很多，比如向量空间模型、概率模型、语言模型等。其中最有名的、检索效果最好的是基于概率的BM25模型。

给定一个查询Q和一篇文档d，d对Q的BM25得分公式为

$$BM25_{score}(Q,d)=\sum_{t\in Q}w(t,d)$$$$w(t,d)=\frac{qtf}{k_3+qtf}\times \frac{k_1\times tf}{tf+k_1(1-b+b\times l_d/avg\_l)}\times log_2\frac{N-df+0.5}{df+0.5}$$

公式中变量含义如下：

$qtf$：查询中的词频
$tf$：文档中的词频
$l_d$：文档长度
$avg\_l$：平均文档长度
$N$：文档数量
$df$：文档频率
$b,k_1,k_3$：可调参数

这个公式看起来很复杂，我们把它分解一下，其实很容易理解。第一个公式是外部公式，一个查询Q可能包含多个词项，比如“苹果手机”就包含“苹果”和“手机”两个词项，我们需要分别计算“苹果”和“手机”对某个文档d的贡献分数w(t,d)，然后将他们加起来就是整个文档d相对于查询Q的得分。

第二个公式就是计算某个词项t在文档d中的得分，它包括三个部分。第一个部分是词项t在查询Q中的得分，比如查询“中国人说中国话”中“中国”出现了两次，此时qtf=2，说明这个查询希望找到的文档和“中国”更相关，“中国”的权重应该更大，但是通常情况下，查询Q都很短，而且不太可能包含相同的词项，所以这个因子是一个常数，我们在实现的时候可以忽略。

第二部分类似于TFIDF模型中的TF项。也就是说某个词项t在文档d中出现次数越多，则t越重要，但是文档长度越长，tf也倾向于变大，所以使用文档长度除以平均长度$l_d/avg\_l$起到某种归一化的效果，$k_1$和$b$是可调参数。

第三部分类似于TFIDF模型中的IDF项。也就是说虽然“的”、“地”、“得”等停用词在某文档d中出现的次数很多，但是他们在很多文档中都出现过，所以这些词对d的贡献分并不高，接近于0；反而那些很稀有的词如”糖尿病“能够很好的区分不同文档，这些词对文档的贡献分应该较高。

所以根据BM25公式，我们可以很快计算出不同文档t对查询Q的得分情况，然后按得分高低排序给出结果。

下面是给定一个查询句子sentence，根据BM25公式给出文档排名的函数

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
def result_by_BM25(self, sentence):
	seg_list = jieba.lcut(sentence, cut_all=False)
	n, cleaned_dict = self.clean_list(seg_list)
	BM25_scores = {}
	for term in cleaned_dict.keys():
		r = self.fetch_from_db(term)
		if r is None:
			continue
		df = r[1]
		w = math.log2((self.N - df + 0.5) / (df + 0.5))
		docs = r[2].split('\n')
		for doc in docs:
			docid, date_time, tf, ld = doc.split('\t')
			docid = int(docid)
			tf = int(tf)
			ld = int(ld)
			s = (self.K1 * tf * w) / (tf + self.K1 * (1 - self.B + self.B * ld / self.AVG_L))
			if docid in BM25_scores:
				BM25_scores[docid] = BM25_scores[docid] + s
			else:
				BM25_scores[docid] = s
	BM25_scores = sorted(BM25_scores.items(), key = operator.itemgetter(1))
	BM25_scores.reverse()
	if len(BM25_scores) == 0:
		return 0, []
	else:
		return 1, BM25_scores