Python实现倒排索引的完整代码与逻辑解析
本文详细介绍如何使用Python构建倒排索引。通过读取文档ID与单词ID的对应关系,首先建立正向索引以记录单词在文档中的出现位置,随后将其转换为倒排索引,实现从关键词到文档ID的快速映射。代码包含完整的输入输出示例及核心逻辑,适用于搜索引擎基础模块开发参考。
具体实现代码如下所示:
#encoding:utf-8
fin = open('1.txt', 'r')
'''
建立正向索引:
“文档1”的ID > 单词1:出现位置列表;单词2:出现位置列表;…………
“文档2”的ID > 此文档出现的关键词列表。
'''
forward_index = {}
for line in fin:
line = line.strip().split()
forward_index[int(line[0])] = {}
words = line[1].split(',')
for i, index in enumerate(words):
if int(index) not in forward_index[int(line[0])].keys():
forward_index[int(line[0])][int(index)] = [i]
else:
forward_index[int(line[0])][int(index)].append(i)
print 'forward_index:', forward_index
'''
建立倒排索引:
“关键词1”:“文档1”的ID,“文档2”的ID,…………
“关键词2”:带有此关键词的文档ID列表。
'''
inverted_index = {}
for doc_id, words in forward_index.items():
for word_id in words.keys():
if word_id not in inverted_index.keys():
inverted_index[word_id] = [doc_id]
elif doc_id not in inverted_index[word_id]:
inverted_index[word_id].append(doc_id)
print 'inverted_index:', inverted_index
程序接收的输入数据格式为文档ID与单词ID的组合:
1 3,4 2 3,4,2,4 3 2
程序最终生成的输出结果如下:
forward_index: {1: {3: [0], 4: [1]}, 2: {2: [2], 3: [0], 4: [1, 3]}, 3: {2: [0]}}
inverted_index: {2: [2, 3], 3: [1, 2], 4: [1, 2]}
上述内容即为使用Python实现倒排索引的完整方法,希望能为读者提供有价值的参考。欢迎继续支持本站获取更多技术分享。
免责声明:本文内容仅供参考,不代表本站观点。转载或引用请注明出处。









