面试题:上亿条数据快速找到一条你想要的数据(几种简单的算法)
off999 2025-05-22 12:44 23 浏览 0 评论
以下是几种适用于海量数据查找的简单算法及其适用场景,无需复杂系统设计即可实现快速检索:
1. 二分查找(Binary Search)
核心思想
在有序数据集中,每次比较中间元素,缩小搜索范围。
时间复杂度:O(log n)
适用场景:
- 数据已排序(如数组、文件按主键有序存储)。
- 精确查找(如根据ID找记录)。
实现步骤
- 数据按目标字段排序(如ID升序)。
- 每次取中间值比较:
- 等于目标值 → 找到结果。
- 小于目标值 → 在右半部分继续查找。
- 大于目标值 → 在左半部分继续查找。
优化变种
- 插值查找:根据目标值分布预估中间位置,适合均匀分布数据。
示例代码
python
复制
def binary_search(arr, target):
left, right = 0, len(arr) - 1
while left <= right:
mid = (left + right) // 2
if arr[mid] == target:
return mid
elif arr[mid] < target:
left = mid + 1
else:
right = mid - 1
return -1 2. 哈希表(Hash Table)
核心思想
通过哈希函数将键(Key)映射到存储位置,实现直接访问。
时间复杂度:平均O(1),最坏O(n)(哈希冲突时)
适用场景:
- 精确查找(如根据用户名找用户信息)。
- 内存足够容纳哈希表(如Redis缓存)。
实现步骤
- 设计哈希函数(如取模、MD5)。
- 插入数据时,计算键的哈希值,存入对应位置。
- 查找时,直接通过哈希值定位数据。
关键问题
- 哈希冲突:
- 解决方法:链地址法(链表存冲突项)、开放寻址法(线性探测)。
- 动态扩容:当负载因子过高时,重建更大的哈希表。
示例代码
python
复制
class HashTable:
def __init__(self):
self.size = 1000
self.table = [[] for _ in range(self.size)] # 链地址法
def _hash(self, key):
return hash(key) % self.size
def insert(self, key, value):
h = self._hash(key)
for item in self.table[h]:
if item[0] == key:
item[1] = value
return
self.table[h].append([key, value])
def search(self, key):
h = self._hash(key)
for item in self.table[h]:
if item[0] == key:
return item[1]
return None 3. 布隆过滤器(Bloom Filter)
核心思想
通过多个哈希函数和位数组,快速判断数据是否不存在(可能存在误判)。
时间复杂度:O(k)(k为哈希函数数量)
适用场景:
- 预过滤不存在的数据(如黑名单检查、爬虫URL去重)。
- 容忍一定误判率(可降低后续查询压力)。
实现步骤
- 初始化一个长度为m的位数组(全0)。
- 插入数据时,用k个哈希函数计算位置,将对应位设为1。
- 查询时,若所有哈希位均为1 → 可能存在;否则一定不存在。
关键参数
- 误判率公式:p≈(1-e-kn/m)kp≈(1-e-kn/m)k
- 增大m(位数组长度)或k(哈希函数数量)可降低误判率。
示例代码
python
复制
import mmh3
class BloomFilter:
def __init__(self, size, hash_num):
self.size = size
self.hash_num = hash_num
self.bit_array = [0] * size
def add(self, item):
for seed in range(self.hash_num):
index = mmh3.hash(item, seed) % self.size
self.bit_array[index] = 1
def contains(self, item):
for seed in range(self.hash_num):
index = mmh3.hash(item, seed) % self.size
if self.bit_array[index] == 0:
return False
return True # 可能存在(有一定误判率) 4. B树/B+树(B-Tree/B+ Tree)
核心思想
多路平衡搜索树,减少磁盘I/O次数(适合数据库索引)。
时间复杂度:O(log n)(树高度决定)
适用场景:
- 数据存储在磁盘(如数据库、文件系统)。
- 支持范围查询(B+树叶子节点链表连接)。
核心特性
- B树:每个节点存储键和数据,适合随机访问。
- B+树:数据仅存于叶子节点,叶子节点通过指针连接,适合顺序扫描。
实现示例
(以B+树为例)
text
复制
构建过程:
1. 定义节点容量(如最多3键值)。
2. 插入数据时,按排序规则找到叶子节点,若溢出则分裂节点。
3. 查询时,从根节点逐层向下查找,直到叶子节点。 5. 倒排索引(Inverted Index)
核心思想
建立关键词到文档的映射表,加速搜索(如搜索引擎)。
时间复杂度:O(1)(哈希表实现关键词定位)。
适用场景:
- 文本内容检索(如根据关键词找文章)。
- 多条件组合查询(如“北京 AND 旅游”)。
实现步骤
- 分词:将文档内容拆分为关键词。
- 构建索引:记录每个关键词出现的文档ID列表。
- 查询时,取关键词对应的文档ID交集/并集。
示例结构
text
复制
倒排索引表:
"算法" → [1, 3, 5]
"数据" → [2, 3, 4]
查询“算法 AND 数据” → 交集 [3] 总结
算法 | 适用场景 | 优点 | 缺点 |
二分查找 | 有序数据精确查找 | 简单高效 | 要求数据预排序 |
哈希表 | 内存中精确查找 | 平均O(1)时间复杂度 | 内存消耗大,无法范围查询 |
布隆过滤器 | 快速排除不存在的数据 | 空间效率高 | 存在误判率 |
B+树 | 磁盘存储数据索引 | 适合范围查询,减少I/O | 实现复杂度较高 |
倒排索引 | 文本内容检索 | 支持关键词组合查询 | 需预处理构建索引 |
选择建议:
- 数据有序 → 二分查找。
- 内存足够且需精确查找 → 哈希表。
- 预过滤不存在的键 → 布隆过滤器。
- 磁盘存储且需范围查询 → B+树。
- 文本搜索 → 倒排索引。
相关推荐
- u盘莫名其妙要格式化(u盘总是要格式化什么意思)
-
如果您在使用U盘时突然收到提示需要格式化的消息,这可能是由于以下原因之一引起的:U盘感染病毒:U盘中可能存在恶意病毒,这些病毒可能会导致U盘无法正常使用。当您尝试打开U盘时,系统会提示您进行格式化操作...
- win7家庭版原版(win7家庭版价格)
-
你的win7旗舰版应该是个盗版软件,在你使用的过程中你可能触碰到了后台升级,升级完以后就变成了家庭版了,在你不知不觉中被改变的,厄这个软件属于盗版的,厄升级完以后没什么大区别,这个旗舰版家庭版在家里面...
- win10自动更新失败怎么办(win10自动升级失败)
-
安装更新失败有许多原因。WindowsUpdate需要能够扫描您的计算机以了解需要哪些更新,并能够下载和安装这些更新。如果某个阶段遇到问题,则可能阻止某个更新安装到计算机中。有关错误或失败的详细信...
- 截图的几种方法(截图的几种方法有哪些)
-
第一种截图方式:按printScreen键。按一下键盘上的printScreen键以后,整个屏幕会被截取下来,截图会默认保存在剪贴板中。第二种截图方式:使用微信截图。进入聊天界面,我们会发...
- 电脑装了两个系统怎么切换(电脑安装2个系统怎么更换启动)
-
1.点击运行打开电脑点击左下角的开始菜单栏选项,右击鼠标在序列栏中选择运行打开。2.输入msconfig接着在运行的输入框中输入msconfig点击确定即可打开系统配置。3.点击引导打开系统配置的页面...
- linux系统哪个版本好用(最好linux系统版本)
-
个人比较推荐Debian这个发行版本。DebianGNU/Linux于1993年首次公布,至今已经有近30年历史了。当然其他版本比如openSUSE,Slackware,ArchLinux,Ubu...
- win10激活在哪里查看(win10激活时间在哪里看)
-
在Windows10中,您可以通过以下方法查看激活状态:方法1:使用“设置”应用1.点击屏幕左下角的“开始”按钮,然后点击“设置”(齿轮图标)。2.在设置窗口中,点击“系统”图标。3.在“系统...
- 官方win10dll文件修复工具(官方win7dll文件修复工具)
-
当电脑丢失dll文件时,可以采用以下几种方法进行一键修复:从回收站还原:如果是不小心误删了一些计算机文件,导致电脑出现异常的情况时,首先就可以去回收站找回dll文件,如果文件还在,就可以通过还原操作来...
- qq所有历史旧版本大全(qq历史版本一览表)
-
有2种方法。一种是:你是QQ会员。你可以把旧版打开,聊天记录上传。然后打开新的QQ,下载。第2种是:你在硬盘上装了QQ软件,然后你就点卸载(uninst),把原来的卸了。然后按原位置覆盖,装上06版。...
- 电脑显示器分辨率怎么调(显示分辨率无法调整)
-
1、以win7为例,首先右键点击桌面,在右键菜单中直接显示了屏幕分辨率的选项,用鼠标点击一下这个选项。2、在分辨率设置选项页面中,有一个分辨率的选项,点击一下这个选项,上面默认显示的数值是你现在的屏幕...
- 8系统(8系统点检控制包含什么)
-
WIndows8系统是微软目前最新的操作系统,Moto的图形界面设计,使很多已经习惯于早期windows系统的用户难以接受,Windows8是一个向平板和桌面系统妥协的产物,存在着相当多的利弊。...
- 电脑软件管家(电脑软件管家在哪里找到)
-
电脑管家有着最大的安全云库,全新的杀毒引擎,深度清理电脑垃圾,为电脑重回巅峰状态,更有账号宝专版,10倍提升QQ防盗号能力,是很好用的。就自己而言,在电脑上用的是腾讯电脑管家这个第三方系统安全软件,管...
- 迅雷种子搜索器(迅雷种子搜索器手机版下载)
-
迅雷种子搜索方法: 1.在开始菜单栏或者到文件的安装路径文件夹中找到P2P种子搜索器。&nb...
- 手机怎么解压文件(苹果手机怎么解压文件)
-
手机解压文件方法:1、首先,在手机中找到文件管理,打开文件管理。2、打开文件管理之后找到压缩包,然后打开。3、打开安装包之后,选择需要的文件,。4、接下来找到“解压至”,点击“解压至”。5、点击之后,...
欢迎 你 发表评论:
- 一周热门
-
-
抖音上好看的小姐姐,Python给你都下载了
-
全网最简单易懂!495页Python漫画教程,高清PDF版免费下载
-
Python 3.14 的 UUIDv6/v7/v8 上新,别再用 uuid4 () 啦!
-
python入门到脱坑 输入与输出—str()函数
-
宝塔面板如何添加免费waf防火墙?(宝塔面板开启https)
-
Python三目运算基础与进阶_python三目运算符判断三个变量
-
飞牛NAS部署TVGate Docker项目,实现内网一键转发、代理、jx
-
(新版)Python 分布式爬虫与 JS 逆向进阶实战吾爱分享
-
失业程序员复习python笔记——条件与循环
-
慕ke 前端工程师2024「完整」
-
- 最近发表
- 标签列表
-
- python计时 (73)
- python安装路径 (56)
- python类型转换 (93)
- python进度条 (67)
- python吧 (67)
- python的for循环 (65)
- python格式化字符串 (61)
- python静态方法 (57)
- python列表切片 (59)
- python面向对象编程 (60)
- python 代码加密 (65)
- python串口编程 (77)
- python封装 (57)
- python写入txt (66)
- python读取文件夹下所有文件 (59)
- python操作mysql数据库 (66)
- python获取列表的长度 (64)
- python接口 (63)
- python调用函数 (57)
- python多态 (60)
- python匿名函数 (59)
- python打印九九乘法表 (65)
- python赋值 (62)
- python异常 (69)
- python元祖 (57)
