百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术资源 > 正文

面试题:上亿条数据快速找到一条你想要的数据(几种简单的算法)

off999 2025-05-22 12:44 9 浏览 0 评论

以下是几种适用于海量数据查找的简单算法及其适用场景,无需复杂系统设计即可实现快速检索:


1. 二分查找(Binary Search)

核心思想

有序数据集中,每次比较中间元素,缩小搜索范围。
时间复杂度:O(log n)
适用场景

  • 数据已排序(如数组、文件按主键有序存储)。
  • 精确查找(如根据ID找记录)。

实现步骤

  1. 数据按目标字段排序(如ID升序)。
  2. 每次取中间值比较:
  3. 等于目标值 → 找到结果。
  4. 小于目标值 → 在右半部分继续查找。
  5. 大于目标值 → 在左半部分继续查找。

优化变种

  • 插值查找:根据目标值分布预估中间位置,适合均匀分布数据。

示例代码

python

复制

def binary_search(arr, target):  
    left, right = 0, len(arr) - 1  
    while left <= right:  
        mid = (left + right) // 2  
        if arr[mid] == target:  
            return mid  
        elif arr[mid] < target:  
            left = mid + 1  
        else:  
            right = mid - 1  
    return -1  

2. 哈希表(Hash Table)

核心思想

通过哈希函数将键(Key)映射到存储位置,实现直接访问。
时间复杂度:平均O(1),最坏O(n)(哈希冲突时)
适用场景

  • 精确查找(如根据用户名找用户信息)。
  • 内存足够容纳哈希表(如Redis缓存)。

实现步骤

  1. 设计哈希函数(如取模、MD5)。
  2. 插入数据时,计算键的哈希值,存入对应位置。
  3. 查找时,直接通过哈希值定位数据。

关键问题

  • 哈希冲突
    • 解决方法:链地址法(链表存冲突项)、开放寻址法(线性探测)。
  • 动态扩容:当负载因子过高时,重建更大的哈希表。

示例代码

python

复制

class HashTable:  
    def __init__(self):  
        self.size = 1000  
        self.table = [[] for _ in range(self.size)]  # 链地址法  

    def _hash(self, key):  
        return hash(key) % self.size  

    def insert(self, key, value):  
        h = self._hash(key)  
        for item in self.table[h]:  
            if item[0] == key:  
                item[1] = value  
                return  
        self.table[h].append([key, value])  

    def search(self, key):  
        h = self._hash(key)  
        for item in self.table[h]:  
            if item[0] == key:  
                return item[1]  
        return None  

3. 布隆过滤器(Bloom Filter)

核心思想

通过多个哈希函数和位数组,快速判断数据是否不存在(可能存在误判)。
时间复杂度:O(k)(k为哈希函数数量)
适用场景

  • 预过滤不存在的数据(如黑名单检查、爬虫URL去重)。
  • 容忍一定误判率(可降低后续查询压力)。

实现步骤

  1. 初始化一个长度为m的位数组(全0)。
  2. 插入数据时,用k个哈希函数计算位置,将对应位设为1。
  3. 查询时,若所有哈希位均为1 → 可能存在;否则一定不存在。

关键参数

  • 误判率公式:p≈(1-e-kn/m)kp≈(1-e-kn/m)k
    • 增大m(位数组长度)或k(哈希函数数量)可降低误判率。

示例代码

python

复制

import mmh3  

class BloomFilter:  
    def __init__(self, size, hash_num):  
        self.size = size  
        self.hash_num = hash_num  
        self.bit_array = [0] * size  

    def add(self, item):  
        for seed in range(self.hash_num):  
            index = mmh3.hash(item, seed) % self.size  
            self.bit_array[index] = 1  

    def contains(self, item):  
        for seed in range(self.hash_num):  
            index = mmh3.hash(item, seed) % self.size  
            if self.bit_array[index] == 0:  
                return False  
        return True  # 可能存在(有一定误判率)  

4. B树/B+树(B-Tree/B+ Tree)

核心思想

多路平衡搜索树,减少磁盘I/O次数(适合数据库索引)。
时间复杂度:O(log n)(树高度决定)
适用场景

  • 数据存储在磁盘(如数据库、文件系统)。
  • 支持范围查询(B+树叶子节点链表连接)。

核心特性

  • B树:每个节点存储键和数据,适合随机访问。
  • B+树:数据仅存于叶子节点,叶子节点通过指针连接,适合顺序扫描。

实现示例

(以B+树为例)

text

复制

构建过程:  
1. 定义节点容量(如最多3键值)。  
2. 插入数据时,按排序规则找到叶子节点,若溢出则分裂节点。  
3. 查询时,从根节点逐层向下查找,直到叶子节点。  

5. 倒排索引(Inverted Index)

核心思想

建立关键词到文档的映射表,加速搜索(如搜索引擎)。
时间复杂度:O(1)(哈希表实现关键词定位)。
适用场景

  • 文本内容检索(如根据关键词找文章)。
  • 多条件组合查询(如“北京 AND 旅游”)。

实现步骤

  1. 分词:将文档内容拆分为关键词。
  2. 构建索引:记录每个关键词出现的文档ID列表。
  3. 查询时,取关键词对应的文档ID交集/并集。

示例结构

text

复制

倒排索引表:  
"算法" → [1, 3, 5]  
"数据" → [2, 3, 4]  
查询“算法 AND 数据” → 交集 [3]  

总结

算法

适用场景

优点

缺点

二分查找

有序数据精确查找

简单高效

要求数据预排序

哈希表

内存中精确查找

平均O(1)时间复杂度

内存消耗大,无法范围查询

布隆过滤器

快速排除不存在的数据

空间效率高

存在误判率

B+树

磁盘存储数据索引

适合范围查询,减少I/O

实现复杂度较高

倒排索引

文本内容检索

支持关键词组合查询

需预处理构建索引

选择建议

  1. 数据有序 → 二分查找。
  2. 内存足够且需精确查找 → 哈希表。
  3. 预过滤不存在的键 → 布隆过滤器。
  4. 磁盘存储且需范围查询 → B+树。
  5. 文本搜索 → 倒排索引。

相关推荐

零基础怎么学Python,这些一定要明白

随着人工智能和大数据的兴起,Python这门语言也被越来越多人使用。为什么python这么火爆呢,一方面是由于其语言的核心设计思想,具备简洁、易读、高效等诸多优点,另一方面是其广泛的应用场景,分别在...

小学生Python编程入门-1.什么是编程?

第一阶段:编程初体验第1章:什么是编程?目标:像探险家发现新大陆一样认识编程!本章将带你解开生活中的“魔法密码”,认识Python的神奇力量,并搭建属于你的第一个魔法基地!1.1生活中的编程案例魔法...

Python报错信息一目了然,3个技巧助你快速定位问题

点赞、收藏、加关注,下次找我不迷路是不是每次看到代码报错就慌得不行?一堆红红绿绿的英文报错信息,看得头都大了,完全不知道从哪儿下手。别担心,今天咱们就来好好聊聊怎么查看Python报错信息,学会...

如何理解Python类中的self?

许多python初学者,在接触到python面向对象的时候,就被类中包含的方法中的self打败了,不知道self是何物?既然写在方法中,是必须参数,为何在调用方法的时候不给它传参数还能正常运行?和我们...

Python简介与开发环境搭建详细教程

1.1Python简介与开发环境搭建详细教程一、Python语言简介1.Python的核心特点2.Python的应用领域表1.1Python主要应用领域领域典型应用常用库Web开发网站后端D...

Python 中 `r` 前缀:字符串处理的“防转义利器”

#Python中`r`前缀:字符串处理的“防转义利器”在Python编程过程中,处理字符串时经常会遇到反斜杠`\`带来的转义问题,而`r`前缀的出现有效解决了这一困扰。它不仅能处理...

Python中去除字符串末尾换行符的方法

技术背景在Python编程中,处理字符串时经常会遇到字符串末尾包含换行符的情况,如从文件中读取每一行内容时,换行符会作为字符串的一部分被读取进来。为了满足后续处理需求,需要将这些换行符去除。实现步骤1...

python利用正则提取字符串中的手机号

需求:利用正则提取字符串中的手机号(假设手机号为1开头的11为数字,要求手机号前后不为数字)待提取的字符串:str="15838477645dfdfdf15887988765dfdf1157...

史上最全正则详解

涉及到处理文本数据时,Python的正则表达式(RegularExpression)提供了一种强大而灵活的工具。下面详细讲解一些常见的正则表达式语法,并提供实例来说明它们的用法。正则表达式语法正则表...

Python正则之glob库

0、glob模块和通配符glob模块最主要的方法有2个:1、glob()2、iglob()以上2种方法一般和通配符一起使用,常用的通配符有3个:*:匹配零个或多个字符...

Python 中 字符串处理的高效方法,不允许你还不知道

以下是Python中字符串处理的高效方法,涵盖常用操作、性能优化技巧和实际应用场景,帮助您写出更简洁、更快速的代码:一、基础高效操作1.字符串拼接:优先用join()代替+原因:join()预...

正则表达式(Regex)在线调试工具-Regex101

前言在字符串查找处理程序中,正则表达式是一个不可忽略的处理方式。我们能够利用正则表达式轻松地做到检索、替换那些符合某个模(规则)的字符串。正则表达式有着很强的灵活性、逻辑性及功能性,可以迅速地用极简...

pandas中使用excel的模糊匹配通配符,真香

前言在pandas中,实现如下的模糊匹配统计,要怎么做?简单:因为在pandas中可以把筛选和统计两种逻辑分开编写,所以代码清晰好用。问题在于pandas中要实现模糊匹配,只能使用正则表达...

5分钟掌握Python(十六)之正则表达式

1)引入re模块:eg:importre#设定一个常量a='两点水|twowater|liangdianshui|草根程序员|ReadingWithU'#正则表达式...

不允许你还不会的Python 文件与字符串处理高效技巧

掌握文件和字符串的高效处理技巧是Python编程中的重要能力。以下是一些专业级的优化技巧和实践方法:一、文件处理高效技巧1.文件读取优化1.1大文件逐行读取#标准方法(内存友好)withop...

取消回复欢迎 发表评论: