面试官：面对高并发系统，如何做到服务器不被冲垮？
候选人：好的，我会从以下几个方面来回答这个问题：
1. 高并发系统的核心挑战
高并发系统的核心挑战是 资源有限（如CPU、内存、带宽、数据库连接等），而 请求量巨大。如果处理不当，服务器可能会因为资源耗尽而崩溃。因此，我们需要从 架构设计 和 代码实现 两个层面来解决问题。
2. 架构设计层面的解决方案
2.1 分层架构与负载均衡
- 问题：单台服务器无法承受高并发请求。
- 解决方案：采用分层架构（如前后端分离、微服务架构）和负载均衡。
- 实现：
- 使用 Nginx 或 HAProxy 作为负载均衡器，将请求分发到多台应用服务器。
- 通过 DNS轮询 或 CDN 进一步分散流量。
- 源码示例（Nginx配置）：
http {
upstream backend {
server 192.168.1.1;
server 192.168.1.2;
server 192.168.1.3;
}
server {
location / {
proxy_pass http://backend;
}
}
}- 图解：
用户请求 -> Nginx（负载均衡） -> 应用服务器1
-> 应用服务器2
-> 应用服务器32.2 缓存优化
- 问题：数据库是高并发系统的瓶颈。
- 解决方案：引入缓存，减少数据库压力。
- 实现：
- 使用 Redis 或 Memcached 缓存热点数据。
- 采用 多级缓存（如本地缓存 + 分布式缓存）。
- 源码示例（Redis缓存）：
import redis
# 连接Redis
cache = redis.Redis(host='localhost', port=6379, db=0)
# 查询缓存
data = cache.get('hot_data')
if not data:
# 缓存未命中，查询数据库
data = query_database()
cache.set('hot_data', data, ex=60) # 设置缓存过期时间2.3 数据库优化
- 问题：数据库连接数有限，高并发下容易成为瓶颈。
- 解决方案：
- 使用 连接池 管理数据库连接。
- 对数据库进行 读写分离 和 分库分表。
- 源码示例（数据库连接池）：
// 使用HikariCP连接池
HikariConfig config = new HikariConfig();
config.setJdbcUrl("jdbc:mysql://localhost:3306/mydb");
config.setUsername("user");
config.setPassword("password");
config.setMaximumPoolSize(100); // 设置最大连接数
HikariDataSource dataSource = new HikariDataSource(config);2.4 异步处理与消息队列
- 问题：同步处理请求会导致线程阻塞，资源利用率低。
- 解决方案：引入异步处理和消息队列。
- 实现：
- 使用 Kafka 或 RabbitMQ 解耦请求处理。
- 将耗时操作（如发送邮件、生成报表）异步化。
- 源码示例（RabbitMQ生产者）：
import pika
connection = pika.BlockingConnection(pika.ConnectionParameters('localhost'))
channel = connection.channel()
channel.queue_declare(queue='task_queue', durable=True)
channel.basic_publish(
exchange='',
routing_key='task_queue',
body='Hello World',
properties=pika.BasicProperties(delivery_mode=2) # 消息持久化
)
connection.close()3. 代码实现层面的解决方案
3.1 限流与熔断
- 问题：突发流量可能导致系统崩溃。
- 解决方案：使用限流和熔断机制保护系统。
- 实现：
- 使用 Guava RateLimiter 或 Sentinel 实现限流。
- 使用 Hystrix 实现熔断。
- 源码示例（Guava限流）：
RateLimiter limiter = RateLimiter.create(100); // 每秒允许100个请求
if (limiter.tryAcquire()) {
// 处理请求
} else {
// 返回限流提示
}3.2 线程池优化
- 问题：线程过多会导致资源耗尽。
- 解决方案：合理配置线程池参数。
- 实现：
- 使用 ThreadPoolExecutor 动态调整线程池大小。
- 设置合理的队列大小和拒绝策略。
- 源码示例（Java线程池）：
ThreadPoolExecutor executor = new ThreadPoolExecutor(
10, // 核心线程数
100, // 最大线程数
60, // 空闲线程存活时间
TimeUnit.SECONDS,
new LinkedBlockingQueue<>(1000), // 任务队列
new ThreadPoolExecutor.CallerRunsPolicy() // 拒绝策略
);3.3 资源隔离
- 问题：某个服务故障可能影响整个系统。
- 解决方案：对资源进行隔离。
- 实现：
- 使用 Docker 或 Kubernetes 对服务进行容器化部署。
- 对关键服务进行 线程隔离 或 进程隔离。
4. 总结
- 架构设计：通过负载均衡、缓存、数据库优化、异步处理等手段分散压力。
- 代码实现：通过限流、熔断、线程池优化、资源隔离等手段保护系统。
- 核心思想：将系统设计为 可扩展、可容错 的分布式架构，同时通过代码层面的优化提高资源利用率。
图解高并发系统架构
用户请求 -> CDN -> Nginx（负载均衡） -> 应用服务器集群
-> Redis缓存
-> 消息队列（Kafka/RabbitMQ）
-> 数据库集群（主从复制 + 分库分表）面试官：如果让你设计一个高并发系统，你会怎么做？
候选人：
- 分层架构：前后端分离，微服务化。
- 负载均衡：使用Nginx或云服务商的LB。
- 缓存优化：引入Redis缓存热点数据。
- 数据库优化：读写分离、分库分表。
- 异步处理：使用消息队列解耦耗时操作。
- 限流与熔断：保护系统不被突发流量冲垮。
- 监控与报警：实时监控系统状态，及时发现问题。