| 1 |
Rate Limiting(限流) |
按用户/IP/密钥限制单位时间内的请求数 |
M05 |
现在 |
| 2 |
Caching(缓存) |
保存计算结果,避免重复劳动 |
M09 |
增长期 |
| 3 |
Load Balancing(负载均衡) |
把流量分摊到多台服务器 |
M09 |
规模化 |
| 4 |
Reverse Proxies(反向代理) |
挡在应用前面的服务器(TLS、路由、缓冲) |
M09 |
增长期 |
| 5 |
API Gateways(API 网关) |
统一入口,负责认证、配额和到多个服务的路由 |
M09 |
规模化 |
| 6 |
CI/CD |
每次变更都自动测试、自动部署 |
M11 |
现在 |
| 7 |
Docker |
把应用和依赖打包成可复现的镜像 |
M11 |
增长期 |
| 8 |
Kubernetes |
在多台机器上编排大量容器 |
M11 |
规模化 |
| 9 |
Service Discovery(服务发现) |
服务之间动态找到彼此的地址 |
M11 |
规模化 |
| 10 |
Circuit Breakers(熔断器) |
依赖出故障时暂停调用一段时间 |
M07 |
增长期 |
| 11 |
Timeouts(超时) |
任何等待都不能无限期 |
M07 |
现在 |
| 12 |
Retries(重试) |
遇到瞬时故障时再试一次 |
M07 |
现在 |
| 13 |
Exponential Backoff(指数退避) |
每次重试的间隔逐渐拉长,并加入随机抖动(jitter) |
M07 |
现在 |
| 14 |
Idempotency(幂等性) |
做两次与做一次效果相同 |
M04 |
现在 |
| 15 |
Message Queues(消息队列) |
通过持久化缓冲把任务交给 worker |
M08 |
增长期 |
| 16 |
Pub/Sub(发布/订阅) |
一个事件,多个互不依赖的订阅者 |
M08 |
增长期 |
| 17 |
Event-Driven Architecture(事件驱动架构) |
服务对已经发生的事实做出反应 |
M08 |
规模化 |
| 18 |
Distributed Transactions(分布式事务) |
跨多个系统的一次逻辑变更 |
M08 |
规模化 |
| 19 |
Saga Pattern(Saga 模式) |
带补偿回滚步骤的多步工作流 |
M08 |
增长期 |
| 20 |
Dead Letter Queues(死信队列) |
把反复失败的消息暂存起来供排查 |
M07 |
增长期 |
| 21 |
Cron Jobs(定时任务) |
按计划执行的任务 |
M08 |
现在 |
| 22 |
WebSockets |
双向的持久连接 |
M08 |
增长期 |
| 23 |
Long Polling(长轮询) |
保持请求挂起,直到有数据返回 |
M08 |
规模化 |
| 24 |
Server-Sent Events(SSE) |
服务器单向推送的数据流(LLM 流式输出) |
M08 |
增长期 |
| 25 |
Database Indexing(数据库索引) |
让查找变快的数据结构 |
M03 |
现在 |
| 26 |
Query Optimization(查询优化) |
读懂 EXPLAIN 执行计划,修复慢 SQL |
M03 |
增长期 |
| 27 |
N+1 Queries(N+1 查询) |
在循环里每一行发一次查询 |
M03 |
现在 |
| 28 |
Connection Pooling(连接池) |
复用数据库连接,而不是每次新建 |
M03 |
现在 |
| 29 |
Read Replicas(只读副本) |
承担读请求的数据库副本 |
M09 |
规模化 |
| 30 |
Sharding(分片) |
按键把数据拆分到多个数据库 |
M09 |
规模化 |
| 31 |
Partitioning(分区) |
把一张大表拆成多个部分(通常按时间) |
M09 |
增长期 |
| 32 |
Replication(复制) |
在多个节点上保存数据副本 |
M10 |
增长期 |
| 33 |
Leader Election(领导者选举) |
各节点就谁来主导达成一致 |
M10 |
规模化 |
| 34 |
CAP Theorem(CAP 定理) |
发生网络分区时,只能在一致性和可用性之间二选一 |
M10 |
增长期 |
| 35 |
Eventual Consistency(最终一致性) |
副本最终会一致,但不是立刻 |
M10 |
增长期 |
| 36 |
Optimistic Locking(乐观锁) |
用版本号检测冲突的写入 |
M03 |
现在 |
| 37 |
Pessimistic Locking(悲观锁) |
修改前先锁住这一行 |
M03 |
增长期 |
| 38 |
Distributed Locks(分布式锁) |
跨机器共享的锁 |
M10 |
规模化 |
| 39 |
Race Conditions(竞态条件) |
结果取决于并发操作的时序 |
M10 |
现在 |
| 40 |
Deadlocks(死锁) |
双方互相等待,永远僵持 |
M10 |
增长期 |
| 41 |
Memory Leaks(内存泄漏) |
永远不被释放的内存 |
M10 |
增长期 |
| 42 |
Garbage Collection(垃圾回收) |
运行时回收不再使用的内存(以及由此带来的停顿) |
M10 |
规模化 |
| 43 |
Thread Safety(线程安全) |
并发执行时代码依然正确 |
M10 |
增长期 |
| 44 |
Backpressure(背压) |
消费者跟不上时让生产者放慢 |
M07 |
增长期 |
| 45 |
Autoscaling(自动扩缩容) |
自动增减容量 |
M09 |
规模化 |
| 46 |
Horizontal Scaling(水平扩展) |
加机器 |
M09 |
规模化 |
| 47 |
Vertical Scaling(垂直扩展) |
换更大的机器 |
M09 |
增长期 |
| 48 |
CDN |
从离用户近的节点提供静态内容 |
M09 |
现在 |
| 49 |
Edge Caching(边缘缓存) |
在 CDN 上缓存动态响应 |
M09 |
增长期 |
| 50 |
Cache Invalidation(缓存失效) |
判断缓存数据何时已过期 |
M09 |
增长期 |
| 51 |
Feature Flags(功能开关) |
不用重新部署就能开关代码路径 |
M11 |
增长期 |
| 52 |
Blue-Green Deployment(蓝绿部署) |
两套环境,瞬间切换流量 |
M11 |
规模化 |
| 53 |
Canary Releases(金丝雀发布) |
先发布给一小部分(%)用户 |
M11 |
规模化 |
| 54 |
Rolling Deployments(滚动部署) |
逐步替换实例 |
M11 |
增长期 |
| 55 |
Rollbacks(回滚) |
快速回到上一个正常版本 |
M11 |
现在 |
| 56 |
Health Checks(健康检查) |
一个说“我没问题”的端点 |
M12 |
现在 |
| 57 |
Liveness & Readiness Probes(存活与就绪探针) |
“我还活着吗?”与“我能接流量吗?” |
M12 |
增长期 |
| 58 |
Monitoring(监控) |
盯住已知的信号 |
M12 |
现在 |
| 59 |
Logging(日志) |
结构化的事件记录 |
M12 |
现在 |
| 60 |
Distributed Tracing(分布式追踪) |
跟踪一个请求穿过多个服务的全过程 |
M12 |
增长期 |
| 61 |
Metrics(指标) |
数值型时间序列(速率、错误、耗时) |
M12 |
增长期 |
| 62 |
Alerts(告警) |
用户受影响时呼叫人来处理 |
M12 |
现在 |
| 63 |
SLOs |
可靠性目标,例如 99.9% 的请求正常 |
M12 |
增长期 |
| 64 |
SLIs |
SLO 背后实际测量的指标 |
M12 |
增长期 |
| 65 |
Error Budgets(错误预算) |
允许的不可靠程度,把它花在发布上 |
M12 |
规模化 |
| 66 |
Observability(可观测性) |
能对运行中的系统提出新问题 |
M12 |
增长期 |
| 67 |
Secrets Management(密钥管理) |
密钥绝不出现在代码、前端或日志里 |
M05 |
现在 |
| 68 |
IAM |
谁/什么可以对哪个资源执行哪种操作 |
M05 |
现在 |
| 69 |
OAuth |
委托授权标准 |
M05 |
现在 |
| 70 |
JWT Rotation(JWT 轮换) |
短时效 token,定期轮换签名密钥 |
M05 |
增长期 |
| 71 |
TLS |
加密且经过认证的连接 |
M02 |
现在 |
| 72 |
Encryption at Rest(静态加密) |
磁盘和备份上的数据加密 |
M05 |
现在 |
| 73 |
Encryption in Transit(传输加密) |
线路上的数据加密,内部流量也不例外 |
M02 |
现在 |
| 74 |
WAF |
过滤恶意 HTTP 流量 |
M05 |
增长期 |
| 75 |
DDoS Protection(DDoS 防护) |
扛住洪水般的流量 |
M05 |
增长期 |
| 76 |
CORS |
浏览器规定哪些源可以调用你的 API |
M05 |
现在 |
| 77 |
CSRF |
诱骗已登录的浏览器替攻击者操作 |
M05 |
现在 |
| 78 |
SQL Injection(SQL 注入) |
输入被当作 SQL 执行 |
M05 |
现在 |
| 79 |
XSS |
输入在其他用户的浏览器里被当作脚本执行 |
M05 |
现在 |
| 80 |
SSRF |
服务器被诱骗去请求内部 URL |
M05 |
现在 |
| 81 |
Database Migrations(数据库迁移) |
有版本、可脚本化的 schema 变更 |
M03 |
现在 |
| 82 |
Schema Versioning(Schema 版本管理) |
新旧代码能与同一 schema 共存 |
M03 |
增长期 |
| 83 |
Disaster Recovery(灾难恢复) |
针对整个区域或供应商失效的预案,以及 RPO/RTO |
M13 |
增长期 |
| 84 |
Backups(备份) |
已经验证过能恢复的副本 |
M13 |
现在 |
| 85 |
Failover(故障转移) |
自动切换到备用系统 |
M13 |
规模化 |
| 86 |
Multi-Region Deployment(多区域部署) |
在多个地理区域运行 |
M13 |
规模化 |
| 87 |
Chaos Engineering(混沌工程) |
主动注入故障来学习 |
M13 |
规模化 |
| 88 |
Cost Optimization(成本优化) |
花费与价值匹配,设置支出上限 |
M09 |
现在 |
| 89 |
Cold Starts(冷启动) |
Serverless 函数被唤醒时的延迟 |
M09 |
增长期 |
| 90 |
Serverless Limits(Serverless 限制) |
超时、内存、负载大小、并发上限 |
M09 |
现在 |
| 91 |
Latency(延迟) |
单个请求耗费的时间 |
M02 |
现在 |
| 92 |
Throughput(吞吐量) |
系统每秒能处理的请求数 |
M02 |
增长期 |
| 93 |
P99 Latency(P99 延迟) |
最慢的那 1% 请求 |
M02 |
增长期 |
| 94 |
Tail Latency(尾延迟) |
为什么慢的长尾主导了用户体验 |
M02 |
增长期 |
| 95 |
Network Partitions(网络分区) |
系统的各部分之间无法通信 |
M10 |
规模化 |
| 96 |
Clock Skew(时钟偏移) |
各台机器对当前时间的看法不一致 |
M10 |
规模化 |
| 97 |
DNS |
域名到地址的解析,TTL,生效传播 |
M02 |
现在 |
| 98 |
TCP vs UDP |
可靠有序的字节流 vs 快速的数据报 |
M02 |
规模化 |
| 99 |
HTTP/2 & HTTP/3 |
多路复用;基于 UDP 的 QUIC |
M02 |
规模化 |
| 100 |
gRPC |
基于 HTTP/2 的强类型二进制 RPC |
M04 |
规模化 |
| 101 |
Webhooks |
服务器到服务器的回调,务必校验签名 |
M08 |
现在 |
| 102 |
API Versioning(API 版本管理) |
修改 API 而不破坏客户端 |
M04 |
增长期 |
| 103 |
Semantic Versioning(语义化版本) |
MAJOR.MINOR.PATCH 各自的含义 |
M04 |
增长期 |
| 104 |
Infrastructure as Code(基础设施即代码) |
用有版本的文件定义基础设施 |
M11 |
增长期 |
| 105 |
Terraform |
最常用的 IaC 工具(有 OpenTofu 分支) |
M11 |
规模化 |
| 106 |
Helm Charts |
打包好的 Kubernetes 应用 |
M11 |
规模化 |
| 107 |
Build Caching(构建缓存) |
复用构建产物来加速 CI |
M11 |
规模化 |
| 108 |
Dependency Hell(依赖地狱) |
相互冲突、存在漏洞或被 AI 臆造出来的包 |
M11 |
现在 |
| 109 |
Production Incidents(生产事故) |
此刻有东西坏了,用户正受影响 |
M13 |
现在 |
| 110 |
On-Call(值班) |
谁来响应、多快响应、按哪份 runbook 处理 |
M13 |
增长期 |
| 111 |
Postmortems(事后复盘) |
事故后不追责的复盘学习 |
M13 |
增长期 |