14 KiB
tags, create time
| tags | create time | ||||
|---|---|---|---|---|---|
|
2026-05-24 10:00 |
Redis Bitmap 位图
概述
Bitmap 并非 Redis 的独立数据结构,而是基于 String 类型的一套位操作指令。它将一个 String 值视为一个巨大的位数组,每个 bit 只占 1 位,因此在处理大规模布尔型数据(如签到、在线状态、DAU 统计)时,内存消耗极低。一个包含 10 亿用户的 Bitmap 仅需约 125MB,这使其成为高并发场景下的利器。
正文
1. 核心原理
[!question] 为什么 Bitmap 不是一种新数据结构? 因为 Bitmap 本质上就是 String。Redis 的 String 底层是 SDS(Simple Dynamic String),存储的是字节数组。Bitmap 操作只是在这个字节数组上进行位级别的读写,不涉及新的底层结构。
Bitmap 的核心指令只有四个:
| 指令 | 作用 | 时间复杂度 |
|---|---|---|
SETBIT key offset value |
设置指定位的值(0 或 1) | O(1) |
GETBIT key offset |
获取指定位的值 | O(1) |
BITCOUNT key [start end] |
统计值为 1 的位数 | O(N),N 为字节数 |
BITOP operation destkey key [key ...] |
对多个 Bitmap 做位运算 | O(N) |
其中 BITOP 支持 AND、OR、NOT、XOR 四种位运算,用于多个 Bitmap 之间的聚合分析。
[!tip] offset 是从 0 开始的
SETBIT sign:1001 5 1表示将 keysign:1001的第 6 个 bit(offset=5)置为 1。如果 key 不存在,Redis 会自动扩展字符串长度。
2. 用户签到系统
用 Bitmap 实现签到非常直观:每个用户一个 key,每天对应一个 bit 位,签到则置 1。
// 用户签到(offset = 一年中的第几天)
func SignIn(ctx context.Context, rdb *redis.Client, userID int64, dayOfYear int) error {
key := fmt.Sprintf("sign:%d:%d", userID, time.Now().Year())
return rdb.SetBit(ctx, key, int64(dayOfYear), 1).Err()
}
// 查询某天是否签到
func IsSigned(ctx context.Context, rdb *redis.Client, userID int64, dayOfYear int) (bool, error) {
key := fmt.Sprintf("sign:%d:%d", userID, time.Now().Year())
val, err := rdb.GetBit(ctx, key, int64(dayOfYear)).Result()
return val == 1, err
}
// 本月累计签到天数(精确版:逐 bit 检查,避免字节边界误差)
func MonthSignCount(ctx context.Context, rdb *redis.Client, userID int64) (int64, error) {
key := fmt.Sprintf("sign:%d:%d", userID, time.Now().Year())
now := time.Now()
// 计算本月第一天和最后一天在年中的 day-of-year(1-based)
firstDay := time.Date(now.Year(), now.Month(), 1, 0, 0, 0, 0, time.Local).YearDay()
lastDay := time.Date(now.Year(), now.Month()+1, 0, 0, 0, 0, 0, time.Local).YearDay()
var count int64
for day := firstDay; day <= lastDay; day++ {
val, err := rdb.GetBit(ctx, key, int64(day-1)).Result() // YearDay 1-based -> offset 0-based
if err != nil {
return 0, err
}
count += val
}
return count, nil
}
[!question] 连续签到 7 天如何判断? 有两种思路:(1) 用
BITCOUNT统计最近 7 个 bit 是否全为 1;(2) 更高效的做法是用位移掩码——取出 7 位的值,判断是否等于0b1111111(即 127)。
下面是连续签到检测的示例:
// 检测最近 N 天是否连续签到
func IsContinuousSign(ctx context.Context, rdb *redis.Client, userID int64, days int) (bool, error) {
key := fmt.Sprintf("sign:%d:%d", userID, time.Now().Year())
today := time.Now().YearDay()
// 逐 bit 检查最近 N 天
for i := 0; i < days; i++ {
val, err := rdb.GetBit(ctx, key, int64(today-i)).Result()
if err != nil {
return false, err
}
if val == 0 {
return false, nil
}
}
return true, nil
}
3. DAU 统计
DAU(Daily Active Users)是 Bitmap 最经典的应用场景。思路很简单:每天一个 key,每个用户 ID 对应一个 bit 位。
// 记录用户今日活跃
func MarkActive(ctx context.Context, rdb *redis.Client, userID int64) error {
key := fmt.Sprintf("dau:%s", time.Now().Format("2006-01-02"))
return rdb.SetBit(ctx, key, userID, 1).Err()
}
// 查询今日 DAU
func GetDAU(ctx context.Context, rdb *redis.Client, date string) (int64, error) {
key := fmt.Sprintf("dau:%s", date)
return rdb.BitCount(ctx, key, nil).Result()
}
// 查询本周 UV(去重)
func GetWeeklyUV(ctx context.Context, rdb *redis.Client) (int64, error) {
destKey := "dau:weekly:tmp"
var keys []string
// 收集最近 7 天的 key
for i := 0; i < 7; i++ {
day := time.Now().AddDate(0, 0, -i).Format("2006-01-02")
keys = append(keys, fmt.Sprintf("dau:%s", day))
}
// OR 运算:任意一天活跃即算周活
err := rdb.BitOpOr(ctx, destKey, keys...).Err()
if err != nil {
return 0, err
}
return rdb.BitCount(ctx, destKey, nil).Result()
}
[!tip] BITOP OR 的去重原理 假设用户 A 在周一和周三都活跃,对应的 bit 位已经是 1。OR 运算后该位仍是 1,最终 BITCOUNT 只统计一次,天然实现了去重。这比在应用层用 Set 去重高效得多。
4. 内存计算
[!tip] Bitmap 到底有多省内存?我们来算一笔账。
假设平台有 10 亿注册用户,用户 ID 从 0 到 999,999,999。
总 bit 数 = 1,000,000,000 bits
总字节数 = 1,000,000,000 / 8 = 125,000,000 bytes ≈ 119.2 MB
对比一下其他方案存储同样 10 亿用户的信息:
| 方案 | 数据结构 | 内存消耗 |
|---|---|---|
| Bitmap | 1 bit / 用户 | ~125 MB |
| Hash(存 boolean) | ~50 bytes / 用户(含 key 开销) | ~47 GB |
| Set(存用户 ID) | ~16 bytes / 用户 | ~15 GB |
Bitmap 的内存效率比 Hash 方案低约 380 倍,这就是为什么在大规模布尔型统计场景下,Bitmap 是首选。
[!question] 为什么 Bitmap 这么省? 因为它只用 1 个 bit 来表示一个布尔值,而 Hash/Set 需要存储完整的 key 和 value。Redis String 底层 SDS 本身也有元数据开销,但分摊到数十亿个 bit 上几乎可以忽略。
5. BITFIELD:任意宽度整数操作
前面的 SETBIT/GETBIT 只能操作单个 bit(0 或 1)。但现实场景经常需要存小整数——"连续签到天数"(0127)可以用 8 位表示,"用户等级"(015)只需要 4 位。
[!question] 小整数用普通的 String key 不行吗? 当然可以,一个 key 存一个值没问题。但如果你要存 1 万个物品的库存量,就需要 1 万个 key + 1 万次网络往返。能不能把它们"打包"到一个 key 里?
BITFIELD 就是为了解决这个问题——它把一个 String 当作一个连续的 bit 流,在任意 bit 偏移处读写指定宽度的整数。
5.1 内存布局:一个 key 怎么存多个整数?
假设我们要在一个 key 里存储 3 个字段:等级(u4)、经验值(u16)、签到天数(u8)。
block-beta
columns 28
block:LVL:4
A["u4 等级"]
end
block:EXP:16
B["u16 经验值"]
end
block:SIGN:8
C["u8 签到天数"]
end
style LVL fill:#f9a825,color:#000
style EXP fill:#42a5f5,color:#fff
style SIGN fill:#66bb6a,color:#fff
它们在内存中是紧挨着排列的:
bit 偏移: 0 4 20 28
┌───┬───────────────────┬───────────┐
│u4 │ u16 │ u8 │
│等级│ 经验值 │ 签到天数 │
└───┴───────────────────┴───────────┘
4 bit 16 bit 8 bit
对应 Redis 命令:
# 一次性读写三个字段,只需一次网络往返
BITFIELD user:1001 SET u4 0 10 SET u16 4 5200 SET u8 20 15
BITFIELD user:1001 GET u4 0 GET u16 4 GET u8 20
[!important] offset 是 bit 偏移,不是"第几个字段"
SET u16 4的意思是"从第 4 个 bit 开始写入一个 u16 整数"。字段 1(u4)占了 bit 0~3,所以字段 2 从 bit 4 开始。计算偏移是使用者的职责。
5.2 子指令速查
| 子指令 | 作用 | 示例 |
|---|---|---|
GET type offset |
从 offset 位读取一个 type 宽度的整数 | BITFIELD k GET u8 0 → 读取 bit 0~7 |
SET type offset value |
从 offset 位写入一个整数 | BITFIELD k SET u8 0 255 |
INCRBY type offset increment |
从 offset 位读取整数 + increment 后写回 | BITFIELD k INCRBY u8 0 1 |
type 格式:u(无符号)或 i(有符号)+ 位宽(1~64)
| type | 范围 | 说明 |
|---|---|---|
u8 |
0 ~ 255 | 无符号,适合存储天数、等级 |
u16 |
0 ~ 65,535 | 无符号,适合存储经验值、库存量 |
i8 |
-128 ~ 127 | 有符号,适合存储温度、偏差值 |
i32 |
-2^31 ~ 2^31-1 | 有符号,适合存储金额(分为单位) |
5.3 溢出控制:OVERFLOW
INCRBY 自增时如果超出 type 范围怎么办?Redis 提供了三种策略:
| 策略 | 行为 | 适用场景 |
|---|---|---|
WRAP |
回绕溢出(默认) | 循环计数器 |
SAT |
饱和到最大/最小值后停止 | 库存量、经验值上限 |
FAIL |
拒绝自增,返回 nil | 需要精确控制的业务 |
# 经验值上限 65535,满了就饱和不动
BITFIELD user:1001 OVERFLOW SAT INCRBY u16 4 100
# 库存扣减,不足时不扣(返回 nil 表示扣减失败)
BITFIELD stock:item:5001 OVERFLOW FAIL INCRBY i16 0 -1
[!question] 想想看 为什么默认是 WRAP 而不是 SAT?因为
BITFIELD的设计初衷是模拟硬件整数行为(CPU 的整数溢出就是回绕的),SAT/FAIL 是后来为业务场景添加的"安全模式"。
5.4 实战:物品背包系统
一个 RPG 游戏的背包,每个物品存数量(u8,最多 255 个)。背包有 50 个槽位,全部打包进一个 key。
// 背包槽位宽度
const slotBits = 8 // u8,每个槽位 8 bit
// 设置某个槽位的物品数量
func SetSlot(ctx context.Context, rdb *redis.Client, bagKey string, slot int, count int) error {
offset := slot * slotBits
// BITFIELD bag:1001 SET u8 0 10
_, err := rdb.BitField(ctx, bagKey, "SET", "u8", strconv.Itoa(offset), strconv.Itoa(count)).Result()
return err
}
// 读取某个槽位的物品数量
func GetSlot(ctx context.Context, rdb *redis.Client, bagKey string, slot int) (int64, error) {
offset := slot * slotBits
vals, err := rdb.BitField(ctx, bagKey, "GET", "u8", strconv.Itoa(offset)).Result()
if err != nil {
return 0, err
}
return vals[0], nil
}
// 增加物品(带溢出保护)
func IncrSlot(ctx context.Context, rdb *redis.Client, bagKey string, slot int, delta int) (int64, error) {
offset := slot * slotBits
// 一次性发送:溢出策略 + 自增,单次网络往返
vals, err := rdb.BitField(ctx, bagKey,
"OVERFLOW", "SAT",
"INCRBY", "u8", strconv.Itoa(offset), strconv.Itoa(delta),
).Result()
if err != nil {
return 0, err
}
return vals[0], nil
}
[!tip] 一次 BITFIELD 调用可以包含多条子指令 Redis 会把它们当作一个原子事务依次执行。背包里的 50 个槽位可以在一次
BITFIELD调用中全部读取,只需 1 次网络往返(而非 50 次)。
5.5 BITFIELD vs 多个 key 怎么选?
flowchart TD
A{"需要存小整数?"} -->|是| B{"数量多且结构相同?"}
B -->|是, 如背包/库存表| C["BITFIELD 打包到一个 key"]
B -->|否, 如用户余额/积分| D["普通 String/Hash key"]
A -->|否, 布尔值| E["SETBIT/GETBIT"]
style C fill:#66bb6a,color:#fff
style D fill:#42a5f5,color:#fff
style E fill:#f9a825,color:#000
| 维度 | BITFIELD 单 key | 多个 String key |
|---|---|---|
| 网络往返 | 1 次读写 N 个字段 | N 次 |
| 过期管理 | 整个 key 统一过期 | 每个 key 独立过期 |
| 单字段更新 | 只影响对应 bit 区间 | 只影响对应 key |
| 适用规模 | 几十个到几万个同类字段 | 字段少或结构各异 |
6. Bitmap vs Set vs HyperLogLog 对比
| 特性 | Bitmap | Set | HyperLogLog |
|---|---|---|---|
| 底层结构 | String(位数组) | Hashtable / Ziplist | 概率算法 |
| 单条数据内存 | 1 bit | 16~50 bytes | 固定 12 KB |
| 精确度 | 精确 | 精确 | 误差 ~0.81% |
| 支持操作 | 位运算、计数 | 集合运算、随机取 | 仅计数 |
| 适用场景 | 签到、DAU、布隆过滤器 | 精确集合运算 | 超大规模基数估算 |
| 数据量上限 | 受 String 最大 512 MB 限制(约 40 亿 bit) | 受内存限制 | 固定 12 KB |
[!question] 该选哪个?
- 需要精确统计 + 数据是布尔型(在线/签到/活跃) -> Bitmap
- 需要精确集合运算(交集、差集) -> Set
- 只需要统计基数(UV/PV),允许 0.81% 误差 -> HyperLogLog
7. 签到系统流程
flowchart TD
A["用户发起签到请求"] --> B["计算当日 offset"]
B --> C["SETBIT sign:uid:year offset 1"]
C --> D["签到成功"]
D --> E{"查询本月签到?"}
E -->|是| F["BITCOUNT 计算本月签到天数"]
E -->|否| G{"检查连续签到?"}
G -->|是| H["逐 bit 检查最近 N 天"]
G -->|否| I["返回结果"]
F --> I
H --> I