MCU 上的 AI 推理功耗：从毫瓦到微瓦的极限压缩之路

MCU 上的 AI 推理功耗：从毫瓦到微瓦的极限压缩之路

一、电池寿命的算力悖论：AI 推理与功耗的零和博弈

在可穿戴设备和无线传感器节点上部署 AI 推理时，工程师面临一个残酷的算力悖论：推理精度要求更多的 MAC 运算，而每次 MAC 运算消耗约 0.5-2pJ（28nm 工艺），一个 100K 参数的 INT8 模型单次推理需要约 200K 次 MAC，直接功耗约 0.1-0.4mW——这仅是计算核心的动态功耗，尚未计入 SRAM 读取（约 5pJ/byte）和 DMA 传输的开销。

在纽扣电池（CR2032，220mAh @ 3V）供电的场景下，系统平均功耗必须控制在 25uW 以内才能维持 1 年续航。而一块 STM32L4 在 80MHz 全速运行时，核心功耗约 5.6mW，是预算的 224 倍。这意味着 AI 推理不能持续运行，必须在极短的时间窗口内完成推理，然后迅速进入深度睡眠模式。推理占空比（Duty Cycle）的计算成为系统设计的核心：若推理耗时 10ms，周期 1 秒，占空比为 1%，平均功耗约 56uW——仍然超标。必须将推理时间压缩到 2ms 以内，或延长推理周期到 5 秒以上。

二、MCU 功耗模型与 AI 推理的能耗分解

2.1 动态功耗与静态功耗的构成

MCU 的总功耗由动态功耗和静态功耗两部分组成：

$$P_{total} = P_{dynamic} + P_{static} = alpha cdot C cdot V^2 cdot f + V cdot I_{leak}$$

其中 $alpha$ 为翻转率，$C$ 为负载电容，$V$ 为供电电压，$f$ 为时钟频率，$I_{leak}$ 为漏电流。动态功耗与电压平方成正比，与频率线性成正比。因此，降压是降低动态功耗最有效的手段——从 3.3V 降至 1.8V，动态功耗降低约 70%。

2.2 AI 推理的能耗分解

graph LR
    subgraph 单次推理能耗分解
        A[总能耗 100%] --> B[计算核心 35%]
        A --> C[SRAM 读取 40%]
        A --> D[Flash 取指 15%]
        A --> E[外设与 DMA 10%]
    end
    subgraph 优化路径
        F[模型剪枝 -30% 计算] --> B
        G[权重缓存至 SRAM -80% Flash] --> D
        H[INT4 量化 -50% SRAM] --> C
        I[推理后深度睡眠] --> J[静态功耗占主导]
    end
    subgraph 功耗状态机
        K[Stop2 模式 0.4uA] -->|唤醒| L[Run 模式 1.7mA]
        L -->|推理完成| M[LPRun 模式 0.1mA]
        M -->|数据上传| N[Radio TX 15mA]
        N -->|发送完成| K
    end

2.3 STM32L4 功耗模式与唤醒延迟

关键发现：Stop2 模式下 SRAM2 保持数据，唤醒延迟仅 3.5us。这意味着可以将模型权重预加载到 SRAM2，在 Stop2 模式下保持权重不丢失，唤醒后直接开始推理，省去从 Flash 加载权重的时间。Flash 读取在 80MHz 下约 5ns/word，100K 参数的模型加载需约 50us——看似不多，但在 2ms 推理周期中占比 2.5%，不可忽略。

三、TFLite Micro 低功耗推理框架与动态电压频率调节实现

3.1 模型量化与剪枝的联合优化

// TFLite Micro 推理引擎：针对 STM32L4 优化
#include "tensorflow/lite/micro/micro_interpreter.h"
#include "tensorflow/lite/micro/system_setup.h"
// 模型常量定义
constexpr int kTensorArenaSize = 32 * 1024;  // 32KB 推理缓冲区
uint8_t tensor_arena[kTensorArenaSize];
class LowPowerInferenceEngine {
public:
    bool init(const uint8_t* model_data) {
        // 加载 INT8 量化模型
        model_ = tflite::GetModel(model_data);
        // 配置 INT8 算子注册
        static tflite::MicroMutableOpResolver<10> resolver;
        resolver.AddConv2D();
        resolver.AddDepthwiseConv2D();
        resolver.AddAdd();
        resolver.AddRelu6();
        resolver.AddReshape();
        resolver.AddSoftmax();
        resolver.AddAveragePool2D();
        resolver.AddFullyConnected();
        resolver.AddQuantize();
        resolver.AddDequantize();
        // 创建解释器
        interpreter_ = new tflite::MicroInterpreter(
            model_, resolver, tensor_arena, kTensorArenaSize);
        // 分配张量内存
        if (interpreter_->AllocateTensors() != kTfLiteOk) {
            return false;
        }
        input_ = interpreter_->input(0);
        output_ = interpreter_->output(0);
        return true;
    }
    // 带功耗测量的推理接口
    // 通过 GPIO 引脚翻转标记推理起止时间
    TfLiteStatus infer(const int8_t* input_data, int8_t* output_data,
                       uint32_t* inference_time_us) {
        // 标记推理开始（GPIO 高电平，用于功耗测量）
        HAL_GPIO_WritePin(GPIOA, GPIO_PIN_0, GPIO_PIN_SET);
        // 复制输入数据到模型输入张量
        memcpy(input_->data.int8, input_data,
               input_->bytes);
        auto start = DWT->CYCCNT;  // 使用 DWT 周期计数器精确计时
        // 执行推理
        TfLiteStatus status = interpreter_->Invoke();
        uint32_t cycles = DWT->CYCCNT - start;
        *inference_time_us = cycles / (SystemCoreClock / 1000000);
        // 复制输出数据
        memcpy(output_data, output_->data.int8,
               output_->bytes);
        // 标记推理结束
        HAL_GPIO_WritePin(GPIOA, GPIO_PIN_0, GPIO_PIN_RESET);
        return status;
    }
private:
    const tflite::Model* model_;
    tflite::MicroInterpreter* interpreter_;
    TfLiteTensor* input_;
    TfLiteTensor* output_;
};

3.2 动态电压频率调节（DVFS）策略

// STM32L4 DVFS 实现：推理时升频，待机时降频
typedef enum {
    PERF_MODE_HIGH,    // 80MHz, Range1, 推理阶段
    PERF_MODE_LOW,     // 2MHz, LPRun, 数据预处理
    PERF_MODE_STOP2    // Stop2, 待机
} perf_mode_t;
void set_performance_mode(perf_mode_t mode) {
    switch (mode) {
    case PERF_MODE_HIGH:
        // 从 Stop2 唤醒后需要先恢复时钟
        // 切换至 HSI 16MHz，再通过 PLL 倍频至 80MHz
        __HAL_RCC_HSI_ENABLE();
        while (__HAL_RCC_GET_FLAG(RCC_FLAG_HSIRDY) == RESET);
        // 配置 PLL: HSI/1 * 10 = 80MHz
        MODIFY_REG(RCC->PLLCFGR,
                   RCC_PLLCFGR_PLLM | RCC_PLLCFGR_PLLN | RCC_PLLCFGR_PLLR,
                   (0 << RCC_PLLCFGR_PLLM_Pos) |   // M=1
                   (10 << RCC_PLLCFGR_PLLN_Pos) |   // N=10
                   (0 << RCC_PLLCFGR_PLLR_Pos));    // R=2
        __HAL_RCC_PLL_ENABLE();
        while (__HAL_RCC_GET_FLAG(RCC_FLAG_PLLRDY) == RESET);
        // 切换系统时钟至 PLL
        __HAL_RCC_SYSCLK_CONFIG(RCC_SYSCLKSOURCE_PLLCLK);
        // 电压范围 1（支持 80MHz）
        MODIFY_REG(PWR->CR1, PWR_CR1_VOS, PWR_REGULATOR_VOLTAGE_SCALE1);
        while (__HAL_PWR_GET_FLAG(PWR_FLAG_VOSRDY) == RESET);
        break;
    case PERF_MODE_LOW:
        // 切换至 MSI 2MHz，进入低功耗运行模式
        __HAL_RCC_MSI_ENABLE();
        MODIFY_REG(RCC->CR, RCC_CR_MSIRANGE,
                   RCC_CR_MSIRANGE_5 << RCC_CR_MSIRANGE_Pos);  // MSI = 2MHz
        // 电压范围 2（支持低功耗运行）
        MODIFY_REG(PWR->CR1, PWR_CR1_VOS, PWR_REGULATOR_VOLTAGE_SCALE2);
        __HAL_RCC_SYSCLK_CONFIG(RCC_SYSCLKSOURCE_MSI);
        __HAL_RCC_PLL_DISABLE();
        break;
    case PERF_MODE_STOP2:
        // 进入 Stop2 模式：SRAM2 保持，其余 SRAM 失电
        // 清除唤醒标志
        __HAL_PWR_CLEAR_FLAG(PWR_FLAG_WU);
        // 使能 SRAM2 保持
        SET_BIT(PWR->CR3, PWR_CR3_RRS_1);
        // 进入 Stop2
        MODIFY_REG(PWR->CR1, PWR_CR1_LPMS, 0x02);
        HAL_PWR_EnterSTOPMode(PWR_LOWPOWERREGULATOR_ON, PWR_STOPENTRY_WFI);
        break;
    }
}

3.3 推理占空比控制与功耗预算管理

// 推理占空比控制器：基于电池剩余电量动态调整
typedef struct {
    float battery_voltage;          // 当前电池电压
    uint32_t inference_interval_ms; // 推理间隔
    uint32_t inference_count;       // 累计推理次数
    float energy_budget_mwh;        // 剩余能量预算
} PowerBudget_t;
// 根据电池状态调整推理策略
void adjust_inference_policy(PowerBudget_t* budget) {
    // CR2032 放电曲线：2.8V 以下容量不足 10%
    if (budget->battery_voltage < 2.8f) {
        // 极低电量：每 30 秒推理一次，使用 INT4 精简模型
        budget->inference_interval_ms = 30000;
    } else if (budget->battery_voltage < 3.0f) {
        // 低电量：每 10 秒推理一次
        budget->inference_interval_ms = 10000;
    } else {
        // 正常电量：每 2 秒推理一次
        budget->inference_interval_ms = 2000;
    }
    // 计算当前配置下的预期续航时间
    // 单次推理能耗 = 推理时间 * 运行电流 * 电压
    float inference_energy_uwh =
        (2.0f * 1.7f * 3.3f) / 1000.0f;  // 2ms * 1.7mA * 3.3V ≈ 11.2uWh
    // 待机能耗 = 间隔时间 * 待机电流 * 电压
    float sleep_energy_uwh =
        (budget->inference_interval_ms / 1000.0f * 0.0004f * 3.0f);
    float total_energy_per_cycle_uwh = inference_energy_uwh + sleep_energy_uwh;
    float cycles_per_hour = 3600000.0f / budget->inference_interval_ms;
    float energy_per_hour_uwh = total_energy_per_cycle_uwh * cycles_per_hour;
    // 预估续航小时数
    float estimated_hours = budget->energy_budget_mwh * 1000.0f / energy_per_hour_uwh;
}

四、功耗优化的架构权衡与极限边界

4.1 模型精度与功耗的 Pareto 前沿

模型剪枝率从 50% 提升到 80% 时，推理功耗下降约 60%，但精度损失从 0.5% 急剧增加到 4%。50% 剪枝率是 Pareto 前沿的拐点——继续剪枝获得的功耗收益不足以弥补精度损失。在电池供电场景中，这个拐点可能需要前移到 30% 剪枝率，因为精度的微小下降可能导致误判率上升，间接增加无线传输次数，反而增加系统总功耗。

4.2 SRAM 保持功耗的隐性成本

Stop2 模式下 SRAM2 保持数据的功耗约 0.15uA（8KB），但 32KB 的推理缓冲区无法完全放入 SRAM2（仅 16KB）。剩余权重必须从 Flash 重新加载，每次加载耗时约 50us，消耗约 0.28uJ。如果推理周期为 2 秒，Flash 加载的年均能耗约 4.4mJ，看似微不足道，但在 10 年寿命的工业传感器场景中，累计约 44J，占 CR2032 总能量（2376J）的 1.8%。

4.3 无线传输的功耗黑洞

AI 推理的功耗优化往往被无线传输环节击溃。一次 BLE 传输（10 字节数据，TX 功率 0dBm）约消耗 15mA * 3ms = 45uC，等效能量 0.135mJ。而一次 INT8 推理仅消耗约 0.011mJ。传输一次数据的能耗是推理的 12 倍。因此，"在边缘端推理、仅传输结果"的策略不仅是延迟优化，更是功耗优化的核心——将原始数据上传到云端处理，无线传输的能耗将使电池在数天内耗尽。

4.4 适用边界

本文的功耗优化策略适用于 STM32L4/L5 等低功耗 MCU 上的轻量级推理（100K 参数以内）。对于需要 1M+ 参数模型的场景（如语音识别），MCU 的 SRAM 容量不足，必须外挂 SRAM，功耗将增加一个数量级，上述优化策略不再适用。此外，工业级温度范围（-40°C 至 85°C）下，MCU 的漏电流显著增加，Stop2 模式的实际功耗可能比数据手册标称值高 3-5 倍。

五、总结

MCU 上的 AI 推理功耗优化是一个系统工程，不能仅关注计算核心，必须从模型、硬件、调度三个层面协同优化。核心要点归纳如下：

第一，推理占空比是功耗控制的核心杠杆。将推理时间压缩到 2ms 以内、推理周期延长到 2 秒以上，才能将平均功耗控制在 25uW 的电池预算内。

第二，Stop2 模式 + SRAM2 权重保持是最有效的待机策略。3.5us 的唤醒延迟几乎不影响推理实时性，而 0.4uA 的待机电流使长期部署成为可能。

第三，INT8 量化是功耗优化的基础，但不是终点。INT4 量化在权重存储上节省 50%，但部分算子（如 Depthwise 卷积）在 INT4 下的精度损失不可接受，需要混合位宽策略。

第四，无线传输是系统功耗的最大黑洞。边缘推理的价值不仅在于降低延迟，更在于避免原始数据的无线传输，从而将系统功耗降低一个数量级。

落地路线：先用 TFLite Micro 完成 INT8 推理验证，测量实际推理时间和功耗；然后实现 DVFS 策略，将推理与待机模式切换自动化；最后根据电池容量和目标续航，计算推理占空比上限，动态调整推理频率。每一步都必须用功耗分析仪实测验证，不能依赖数据手册的理论值。