GrowPIP
← 返回所有素材

INFO · info-20260121-124

HTM 网络结构：从细胞到层级

[INFO] HTM 网络结构：从细胞到层级

  • 时间: 2026-01-21
  • 类型: 引用
  • 来源: Numenta 技术文档、HTM 白皮书
  • 置信度: 9/10
  • 标签: #AI #HTM #网络结构 #神经科学 #架构

内容

整体架构：四层抽象

┌─────────────────────────────────────────────────────────┐
│                    HTM 网络层次                          │
│                                                         │
│  层次4: 层级 (Hierarchy)                                │
│         └── 多个区域组成的树状结构                        │
│                                                         │
│  层次3: 区域 (Region)                                   │
│         └── 对应大脑皮层的一个功能区                      │
│                                                         │
│  层次2: 列 (Column)                                     │
│         └── 对应皮层微柱，~80-100 神经元                 │
│                                                         │
│  层次1: 细胞 (Cell)                                     │
│         └── 每列约 20 个细胞，区分上下文                  │
└─────────────────────────────────────────────────────────┘

单个区域的结构

                HTM 区域 (Region)
┌────────────────────────────────────────────┐
│                                            │
│   列1    列2    列3    列4    ...  列n     │
│  ┌───┐  ┌───┐  ┌───┐  ┌───┐      ┌───┐   │
│  │C0 │  │C0 │  │C0 │  │C0 │      │C0 │   │
│  │C1 │  │C1 │  │C1 │  │C1 │      │C1 │   │  ← 每列多个细胞
│  │C2 │  │C2 │  │C2 │  │C2 │      │C2 │   │    (区分上下文)
│  │C3 │  │C3 │  │C3 │  │C3 │      │C3 │   │
│  └─┬─┘  └─┬─┘  └─┬─┘  └─┬─┘      └─┬─┘   │
│    │      │      │      │          │      │
│    └──────┴──────┴──────┴──────────┘      │
│              ↓                            │
│         输入 SDR                          │
│    (每列连接输入的一个子集)                 │
│                                            │
└────────────────────────────────────────────┘

层级结构（Hierarchy）

                顶层区域
               (最抽象的概念)
                   ▲
                   │
         ┌────────┴────────┐
         │                 │
      区域A             区域B
     (中层抽象)        (中层抽象)
         ▲                 ▲
         │                 │
    ┌────┴────┐       ┌────┴────┐
    │         │       │         │
  区域1     区域2    区域3     区域4
 (底层)    (底层)   (底层)    (底层)
    ▲         ▲       ▲         ▲
    │         │       │         │
   感官      感官     感官      感官
   输入      输入     输入      输入

层级特点：

  • 底层处理原始感官数据
  • 高层处理越来越抽象的表示
  • 高层可以复用低层学到的模式
  • 类似"音符 → 旋律 → 乐章"的抽象

数据流与组件

原始数据
    │
    ▼
┌─────────────┐
│ SDR 编码器  │  → 将数据转为稀疏二进制向量
└─────────────┘
    │
    ▼
┌─────────────┐
│  空间池化   │  → 生成稳定的稀疏表示
│   (SP)      │     竞争抑制 + Boosting
└─────────────┘
    │
    ▼
┌─────────────┐
│  时序记忆   │  → 学习序列，预测下一步
│   (TM)      │     细胞状态 + 突触连接
└─────────────┘
    │
    ├── 预测输出
    ├── 异常分数
    │
    ▼
┌─────────────┐
│   分类器    │  → 将内部状态映射到标签（可选）
└─────────────┘

与大脑皮层的对应

HTM 结构大脑皮层对应说明
层级 (Hierarchy)皮层区域间的连接视觉: V1→V2→V4→IT
区域 (Region)皮层功能区如 V1 视觉皮层
列 (Column)皮层微柱~80-100 神经元/微柱
细胞 (Cell)神经元HTM 只建模 L2/L3 层

重要说明：

  • 大脑皮层有 6 层（L1-L6）
  • HTM 目前只建模了 L2/L3（空间+时序特征）
  • 这是 HTM 的简化，不是完整的皮层模型

多区域连接

┌─────────────────────────────────────────────┐
│              高层区域                        │
│  ┌─────────────────────────────────────┐   │
│  │  SP → TM → 预测/异常                 │   │
│  └─────────────────────────────────────┘   │
│         ▲              ▲                    │
│         │              │                    │
│    抽象表示        反馈信号                  │
│         │              │                    │
└─────────┼──────────────┼────────────────────┘
          │              ▼
┌─────────┼──────────────┼────────────────────┐
│         │              │                    │
│  ┌──────┴──────┐  ┌────┴─────┐             │
│  │ 区域1       │  │ 区域2     │  低层区域   │
│  │ SP → TM    │  │ SP → TM  │             │
│  └──────┬──────┘  └────┬─────┘             │
│         │              │                    │
└─────────┼──────────────┼────────────────────┘
          ▲              ▲
          │              │
       感官输入1      感官输入2

HTM vs 深度学习网络结构对比

维度HTM深度学习
基本单元细胞（有状态）神经元（无状态）
连接方式稀疏、局部连接通常全连接或卷积
层级含义抽象级别特征提取深度
时序处理内置于细胞状态需要 RNN/LSTM
学习方式在线、局部批量、全局优化

关联

  • 直接相关:

    • INFO-122（HTM 技术原理）- SP/TM 算法的详细实现
    • INFO-121（千脑智能）- 千脑理论扩展了单区域到多区域协同
    • INFO-120（HTM 概念）- HTM 的整体介绍

  • 结构对照:

    • HTM 的"列"对应千脑理论的"皮层柱"
    • HTM 的层级结构是传统观点，千脑理论认为每个皮层柱都能独立建模

  • 待探索:

    • L4-L6 层的建模（当前 HTM 只建模 L2/L3）
    • 区域间反馈信号的作用机制

参考资源