Keras 是 Python 深度学习领域核心的高阶神经网络 API。自现代演进以来,Keras 不仅深度整合为 tf.keras,并在 Keras 3 中全面支持 TensorFlow、PyTorch、JAX 三大后端计算引擎无缝切换(只需在导入前指定 os.environ["KERAS_BACKEND"] = "torch")。
Keras 建模的标准流水线:
$$\text{构建模型拓扑 (Architecture)} \longrightarrow \text{编译配置 (Compile)} \longrightarrow \text{迭代拟合 (Fit)} \longrightarrow \text{评估与推断 (Predict)}$$
🔗 关联矩阵速查:NumPy 速查表 · Pandas 速查表 · Scikit-Learn 速查表 · 监督学习算法速查表 · AI 核心算法全景指南 · Python 速查表
1. 端到端快速上手闭环示例
以下示例演示从合成数据、构建序贯网络、编译损失与优化器、应用早停机制训练,到预测输出的完整流程:
import numpy as np
import keras
from keras import layers, callbacks
# 1. 准备数据 (二分类任务)
X_train = np.random.random((1000, 20))
y_train = np.random.randint(2, size=(1000, 1))
X_val = np.random.random((200, 20))
y_val = np.random.randint(2, size=(200, 1))
# 2. 声明式构建网络拓扑 (Sequential)
model = keras.Sequential([
layers.Input(shape=(20,)), # 显式输入形状
layers.Dense(64, activation='relu'),
layers.Dropout(0.3),
layers.Dense(32, activation='relu'),
layers.Dense(1, activation='sigmoid') # 二分类输出层
])
# 3. 编译配置 (学习率需使用 learning_rate 参数)
model.compile(
optimizer=keras.optimizers.Adam(learning_rate=1e-3),
loss='binary_crossentropy',
metrics=['accuracy', keras.metrics.AUC(name='auc')]
)
# 4. 挂载回调函数并训练
early_stop = callbacks.EarlyStopping(monitor='val_loss', patience=3, restore_best_weights=True)
history = model.fit(
X_train, y_train,
epochs=20,
batch_size=32,
validation_data=(X_val, y_val),
callbacks=[early_stop],
verbose=1
)
# 5. 现代推断预测 (废弃已移除的 predict_classes)
y_prob = model.predict(X_val) # 输出连续概率值 [0, 1]
y_pred = (y_prob > 0.5).astype("int32") # 二分类硬标签判定
print("验证集准确率:", model.evaluate(X_val, y_val, verbose=0)[1])
2. 两种核心模型构建范式
2.1 序贯模型(Sequential:适合单链结构)
from keras import Sequential, layers
model = Sequential([
layers.Input(shape=(784,)),
layers.Dense(256, activation='relu'),
layers.BatchNormalization(),
layers.Dropout(0.2),
layers.Dense(10, activation='softmax')
])
2.2 函数式 API(Functional API:工业实战标准推荐)
函数式 API 允许构建任意拓扑网络,如残差连接(ResNet 跳跃连接)、多输入/多输出网络以及特征层共享:
from keras import layers, Model
# 定义多输入或残差结构
inputs = layers.Input(shape=(64, 64, 3), name="image_input")
# 主干卷积抽取
x = layers.Conv2D(32, (3, 3), padding='same', activation='relu')(inputs)
residual = x # 保存跳跃连接分支
x = layers.Conv2D(32, (3, 3), padding='same', activation='relu')(x)
x = layers.add([x, residual]) # 残差相加 (Skip Connection)
x = layers.MaxPooling2D((2, 2))(x)
x = layers.GlobalAveragePooling2D()(x)
# 两个并行预测头 (多任务输出)
category_out = layers.Dense(10, activation='softmax', name="category")(x)
regression_out = layers.Dense(1, name="price")(x)
# 组装完整端到端模型
model = Model(inputs=inputs, outputs=[category_out, regression_out], name="multi_task_net")
model.summary()
3. 常用网络层速查表(keras.layers)
| 层级分类 | 核心层类名 | 典型构造语法 | 说明与关键参数 |
|---|---|---|---|
| 基础密集 | Dense | layers.Dense(units=128, activation='relu') | 全连接层,use_bias=True, kernel_regularizer |
| 正则化 | Dropout | layers.Dropout(rate=0.3) | 训练期随机置 0,防过拟合(推理自动关闭) |
| 归一化 | BatchNormalization | layers.BatchNormalization() | 批归一化,加速收敛并缓解梯度消失 |
| 归一化 | LayerNormalization | layers.LayerNormalization() | 层归一化(RNN / Transformer 架构标配) |
| 二维卷积 | Conv2D | layers.Conv2D(64, (3, 3), padding='same', activation='relu') | 空间卷积特征提取,strides=(1, 1) |
| 二维池化 | MaxPooling2D | layers.MaxPooling2D(pool_size=(2, 2)) | 空间最大降采样,下采样特征图 |
| 全局池化 | GlobalAveragePooling2D | layers.GlobalAveragePooling2D() | 替代庞大的 Flatten 全连接,显著降低参数量 |
| 词嵌入 | Embedding | layers.Embedding(input_dim=10000, output_dim=128) | 离散 Token 稠密向量映射(NLP / 推荐召回) |
| 循环网络 | LSTM / GRU | layers.LSTM(units=64, return_sequences=True) | 捕捉长距离时序依赖,recurrent_dropout=0.1 |
| 双向包裹 | Bidirectional | layers.Bidirectional(layers.GRU(64)) | 前后双向语义上下文融合 |
4. 数据预处理与实用工具(keras.utils)
from keras import utils
# 1. 序列等长填充 (截断与补齐,NLP 核心)
padded_seqs = utils.pad_sequences(
sequences,
maxlen=100, # 统一序列长度
padding='post', # 在尾部补零 (默认 'pre' 前部补零)
truncating='post' # 超过 maxlen 在尾部截断
)
# 2. 类别标签独热编码 (One-Hot Encoding)
y_one_hot = utils.to_categorical(y_int_labels, num_classes=10)
# 3. 目录结构自动加载图像数据集 (免手动切图)
train_ds = utils.image_dataset_from_directory(
"dataset/train/",
labels='inferred',
image_size=(224, 224),
batch_size=32,
shuffle=True
)
5. 典型任务编译(Compile)配置矩阵
model.compile() 必须为优化器(optimizer)、损失函数(loss)和量化指标(metrics)建立对齐:
| 任务类型 | 推荐损失函数 (loss) | 输出层激活函数 | 常用评估指标 (metrics) | 典型场景 |
|---|---|---|---|---|
| 二分类 | 'binary_crossentropy' | sigmoid (1 个神经元) | ['accuracy', keras.metrics.AUC()] | 垃圾邮件拦截、欺诈检测、点击率预估 |
| 多分类 (One-hot 标签) | 'categorical_crossentropy' | softmax ($K$ 个神经元) | ['accuracy', 'categorical_accuracy'] | 图像 10 分类 (标签已做 to_categorical) |
| 多分类 (整数标量标签) | 'sparse_categorical_crossentropy' | softmax ($K$ 个神经元) | ['accuracy'] | NLP 词性标注、离散 ID 分类 (标签为 0~K-1) |
| 连续数值回归 | 'mse' (均方误差) / 'huber' | 线性激活(默认无激活) | ['mae', keras.metrics.RootMeanSquaredError()] | 房价预测、连续物理量估计 |
现代优化器规范声明
⚠️ 规范提示:现代 Keras 学习率参数统一为
learning_rate(已彻底弃用缩写lr),学习率衰减需使用调度器对象。
from keras import optimizers
# 1. 经典 Adam 与自适应权重衰减 AdamW
opt_adam = optimizers.Adam(learning_rate=1e-3, beta_1=0.9, beta_2=0.999)
opt_adamw = optimizers.AdamW(learning_rate=1e-3, weight_decay=1e-4)
# 2. 带动量的随机梯度下降 (SGD)
opt_sgd = optimizers.SGD(learning_rate=1e-2, momentum=0.9, nesterov=True)
# 3. 学习率指数衰减调度器 (替代过时的 decay 参数)
lr_schedule = optimizers.schedules.ExponentialDecay(
initial_learning_rate=1e-2,
decay_steps=10000,
decay_rate=0.9
)
opt_decayed = optimizers.Adam(learning_rate=lr_schedule)
6. 模型推断与硬标签生成(Predict)
⚠️ 规范提示:
model.predict_classes()早已在 Keras 2.6+ 彻底移除。现代规范标准代码如下:
# 1. 输出连续预测值 (概率或回归值)
raw_preds = model.predict(X_test, batch_size=64)
# 2. 二分类硬标签决策 (阈值判定)
binary_labels = (raw_preds > 0.5).astype("int32")
# 3. 多分类硬标签提取 (取概率最大的类别索引)
multi_labels = np.argmax(raw_preds, axis=1)
# 4. 评估测试集性能
test_loss, test_acc = model.evaluate(X_test, y_test, batch_size=64)
7. 训练生命周期监控:Callbacks 家族
回调函数可在训练周期的每个 Epoch 结束时执行特定动作:
from keras import callbacks
my_callbacks = [
# 1. 早停法:连续 4 个 Epoch 验证集损失不再下降时自动停机,并回滚到最佳权重
callbacks.EarlyStopping(
monitor='val_loss',
patience=4,
restore_best_weights=True,
verbose=1
),
# 2. 模型检查点:仅在验证准确率创新高时,自动覆写保存最佳模型
callbacks.ModelCheckpoint(
filepath='best_model.keras', # 推荐现代原生 .keras 格式
monitor='val_accuracy',
save_best_only=True,
verbose=1
),
# 3. 学习率高原自适应衰减:当验证损失连续 2 轮停滞时,学习率减半
callbacks.ReduceLROnPlateau(
monitor='val_loss',
factor=0.5,
patience=2,
min_lr=1e-6,
verbose=1
),
# 4. TensorBoard 可视化监控日志
callbacks.TensorBoard(log_dir='./logs', histogram_freq=1)
]
# 注入 fit 中
model.fit(X_train, y_train, epochs=50, callbacks=my_callbacks)
8. 模型持久化与恢复(Saving & Loading)
| 操作类型 | 现代官方推荐语法 | 适用场景与机制 |
|---|---|---|
| 完整模型保存 | model.save("model.keras") | Keras 3 官方推荐格式,包含网络拓扑、权重、优化器状态与编译信息(替代旧版 .h5) |
| 完整模型加载 | loaded = keras.models.load_model("model.keras") | 一键免编译恢复全部推断与续训状态 |
| 仅保存权重 | model.save_weights("weights.weights.h5") | 仅持久化权重张量,体积更轻量(需先构建拓扑方可恢复) |
| 仅加载权重 | model.load_weights("weights.weights.h5") | 加载权重至相同结构的空模型中 |
| 模型拓扑导出 | config = model.get_config() | 导出为 Python 字典配置(支持 model_from_config(config)) |
| 参数总览检查 | model.summary() | 打印网络各层输出尺寸(Output Shape)与可训练参数总量(Trainable Params) |