98%！
作者 | AI 菌
出品 | CSDN博客
头图 | CSDN付费下载⾃视觉中国
前⾔
笔者在实现ResNet的过程中，由于电脑性能原因，不得不选择层数较少的ResNet-18进⾏训练。但是很快发现，虽然只有18层，传统的训练⽅法仍然很耗时，甚⾄难以完成对101层的ResNet-101的训练。
出于这个原因，这⼀次，我将采⽤⼀种巧妙的⽅法——迁移学习来实现。即在预训练模型的基础上，采⽤101层的深度残差⽹络ResNet-101，对如下图所⽰的花数据集进⾏训练，快速实现了对原始图像的分类和预测，最终预测精确度达到了惊⼈的98%。
迁移学习
(1) 迁移学习简介
什么是迁移学习呢？百度词条给出了⼀个简明的定义：迁移学习是⼀种机器学习⽅法，就是把为任务 A 开发的模型作为初始点，重新使⽤在为任务 B 开发模型的过程中。以我们的图像分类任务为例：
假如任务A的任务是猫狗分类，任务B是要对⽼虎、狮⼦进⾏分类。可以发现，任务 A 和任务 B 存在⼤量的共享知识，⽐如这些动物都可以从⽑发，体型，形态等⽅⾯进⾏辨别。因此在已经存在⼀个针对任务A训练好的模型前提下，在训练任务B的模型时，我们可以不从零开始训练，⽽是基于在任务 A 上获得的知识再进⾏训练。在这⾥，针对A任务已经训练好的模型参数称之为：预训练模型。
这和“站在巨⼈的肩膀上”的思想⾮常类似。通过迁移任务 A 的知识，在任务 B 上训练分类器可以使⽤更少的样本，更少的训练代价来获得不错的泛化能⼒。
(2) 迁移学习原理
为了更清楚地解释迁移学习的原理，下⾯借⼀张有意思的图进⾏表达：
这是⼀个很常见的分类⽹络结构图，LeNet-5、AlexNet、VGG系列、GoogLeNet等都是基于这种多个卷积层+全连接层的结构来实现的。
图中，Conv1、Conv2…ConvN指的就是N个卷积层，⽤来提取图像不同层次的特征。其中，浅层的Conv1、Conv2等来提取图像的浅层特征，⽐如：⾓点、纹理、明亮等；深层的ConvN-1、ConvN等来提取的是图像更为抽象的特征，⽐如：眼睛、⿐⼦、嘴巴、肢体等。⽽Dense层指的是全连接层，⽤来对已学得的特征进⾏组合，从⽽学会了如何分辨⼈、汽车、猫、狗等。
(3) 迁移学习的优势
迁移学习的优势也很明显，主要有以下两点：
1.由于是在预训练模型的基础上再进⾏训练，因此训练时间⼤⼤缩短，⽽且结果⼀般也⽐较理想。
2.当数据集较少时，也能训练出理想的效果。
(4) 常见的形式
常见的迁移学习⽅式有以下三种：
1.载⼊预训练模型后，训练所有的参数。
2.载⼊预训练模型后，只训练最后⼏个全连接层的参数。
3.载⼊预训练模型后，在原⽹络结构的基础之上再添加⼀层全连接层，仅训练最后⼀个全连接层。
预训练模型
在上⽂中，所说的针对任务A已经训练好的模型就是预训练模型。那么在此预训练模型的基础之上，就可以继续训练任务B的模型参数了。
(1) 预训练模型的获取
由于我们本次要对101层的ResNet-100进⾏训练，因此我们可以在ResNet-101的预训练模型的基础上，再来训练针对⾃⼰任务的模型参数。对于很多经典的深度神经⽹路，⽹上都会有很多官⽅的预训练模型。
下⾯绿⾊框代表的就是我们需要下载的版本：ResNet_v1_101
作为暖男的我，当然也考虑到有些同学可能出现github下载慢的问题，那么你可以选择从我的百度⽹盘下载：ResNet-101预训练模型，提取码：dg2m
(2) 预训练模型的微调
下载好预训练模型，解压后得到⼀个名为resnet_v1_101.ckpt的⽂件，放⼊如下图所⽰的⼯程⽂件⽬录下。
由于原模型是1000分类⽹络。⽽本次我们是要对花数据集进⾏五分类，所以我们需要对模型进⾏微调：去掉预训练模型的全连接层，改⽤节点数为5的全连接层，从⽽能对⾃定义数据集进⾏5分类。
运⾏结束后，在原⼯程⽂件下，就会产⽣我们所需要的预训练权重⽂件，如下图红⾊框中所⽰：
3. 数据集介绍
这次我采⽤的是花分类数据集，该数据集⼀共有5个类别，分别是：daisy、dandelion、roses、sunflowers、tulips，⼀共有3670张图⽚。按9：1划分数据集，其中训练集train中有3306张、验证集val中有364张图⽚。
数据集下载地址：花分类数据集，提取码：9ao5
⼤家下载完，将⽂件解压后直接放在⼯程根⽬录下，就像我这样：
预训练权重和数据集准备好了，我们就可以开始实战啦！
ResNet-101实战
温馨提⽰：完整⼯程代码已上传我的github地址：【AI 菌】的Github 。下⾯仅展⽰各个部分的核⼼代码，并做出必要的
温馨提⽰：完整⼯程代码已上传我的github地址：【AI 菌】的Github 。下⾯仅展⽰各个部分的核⼼代码，并做出必要的解释。
(1) 数据集准备
注意在数据集准备过程中，⼀定要对原图进⾏预处理。因为官⽅提供的预训练模型，在训练前也对数据集进⾏预处理了的，这⾥要采⽤对应的预处理⽅法，通过函数pre_function(）来实现。
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
data_root = os.path.abspath(os.path.wd, "../..")) # 获得根路径 image_path = data_root +
"/DeepLearning/ResNet-101/flower_data/" # 花数据集的路径 train_dir = image_path + "train" validation_dir =
image_path + "val" def pre_function(img): # 图像预处理 img = img - [_R_MEAN, _G_MEAN, _B_MEAN] return img #训练集准备：将图⽚载⼊、数据增强、预处理，然后转换成张量形式 train_image_generator = ImageDataGenerator(horizontal_flip=True, preprocessing_function=pre_function) train_data_gen =
train_image_generator.flow_from_directory(directory=train_dir, batch_size=batch_size, shuffle=True, target_size= (im_height, im_width), class_mode='categorical') total_train = train_data_gen.n # 训练集样本总数
(2) ⽹络搭建
下⾯是ResNet整体⽹络结构的实现，对于ResNet的详细⽹络结构，我已经在TF2.0深度学习实战（七）：⼿撕深度残差⽹络ResNet中详细讲到，这⾥不再赘述。
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
轮胎101网•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
def _resnet(block, blocks_num, im_width=224, im_height=224, num_classes=1000, include_top=True): # 定义输⼊(batch, 224, 224, 3) input_image = layers.Input(shape=(im_height, im_width, 3), dtype="float32") # 第⼀层conv1 x = layers.Conv2D(filters=64, kernel_size=7, strides=2,
padding="SAME", use_bias=False, name="conv1")(input_image) x = layers.BatchNormalization(momentum=0.9, epsilon=1e-5, name="conv1/BatchNorm")(x) x = layers.ReLU(x) x = layers.MaxPool2D(pool_size=3, strides=2, padding="SAME")(x) # conv2_x x = _make_layer(block, x.shape[-1], 64, blocks_num[0], name="block1")(x) # conv3_x x = _make_layer(block, x.shape[-1], 128, blocks_num[1], strides=2, name="block2")(x) # conv4_x x = _make_layer(block, x.shape[-1], 256, blocks_num[2], strides=2, name="block3")(x) # conv5_x x = _make_layer(block, x.shape[-1], 512, blocks_num[3], strides=2, name="block4")(x) if include_top:# 全局平均池化x = layers.GlobalAvgPool2D(x)x = layers.Dense(num_classes, name="logits")(x)predict =
layers.Softmax(x)else:predict = xmodel = Model(inputs=input_image, outputs=predict)return modeldef
resnet101(im_width=224, im_height=224, num_classes=1000, include_top=True):return _resnet(Bottleneck, [3, 4, 23, 3], im_width, im_height, num_classes, include_top)(3) ⽹络微调由于论⽂中ResNet-101是对ImageNet数据集进⾏1000分类，这⾥我们只对花数据集进⾏5分类。所以要对原⽹络进⾏微调：⾸先，去掉原ResNet101后⾯的全局平均池化和全连接层；然后，在模型后加⼊两个全连接层，节点数分别为1024和5，对⾃定义数据集进⾏5分类。 # 使⽤False，表⽰去掉原ResNet10
1后⾯的全局平均池化和全连接层feature = resnet101(num_classes=5,
include_top=False)feature.load_weights('pretrain_weights.ckpt') # 加载预训练模型ainable = False # 训练时冻结与训练模型参数feature.summary # 打印预训练模型参数# 对⽹络微调：在模型后加⼊两个全连接层，进⾏⾃定义5分类model =
tf.keras.Sequential([feature,tf.keras.layers.GlobalAvgPool2D,tf.keras.layers.Dropout(rate=0.5),tf.keras.layers.Dense(10 24),tf.keras.layers.Dropout(rate=0.5),tf.keras.layers.Dense(5),tf.keras.layers.Softmax])model.summary # 打印增加层的参数(4) 模型装配与训练在模型装配过程中，采⽤的是Adam优化器，CategoricalCrossentropy交叉熵损失函数，以及accuracy测试精确度。 # 模型装配# 1.⽬标损失函数：交叉熵loss_object =
tf.keras.losses.CategoricalCrossentropy(from_logits=False)# 2.优化器：Adamoptimizer =
tf.keras.optimizers.Adam(learning_rate=0.0002)# 3.评价标准：loss和accuracytrain_loss =
ics.Mean(name='train_loss')train_accuracy =
ics.CategoricalAccuracy(name='train_accuracy')test_loss =
ics.Mean(name='test_loss')test_accuracy = ics.CategoricalAccuracy(name='test_accuracy')在模型训练过程中，我设置的batch_size = 16，epochs = 20。每训练完⼀个eopchs后，打印出平均分类精确度；并且利⽤当前epochs训练出的参数，对验证集进⾏测试，打印出当前epochs的验证机测试精确度。最后保存模型参数。 for epoch in range(1, epochs + 1):# 训练集训练过程for step in range(total_train // batch_size): # ⼀个epoch需要迭代的step 数images, labels = next(train_data_gen) # ⼀次输⼊batch_size组数据train_step(images, labels) # 训练过程# 打印训练过程rate = (step + 1) / (total_train // batch_size) # ⼀个epoch中steps的训练完成度a = "*" * int(rate * 50) # 已完成进度条⽤*表⽰b = "." * int((1 - rate) * 50) # 未完成进度条⽤.表⽰acc = sult.numpyprint("r[{}]train acc: {:^3.0f}% [{}->{}]{:.4f}".format(epoch, int(rate * 100), a, b, acc), end="")# 验证集测试过程for step in range(total_val //
batch_size):test_images, test_labels = next(val_data_gen)test_step(test_images, test_labels) # 在验证集上测试，只进⾏前向计算# 每训练完⼀个epoch后，打印显⽰信息template = 'Epoch {}, Loss: {}, Accuracy: {}, Test Loss: {}, Test Accuracy: {}'print(template.format(epoch,sult,sult *
100,sult,sult * 100))# 保存模型参数model.save_weights("./save_weights/resNet_101.ckpt", save_format="tf")测试结果(1) 图像分类结果
下⾯就是在训练过程中，打印出来的分类精确度信息。图中红⾊框显⽰的就是测试精确度。可以看到随着训练的进⾏，精确度在不断地升⾼，最终达到91.3%。由于时间关系，这⾥我只训练了10个epochs，如果继续训练下去，应该可以得到更好的模型。(2) 对单张图像的预测结果在⼯程根⽬录下，放⼊⼀张类别为roses的图⽚，将其命名为rose_test.jpg。我们读⼊这张图⽚，加载刚才已经训练好的模型，对图⽚进⾏预测。在预测过程中，需要注意的是：需要对输⼊的图⽚进⾏预处理，预处理⽅式和之前保持⼀致。同样要对原⽹络模型进⾏微调，微调的⽅法和上述⽹络微调的⽅法⼀致。预测代码在⼯程⽂件下的predict.py⾥，执⾏它即可得到预测结果。预测代码如下： # 加载要进⾏预测的图⽚img = Image.open("E:/DeepLearning/ResNet-101/rose_test.jpg")# resize成
224x224img = size((im_width, im_height))plt.imshow(img)# 将图⽚做预处理_R_MEAN = 123.68_G_MEAN = 116.78_B_MEAN = 103.94img = np.array(img).astype(np.float32)img = img - [_R_MEAN, _G_MEAN, _B_MEAN]img = (np.expand_dims(img, 0))# class_indices.json中存放的是标签字典try:json_file = open('./class_indices.json',
'r')class_indict = json.load(json_file)except Exception as e:print(e)exit(-1)# ⽹络模型的微调feature =
resnet50(num_classes=5, include_top=ainable = Falsemodel =
tf.keras.Sequential([feature,tf.keras.layers.GlobalAvgPool2D,tf.keras.layers.Dropout(rate=0.5),tf.keras.layers.Dense(10
24),tf.keras.layers.Dropout(rate=0.5),tf.keras.layers.Dense(5),tf.keras.layers.Softmax])# 加载训练好的模型参数model.load_weights('./save_weights/resNet_101.ckpt')result = model.predict(img)prediction =
np.squeeze(result)predict_class = np.argmax(result)print('预测该图⽚类别是：', class_indict[str(predict_class)], ' 预测
np.squeeze(result)predict_class = np.argmax(result)print('预测该图⽚类别是：', class_indict[str(predict_class)], ' 预测概率是：', prediction[predict_class])plt.show输⼊的图⽚rose_test.jpg属于rose类，图⽚如下：预测结果如下：可见，预测结果与原图rose_test.jpg的标签⼀致，预测成功！且预测的概率⾼达98%，预测效果⽐较好！(3) 实际训练参数量的对⽐采⽤了迁移学习的⽅法训练ResNet-101后，我们在训练速度上得到很⼤的提升。⽽且得到的测试精度很⾼。那么下⾯，我们从定量的⾓度来分析，训练速度⼤⼤提升的原因。下图是ResNet-101所有的卷积层参数列表，也是我们所⽤的预训练模型的部分，其参数量有2300万多。这部分参数是预训练模型提供的，不⽤训练。因此，下图红⾊框表⽰卷积层需要训练的参数量为0。下图是⽹络微调后的⽹络每层参数列表。其中，绿⾊框表⽰的是卷积层的总参数量，参数量是2300万多。实际训练的是全连接层中参数，如下图红⾊框所⽰，⼀共是200万多个参数。由此可知，使⽤了迁移学习的⽅法后，卷积层2300万多个参数可由预训练模型提供，不需要再进⾏训；只需要对全连接层200万多个参数进⾏训练。因此，训
练的速度⼤⼤提升！总结采⽤迁移学习的⽅法，我们就可以在预训练模型的基础上，再进⾏训练。这种思想，就如同“站在巨⼈的肩膀上”，不仅能减少时间和资源的开销，还能提供⼀个本来就不错的精确度。⽽我们只需要在原⽹络模型基础上进⾏微调，训练出满⾜⾃⼰任务的⽹络模型参数。版权声明：本⽂为CSDN博主「AI 菌」的原创⽂章，遵循CC 4.0 BY-SA版权协议，转载请附上原⽂出处链接及本声明。
发布评论