输出：经过优化的教师模型与学生模型；

1：${\mathit{F}}_{\mathrm{t}\mathrm{e}\mathrm{a}}\leftarrow f_{\mathrm{t}\mathrm{e}\mathrm{a}}({\mathit{I}}_{\mathrm{i}\mathrm{n}})$；

2：${\mathit{F}}_{\mathrm{s}\mathrm{t}\mathrm{u}}\leftarrow f_{\mathrm{s}\mathrm{t}\mathrm{u}}({\mathit{I}}_{\mathrm{i}\mathrm{n}})$；

3：$L_{\mathrm{K}\mathrm{D}}\leftarrow T^2\times \mathrm{K}\mathrm{L}\mathrm{d}\mathrm{i}\mathrm{v}({\mathit{Q}}_{\mathrm{s}\mathrm{t}\mathrm{u}}^{\mathrm{T}},{\mathit{Q}}_{\mathrm{t}\mathrm{e}\mathrm{a}}^{\mathrm{T}})$，${\mathit{Q}}_{\mathrm{s}\mathrm{t}\mathrm{u}}^{\mathrm{T}}$和${\mathit{Q}}_{\mathrm{t}\mathrm{e}\mathrm{a}}^{\mathrm{T}}$由公式（18）和（19）计算；

4：$L_{\mathrm{f}\mathrm{i}\mathrm{r}}\leftarrow \alpha L_{\mathrm{K}\mathrm{D}}+(1-\alpha )(L_{\mathrm{C}}^{\mathrm{t}\mathrm{e}\mathrm{a}}+L_{\mathrm{C}}^{\mathrm{s}\mathrm{t}\mathrm{u}})$；

5：以$L_{\mathrm{f}\mathrm{i}\mathrm{r}}$为损失函数对教师模型以及学生模型进行共同优化；

输出：经过优化的学生模型；

6：${\mathit{F}}_{\mathrm{t}\mathrm{e}\mathrm{a}}\leftarrow f_{\mathrm{t}\mathrm{e}\mathrm{a}}({\mathit{I}}_{\mathrm{i}\mathrm{n}})$；

7：${\mathit{F}}_{\mathrm{s}\mathrm{t}\mathrm{u}}\leftarrow f_{\mathrm{s}\mathrm{t}\mathrm{u}}({\mathit{I}}_{\mathrm{i}\mathrm{n}})$；

8：$L_{\mathrm{K}\mathrm{D}}\leftarrow T^2\times \mathrm{K}\mathrm{L}\mathrm{d}\mathrm{i}\mathrm{v}({\mathit{Q}}_{\mathrm{s}\mathrm{t}\mathrm{u}}^{\mathrm{T}},{\mathit{Q}}_{\mathrm{t}\mathrm{e}\mathrm{a}}^{\mathrm{T}})$；${\mathit{Q}}_{\mathrm{s}\mathrm{t}\mathrm{u}}^{\mathrm{T}}$和${\mathit{Q}}_{\mathrm{t}\mathrm{e}\mathrm{a}}^{\mathrm{T}}$由公式（18）和（19）计算；

9：$L_{\mathrm{s}\mathrm{e}\mathrm{c}}\leftarrow 2\alpha L_{\mathrm{K}\mathrm{D}}+(1-2\alpha )L_{\mathrm{C}}^{\mathrm{s}\mathrm{t}\mathrm{u}}$；

10：以$I_{\mathrm{s}\mathrm{e}\mathrm{c}}$为损失函数对学生模型进行优化，并停止对教师模型的训练；

测试阶段：

场景分类

输入：测试集图像，$I_{\mathrm{i}\mathrm{n}}^{\mathrm{t}\mathrm{e}\mathrm{s}\mathrm{t}}$，学生模型VGG16，学生模型函数集合，$f_{\mathrm{s}\mathrm{t}\mathrm{u}}()$；

输出：预测标签$Y_{\mathrm{l}\mathrm{a}\mathrm{b}\mathrm{e}\mathrm{l}}$；

11.${\mathit{F}}_{\mathrm{s}\mathrm{t}\mathrm{u}}\leftarrow f_{\mathrm{s}\mathrm{t}\mathrm{u}}({\mathit{I}}_{\mathrm{i}\mathrm{n}}^{\mathrm{t}\mathrm{e}\mathrm{s}\mathrm{t}})$；

12.$Y_{\mathrm{l}\mathrm{a}\mathrm{b}\mathrm{e}\mathrm{l}}\leftarrow \mathrm{s}\mathrm{o}\mathrm{f}\mathrm{t}\mathrm{m}\mathrm{a}\mathrm{x}({\mathit{F}}_{\mathrm{s}\mathrm{t}\mathrm{u}})$；