AA 中国人工智能系列白皮书 —深度学习 中国人工智能学会 二二三年九月 《中国人工智能系列白皮书》编委会 主任：戴琼海 执行主任：王国胤 副主任：陈杰何友刘成林刘宏孙富春王恩东 王文博赵春江周志华 委 员：班晓娟曹鹏陈纯陈松灿邓伟文董振江 杜军平 付宜利 古天龙 桂卫华何清胡国平 黄河燕季向阳 贾英民焦李成 李斌刘民 刘庆峰刘增良 鲁华祥 马华东苗夺谦潘纲 朴松昊钱锋乔俊飞 孙长银 孙茂松陶建华 王卫宁 王熙照王轩 王蕴红 吾守尔斯拉木 吴晓蓓杨放春于剑岳东张小川 张学工 张毅章毅周国栋周鸿祎 :周建设 周杰 祝烈煌庄越挺 《中国人工智能系列白皮书--深度学习》编写组 季向阳 徐龙 陈杰 高伟 王旭 陈小龙 张利 赵铁松 陈炜玲 孙文青 赵栋 钟昱丰
目 录
第 1 章 人工智能历史与现状 1
1.1 人工智能的概念和起源 1
1.1.1 人工智能的概念 1
1.1.2 人工智能的起源 2
1.2 人工智能的黄金时代 3
1.2.1 感知机 4
1.2.2 贝叶斯网络 4
1.2.3 模式识别 6
1.2.4 人机对话 7
1.2.5 知识表示 8
1.2.6 计算机视觉 8
1.3 人工智能的冬天 9
1.4 人工智能的复兴期 12
1.4.1 机器学习 12
1.4.2 自然语言处理 14
1.4.3 神经网络 15
1.4.4 遗传算法 15
1.4.5 深蓝超级计算机 16
1.5 人工智能的爆发期 17
1.5.1 卷积神经网络 17
1.5.2 生成对抗网络 18
1.5.3 变分自动编码器 19
1.5.4 迁移学习 19
1.5.5 知识图谱 20
1.5.6 自动驾驶 21
1.5.7 AlphaGO 22
1.5.8 AlphaFold 23
1.5.9 ChatGPT 23
1.6 人工智能的未来 25
1.6.1 可信人工智能 25
1.6.2 多模态预训练模型 25
1.6.3 多任务模型 26
1.6.4 基于人工智能的网络安全 26
1.6.5 边缘计算和联合学习 26
1.6.6 人机协作与交互 27
1.6.7 从大数据转向多样化小数据 27
1.6.8 人工智能伦理 28
1.6.9 人工智能平台的操作化 28
第 2 章 深度学习模型 29
2.1 卷积神经网络 29
2.1.1 卷积层 30
2.1.2 激活函数 32
2.1.3 池化层 33
2.1.4 全连接层 33
2.2 经典的网络模型 33
2.2.1 LeNet 网络模型 33
2.2.2 AlexNet 网络模型 34
2.2.3 VGG 网络模型 36
2.2.4 GoogLeNet 网络模型 37
2.2.5 ResNet 网络模型 39
2.2.6 ShuffleNet 网络模型 40
2.2.7 Vision Transformer 模型 41
2.2.8 递归神经网络 42
2.3 人类视觉感知特性与深度学习模型 46
2.3.1 人类视觉感知特性 46
2.3.2 人类视觉感知特性启发的深度学习模型 47
2.4 注意力机制与深度学习模型 49
2.4.1 注意力机制研究进展 49
2.4.2 注意力模型基本框架 51
2.5 U 型网络 57
2.5.1 U 型网络结构简介 57
2.5.2 改进的 U 型网络 59
2.6 本章小结 63
第 3 章 人工智能大模型 116
3.1 引言 116
3.2 人工智能大模型概述 119
3.3 关键技术和算法 121
3.4 应用领域和案例研究 124
3.5 人工智能多模态大模型 126
3.6 人工智能大模型在生命科学领域上的探索 133
3.7 技术挑战和解决方案 135
3.8 未来发展方向和展望 138
第 4 章 深度学习与图像描述生成及视觉定位 144
4.1 图像描述生成 144
4.1.1 图像字幕关键技术 145
4.1.2 图像描述生成方法 151
4.1.3 未来趋势展望 157
4.2 视觉定位 160
4.2.1 视觉定位关键技术 161
4.2.2 视觉定位生成方法 163
4.2.3 挑战及未来发展方向 166
第 5 章 深度学习在编码中的应用 173
5.1 引言 173
5.2 智能图像编码压缩 173
5.2.1 编解码器框架设计 174
5.2.2 编解码器优化技术 180
5.3 智能视频编码压缩 183
5.3.1 基于残差编码的框架 184
5.3.2 基于条件熵编码的框架 186
5.3.3 其它类型的架构 190
5.3.4 编码配置优化技术 193
5.4 视觉数据压缩新趋势 195
5.4.1 隐式神经表示 195
5.4.2 多模态视觉数据压缩 197
5.4.3 面向人机混合的智能编码 198
5.5 本章小结 199
第 6 章 深度学习的特征及模型压缩 66
6.1 背景介绍 66
6.2 深度学习模型压缩 66
6.2.1 剪枝 67
6.2.2 知识蒸馏 69
6.2.3 量化 71
6.3 深度学习模型中间层特征压缩 86
6.3.1 基于图像/视频编解码框架的中间层特征压缩 90
6.3.2 基于比特分配的中间层特征压缩 95
6.3.3 基于深度学习网络架构的中间层特征压缩 97
6.3.4 中间层特征压缩三类方法的比较与分析 99
6.3.5 思考与展望 102
6.4 本章小结 104
第 7 章 深度学习在天文学研究中的应用 213
7.1 深度学习在射电天文成像中的应用 215
7.2 深度学习在恒星观测中的应用 216
7.3 深度学习探究天文事件的物理机制 219
7.4 深度学习在太阳物理研究中的应用 220
7.5 深度学习在太阳耀斑预报建模中的应用 225
7.5.1 太阳耀斑 225
7.5.2 耀斑的性质 227
7.5.3 耀斑预报建模 228
7.5.4 提取耀斑先兆特征揭示耀斑发生的触发机理 231
7.5.5 磁图分辨率对耀斑预报的影响 234
7.6 从紫外、极紫外图像生成磁图的动态深度学习模型 239
7.7 深度学习用于太阳活动区磁图超分辨 243
7.8 深度学习用于太阳极紫外图像过曝光修复 247
7.9 基于深度学习的 日冕物质抛射预报 249
7.9.1 日冕物质抛射 249
7.9.2 日冕物质抛射的多波段观测 249
7.9.3 日冕物质抛射的性质 251
7.9.4 日冕物质抛射预报 253
第 8 章 雷达智能信息处理 273
8.1 引言 273
8.2 基于深度学习的雷达信号处理 273
8.2.1 噪声与杂波抑制 273
8.2.2 目标信号增强 277
8.2.3 雷达目标检测 279
8.2.4 阵列雷达信号处理 282
8.3 基于深度学习的雷达图像处理 285
8.3.1 雷达低分辨图像处理 285
8.3.2 雷达高分辨图像处理 291
8.4 雷达智能信息处理发展趋势 299
8.4.1 小样本目标检测 299
8.4.2 无监督或弱监督目标检测 306
8.4.3 多维多通道特征融合检测 309
8.4.4 可解释人工智能 310
第 9 章 深度学习与智慧海洋相关应用 322
9.1 海洋图像处理 322
9.2 海洋媒体信息质量感知 326
9.3 水下机器视觉 330
第 10 章 深度学习与医工结合相关应用 340
10.1 医学影像 340
10.1.1 常见医学图像类型 340
10.1.2 常见的医学图像分析任务 341
10.2 病理分析 343
10.3 辅助诊断 352
第 11 章 深度学习在大数据处理中的应用 362
11.1 天文大数据 362
11.1.1 天文大数据概述 363
11.1.2 天文大数据目标及挑战 365
11.1.3 天文大数据理论及技术 366
11.1.4 应用实例 368
11.2 医疗大数据 374
11.2.1 医疗大数据概述 374
11.2.2 医疗大数据目标及挑战 379
11.2.3 医疗大数据理论及技术 382
11.2.4 应用实例 384
11.3 金融大数据 398
11.3.1 金融大数据概述 398
11.3.2 金融大数据目标及挑战 401
11.3.3 金融大数据理论及技术 402
11.3.4 应用实例 406
11.4 本章小结 412
第 12 章 深度学习在三维点云技术中的应用 417
12.1 点云感知定义概述 417
12.2 点云感知建模 419
12.2.1 质量评价概述 419
12.2.2 点云质量建模 420
12.2.3 点云显著性概述 425
12.2.4 显著性检测 426
12.3 深度学习点云压缩 428
12.3.1 国内外研究进展 428
12.3.2 基于深度学习的点云压缩 431
12.3.3 云压缩标准 433
12.4 深度学习点云增强 435
12.4.1 点云压缩修复 435
12.4.2 点云补全 442
12.4.3 点云上采样 445
12.5 技术展望 446