本文是编者参加Datawhale的共读《深度学习：基础与概念》的第一篇笔记，主要内容是：关于书籍第一章节的概述和补充

深度学习（deep learning）的定义较为简单，深度指的是该技术是基于深层神经网络模型，学习则是通过对数据的处理后能过完成人类任务的过程。

深度学习的影响：

通过四个实际案例介绍了深度学习当下在生活中的广泛应用

基础概念

根据训练集是否有标签，学习分为 监督学习，半监督学习，无监督学习

根据任务分类：

类型	目标说明	常见输出形式	应用举例
分类（Classification）	把输入划分到若干个类别中	类别标签	图像识别、垃圾邮件识别、情感分析
回归（Regression）	预测一个连续的数值	实数	房价预测、温度预测、股票预测
生成（Generation）	从模型中“生成”新数据样本	文本/图像等	文本生成（GPT）、图像生成（GAN）、语音合成
序列预测（Sequence Modeling）	预测一个序列、翻译、文本生成	序列	机器翻译、文本摘要、对话系统
检测（Detection）	找出目标在输入中的位置 + 分类	边界框 + 标签	目标检测（YOLO、Faster R-CNN）
分割（Segmentation）	逐像素地进行分类	像素类别图	医学图像分割、自动驾驶道路标识
强化学习（Reinforcement Learning）	通过奖励最大化学习最优行为策略	动作策略	游戏AI、机器人导航、自动驾驶决策
对比学习（Contrastive Learning）	学习一个将相似样本拉近、不同样本拉远的空间表示	向量表示	表征学习、无监督学习、推荐系统
嵌入学习（Embedding Learning）	将高维数据映射到低维空间，保持语义关系	向量	推荐系统、相似度计算、知识图谱嵌入

医疗诊断：黑色素瘤的判断，属于分类任务，监督学习

实现的简化流程是

1.通过获取大量的数据，构建数据集

2.通过对数据集数据进行分析，设计适合的模型

3.学习/训练模型

4.部署模型

结合本案例具体就是

1.获取大量的关于黑色素瘤的图片

2.为每张照片打上标签（良性或恶性）

3.根据图片的特征选取适合的神经网络模型进行训练

4.不断调整参数让模型的效果变好

5.部署在医疗系统

蛋白质结构预测 属于预测任务

简述：通过抑制的氨基酸序列预测对应的蛋白质三维结构

图像合成 属于无监督学习，生成任务

大语言模型 属于序列预测任务

一个教学示例：

通过多项式拟合一个小型合成数据集的例子介绍了一些基本概念和术语

泛化能力：模型能对未曾见过的输入进行准确的预测

线性模型：用于拟合数据集的模型，线性指的是一一对应

误差函数：衡量预测结果和实际的误差

模型复杂度：指模型拟合数据的强弱

正则化：用于控制过拟合现象

机器学习简史：

通过聚焦于深度学习基础的神经网络的发展，介绍了深度学习的发展

第一阶段 1962年，Rosenblatt 首创感知机，由于只有单层神经网络的学习效果较差，且没有很好的拓展性（难以训练多层的神经网络），该领域的发展受限

第二阶段 20世纪80年代，反向传播算法和基于梯度优化的技术让多层神经网络训练成为可能，显著提升其解决实际问题的能力

第三阶段 当前阶段，神经网络规模的显著扩张，训练参数爆炸式的上升，让其处理实际任务的能力达到领先的地步，chatgpt等商业落地的实现促使了深度学习的发展