人工智能导论|仅自己可见 2024/6/24

第一章 人工智能概述

人工智能（Artificial Intelligence，简称AI）是一门研究和开发使计算机能够表现出类似于人类智能能力的科学和技术领域，旨在探索人类智能的本质，并尝试通过各种理论、方法和技术来模仿、延申和扩展人类的智能行为。

弱人工智能，也被称为狭窄人工智能或者应用人工智能，指的是设计用来完成特定任务的智能系统。包括语音识别系统、在线客户服务聊天机器人、以及推荐算法等。

强人工智能，也称为通用人工智能或全面人工智能，是一种理想状态，目前尚未实现。

1956年的达特茅斯会议标志着人工智能的起源和诞生。

人工智能的发展历程

推理期（1950年代-1960年代）

知识期（1970年代-1980年代）

学习期（1980年代-2000年代）

深度学习期（2000年代至-2010年代）

大语言模型期（2020年代-至今）

三大学派：符号主义，连接主义，行为主义。

符号主义的道路：启发式算法——专家系统——知识工程。

连接主义，又称仿生学派或生理学派，基本思想是，既然生物智能是由神经网络产生的，那就通过人工方式构造神经网络，再训练人工神经网络产生智能。其技术的典型代表是机器学习和深度学习。

三个学派的区别

符号主义研究抽象思维，注重功能的模拟，强调可解释性；

连接主义研究形象思维，注重结构的模拟，模仿人脑结构；

行为主义研究感知思维，注重行动的模拟，偏向应用和行为。

从算力来看：行为主义需要的计算机性能>连接主义需要的计算机性能>符号主义需要的计算机性能。

从样本数据数量来看：符号主义几乎不需要训练样本，行为主义对样本的需求量也很小，但是连接主义需要大量样本，且往往是样本数越大效果越好。

按模型来划分，人工智能方法可分为决策式AI和生成式AI。

人工智能的应用领域：智能家居，智能制造，智能金融，智能医疗，数据挖掘，语音识别，智能交通，自动驾驶。

第二章 知识表示

早期的符号主义学派提出了多种知识表示方法。最经典和最常用的方法是逻辑表示法和产生式表示法。

命题逻辑可看作是谓词逻辑的一种特殊形式。

命题：陈述，唯一真假，某一条件为真，某一条件为假。

在命题逻辑中，一个或真或假的描述性陈述被称为原子命题。

命题联结词：否定、合取、析取、条件（蕴含）、双条件（双向蕴含）

通过命题联结词得到的命题被称为复合命题。

逻辑等价式：交换律，结合律，分配律，德·摩根律，双重否定律（对合律），吸收律，补余律（否定律），蕴含消除，逆否律。

有限个简单合取式构成的析取式称为析取范式。

有限个简单析取式构成的合取式称为合取范式。

析取范式与合取范式统称为范式。

推理规则∶假言推理，拒取式推理，假言三段论，析取三段论，P规则，T规则，与消解，与导入。

谓词逻辑是将原子命题进一步细化，分解出个体、谓词和量词。谓词可分为谓词名与个体两个部分。形式：P(x1，x2，......，xn)，谓词中包含的个体数目称为谓词的元数。个体常量、个体变元、函数统称为“项”。

当谓词中的变元都用特定的个体取代时，谓词就具有一个确定的真值∶T或F。

若P(x1,x2,…,xn)是n元谓词，x1,x2,…,xn是项，则称P(x1,x2,…,xn)为原子谓词公式，简称原子公式。

合式公式是由逻辑联结词和原子公式构成的用于陈述事实的复杂语句，又称谓词公式。

产生式与蕴含式的区别：应用场景不一样，一个用于逻辑推理，一个可能用于控制操作。蕴含式有真值，即只有"真"或"假"两种状态，而产生式没有严格的“真值”概念。

产生式系统组成：规则库，综合数据库，推理机。

第三章 推理技术

自然演绎推理：从一组已知为真的事实出发，运用经典逻辑的推理规则推出结论的过程。

优点：表达定理证明过程自然，易理解。拥有丰富的推理规则，推理过程灵活。

缺点：易产生组合爆炸，得到的中间结论一般呈指数形式递增。

归结演绎推理（归结反演）略

谓词公式化为子句集

去蕴含

移动否定符号

变量标准化——量词辖域不同名称要不同

消去存在量词——可能需要用到函数替换

化为前束形——所有全称量词前移

化为skolem标准形——变成合取范式

去全称量词

去合取符号变子句集

子句变量标准化——避免不同子句间的变量符号重复

鲁宾逊归结原理

检查子句集S中是否包含空子句，若包含，则S不可满足。

若不包含，在S中选择合适的子句进行归结，一旦归结出空子句，就说明S是不可满足的。

归结反演证明的步骤

（1）将已知前提表示为谓词公式F。

（2）将待证明的结论表示为谓词公式Q，并否定得到﹁Q。

（3）把谓词公式集{F，Q}化为子句集S。

（4）应用归结原理对子句集S中的子句进行归结，并把每次

归结得到的归结式都并入到S中。如此反复进行，若出

现了空子句，则停止归结，此时就证明了Q为真。

谓词的最一般合一是一种使得互补文字中的变元形式统一的变换方式。

归结反演求解问题的步骤

①把已知前提用谓词公式表示出来，并且化为相应的子句集，设该子句集的名字为S；

②定义一个为了求解问题的专设谓词ANSWER，把待求解的问题用谓词公式表示出来，然后把它否定，再与谓词ANSWER构成析取式，其中，谓词ANSWER的变元必须与问题公式的变元完全一致；

③把②中得到的析取式化为子句集，并把该子句集并入到子句集S中，得到子句集S';

④对S'应用归结原理进行归结；

⑤若得到归结式ANSWER，则答案就在ANSWER中。

第四章 机器学习

机器学习是一个算法，该算法能学习样本数据中隐藏的规律，并最终获得一个映射函数的模型。

标签：是对数据样本的标注，用于说明数据样本在问题域下所属的类别或取值。

根据样本数据是否带有标签：监督的机器学习，无监督的机器学习，半监督学习。

监督学习可完成分类和回归两种任务。非监督学习只能完成分类任务。

K-近邻算法（KNN）

计算距离的方法有欧氏距离和曼哈顿距离

KNN算法优点：容易理解，理论成熟，既可以用来做分类，也可以用来做回归；可用于数值型数据和离散型数据；训练时间复杂度O(n)；无数据输入假定；对异常值不敏感。

KNN算法缺点：算法复杂性高；空间复杂性高；当存在样本不均衡时，对稀有类别的预测准确率较低。

人工神经元模型

人工神经网络

按照拓扑结构建立神经元的连接。把许多单个神经元按照一定层次结构连接起来。人工神经网络是层级结构，每层神经元与下一层神经元全互连，神经元之间不存在同层连接，也不存在跨层连接。这样的神经网络结构通常称为“多层前馈神经网络”。

在多层前馈神经网络中，神经元可按层次分为三类：输入层神经元，输出层神经元和隐藏层神经元。

输入层不属于功能神经元。

参数计算：d个输入神经元，l个输出神经元，q个隐层神经元。

参数个数 = (d+l+1)*q+l

BP神经网络

K均值聚类（K-means聚类）

k均值聚类算法（k-means clustering algorithm）也称k-means聚类算法，是一种广泛使用的聚类分析方法。它是一种无监督机器学习方法。

k均值聚类算法的核心目标是将给定的数据集划分成K个簇，其中K是一个预先设定的参数。这个过程是迭代的，主要步骤包括：

初始化：随机选择K个数据点作为初始聚类中心。

分配：计算每个数据点到各个聚类中心的距离，并将每个数据点分配给距离最近的聚类中心。

更新：重新计算每个簇的中心点，通常是取簇内所有点的均值。

迭代：重复分配和更新步骤，直到聚类中心不再发生变化或达到预定的迭代次数，或者聚类中心的变化小于某个给定阈值。

k均值聚类算法的优点是原理简单、易于解释、实现方便以及收敛速度快。然而，它也有一些局限性，比如对异常值敏感、可能收敛到局部最优解、需要预先指定簇的数量K等。此外，k均值聚类假设簇呈球形分布，因此在处理非球形分布的数据时可能效果不佳。

第五章 深度学习

深度学习领域最重要的模型——卷积神经网络（CNN）。

卷积核Kernel也叫滤波器filter，代表图像的某种特征；

卷积层

卷积层的参数量：由卷积核的大小、输入特征图的通道图以及输出特征图的通道数共同决定。对于每个卷积核，其参数量为卷积核宽度*卷积核高度*输入通道数。由于有多个卷积核，最终的参数量还需要乘以输出通道数的数量。如果考虑偏置项，则每个卷积核还会增加一个偏置参数。假设二维卷积层输入数据的通道数为N，卷积核的大小为K*K，当前卷积层卷积核的数量为M，则该卷积层的参数量为：(K*K*N+1)*M

卷积核的大小：较小的核有利于提供输入的细节特征，较大卷积核偏向于提取输入的宏观特征信息。

卷积层的深度：卷积层的深度指的是一个CNN中卷积层的层数。卷积层的深度决定了网络可以提取的特征的复杂性。更深的网络能学习更复杂的特征表示，但也增加了过拟合的风险和计算成本。

卷积步长：卷积层的卷积步长与填充方式直接决定了卷积操作后特征图的大小。假设原始图像大小为（其中n为像素值），卷积核大小为f，步长大小为s，则卷积操作后特征图大小m*m，其关系式为：

若输入图像6*6，卷积核3*3，步长1，则特征图大小为6-3+1=4

填充方式:控制特征图大小。设p为填充大小，填充后特征图大小m=(n-f+2p)/s+1

池化

平均池化和最大池化。通过降低特征图的维度来减少网络中的参数数量和计算复杂度，有助于防止过拟合，提高模型的泛化能力；增强网络对小的平移和形变的鲁棒性，因为他丢弃了位置信息，只保留最重要的特征信息。

全连接层

扮演着“分类器”的角色。负责将由卷积层和池化层提取的特征映射到样本的标记空间，从而实现分类和回归分析。

LeNet-5模型：C1(卷积)->S2(池化)->C3(卷积)->S4(池化)->C5(卷积)->F6(全连接)

第六章状态空间表示与搜索策略

在求解一个问题时，涉及到两个方面：一是该问题的表示，另一方面则是选择一种相对合适的求解方法。

状态空间表示方法是一种将问题的所有可能状态及其转换关系通过图形或符号表达出来的方法。

通过运用搜索策略，可在状态空间中寻找一条直达目标的求解路径。

八数码问题

盲目搜索👇

宽度优先搜索

积木问题的优先搜索树：通过搬动积木块，从初始状态达到目标状态，积木A在顶部，积木B在中间，积木C在底部。

深度优先搜索

启发式图搜索策略👇

什么是启发式信息？用来简化搜索过程有关具体问题领域的特性的信息叫做启发信息。

启发式图搜索策略（利用启发信息的搜索方法）的特点：重排OPEN表，选择最有希望的节点加以扩展。

种类：A、A*算法等。

启发式搜索是一种利用问题域的先验知识来引导搜索过程的算法策略，其核心目的是减少搜索空间，提高搜索效率。在这种搜索策略中，估价函数扮演着至关重要的角色，它表示从当前节点𝑛出发，根据评价函数来选择后续节点。它不仅决定了搜索的方向，还直接影响到搜索的效率和最终结果的质量。

A*搜索算法的特性A*搜索算法的特性

A*搜索算法的特性：可采纳性、单调性、信息性。