王字春2015201906 ·课后工作 使用TensorFlow:实现MNIST数据集上进行手写体识别分类（第六周上机）】 在TensorElow中实现了softmax回归直培调用so升 max函数即可so升 max承数的木质是将 个K维的任意实数向量压缩（映射）成另一个K维的实数向量，其中向量中的每个元素取值都 介于(0,1)之间，然后可以根据元素取值的大小来进行多分类的任务，如取权重最大的 维。，仅使用softmax函数.设有用到mnist validation中的数据实现ANIST识别.通讨使用 InteractiveSession类，更加灵活地构建代码 。由于softmax回归模型是简单的模型，所以在 MNIST数据集上正确率仅为0.9183。 第十一周Introduction to Artificial Neural Network 课堂笔记 第十章介绍了人工神经网络。神经网络起源于尝试让机器模仿大脑的算法，在80年代和90年 代早期非常流行，慢慢在90年代后期衰落，最近由于计算机硬件能力提升，又开始流行起 来 人工神经元：有一个或更多的二态输入，实现一个二态输出。神经网络的目标就是模拟大脑中 的神经元或网络 感知机：一个感知机需要几个输入，x1,x2,,然后产生单一的二进制输出，使用实数 w1,w2来表示各个输入对输出的重要程度，神经元输出0还是1由输入的加权值是否超过阈值 决定。通过调整权重和阈值（偏移），能够实现不同的决策模型。 多层感知机(MLP) :将输入的多个数据集映射到单一的输出的数据集上。多层感知器有至 少一个隐藏层，单层感知器只能学习线性函数，而多层感知器也可以学习非线性函数。 反向传播(B)算法：相邻层节点的连接都有权重。学习的目的是为这些边缘分配正确的权 重。通过输入向量，这些权重可以决定输出向量。最初，所有的边权重都是随机分配的。对于 所有训练数据集中的输入，人工神经网络都被激活，并且观察其输出。将输出和已知的、期望 的输出进行比较，误差会传播回上一层。误差被标注，权重也会被相应的调整。重复该过程， 直到输出误差低于阈值。 激活函数：ReLU(=max(0,z;tanh=2o22-1;logistic::o☑=1/(1+exp(-z ·上机练习 运行提供的第十章代码 使用鸢尾花iris数据集来训练感知机模型，参数选择petal length和petal width。.定义不同 激活函数并绘制图像。使用多层感知机实现异或(XO)逻辑，并绘制激活函数使用阶跃 函数以及sigmoid函数的模型等高线结果。 13 王宇睿 2015201906 - 课后⼯作 使⽤TensorFlow实现MNIST数据集上进⾏⼿写体识别分类（第六周上机）。 在TensorFlow中实现了softmax回归，直接调⽤softmax函数即可。softmax函数的本质是将⼀ 个K维的任意实数向量压缩（映射）成另⼀个K维的实数向量，其中向量中的每个元素取值都 介于（0，1）之间，然后可以根据元素取值的⼤⼩来进⾏多分类的任务，如取权᯿最⼤的⼀ 维。 仅使⽤softmax函数，没有⽤到mnist.validation中的数据，实现MNIST识别，通过使⽤ InteractiveSession类，更加灵活地构建代码。由于softmax回归模型是简单的模型，所以在 MNIST数据集上正确率仅为0.9183。 第⼗⼀周 Introduction to Artificial Neural Network - 课堂笔记 第⼗章介绍了⼈⼯神经⽹络。神经⽹络起源于尝试让机器模仿⼤脑的算法，在80年代和90年 代早期⾮常流⾏，慢慢在90年代后期衰落，最近由于计算机硬件能⼒提升，⼜开始流⾏起 来。 ⼈⼯神经元：有⼀个或更多的⼆态输⼊，实现⼀个⼆态输出。神经⽹络的⽬标就是模拟⼤脑中 的神经元或⽹络。 感知机：⼀个感知机需要⼏个输⼊，x1，x2，…，然后产⽣单⼀的⼆进制输出，使⽤实数 w1，w2来表示各个输⼊对输出的᯿要程度，神经元输出0还是1由输⼊的加权值是否超过阈值 决定。通过调整权᯿和阈值（偏移），能够实现不同的决策模型。 多层感知机（MLP）：将输⼊的多个数据集映射到单⼀的输出的数据集上。多层感知器有⾄ 少⼀个隐藏层，单层感知器只能学习线性函数，⽽多层感知器也可以学习⾮线性函数。 反向传播（BP）算法：相邻层节点的连接都有权᯿。学习的⽬的是为这些边缘分配正确的权 ᯿。通过输⼊向量，这些权᯿可以决定输出向量。最初，所有的边权᯿都是随机分配的。对于 所有训练数据集中的输⼊，⼈⼯神经⽹络都被激活，并且观察其输出。将输出和已知的、期望 的输出进⾏⽐较，误差会传播回上⼀层。误差被标注，权᯿也会被相应的调整。᯿复该过程， 直到输出误差低于阈值。 激活函数：ReLU (z) = max (0, z)；tanh (z) = 2σ(2z) – 1 ; logistic: σ(z) = 1 / (1 + exp(–z)) - 上机练习 运⾏提供的第⼗章代码。 ① 使⽤鸢尾花iris数据集来训练感知机模型，参数选择petal length和petal width。定义不同 激活函数并绘制图像。使⽤多层感知机实现异或（XOR）逻辑，并绘制激活函数使⽤阶跃 函数以及sigmoid函数的模型等⾼线结果。 13