博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
梯度下降法与方向导数
阅读量:5313 次
发布时间:2019-06-14

本文共 711 字,大约阅读时间需要 2 分钟。

from https://www.zhihu.com/question/30672734

 

下面从梯度与方向导数的关系来解释:

1 方向导数

  • 引入

原来我们学到的偏导数指的是多元函数沿坐标轴的变化率,但是我们往往很多时候要考虑多元函数沿任意方向的变化率,那么就引出了方向导数

  • 定义

(1)方向导数是个数值。

二维空间情形:

我们把f(x+Dx,y+Dy)-f(x,y)的值Value1与PP1的距离value2的比值的极值叫做沿PP1的方向导数。

三维空间计算过程相似;

换句话来说,方向导数就是研究在某一点处的任意方向的变化率~

 

2 梯度

首先我来说,梯度是一个向量,并不是原来方向导数说的那样是一个数,那么这个向量是什么特殊的向量呢?还需要拿出来单独研究,那就是梯度代表的是各个导数中,变化趋势最大的那个方向,下面来介绍~

    • 定义

  • 证明

    梯度方向就是方向导数最大的方向,我们看如下:

  • 只有当Θ为0度的时候(cos\theta =1),方向导数最大(左边的式子),也就是说方向导数什么情况下最大,就是它的方向(cos\alpha,cos\beta)(这个方向公式中表示用x,y轴的线性组合表示了)和梯度方向一样((f_{x}(x_{0},y_{0}),f_{y}(x_{0},y_{0}) ))(平行)的时候,这个方向导数是最大的....换句话也可以说,方向导数任意方向一定有个变化率最大的方向,这个时候,我们把这个最大的方向定义为梯度方向~

作者:忆臻
链接:https://www.zhihu.com/question/30672734/answer/139402480
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

转载于:https://www.cnblogs.com/mdumpling/p/8625558.html

你可能感兴趣的文章
UIView 的基础
查看>>
网络编程介绍
查看>>
pat 团体天梯赛 L2-012. 关于堆的判断
查看>>
四、构建Node Web程序
查看>>
【LeetCode】150. Evaluate Reverse Polish Notation
查看>>
远程连接服务器出现身份验证错误 要求的函数不受支持
查看>>
virtualenv模块使用
查看>>
SimMechanics/Second Generation倒立摆模型建立及初步仿真学习
查看>>
Spring Boot中如何干掉if else
查看>>
UrlEncode
查看>>
hadoop 点点滴滴(三)
查看>>
Unity3D脚本的生命周期(执行顺序)
查看>>
selenium+python笔记3
查看>>
python 练习 20
查看>>
Python——逻辑运算(or,and)
查看>>
领域驱动设计在马蜂窝优惠中心重构中的实践
查看>>
WCF发布到IIS7问题的解决方案
查看>>
MaintainableCSS 《可维护性 CSS》 --- 模板篇
查看>>
57 Insert Interval
查看>>
matlab练习程序(PCA<SVD>)
查看>>