本讲的主要内容是数学工具中的Fenchel-Rockafellar对偶理论。学习目标包括定义Fenchel-Rockafellar对偶的概念,以及通过实例展示如何运用这个对偶理论来求解优化问题。课程内容分为四个部分:首先回顾Fenchel-Legendre共轭的定义和支撑函数,然后介绍Fenchel
极小值点的存在性与投影 本讲座关注优化问题中极小值点的存在性条件,以及向闭凸集投影的性质。主要内容包括刻画极小值点的概念、给出极小值点存在性的充分必要条件、分析凸函数情形的特殊性质,以及研究向闭凸集的投影问题。 极小值点的定义 设 S 是Hilbert空间 \mathcal{H} 的非空子集, f:
凸优化与共轭函数理论讲解笔记 课程大纲概述 这门课程主要围绕凸优化理论展开,分为三个核心部分。第一部分是凸性(Convexity)的基本概念和定义,这是整个优化理论的基础。在凸性的框架下,我们特别关注1.1节的定义部分,以及1.2节关于可微凸函数的刻画(Characterization of dif
ATSI优化课程讲义 - 第二讲:数学工具——凸性与共轭 课程概述 本讲座是ATSI优化课程的第二讲,主题聚焦于凸性理论和共轭函数。这一讲的内容包括四个主要目标:给出凸集和凸函数的精确定义、刻画可微凸函数的性质、定义函数的共轭概念、以及探讨凸函数的共轭性质。 讲座的组织结构分为两大部分。第一部分深入
课程概述 本讲座是ATSI优化课程的第一讲,主要聚焦于数学工具的基础内容。整个讲座分为两大部分:代数的基本回顾和泛函分析的相关概念。这些数学工具将为后续优化理论的学习奠定基础。 希尔伯特空间 预希尔伯特空间的定义 我们从预希尔伯特空间开始讨论。一个实的预希尔伯特空间 \mathcal{H} 首先是一
优化理论导论 课程概述与优化的本质 这是CentraleSupelec大学ATSI硕士项目的优化课程,由Jean-Christophe Pesquet教授主讲。课程开篇引用了优化领域著名学者Yurii Nesterov的一段话:"无论人们做什么,在某个时刻他们都会产生一种渴望,想要以最好的方式来组织
勒让德变换 定义 勒让德变换(Legendre Transform,LT)或称作凸共轭(Convex Conjugate,CC) 勒让德变换是凸分析中的一个基本工具,广泛用于优化理论中,它将一个函数 f(x) 映射为另一个凸函数 f^*(t) 在进行 LT 之前,我们需要确保原函数 f 满足以下两
第一章: 介绍 1.1 无监督学习概述 1.1.1 有监督学习 有监督学习,就是数据集有样本有标签,其目标是学习 x 到 y 的映射,相当于告诉正确答案,如果训练中做错了就根据答案调整一下。 1.1.2 无监督学习 无监督学习,数据没有类标,那就不是映射了,其目标就是找到隐含在数据里的模式和结构,常
信号和系统的特性和建模 这部分内容在 随机信号处理(理论)中有更基础的推导 信号和系统的特性描述 对于信号而言,其特性有 平稳性、周期性、功率谱密度等,它们用于建立信号的数学模型或描述其统计行为,并且我们通过自相关函数、傅里叶变换等方法提取信号的关键特性。对于系统建模而言,我们通过系统的时域或频域响