引言 我们的目标还是为了解决 病态的逆问题。为了解决此类问题，我们需要引入一些约束和正则化手段，以获得有意义的解。这里的约束条件包括： 正值性约束(Non-negativity constraint)：要求求得的解 x 的所有元素均为非负数，即 x_i \geq 0。 支持性约束(Support c
Q1. 最小值的存在性和唯一性 存在性分析 根据第一章关于极小值点存在性的理论，我需要验证以下条件： 目标函数： f(x) = \frac{1}{2}x^{\top}Hx + v^{\top}x 这是一个连续函数，且函数 f 是严格凸的（因为 H 正定） 约束集： C = \{x \in \math
近端算法课程讲解 - 第七部分 课程引入：从固定点定理开始 这门课程从一个经典的数学定理开始——Picard固定点定理（1856-1941年提出）。首先让我们理解什么是希尔伯特空间（Hilbert space）。希尔伯特空间\mathcal{H}是一个完备的内积空间，这意味着它不仅有内积结构可以定义
课程引入：非光滑凸优化 这部分课程是CentraleSupelec的ATSI硕士优化课程的第六部分，主题聚焦在次微分和邻近算子上。在开始正式内容之前，我们需要理解为什么要学习这些内容。 传统的优化理论主要处理光滑函数，也就是那些处处可微的函数。但在实际应用中，我们经常会遇到非光滑的凸函数。PPT中展
课程背景与目标 本节课的核心是学习拉格朗日乘数法这一数学工具。课程目标有两个方面：首先是掌握拉格朗日乘数法的使用方法，其次是理解在什么情况下可以用必要条件或充分条件来刻画问题的最小化器。这里需要明确的是，必要条件和充分条件在优化问题中扮演不同角色：必要条件帮助我们找到候选解，而充分条件确保这些候选解
本讲的主要内容是数学工具中的Fenchel-Rockafellar对偶理论。学习目标包括定义Fenchel-Rockafellar对偶的概念，以及通过实例展示如何运用这个对偶理论来求解优化问题。课程内容分为四个部分：首先回顾Fenchel-Legendre共轭的定义和支撑函数，然后介绍Fenchel
极小值点的存在性与投影 本讲座关注优化问题中极小值点的存在性条件，以及向闭凸集投影的性质。主要内容包括刻画极小值点的概念、给出极小值点存在性的充分必要条件、分析凸函数情形的特殊性质，以及研究向闭凸集的投影问题。 极小值点的定义 设 S 是Hilbert空间 \mathcal{H} 的非空子集， f:
凸优化与共轭函数理论讲解笔记 课程大纲概述 这门课程主要围绕凸优化理论展开，分为三个核心部分。第一部分是凸性（Convexity）的基本概念和定义，这是整个优化理论的基础。在凸性的框架下，我们特别关注1.1节的定义部分，以及1.2节关于可微凸函数的刻画（Characterization of dif
ATSI优化课程讲义 - 第二讲：数学工具——凸性与共轭 课程概述 本讲座是ATSI优化课程的第二讲，主题聚焦于凸性理论和共轭函数。这一讲的内容包括四个主要目标：给出凸集和凸函数的精确定义、刻画可微凸函数的性质、定义函数的共轭概念、以及探讨凸函数的共轭性质。 讲座的组织结构分为两大部分。第一部分深入
课程概述 本讲座是ATSI优化课程的第一讲，主要聚焦于数学工具的基础内容。整个讲座分为两大部分：代数的基本回顾和泛函分析的相关概念。这些数学工具将为后续优化理论的学习奠定基础。 希尔伯特空间 预希尔伯特空间的定义 我们从预希尔伯特空间开始讨论。一个实的预希尔伯特空间 \mathcal{H} 首先是一
