第一章 统计学习导论与线性回归回顾 1.1 统计学习基础 1.1.1 课程目标与结构 这节课有三个核心目标。首先是介绍统计学习的基本概念，让我们理解什么是统计学习以及它的基本思想。其次是建立回归和分类问题的数学框架，这个框架是后续所有方法的基础。最后是回顾线性回归，因为线性回归是最基础的方法，理解它
强化学习与监督学习的区别： (1) 训练数据中没有标签，只有奖励函数 (Reward Function)。 (2) 训练数据不是现成给定，而是由行为 (Action) 获得。 (3) 现在的行为 (Action) 不仅影响后续训练数据的获得，也影响奖励函数 (Reward Function) 的取值
强化学习基础导论 经典控制与强化学习的对比 控制系统的核心思想是通过反馈机制来调节系统行为。具体来说，系统接收控制器发出的输入信号 u(t)，然后产生输出 y(t)。系统还有一个目标输出 y_{ref}(t)（参考信号或期望输出）。控制器的作用就是比较当前系统的实际输出 y(t) 和我们期望的输出
逆问题导论 本课程整体分成两部分，第一部分主要是优化方法、图像复原和源分离，第二部分涉及估计理论、贝叶斯推断以及马尔可夫链蒙特卡洛方法。两个方向代表了求解逆问题的两大主流框架：一个是基于概率统计的贝叶斯方法，另一个是基于数学优化的确定性方法。 课程结构 第一部分课程分为四个章节。第一节介绍不适定逆问
引言与案例 案例1：使用单盘天平称量三个物体 这个经典问题来自Pázman在1986年提出的称量问题。我们有三个物体，它们的真实质量分别为 m_1, m_2, m_3，需要使用一个单盘天平来估计这些质量。 问题的数学模型 当我们用天平称量质量为 m 的物体时，观测值 y 并不是精确的质量值，而是受到
从实验数据进行建模与参数估计 课程目标与建模的本质 这门课程的核心是从实验数据中建立数学模型并估计参数。模型本质上是对真实或人工过程的数学描述，但必须针对特定目标来构建。同一个物理系统，针对不同的目的可能需要完全不同的模型。 建模目标大致分为几类: 分析类(物理、化学、生物现象分析，软件传感器实现间
引言 我们的目标还是为了解决 病态的逆问题。为了解决此类问题，我们需要引入一些约束和正则化手段，以获得有意义的解。这里的约束条件包括： 正值性约束(Non-negativity constraint)：要求求得的解 x 的所有元素均为非负数，即 x_i \geq 0。 支持性约束(Support c
近端算法课程讲解 - 第七部分 课程引入：从固定点定理开始 这门课程从一个经典的数学定理开始——Picard固定点定理（1856-1941年提出）。首先让我们理解什么是希尔伯特空间（Hilbert space）。希尔伯特空间\mathcal{H}是一个完备的内积空间，这意味着它不仅有内积结构可以定义
课程引入：非光滑凸优化 这部分课程是CentraleSupelec的ATSI硕士优化课程的第六部分，主题聚焦在次微分和邻近算子上。在开始正式内容之前，我们需要理解为什么要学习这些内容。 传统的优化理论主要处理光滑函数，也就是那些处处可微的函数。但在实际应用中，我们经常会遇到非光滑的凸函数。PPT中展
课程背景与目标 本节课的核心是学习拉格朗日乘数法这一数学工具。课程目标有两个方面：首先是掌握拉格朗日乘数法的使用方法，其次是理解在什么情况下可以用必要条件或充分条件来刻画问题的最小化器。这里需要明确的是，必要条件和充分条件在优化问题中扮演不同角色：必要条件帮助我们找到候选解，而充分条件确保这些候选解
