CG法Matlab代码-RSOpt：黎曼随机优化算法：v1.0.3

简介：
RSOpt是基于Matlab实现的CG方法库中的一个工具箱，采用黎曼随机优化算法进行高效求解，版本为v1.0.3。 黎曼随机优化算法（RSOpt）是由特定作者编写的MATLAB代码实现。该版本的最后更新时间是2019年5月31日，最新版本为1.0.3。 问题的核心在于求解函数f：M->R上的一个MA光滑实值函数最小化问题，其中目标问题是与黎曼流形M上的给定变量w相关的。具体而言，该优化任务可以表示为min_{winM} f(w) := 1/n sum_{i=1}^n f_i(w)，这里 n 表示数据集中的样本总数。 这类问题在许多领域有广泛的应用，例如主成分分析（PCA）和子空间跟踪等问题中，它涉及到R^d 中的 r 维线性子空间集合。此外，在低秩矩阵恢复以及张量补全的问题上也有应用前景。这些问题定义在一个固定秩矩阵流形之上。 解决这类问题的一种常用方法是黎曼梯度下降法（Riemannian gradient descent），该算法在每次迭代中计算完整的黎曼梯度估计，但当样本数量n很大时，这种方法的计算成本会非常高昂。作为替代方案，黎曼随机梯度下降算法（R-SGD）被提出并广泛应用，在欧几里得空间中的SGD方法的基础上扩展到了黎曼流形上。由于R-SGD每次迭代仅需要针对一个特定样本进行一次梯度计算，因此它在处理大规模数据集时显示出显著的效率优势。尽管如此，该算法仍然需要执行回缩和向量传输等操作来确保运算过程中的数值稳定性与准确性。