标签:#數學最佳化

共 43 篇文章

多学科设计优化

多学科设计优化(,簡稱:MDO)是指使用涉及多种学科的优化方法来解决设计问题的一个工程学科。 它也被称为多学科优化或者多学科系统设计优化(MSDO)。 MDO允许设计人员同时考虑所有相关学科。联立问题的最优解由于综合考虑了各个学科之间的互相影响,会优于按顺序采用每个学科而获得的优化结果。然而,同时考虑多个学科往往会极大增加问题的复杂性。

梯度下降法

梯度下降法()是一种求解无约束最优化问题的一阶迭代最优化算法,它被用来求得可微函数的局部极小值,通常也称为最陡下降法,但是不該與近似積分的最陡下降法()混淆。 要使用梯度下降法找到一个函数的局部极小值,必须向函数上当前点对应梯度(或者是近似梯度)的反方向的规定步长距离点进行迭代搜索,因为这是最陡下降的方向。如果相反地向梯度正方向迭代进行搜索,则会接近函数的局部极大值点,这个过程则被称为梯度上升法。梯度下降法在机器学习中对于成本的最小化或…

多目标优化

多目标优化或帕累托优化,亦称多目标规划、向量优化、多准则优化或多属性优化,是领域的一个分支,专注于解决需要同时优化多个目标函数的数学优化问题。 多目标优化是向量优化的一种类型,已广泛应用于科学的多个领域,包括工程学、经济学和物流学。在这些领域中,往往需要在两个或更多相互冲突的目标之间进行权衡取舍,以做出最佳决策。例如,在购车时,需要在最小化成本的同时最大化舒适度;在车辆设计中,需要在最大化性能的同时最小化燃料消耗和污染物排放。这分别是涉…

非线性规划

在数学中,非线性规划是求解由一系列未知实函数组成的组方程和不等式(统称为约束)定义的最佳化問題,伴随着一个要被最大化或最小化的目标函数,只是一些约束或目标函数是非線性的。它是最优化处理非线性问题的一个子领域。 适用性 从一系列运输方法中选择优化运输成本的一个或多个表现规模经济的连通性和容量约束不同的非凸问题。例如从管道、铁路油槽车、罐车、河驳船或沿海油船中选择或组合的石油产品运输。由于经济批量大小,除了平滑变化之外,成本函数可以有不连续…

壓縮感知

压缩感知(英语:Compressed sensing或Compressive sensing ),也被称为压缩采样(英语:Compressive sampling)或稀疏采样(英语:Sparse sampling),是一种寻找欠定线性方程组的稀疏解的技术。压缩感知被应用于电子工程尤其是信号处理中,用于获取和重构稀疏或可压缩的信号。该方法利用信号本身或其线性变化域稀疏的特性,相较于奈奎斯特–香农采样定理(英语:Nyquist–Shanno…

极值

在数学中,极值(extremum)是极大值(maximum)与极小值(minimum)的统称,意指在一个域上函数取得最大值或最小值的点的函数值。而使函数取得极值的点(的横坐标)被称作极值点。这个域既可以是一个邻域,又可以是整个函数域(这时极值称为最值、全局极值、绝对极值)。 定义 局部(相对)最大值:如果存在一个\varepsilon >0,使得所有满足|x-x^{}|的x都有f(x^{})\geq f(x),我们就把点x^{}对应的函…

莱文伯格-马夸特方法

莱文伯格-马夸特方法()能提供數非線性最小化(局部最小)的數值解。此演算法能藉由執行時修改參數達到結合高斯-牛顿算法以及梯度下降法的優點,並對兩者之不足作改善(比如高斯-牛顿算法之反矩陣不存在或是初始值離局部極小值太遠)。 問題描述 假設 f 是一個從 \real^m \rightarrow \real^n 的非线性映射,也就是說 \mathbf{P} \in \real^m 且 \mathbf{X} \in \real^n, 那麼: …

約束 (數學)

在數學中,約束()是一個最佳化問題的解需要符合的條件。約束可分為等式约束及不等式约束。符合所有約束的解的集合稱為可行集(feasible set)或是候選解(candidate solution)。 範例 以下是一個最佳化的問題: :\min f(\mathbf x) = x_1^2+x_2^4 其拘束條件為 : x_1 \ge 1 and : x_2 = 1, \, 其中 \mathbf x 表示向量 (x1, x2)。 上例中,第一…

差分进化算法

差分进化算法()又称微分进化算法,是一种求解最佳化问题的进化算法。因為进化算法對於最佳化问题的要求極少,所以被視為一種。雖然後設启发式算法適用於多種最佳化问题,但是並不保證可以找到全局最優解。 差分进化算法被使用在多維度實數編碼的最佳化问题。因為此算法不使用問題的梯度資訊,故可解不可微分的最佳化问题。也因此,差分进化算法可用於不連續的,雜訊的,隨著時間改變的最佳化问题。 差分进化算法類似遗传算法,包含变异,交叉操作,淘汰机制。本质上说,…

拉格朗日乘数

在数学中的最优化问题中,拉格朗日乘数法(,以数学家约瑟夫·拉格朗日命名)是一种寻找多元函数在其变量受到一个或多个条件的约束时的局部极值的方法。 方法說明 對一個有 n 个变量与 k 个约束条件的最优化问题,拉格朗日乘數法會將其转换成一个 n+k 个变量的方程组,稱作拉格朗日方程(),這個方程組的解將包括所有最優化問題的解。拉格朗日乘數法將會引入一个或一组新的未知数,即拉格朗日乘数(),又称拉格朗日乘子,或拉氏乘子,它们是在转换后的方程,…

格里旺克函数

格里旺克函数(Griewank function)是數學上常用于测试优化程序效率的函数,定义如下: G(x_1,x_2,\cdots,x_n)=1+\frac{1}{4000}\sum_{1}^{n}x_{i}^2-\prod_{i=1}^{n}cos(\frac{x_i)}{\sqrt(i)} 一阶格里旺函数 g := 1+(1/4000)x[1]^2-cos(x[1]) 如图所示,一阶格里旺函数有许多极点。取上述函数的一阶导数,令其…

位元率-失真最佳化

位元率-失真最佳化(Rate–distortion optimization,簡稱RDO)是一種提升視訊壓縮效能的最佳化方法。其原理是對視訊的失真(畫面品質)與位元率(編碼所需的資料量)同時進行最佳化,以求達到一個最佳的平衡點。雖然此演算法一開始是在視訊壓縮的編碼器中被使用,但也可以用於各種多媒體編碼包含影像、視訊、音訊等等,只要編碼時會同時考慮到品質及檔案大小皆可使用。 背景 傳統視訊編碼器在做編碼決策時,是挑選出影像品質最好的畫面。…

蝙蝠算法

蝙蝠算法(Bat Algorithm,縮寫 BA),是一种元启发式优化算法,是杨新社(音译自:Xin-She Yang)在2010年提出的算法。这个蝙蝠算法以微蝙蝠(microbats)回声定位行为的基础,采用不同的脉冲发射率和响度。 算法描述 把蝙蝠的回声定位理想化,可以总结如下:每个虚拟蝙蝠有随机的飞行速度v_i在位置x_i(问题的解),同时蝙蝠具有不同的频率或波长、响度A_i和脉冲发射率r。蝙蝠狩猎和发现猎物时,它改变频率、响度和…

瓦尔拉斯拍卖

瓦尔拉斯拍卖(Walrasian auction),由里昂·瓦尔拉斯引入。这种拍卖方式是每一位拍卖参与者提出自己可接受的最高价格。最后拍卖品由出价最高者获得,价格为第二高价格稍高一点。这种拍卖的好处是避免不断重复出价和过高出价。可以证明这种排名能够达到一般均衡价格。 目前,EBAY就是采用的这种拍卖方式。然而大部分金融产品并不是理想的瓦尔拉斯拍卖。

羅森布羅克函數

在數學最佳化中,羅森布羅克函數是一個用來測試最佳化演算法性能的非凸函数,由霍華德·哈里·羅森布羅克】在1960年提出。也稱為羅森布羅克山谷或羅森布羅克香蕉函數,也簡稱為香蕉函數。 羅森布羅克函數的定義如下: : f(x, y) = (1-x)^2 + 100(y-x^2)^2 .\quad 羅森布羅克函數的每个等高线大致呈抛物线形,其全域最小值也位在抛物线形的山谷中(香蕉型山谷)。很容易找到這個山谷,但由於山谷內的值變化不大,要找到全域…

非线性最小二乘法

非线性最小二乘法是非线性形式的最小二乘法,用包含个未知参数的非线性模型拟合个观测值(m\ge n),可用于某些形式的非线性回归。该方法的基础是使用线性模型近似并通过连续迭代来优化参数。它与线性最小二乘法既有相同之处、也有一些显著差异。 理论 考虑一组(x_1, y_1), (x_2, y_2), \dots, (x_m, y_m)共m个数据点以及曲线(模型函数)\hat{y} = f(x, \boldsymbol \beta)。该曲线同…

效用最大化

效用最大化問題,在經濟學中,特別是微觀經濟學中是指消費者所面對的這樣的問題,即“消費者應如何花費金錢使其效用極大化”。 哲學家邊沁(Jeremy Bentham,1748-1832)提出快樂與痛苦是控制人類行為的力量,人類極力求取快樂而逃避痛苦,這正是功用最大化(maximization of utility)的心態。產權理論的先驅艾智仁(Armen Alchian 1914- )認為功用的定義是對不同物品根據個人喜好作選擇的排列。功用…

响应曲面法

反應曲面法(Response surface methodology,簡寫RSM)為結合數學與統計而延生出的方法,為最適實驗設計或作業條件的有利工具,於1951年,Box 和 Wilson 共同進行數學模式的建立與推導,而後普遍應用於電子、機械、農業、化學工業、生物科技、材料科學、食品科學及工業製程改善等各項研究領域中。 說明 反應曲面法在協助研究人員對科學系統或工業製程中最佳產品設計、製程改善、系統最佳化等問題提供一套分析、求解程序,…

支出最小化

支出最小化问题,在经济学,特别是微观经济学中是效用最大化问题的对偶问题,直观地说就是:“需要多少钱才能使我效用達到最大?” 给定效用函数,价格,和效用目标,这个问题可以分为两部分。 由支出函数決定消費者所需金額。 由決定消费者如何在極小化其支出的情况下維持其效用不變。 支出函数 假设消费者有一个定义在L种商品\mathbf{x}\in\mathbb{R}^L_+上的效用函数u。则该消费者的支出函数给出在给定价格为\mathbf{p}的情…

反NP

在計算複雜度理論上,反NP類是複雜度類的其中一類。 定義 一個問題\mathcal{X}是反NP的成員,若且唯若,它的補全\mathcal{X}^{\rm C}必定是在複雜度NP;用數學符號來寫,\mathbf{CoNP}:=\{L | L^{\rm C}\in\mathbf{NP}\}。 簡單來說,反NP複雜度,是高效率而又可核實地證明命題為錯的組群,當中的佼佼者是立即找到反例存在。 其中一個NP完全問題的例子是子集合加總問題:給一個…