共軛函數(shù)
定義：擴展實值函數(shù) ![f: \mathbb{R}^n \mapsto [-\infty, \infty]](https://math.jianshu.com/math?formula=f%3A%20%5Cmathbb%7BR%7D%5En%20%5Cmapsto%20%5B-%5Cinfty%2C%20%5Cinfty%5D)
的共軛函數(shù) ![f^*: \mathbb{R}^n \mapsto [-\infty, \infty]](https://math.jianshu.com/math?formula=f%5E*%3A%20%5Cmathbb%7BR%7D%5En%20%5Cmapsto%20%5B-%5Cinfty%2C%20%5Cinfty%5D)
定義如下：
%20%3D%20%5Csup_%7B%5Cboldsymbol%7Bx%7D%20%5Cin%20%5Cmathbb%7BR%7D%5En%7D%20%5Cleft%5C%7B%20%5Cboldsymbol%7Bx%7D%5E%5Ctop%20%5Cboldsymbol%7By%7D%20-%20f(%5Cboldsymbol%7Bx%7D)%20%5Cright%5C%7D%2C%20%5Cquad%20%5Cboldsymbol%7By%7D%20%5Cin%20%5Cmathbb%7BR%7D%5En.)
二次共軛函數(shù)
定義：擴展實值函數(shù) ![f: \mathbb{R}^n \rightarrow [-\infty, \infty]](https://math.jianshu.com/math?formula=f%3A%20%5Cmathbb%7BR%7D%5En%20%5Crightarrow%20%5B-%5Cinfty%2C%20%5Cinfty%5D)
的二次共軛函數(shù) ![f^{**}: \mathbb{R}^n \rightarrow [-\infty, \infty]](https://math.jianshu.com/math?formula=f%5E%7B**%7D%3A%20%5Cmathbb%7BR%7D%5En%20%5Crightarrow%20%5B-%5Cinfty%2C%20%5Cinfty%5D)
是其共軛函數(shù) 
的共軛函數(shù)盏档，定義如下：
%20%3D%20%5Csup_%7B%5Cboldsymbol%7By%7D%20%5Cin%20%5Cmathbb%7BR%7D%5En%7D%20%5Cleft%5C%7B%20%5Cboldsymbol%7By%7D%5E%5Ctop%20%5Cboldsymbol%7Bx%7D%20-%20f%5E*(%5Cboldsymbol%7By%7D)%20%5Cright%5C%7D%2C%20%5Cquad%20%5Cboldsymbol%7Bx%7D%20%5Cin%20%5Cmathbb%7BR%7D%5En.)
Theorem (共軛定理)
設(shè) 為擴展實值函數(shù)绰沥，其共軛函數(shù)和二次共軛函數(shù)分別是 和 
，則如下結(jié)論成立：
-
%20%5Cgeq%20f%5E%7B**%7D(%5Cboldsymbol%7Bx%7D)%2C%20%5Cforall%20%5Cboldsymbol%7Bx%7D%20%5Cin%20%5Cmathbb%7BR%7D%5En)
;
- 若
是正常閉凸函數(shù)达址，則 %20%3D%20f%5E%7B**%7D(%5Cboldsymbol%7Bx%7D)%2C%20%5Cforall%20%5Cboldsymbol%7Bx%7D%20%5Cin%20%5Cmathbb%7BR%7D%5En)
;
-
的共軛函數(shù)與其閉凸包的共軛函數(shù)等價，若
))
是正常函數(shù)，則 )(%5Cboldsymbol%7Bx%7D)%20%3D%20f%5E%7B**%7D(%5Cboldsymbol%7Bx%7D)%2C%20%5Cforall%20%5Cboldsymbol%7Bx%7D%20%5Cin%20%5Cmathbb%7BR%7D%5En)
;
- 當(dāng) 是凸函數(shù)時，三個函數(shù) 诲锹， 和 中之一是正常函數(shù)，則其它兩個也是正常函數(shù)梭冠。
極大極小問題
一個零和博弈的例子：
考慮如下只有兩個玩家的零和博弈辕狰，其中玩家 A 有 
個策略改备，玩家 B 有 
個策略控漠，若玩家 A 選擇策略 
的同時玩家 B 選擇策略 
，則玩家 A 需支付 
的報酬給玩家 B，玩家 A 的目標(biāo)就是最小化他支付的報酬盐捷，玩家 B 的目標(biāo)就是最大化他得到的報酬偶翅。不妨設(shè)他們都采用混合策略，即玩家 A 按概率分布 )
選擇策略碉渡，玩家 B 按概率分布 )
選擇策略聚谁，那么玩家 A 的期望支付報酬就是
其中矩陣 
第 行第 列的元素是 。若每個玩家都考慮最壞的情況滞诺，即玩家 A 最小化 
形导，玩家 B 最大化 
，不難看出這兩個問題就是上面的極大極小問題习霹。
極大極小問題的定義
設(shè) 
是閉凸函數(shù)朵耕，其中 
和 
分別是 
和 
的非空子集，考慮如下的極大極小問題：
強對偶關(guān)系
那我們很自然就想了解一個問題淋叶，在什么條件下：有如下的極大極小等式阎曹，我們也稱為強對偶關(guān)系成立？并且兩個極值都能取到煞檩？
%20%3D%20%5Cinf_%7Bx%20%5Cin%20X%7D%20%5Csup_%7Bz%20%5Cin%20Z%7D%20%5Cphi(x%2C%20z))
弱對偶關(guān)系
我們知道处嫌，總是有下面的弱對偶關(guān)系成立：
如下弱對偶關(guān)系總是成立：
%20%5Cleq%20%5Cinf_%7Bx%20%5Cin%20X%7D%20%5Csup_%7Bz%20%5Cin%20Z%7D%20%5Cphi(x%2C%20z).)
這是因為對于 
有
%20%5Cleq%20%5Cinf_%7Bx%20%5Cin%20X%7D%20%5Csup_%7Bz%20%5Cin%20Z%7D%20%5Cphi(x%2C%20z).)
對 
再取上確界即可證明弱對偶關(guān)系。
因此我們只需要研究在什么條件下有如下關(guān)系成立即可：
%20%5Cgeq%20%5Cinf_%7Bx%20%5Cin%20X%7D%20%5Csup_%7Bz%20%5Cin%20Z%7D%20%5Cphi(x%2C%20z).)
鞍點
定義：若向量 
和 
使得
%20%5Cleq%20%5Cphi(x%5E*%2C%20z%5E*)%20%5Cleq%20%5Cphi(x%2C%20z%5E*)%2C%20%5Cquad%20%5Cforall%20x%20%5Cin%20X%2C%20%5Cforall%20z%20%5Cin%20Z)
成立斟湃，則稱 )
為 
的鞍點 (saddle point)熏迹。
鞍點與極大極小值的關(guān)系
-
為 的鞍點當(dāng)且僅當(dāng)極大極小等式成立且
是：
%20%5Cquad%20%5Ctext%7Bs.t.%20%7D%20x%20%5Cin%20X.)
-
是
%20%5Cquad%20%5Ctext%7Bs.t.%20%7D%20z%20%5Cin%20Z.)
