A First Course in Optimization Theory Rangarajan K. Sundaram (著)1996

A First Course in Optimization Theory Rangarajan K. Sundaram (著)1996

http://nam-students.blogspot.jp/2018/02/a-first-course-in-optimization-theory_20.html

https://www.amazon.co.jp/First-Course-Optimization-Theory-ebook/dp/B00AKE1UBE/

A First Course in Optimization Theory Kindle版

Rangarajan K. Sundaram  (著)1996

http://theyoungeconomist.blog115.fc2.com/blog-entry-11.html
Required Textbook は、Sundaram。丁寧な記述がよい。とくに、Lagrange, Kuhn-Tucker では、各ステップの解説が丁寧で、"cook book" としての役割十分だ。また定理が当てはまらない具体例を「これでもか」というくらい挙げてくれるので、それが理解の助けになる。「盲目的に定理を当てはめるなよ、前提条件をきちんと確認せよ」という著者からのメッセージですね。承知。

https://www.researchgate.net/publication/227389342_A_First_Course_in_Optimization_Theory

https://www.researchgate.net/profile/Rangarajan_Sundaram/publication/227389342_A_First_

Course_in_Optimization_Theory/links/00b7d524302612db49000000/A-First-Course-in-Optimization-Theory.pdf

目次のみ

Preface 

Acknowledgements 

1 Mathematical Preliminaries

2 Optimization in Ｒ^n

3 Existence of Solutions: The Weierstrass Theorem

4 Unconstrained Optima

5 Equality Constraints and the Theorem of Lagrange

6 Inequality Constraints and the Theorem of Kuhn and Tucker

7 Convex Structures in Optimization Theory

8 Quasi-Convexity and Optimization

9 Parametric Continuity: The Maximum Theorem

10 Supermodularity and Parametric Monotonicity

11 Finite-Horizon Dynamic Programming

12 Stationary Discounted Dynamic Programming

Appendix A Set Theory and Logic: An Introduction

Appendix B The Real Line

Appendix C Structures on Vector Spaces

Bibliography

 Index

序文 

謝辞

 1つの数学的予備

 2R^ nにおける最適化 

3ソリューションの存在：ワイエルシュトラスの定理 

4無制約オプティマ 

5均等制約とラグランジュの定理 

6不平等制約とクーンとタッカーの定理  

7最適化理論における凸構造 

8準コンベクシティと最適化 

9パラメトリック連続性：最大定理 

10超モダリティとパラメトリック単調性 

11有限地平線動的計画法 

12定常ディスカウントダイナミックプログラミング 

付録A集合論と論理：はじめに 

付録Bリアルライン 

付録Cベクトル空間の構造 

参考文献  

インデックス

最適化理論の教科書．基本的な理論は，KKTの二次の条件や無限Horizonの動的計画問題も含めて，一通り載っている．証明もきちんと書いてある．きちんと書いてあるが，数学ができる人じゃないと読むのはすごく辛いでしょう．なお，かなり経済学よりなので，具体的なデータを入れた後に実質的に解けるかどうかにはほとんど感知していません．

読む人にもよるのでしょうが，例題や証明や論理の流れがどうも直感的には把握しにくいものになっていると思います．評者の場合は，数式番号が入っておらず，当然ながら読みながらの相互参照を促す説明もほとんどないことにストレスがたまりました．



経済学は基本的には最適化問題につきるので、最適化問題の解き方を学習するにはいい本だと思います。最初にざっと数学的基礎（数列の極限、行列、陰関数定理、凹性、凸性…）をおさらいして、条件なし最適化、等式条件付き、不等式条件付きと進み、最後に動学までやります。ひとつひとつ進んでいくので初学者には分かりやすい構成になっていると思います。
表題のとおりFirst courseなのでそれほど数学的に厳密というわけではなく、解き方は分かったけど…という気になるかもしれません。ただ、最適化は深みにはまるとどうしようもない深淵があるなので経済学をやる分にはこれくらいでいいんじゃないかなあという気もします（ＫＫＴ条件ひとつをとってもこの本だけでは不十分）。大学院や意欲のある学部生でミクロやマクロの数学付録が意味わからんという人にとっては価値があるかと思います。


　基礎的な最適化理論についてひととおり学ぶことができる本。ただ、このレベルの本でTarskiの定理に触れているものは、ちょっと珍しいかもしれない。具体例が豊富で、その定理の仮定がどうして必要なのかということについてきっちり理解できるという点は、初学者には嬉しいところ。誤植や論理の飛びも散見するが、簡単に埋められるレベルである。総じて、良書と言っていいだろう。
　ただ、第六章のKuhn-Tucker定理の証明は、陰関数定理の使用法に多少の問題があるように思える。これから読む方にはその点に十分留意して読まれることをお勧めする。

https://ja.m.wikipedia.org/wiki/%E3%82%B9%E3%83%88%E3%83%BC%E3%83%B3%EF%

BC%9D%E3%83%AF%E3%82%A4%E3%82%A8%E3%83%AB%E3%82%B7%E3%83%A5%

E3%83%88%E3%83%A9%E3%82%B9%E3%81%AE%E5%AE%9A%E7%90%86

数学におけるストーン・ワイエルシュトラスの定理とは、局所コンパクト空間上の連続関数の代数系における部分代数の稠密性に関する定理である。カール・ワイエルシュトラスによって1885年に示されたワイエルシュトラスの近似定理がその原型であり、1937年にマーシャル・ストーンによって大幅に一般化された現在の形の結果が得られた。

ワイエルシュトラスの近似定理は、閉区間上のどんな連続関数も多項式関数によって任意の精度で一様に近似できることを述べている。

ストーン・ワイエルシュトラスの定理は、局所コンパクトハウスドルフ空間 X 上定められた複素数値の連続関数の代数系 C(X) の部分代数 A が一様収束の位相に関して稠密になるための十分条件として、

1. Aの元によって X の任意の異なる点が分離されること
2. 関数の複素共役をとる操作について A が閉じていること

の二つが両立していること、を挙げている。Xが実閉区間であるとき多項式関数のなす代数系は上記の条件を共に満たすため、ワイエルシュトラスの近似定理はストーン・ワイエルシュトラスの定理の特別な場合になっている。

目次

ワイエルシュトラスの近似定理編集

ワイエルシュトラスが証明したのは以下のような形の近似定理である。

f を閉区間 [a, b] 上の連続関数とせよ。任意の ε > 0 について C 上の多項式 p であって、[a,b] の任意の点 x に対し| ƒ(x) − p(x) | < ε を満たすようなものが存在する。

ワイエルシュトラスは ${\displaystyle e^{-x^2}}$ に代表されるような良い減少性をもつ関数の高階微分によって表される積分作用素によって、与えられた関数 f を近似するような多項式たちの係数を与えた。

実の場合のストーン・ワイエルシュトラスの定理編集

閉区間[a,b]上の連続関数のなす集合は sup-ノルムによってバナッハ環になる。つまり、このノルムに関して位相線型空間として完備であり、各点での値の積をとることによって定まる環の構造について ||fg|| < ||f||·||g||が成り立っているということである。ワイエルシュトラスの近似定理とは、このバナッハ環の中で多項式関数のなす部分環が稠密であるということをのべている。

ストーンは任意のコンパクトハウスドルフ空間 X に対し、その上の実数値連続関数のなす環 C(X,R) を考察した。この環は sup-ノルムに関してバナッハ環となっているが、その部分環 A が稠密になるための決定的な条件とは A が X の点を分離すること、であるということをストーンは見いだした。これはすなわち、 X の異なる二つの点 x, y について A の元 f であって f(x) と f(y) とが異なるようなものが存在することである。

ストーン・ワイエルシュトラスの定理は以下のように述べられる。

X をコンパクトハウスドルフ空間とし、A を C(X,R)の部分環であって 0 でない定数関数を含むものとせよ。そのとき、A が X の点を分離することと、Aが C(X,R)で稠密であることとは同値である。

C(X,R)の部分環A に対し、Aの任意の元が連続になるような最も粗い位相をX上に考えると、上の条件はこの位相がハウスドルフ位相になることと言い換えられる。したがって、ストーンが述べていることだが、この位相が X の元々の位相に一致することと、定数関数を含む部分環 A の稠密性とは同値になる。

Xとして閉区間 [a,b]をとるとき、多項式関数のなす環は定数関数を含んでかつ X の点を分離するので、ストーン・ワイエルシュトラスの定理はワイエルシュトラスの近似定理の拡張になっている。

複素の場合のストーン・ワイエルシュトラスの定理編集

コンパクトハウスドルフ空間上の複素数値連続関数のなす環についても部分環の稠密性をみちびく同様の定理が知られている。

X をコンパクトハウスドルフ空間とし、A をX 上の複素数値連続関数環 C(X,C) の部分環で定数関数をふくむものとする。Aが複素共役について閉じており、X の各点を分離するならば A は C(X,C) の sup-ノルムに関して稠密である。

この定理は実の場合のストーン・ワイエルシュトラスの定理と同値になる。実際、上のように A が複素共役について閉じたC(X,C) の部分環であるとき、Aの任意の元の実部は再び A に属するし、C(X, R) の部分環 B がX の各点を分離するならば A = B + i B は上の条件を満たすからである。

局所コンパクト空間に対するストーン・ワイエルシュトラスの定理編集

局所コンパクト空間上の連続関数で無限遠で消えているようなものに対しても同様の稠密性の条件を与える定理が成り立っている。非コンパクトな空間に対しては定数関数は無限遠で消えていないため、対応する条件は X の任意の点 x に対して部分環に属する関数 f で f(x) ≠ 0 となるようなものがあるかどうか、ということになる。こちらの条件は稠密性の必要条件を与えてもいる。

X を局所コンパクト空間とし、 AをC₀(X, R)の部分環とせよ。AがX の任意の点を分離し、任意の点に対してAの元であってそこで消えないようなものが存在するとき、およびその時に限りA は sup-ノルムに関して稠密である。

例編集

ストーン・ワイエルシュトラスの定理の仮定は以下のような場合に満たされている。

• T = { z ∈ C : | z | = 1 } とする。A が円周上のローラン多項式 ${\displaystyle \sum _{n\in X\subset \subset \mathbb{Z}}{a}_n{z}^n}$ のなすC(T, C) の部分環のとき。
• X と Y とをコンパクトハウスドルフ空間とする。A が、有限個の C(X)の元 f₁, f₂, …, f_nと同数の C(Y) の元 g₁, g₂, …, g_n との積の和 ∑f_ig_i の形に書かれるような C(X × Y) の元からなる部分環であるとき。

複素の場合のストーン・ワイエルシュトラスの定理について、複素共役に関する条件が必要なことは以下のような例からわかる。

• Aが解析的多項式${\displaystyle \sum _{n\in X\subset \subset \mathbb{N}}{a}_n{z}^n}$からなるC(T, C) の部分環のとき、Aは T の各点を分離するが C(T, C) の中で稠密ではない。実際、C(T, C) の元${\displaystyle \overline{z}}$と、Aの任意の元 f との間に ${\displaystyle |\overline{z}-f{|}_{\mathrm{\infty }}\ge 1}$が成り立っている。

参考文献編集

原著論文編集

• Stone, M. H. (1937), “Applications of the Theory of Boolean Rings to General Topology”(PDF), Transactions of the American Mathematical Society (American Mathematical Society) 41 (3): 375–481, doi:10.2307/1989788 2010年12月4日閲覧。.
• Stone, M. H. (1948), “The Generalized Weierstrass Approximation Theorem”, Mathematics Magazine 21 (4): 167–184, doi:10.2307/3029750; 21 (5), 237–254.
• Weierstrass, K. (1885), “Über die analytische Darstellbarkeit sogenannter willkürlicher Functionen einer reellen Veränderlichen”, Sitzungsberichte der Königlich Preußischen Akademie der Wissenschaften zu Berlin (II)

Erste Mitteilung (第一部) pp. 633–639, Zweite Mitteilung (第二部) pp. 789–805.

• Pérez, Dilcia; Quintana, Yamilet (2008), “A survey on the Weierstrass approximation theorem” (PDF), Divulgaciones Matemáticas (Department of Mathematics of Universidad del Zulia) 16 (1): 231-247 2010年12月4日閲覧。.

参考書籍編集

• 『岩波数学辞典』 日本数学会、岩波書店、2007年、第4版。ISBN 978-4-00-080309-0。74.B