1 開凸集合の分離
定義 1.1.EをR上の線形空間、u:E→Rを零でない実線形汎関数、cを実数とする。集合
{x∈E∣u(x)=c}をEの 超平面 (hyperplane) という。複素線形空間の超平面は、スカラー倍を実数に制限した実線形空間の超平面として定める。
定理 1.2.K∈{R,C}とし、EをK上の位相線形空間とする。AをEの空でない開凸集合とし、LをEの空でないアフィン部分空間、すなわちEの線形部分空間Mとv∈EによりL=v+Mと書かれる集合とし、A∩L=∅とする。このとき、すべてのx∈Aについてℜf(x)<cを満たし、すべてのy∈Lについてℜf(y)=cを満たすf∈E′と実数cが存在する。
証明.L=v+Mを満たすEの線形部分空間Mとv∈Eをとる。a0∈Aをとり、W=(A−a0)+Mとおく。§E12.16 命題 1.4 (1)によりA−a0は開集合であるから、§E12.16 補題 1.6 (5)によりWは開集合である。A−a0とMは凸であるからWは凸である。0∈Wであるから、Wは凸な零近傍であり、§E12.16 命題 1.4 (2)により吸収的である。Wの Minkowski 汎関数p=pWは、§E12.16 命題 2.8 (1)により劣線形であり、§E12.16 命題 2.8 (4)により連続であってW={x∈E∣p(x)<1}を満たす。
x1=v−a0とおく。x1∈Wと仮定すると、a∈Aとm∈Mによりv−a0=(a−a0)+mと書かれ、a=v−m∈A∩Lとなる。これはA∩L=∅に反する。ゆえにx1∈/Wであり、p(x1)≥1である。
スカラー倍をR×Eに制限してEをR上の線形空間ERとみなす。ERはR上の位相線形空間である。0∈Wとx1∈/Wによりx1=0であるから、N=Rx1の各元はtx1(t∈R)の形にただ一通りに書かれ、g(tx1)=tは線形写像g:N→Rを定める。t≥0ならばp(tx1)=tp(x1)≥t=g(tx1)であり、t<0ならばg(tx1)=t<0≤p(tx1)である。§E12.17 定理 1.3により、u∣N=gを満たし、すべてのx∈Eについてu(x)≤p(x)を満たすR線形写像u:E→Rが存在する。
U=W∩(−W)とおく。§E12.16 命題 1.4 (1)により−Wは零近傍であるから、Uは零近傍である。x∈Uならばu(x)≤p(x)<1であり、−x∈Wにより−u(x)=u(−x)≤p(−x)<1であるから、∣u(x)∣<1である。実数ε>0についてεUは零近傍でありu(εU)⊆(−ε,ε)であるから、uは0で連続であり、§E12.16 補題 1.7をERに適用するとuは連続である。§E12.17 補題 2.1 (1)によりℜf=uを満たすK線形写像f:E→Kが存在し、§E12.17 補題 2.1 (3)によりf∈E′である。
m∈Mと実数tについてtm∈M⊆Wであるから、tu(m)=u(tm)≤p(tm)<1である。不等式tu(m)<1がすべての実数tについて成り立つので、u(m)=0である。m∈Mは任意であるから、u∣M=0を得る。c=u(v)とおく。y=v+m∈L(m∈M)についてu(y)=u(v)+u(m)=cである。x∈Aについてx−a0∈Wであるからu(x)−u(a0)=u(x−a0)≤p(x−a0)<1であり、u(x1)=g(x1)=1によりu(v)−u(a0)=1であるから、u(x)<u(a0)+1=cである。▨
系 1.3.K∈{R,C}とし、EをK上の位相線形空間とする。AをEの空でない開凸集合とし、BをEの空でない凸集合とし、A∩B=∅とする。このとき、すべてのa∈Aとすべてのb∈Bについてℜf(a)<c≤ℜf(b)を満たすf∈E′と実数cが存在する。
証明.C=A−B=⋃b∈B(A−b)とおく。§E12.16 命題 1.4 (1)により各A−bは開集合であるからCは空でない開集合である。a,a′∈A、b,b′∈Bと0≤s≤1を満たす実数sについて(1−s)(a−b)+s(a′−b′)=((1−s)a+sa′)−((1−s)b+sb′)∈A−Bであるから、Cは凸である。A∩B=∅であるから0∈/Cである。定理 1.2をCとアフィン部分空間{0}=0+{0}に適用すると、すべてのx∈Cについてℜf(x)<c′を満たし、ℜf(0)=c′を満たすf∈E′と実数c′が存在する。ℜf(0)=0であるからc′=0である。したがって、すべてのa∈Aとb∈Bについてℜf(a)<ℜf(b)である。c=supa∈Aℜf(a)とおく。Aが空でなく、Bが空でないから{ℜf(a)∣a∈A}は上に有界な空でない集合であり、cは実数であって、すべてのb∈Bについてc≤ℜf(b)である。
Cが空でなく、すべてのx∈Cについてℜf(x)<0であるからf=0である。f(z)=0を満たすz∈Eをとり、w=f(z)−1zとおくとf(w)=1である。a∈Aとする。写像R→E,t↦a+twは連続であり、t=0での値は開集合Aに属するから、a+δw∈Aを満たす実数δ>0が存在する。したがってℜf(a)+δ=ℜf(a+δw)≤cであり、ℜf(a)<cである。▨
2 局所凸空間での強分離
補題 2.1.K∈{R,C}とし、EをK上の位相線形空間とする。KをEのコンパクト集合とし、AをEの閉集合とし、K∩A=∅とする。このとき、(K+V)∩A=∅を満たす平衡な零近傍Vが存在する。
証明.k∈Kとする。k∈/A=Aであるから、§E12.16 命題 1.4 (5)によりk∈/A+Uを満たす零近傍Uが存在する。§E12.16 命題 1.4 (3)により、Uk⊆Uを満たす平衡な零近傍Ukをとる。Uk⊆UによりA+Uk⊆A+Uであり、k∈/A+Uであるから、k∈/A+Ukである。u∈Ukについてk+u∈Aとすると、Ukは平衡であるから−u∈Ukであり、k=(k+u)+(−u)∈A+Ukとなる。これはk∈/A+Ukに反するから、(k+Uk)∩A=∅である。§E12.16 命題 1.4 (4)と§E12.16 命題 1.4 (3)により、Wk+Wk⊆Ukを満たす平衡な零近傍Wkをとる。§E12.16 命題 1.4 (1)によりk+Wkはkの近傍であり、k∈Ok⊆k+Wkを満たす開集合Okがある。
{Ok}k∈KはKの開被覆であり、Kはコンパクトであるから、K⊆Ok1∪⋯∪Oknを満たす有限個のk1,…,kn∈Kがある(K=∅のときはn=0とする)。V=E∩Wk1∩⋯∩Wknとおくと、Vは平衡な零近傍である。x∈K+Vとし、x=k+v(k∈K、v∈V)と書く。k∈Okiを満たすiをとると、x∈ki+Wki+Wki⊆ki+Ukiであり、(ki+Uki)∩A=∅であるからx∈/Aである。▨
定理 2.2.K∈{R,C}とし、EをK上の局所凸空間とする。KをEの空でないコンパクト凸集合とし、AをEの空でない閉凸集合とし、K∩A=∅とする。このとき、
k∈Ksupℜf(k)<c1<c2<a∈Ainfℜf(a)を満たすf∈E′と実数c1,c2が存在する。
証明.補題 2.1により、(K+V)∩A=∅を満たす零近傍Vが存在する。Eは局所凸空間であるから、§E12.16 定理 2.9によりC⊆Vを満たす絶対凸な零近傍Cが存在する。§E12.16 命題 1.4 (2)によりCは吸収的であり、Cの Minkowski 汎関数pは、§E12.16 命題 2.8 (3)と§E12.16 命題 2.8 (4)により連続な半ノルムである。U={x∈E∣p(x)<1}とおく。Uは連続写像pによる開集合(−∞,1)の逆像であるから開集合であり、pが半ノルムであるから凸であり、0∈Uを満たす。§E12.16 命題 2.8 (2)によりU⊆C⊆Vである。
§E12.16 補題 1.6 (5)によりK+Uは開集合であり、KとUが凸であるからK+Uは凸であり、Kが空でないからK+Uは空でない。K+U⊆K+Vであるから(K+U)∩A=∅である。系 1.3により、すべてのx∈K+Uとすべてのa∈Aについてℜf(x)<c≤ℜf(a)を満たすf∈E′と実数cが存在する。ℜfのKへの制限は連続であり、Kは空でないコンパクト集合であるから、§E2.19 定理 4.4により、すべてのk∈Kについてℜf(k)≤ℜf(k0)を満たすk0∈Kが存在する。0∈Uによりk0∈K+Uであるから、s=supk∈Kℜf(k)とおくとs=ℜf(k0)<cである。c1=(2s+c)/3、c2=(s+2c)/3とおくと、s<c1<c2<c≤infa∈Aℜf(a)である。▨
系 2.3.K∈{R,C}とし、EをK上の局所凸空間とする。
- AをEの空でない閉凸集合とし、x0∈E∖Aとする。このとき、ℜf(x0)>supa∈Aℜf(a)を満たすf∈E′が存在する。
- AをEの閉凸集合とする。f∈E′(f=0の場合を含む)と実数cにより{x∈E∣ℜf(x)≤c}と書かれる集合を閉半空間 (closed half-space) という。とくに、∅とEは閉半空間である。このとき、Aは、Aを含むすべての閉半空間の共通部分に等しい。
- Aを0∈Aを満たすEの閉凸集合とし、x0∈E∖Aとする。このとき、すべてのa∈Aについてℜf(a)<1を満たし、ℜf(x0)>1を満たすf∈E′が存在する。さらに、Aが平衡ならば、同じfはすべてのa∈Aについて∣f(a)∣<1を満たす。
証明.主張 (1)を示す。K={x0}はコンパクト凸集合であるから、定理 2.2によりℜg(x0)<c1<c2<infa∈Aℜg(a)を満たすg∈E′と実数c1,c2が存在する。f=−gとおくと、supa∈Aℜf(a)=−infa∈Aℜg(a)<−c2<−c1<−ℜg(x0)=ℜf(x0)である。
主張 (2)を示す。f∈E′と実数cについて、ℜfは連続であるから、閉半空間{x∣ℜf(x)≤c}は閉集合である。Aを含むすべての閉半空間の共通部分をAとすると、A⊆Aである。x0∈E∖Aとする。A=∅ならば、f=0とc=−1による閉半空間{x∣0≤−1}=∅はAを含みx0を含まない。A=∅ならば、主張 (1)によりℜf(x0)>supa∈Aℜf(a)を満たすf∈E′が存在する。c=supa∈Aℜf(a)とおくと、閉半空間{x∣ℜf(x)≤c}は、Aを含み、ℜf(x0)>cによりx0を含まない。いずれの場合もx0∈/Aであるから、A⊆Aである。
主張 (3)を示す。0∈AによりAは空でないから、主張 (1)によりℜg(x0)>supa∈Aℜg(a)を満たすg∈E′が存在する。s=supa∈Aℜg(a)とおくと、0∈Aによりs≥0であり、s<ℜg(x0)によりsは有限である。c=(s+ℜg(x0))/2とおくと、0≤s<c<ℜg(x0)である。f=c−1gとおくと、c>0であるからf∈E′であり、すべてのa∈Aについてℜf(a)≤s/c<1であり、ℜf(x0)=ℜg(x0)/c>1である。
Aが平衡であるとし、a∈Aとする。∣λ∣=1かつλf(a)=∣f(a)∣を満たすλ∈Kをとる。Aの平衡性によりλa∈Aであるから、∣f(a)∣=ℜf(λa)<1である。▨
系 2.4.K∈{R,C}とし、EをK上の局所凸空間とする。
- MをEの閉線形部分空間とし、x0∈E∖Mとする。このとき、f∣M=0かつf(x0)=1を満たすf∈E′が存在する。
- MをEの線形部分空間とする。このとき、MがEで稠密であるための必要十分条件は、f∣M=0を満たすf∈E′がf=0に限ることである。
証明.主張 (1)を示す。Mは原点を含む平衡な閉凸集合であるから、系 2.3 (3)により、すべてのm∈Mについて∣g(m)∣<1を満たし、ℜg(x0)>1を満たすg∈E′が存在する。m∈Mと実数t>0についてtm∈Mであるから、t∣g(m)∣=∣g(tm)∣<1である。この不等式がすべての実数t>0について成り立つので、g(m)=0である。したがってg∣M=0である。ℜg(x0)>1によりg(x0)=0であり、f=g(x0)−1gはf∈E′、f∣M=0、f(x0)=1を満たす。
主張 (2)を示す。Mが稠密でありf∈E′がf∣M=0を満たすとする。f−1({0})は閉集合でMを含むから、M=Eによりf−1({0})=Eでありf=0である。逆にMが稠密でないとする。§E12.16 補題 1.6 (2)によりMは閉線形部分空間であり、M=Eであるからx0∈E∖Mをとる。主張 (1)をMに適用すると、f∣M=0かつf(x0)=1を満たすf∈E′が存在し、f=0である。▨
3 仮定を外した例
例 3.1.K∈{R,C}とし、c0を§E10.1 例 3.4のK上の Banach 空間とし、有限個の成分だけが零でない数列の全体をc00とする。x0=(1/j)j≥1とおき、A={x0}、B=c00とおく。このとき、AとBはc0の空でない凸集合であり、A∩B=∅を満たし、どちらも開集合でない。さらに、すべてのb∈Bについてℜf(x0)<c≤ℜf(b)を満たすf∈c0′と実数cは存在しない。したがって、系 1.3は、AとBが空でない凸集合であり、A∩B=∅であるという仮定を保ったまま、一方が開であるという仮定だけを外すと成り立たない。Bはc0の線形部分空間であるから、定理 1.2も、Aが開であるという仮定だけを外すと成り立たない。
x0の成分はすべて零でないからx0∈/c00であり、A∩B=∅である。Aは一点からなるから凸であり、Bは線形部分空間であるから凸である。e1=(1,0,0,…)とおく。実数t>0について、x0+te1∈/Aかつ∥(x0+te1)−x0∥∞=tであるから、x0を中心とするどの開球もAに含まれず、Aは開集合でない。実数t>0について、tx0∈/Bかつ∥tx0∥∞=tであり、0∈Bであるから、0を中心とするどの開球もBに含まれず、Bは開集合でない。
x∈c0とN∈N≥1について、第N成分までをxと等しくし、第N+1成分以降を0とした数列x[N]∈c00は∥x−x[N]∥∞=supj>N∣xj∣→0(N→∞)を満たす。ゆえにc00=c0である。f∈c0′と実数cが、すべてのb∈Bについてℜf(x0)<c≤ℜf(b)を満たすとする。ℜfは連続であるから、F={x∈c0∣ℜf(x)≥c}はBを含む閉集合であり、F⊇B=c0である。したがってℜf(x0)≥cであり、これはℜf(x0)<cに反する。ℜf(x0)<cを満たし、すべてのb∈Bについてℜf(b)=cを満たすf∈c0′と実数cは、上の不等式を満たすから、存在しない。
例 3.2.pを0<p<1を満たす実数とし、K∈{R,C}とし、E=Lp([0,1])を§E12.16 命題 7.3のとおりとする。§E12.16 例 7.2によりEは距離の定める位相をもつ位相線形空間であり、§E2.15 定理 3.2により Hausdorff である。Eの零元を0、定数関数1の類を1と書く。∫[0,1]1pdλ=1>0であるから1=0である。K={0}はコンパクト凸集合であり、§E12.16 命題 1.5により{0}は閉集合であるから、§E12.16 命題 1.4 (1)によりA={1}は閉凸集合であり、K∩A=∅である。§E12.16 命題 7.3 (2)によりE′={0}であるから、任意のf∈E′についてℜf(0)=ℜf(1)=0であり、supk∈Kℜf(k)<infa∈Aℜf(a)を満たすf∈E′は存在しない。したがって定理 2.2と系 2.3 (1)は局所凸性を外すと成り立たない。{0}は閉部分空間であり1∈/{0}であるが、f(1)=1を満たすf∈E′は存在しないから、系 2.4 (1)も局所凸性を外すと成り立たない。
一方、§E12.16 命題 7.3 (1)によりEの空でない開凸集合はE全体に限る。したがって、Eでは、系 1.3の仮定を満たすA,Bも、定理 1.2の仮定を満たすA,Lも存在しない。Eでは、二つの主張は仮定を満たす対象が無いことにより成り立つ。
例 3.3.R2に Euclid ノルムを入れる。R2は§E12.16 命題 2.10により局所凸空間であり、§E12.16 系 4.3 (2)により(R2)′はR2からRへの線形写像の全体である。
A={(x,y)∈R2∣x>0, y≥1/x},B={(x,0)∣x∈R}とおく。このとき、AとBは空でない閉凸集合であり、A∩B=∅であるが、supBf<c1<c2<infAfを満たすf∈(R2)′と実数c1,c2は存在しない。
Bは連続写像(x,y)↦yによる{0}の逆像として閉集合であり、凸である。Aの点列(xn,yn)が(x,y)に収束するとき、xn>0とxnyn≥1によりx≥0とxy≥1が成り立ち、x=0はxy≥1に反するからx>0であり、y≥1/xである。ゆえにAは閉集合である。(x,y),(x′,y′)∈Aと0≤s≤1について、x′′=(1−s)x+sx′>0であり、
x′′((1−s)y+sy′)≥((1−s)x+sx′)(x1−s+x′s)=(1−s)2+s2+s(1−s)(x′x+xx′)≥1であるからAは凸である。(x,y)∈Aならばy>0であるからA∩B=∅である。
f(x,y)=αx+βyとし、supBf<c1<c2<infAfとする。f(t,0)=αtがすべての実数tについてc1より小さいからα=0である。α=0によりsupBf=0である。β≤0ならば、(1,1)∈AによりinfAf≤f(1,1)=β≤0であり、0<c1<c2<infAf≤0となって両立しない。β>0ならば、(x,1/x)∈A(x>0)についてf(x,1/x)=β/x→0(x→∞)であるからinfAf≤0であり、0<c1<c2<infAf≤0となって両立しない。したがって、定理 2.2からコンパクト性の仮定を外すことはできない。
4 ノルム空間での分離
系 4.1.K∈{R,C}とし、XをK上のノルム空間とする。CをXの空でない閉凸集合とし、x0∈X∖Cとし、d=infy∈C∥x0−y∥とおく。このときd>0であり、∥f∥=1を満たし、すべてのy∈Cについてℜf(y)≤ℜf(x0)−dを満たすf∈X∗が存在する。とくに、ℜf(x0)>supy∈Cℜf(y)である。
証明.X∖Cはx0を含む開集合であるから、∥x−x0∥<rを満たすすべてのx∈XがCに属さないような実数r>0が存在する。したがってd≥r>0である。
B={x∈X∣∥x−x0∥<d}とおく。Bは空でない開凸集合であり、y∈C∩Bならば∥x0−y∥<dとなってdの定義に反するから、B∩C=∅である。Xは§E12.16 命題 2.10により位相線形空間でありX′=X∗であるから、系 1.3により、すべてのb∈Bとすべてのy∈Cについてℜg(b)<c≤ℜg(y)を満たすg∈X∗と実数cが存在する。g=0とすると0<c≤0となるからg=0であり、∥g∥>0である。g=0であるからX={0}であり、§E10.2 命題 1.2により∥g∥=sup∥x∥=1∣g(x)∣である。
実数εを0<ε<∥g∥とし、実数tを0<t<1とする。∥x∥=1かつ∣g(x)∣>∥g∥−εを満たすx∈Xが存在する。∣λ∣=1かつλg(x)=∣g(x)∣を満たすλ∈Kをとる。b=x0+tdλxは∥b−x0∥=td<dを満たすからb∈Bであり、ℜg(b)=ℜg(x0)+td∣g(x)∣>ℜg(x0)+td(∥g∥−ε)である。したがってc≥ℜg(b)によりc≥ℜg(x0)+td(∥g∥−ε)であり、t→1とε→0によりc≥ℜg(x0)+d∥g∥を得る。f=−∥g∥−1gとおくと∥f∥=1であり、y∈Cについてℜg(y)≥c≥ℜg(x0)+d∥g∥からℜf(y)≤ℜf(x0)−dである。▨
5 演習
問題 5.1.K∈{R,C}とし、XをK上のノルム空間、MをXの閉線形部分空間とし、x0∈X∖Mとし、d=infm∈M∥x0−m∥とする。系 4.1をC=Mに適用すると、∥f∥=1を満たし、すべてのm∈Mについてℜf(m)≤ℜf(x0)−dを満たすf∈X∗が存在する。このようなf∈X∗について、f∣M=0かつ∣f(x0)∣=dであることを示し、f(x0)−1fが§E12.17 定理 5.1の条件を満たすことを確かめよ。
解答.
f∈X∗を、∥f∥=1を満たし、すべてのm∈Mについてℜf(m)≤ℜf(x0)−dを満たす元とする。Mは空でない閉凸集合であるから、系 4.1によりd>0である。m∈Mと実数tについてtℜf(m)=ℜf(tm)≤ℜf(x0)−dであり、これがすべての実数tについて成り立つからℜf(m)=0である。K=Cのときはim∈Mによりℑf(m)=−ℜf(im)=0であるから、f∣M=0である。m∈Mについてf(x0)=f(x0−m)であり、∣f(x0)∣≤∥f∥∥x0−m∥=∥x0−m∥であるから、mについて下限をとると∣f(x0)∣≤dである。一方、ℜf(0)=0≤ℜf(x0)−dにより∣f(x0)∣≥ℜf(x0)≥dである。ゆえに∣f(x0)∣=dである。
∣f(x0)∣=d>0であるからf(x0)=0であり、h=f(x0)−1fはh∈X∗、h∣M=0、h(x0)=1を満たし、∥h∥=∣f(x0)∣−1∥f∥=1/dである。ゆえにhは§E12.17 定理 5.1の条件を満たす。▨