※私は数学者ではありません。自分用のまとめとしてこれを書いています。楽しむ範囲でご覧いただければ幸いです。内容の正確性については専門家のサイトや動画、あるいは専門書で必ず確認をお願いします。
* * *
今回はベールのカテゴリー定理についてみます。なんだかどんどん高度になり、クライマーズ・ハイの感じは否めませんが、文系の "だいたい" の話としてみてください。全編とおして完備な距離空間内の話です。
集合のカテゴリー
いくつかの用語を導入することから始めます。内点が取れない閉包を疎集合（nowhere dense set）といいます。そして、この和集合を痩集合（meagre set）、または第1類の集合といいます。これに対して、疎集合の補集合を稠密な開集合（dense open set）といい、痩集合の補集合（稠密な開集合の積集合）を非痩集合（nonmeagre set）、または第2類の集合といいます。痩せているかどうかが集合の名前になるのは面白いです。（meagerという綴りはアメリカ英語だと思います。）
ベール（Baire）という数学者は、完備な距離空間における集合を第1類と第2類に二分できると考えました。これがカテゴリー（category）という考え方です。
ベールのカテゴリー定理
ベールは、カテゴリーに関する次の定理を導きました。
完備な距離空間$(X, d)$内で、非痩集合は$X$について第2類である。
ほぼ定義にしか見えない定理です。ただ、逆は必ずしも真ならず、だそうです。あまりに抽象的で狐につままれた感じがします。ですが、要するにあれかこれか、白か黒かという二分法で考えましょう、ということです。物事をカテゴリーで考えるとき、その有用性がわかります。どういうことかというと
$$痩集合=痩集合\cup 非痩集合$$
であれば、右辺の痩集合は自動的に非空集合になります。そして
$$非痩集合=痩集合\cup 非痩集合$$
であれば、右辺の非痩集合は自動的に非空集合になります。このように特徴を二分して、それぞれの特徴を持つカテゴリーに分類されるものが存在するか調べるときに使う感じになりそうです。
もうひとつ、実数直線を例に考えます。有理数は、実数直線上に疎に散らばっています。1つ1つの有理数は他のどの有理数ともつながっていません。それぞれが内点を持たない閉包です。よって、有理数は実数について第1類です。これに対して、開区間$(0, 1)$は実数について第2類です。なぜかというと、この区間は疎ではなく完備だからです。（測度0と正測度のものに集合を二分する、という感じでしょうか…）
節分のときの豆まきを思い浮かべましょう。和室の床（完備な距離空間）に撒かれた豆（点）は疎に散らばっています。足の踏み場もないほどぎっしり埋まることはありません。このような、床が見える状態は第1類です。
これに対して、和室に高級な絨毯を敷くと、その部分は床が見えなくなります。これは第2類です。
* * *
今回はとても難しい話でした。また少し理解が進みましたら戻ってきてよりよいものにしたいと思います。