Cím: A Baire-tételről egy KöMaL-feladat kapcsán
Szerző(k):  Besenyei Ádám 
Füzet: 2008/május, 258 - 267. oldal  PDF file
Témakör(ök): Szakmai cikkek

A következőkben a matematikának több ágában is fontos szerepet betöltő eszközével, a Baire kategória-tétellel és annak néhány alkalmazásával ismertetjük meg az Olvasót. A tárgyalásmód egyszerűségének érdekében a tétel egydimenziós esetével foglalkozunk részletesen, és minden felhasználásra kerülő fogalomra emlékeztetünk. A cikk első felében ismertetünk néhány klasszikus kérdést, amelyeket először a Baire-tétel nélkül válaszolunk meg. A bizonyításokban rejlő közös ötlet segítségével maga a tétel is könnyen fog adódni. Később alkalmazásként újra megoldjuk a feladatokat, és egy másik, a KöMaL idei első számában kitűzött feladatot is. Végül kitérünk a lehetséges általánosításokra is. A cikkben szereplő fogalmak és tételek részletes tárgyalását illetően ajánljuk a [2] könyvet, továbbá annak irodalomjegyzékét, ahol megtalálhatók a tételek eredeti forrásai.
 

Klasszikus példák
 

Nyílt, zárt halmazok. A halmazok geometriából általánosított tulajdonságait vizsgáló ága a matematikának a topológia. Ezek a tulajdonságok lehetnek lokális, azaz környezetbeli, és globális, azaz egy egész halmazra kiterjedők. E témakör alapvető fogalma a halmazok nyílt, illetve zárt volta. A továbbiakban a valós számokra szorítkozunk, ekkor egy intervallum nyílt, ha egyik végpontját sem tartalmazza, és zárt, ha mindkettőt. E speciális eset segítségével definiálhatjuk tetszőleges halmaz nyíltságának, zártságának fogalmát.
 
1. definíció. A GR halmazt nyíltnak nevezzük, ha minden xG esetén létezik nyílt I intervallum úgy, hogy xIG. Más szóval, G minden pontja körül létezik G-beli nyílt részintervallum. Egy FR halmaz zárt, ha a komplementere, azaz RG nyílt. Az üreshalmaz a definícióból adódóan nyílt és zárt is egyben.
 

Világos, hogy megszámlálható1 sok nyílt halmaz uniója is nyílt (ez valójában tetszőleges számosságú unióra is igaz). Valóban, ha xi=1Gi, ahol a Gi halmazok nyíltak, akkor van olyan k index, hogy xGk. Mivel Gk nyílt halmaz, ezért létezik x-et tartalmazó, Gi-beli nyílt I részintervallum. Ekkor viszont I része a Gi halmazok uniójának is.
Könnyen látható az is, hogy véges sok nyílt halmaz metszete is nyílt. Valóban, két nyílt intervallum metszete nyílt. Két tetszőleges nyílt halmaz egy közös pontját véve (ha ilyen nincs, akkor a metszetük az üreshalmaz, amely nyílt), mindkét halmazban van a pontot tartalmazó nyílt részintervallum. Ezek metszete nyílt, tartalmazza a pontot és része a két halmaz metszetének. Innen indukcióval adódik tetszőleges véges sok nyílt halmaz metszetének nyíltsága.
Zárt halmazokra analóg tulajdonságokat fogalmazhatunk meg, ha az előbbi érvelésekben a nyílt halmazokat ,,kicseréljük'' a komplementerükre, amelyek zárt halmazok. Így kapjuk, hogy megszámlálható sok zárt halmaz metszete zárt, továbbá véges sok zárt halmaz uniója zárt.
Végtelen sok nyílt halmaz metszete azonban már nem feltétlenül nyílt. Tekintsük ehhez például a (-1n,1n) nyílt intervallumokat, minden pozitív egész n-re; ezzel megszámlálhatóan végtelen sok nyílt halmazt adtunk meg, amelyek metszete a csak nullából álló egyelemű halmaz, ami nem nyílt.
A fentiek alapján felvetődik a kérdés, hogy vajon melyek azok a halmazok, amelyek előállnak megszámlálható sok nyílt halmaz metszeteként, illetve melyek azok, amelyek előállnak megszámlálható sok zárt halmaz egyesítéseként. Speciálisan:
 
1. kérdés. Van-e megszámlálható sok nyílt halmaz, amelyek metszete a racionális számok halmaza?
 

Jegyezzük meg, hogy ha egy halmaz előáll megszámlálható sok nyílt halmaz metszeteként, akkor a komplementere felírható, mint megszámlálható sok zárt halmaz egyesítése. A racionális számok halmaza előáll megszámlálható sok zárt halmaz egyesítéseként, hiszen előáll egypontú, egy-egy racionális számot tartalmazó zárt halmazok uniójaként. Így az irracionális számok halmaza megegyezik az egy-egy racionális pont elhagyásával keletkező nyílt halmazok metszetével.
 
Folytonosság. A függvények tanulmányozása során előkerülő fogalmak közül az egyik legelső a folytonosság fogalma.
 

2. definíció. Egy f:RR függvény folytonos az x0R pontban, ha minden ε>0 (általában elég kicsi) számhoz van olyan δ szám, hogy |f(x)-f(x0)|<ε, valahányszor |x-x0|<δ. Más szóval, ha ,,elég közel vagyunk'' x0-hoz, akkor a függvényértékek ,,elég közel lesznek'' f(x0)-hoz.
 

Vannak nem folytonos függvények, sőt vannak olyanok is, amelyek ,,nagyon sok'' pontban nem folytonosak. Dirichlet-től ered a következő függvény:
D(x):={1,ha  x  racionális,0,ha  x  irracionális.
Világos, hogy ez a függvény sehol sem folytonos, hiszen bármely intervallum tartalmaz racionális és irracionális számot is (ezt gondoljuk meg). Egy másik közismert függvény, amely (a nálunk elterjedt Riemann-függvény elnevezéssel ellentétben) Carl Thomae-től származik, a következő:
R(x):={1n,ha  x=mn,n>0,m,nZ  és a tört nem egyszerűsíthető,0,ha  x  irracionális.

 
1. feladat. Igazoljuk, hogy a Thomae-függvény az irracionális pontokban és a 0-ban folytonos. (Útmutatás: egy irracionális számhoz ,,elég közel'' lévő racionális számok nevezője nagy.)
 

Világos, hogy a Thomae-függvény 0-beli értékének tetszőleges módosításával olyan függvényt nyerünk, amely pontosan az irracionális pontokban folytonos. Ennek alapján felmerülhet a kérdés, hogy általában egy f:RR függvény folytonossági pontjai milyen halmazt alkothatnak. Speciálisan (a Thomae-függvény mintájára):
 
2. kérdés. Van-e olyan f:RR függvény, amely pontosan a racionális pontokban folytonos?
 

Pontonkénti konvergencia. Függvényekből álló sorozatoknak többféle konvergenciáját értelmezhetjük, és az így kapott fogalmakkal kapcsolatban sok érdekes kérdés vetődik fel. Mi az alábbiakban a pontonkénti konvergencia fogalmára emlékeztetünk.
 

3. definíció. Adott az fn:RR függvényekből álló (fn) függvénysorozat. Ekkor az (fn) sorozat pontonként konvergens, ha létezik f:RR függvény úgy, hogy minden xR esetén fn(x)f(x). Ekkor a sorozat határfüggvénye f (amely egyértelmű, ha létezik).
 

Adott tulajdonságú fn függvényekből képezett pontonkénti sorozatok esetén általában érdekes, és nem mindig egyszerű kérdés, hogy a kapott határfüggvények milyen tulajdonságúak lehetnek. Például milyen f:RR függvények állnak elő valamilyen folytonos függvényekből álló sorozat pontonkénti határfüggvényeként? Speciálisan:
 
3. kérdés. Előáll-e a Dirichlet- vagy a Thomae-függvény folytonos függvények sorozatának pontonkénti határértékeként?
 

Egy KöMaL-feladat. Az idei januári számban volt kitűzve a következő feladat, amely az 1997 évi 1. szám feladatai között is szerepelt, és a megoldása az 1997. évi 5. szám 293‐294. oldalán olvasható.
 

2. feladat. Az f:RR függvény folytonos, és tetszőleges a>0 valós számra az f(a),f(2a),f(3a),... sorozat 0-hoz tart. Igazoljuk, hogy
limxf(x)=0.

 

Válaszok
 

Ebben a szakaszban megválaszoljuk az előbbi részben feltett kérdéseket, amelyek, amint azt látni fogjuk, szoros kapcsolatban állnak egymással. A bizonyításaik hasonló ötleten alapulnak, amely látszólag kihasználja, hogy a racionális számokkal kapcsolatosak a kérdések. Később azonban a Baire-tételt is sikerül hasonló gondolatmenettel belátnunk.
 
1. állítás. Nem léteznek olyan GiR (i=1,2...) nyílt halmazok, amelyekre i=1Gi=Q.
 

Bizonyítás. Indirekt bizonyítunk. Tegyük fel, hogy i=1GiQ. Megmutatjuk, hogy ekkor a Gi halmazok közös része szükségképpen tartalmaz irracionális számot is. Ehhez rekurzívan definiálunk három sorozatot, mégpedig (qi) racionális, (Ni) pozitív egész és (Ii) intervallumsorozatot. Legyen a q1 tetszőleges racionális szám, ekkor, mivel q1 eleme a G1 nyílt halmaznak, létezik N1N úgy, hogy I1:=[q1-10-N1,q1+10-N1]G1. Tegyük fel, hogy adott i-re qi és Ni már definiált. Legyen qi+1=qi+10-Ni-1. Mivel qi+1 racionális, benne van a Gi+1Gi...G1 nyílt halmazban, ebből következően létezik Ni+1>2Ni úgy, hogy Ii+1:=[qi+1-10-Ni+1,qi+1+10-Ni+1]Gi+1...G1. Vegyük észre, hogy a (qi) sorozat monoton nő, továbbá egy 110 hányadosú mértani sor összegével felülről becsülhető, ezért konvergens, határértéke legyen q. Világos, hogy q tizedestört alakja csupa 0, 1 jegyekből áll, sőt gondoljuk meg, hogy az i-edik 1-est éppen (Ni-1-Ni-1) darab 0 számjegy követi. Ekkor az Ni-k választása miatt az egymást követő 0 számjegyek száma szigorúan monoton nő, így q tizedestört alakja nem periodikus, tehát q irracionális. Ezenkívül nyilvánvaló, hogy qi=1Iii=1Gi. Ezzel beláttuk, hogy a metszetben van irracionális szám is.  
 

2. állítás. Nem létezik olyan f:RR függvény, amely pontosan a racionális pontokban folytonos.
 

A bizonyítás vázlata. Belátjuk, hogy ha f minden racionális pontban folytonos, akkor van olyan irracionális pont is, ahol folytonos. Rekurzívan két sorozatot definiálunk, mégpedig a (qi) racionális és az (Ni) pozitív egész számokból álló sorozatot. Legyen q1=110. Mivel f folytonos q1-ben, létezik N1N úgy, hogy |f(x)-f(q1)|<1, ha |x-q1|<10-N1. Tegyük fel, hogy adott i-re qi és Ni már definiált. Legyen ekkor qi+1=qi+10-Ni-1. Mivel f folytonos qi+1-ben, létezik Ni+1>2Ni úgy, hogy |f(x)-f(qi+1)|<1i+1 valahányszor |x-qi+1|<10-Ni+1. A (qi) sorozat határértékében f folytonos.  
 

3. feladat. Fejezzük be a 2. állítás bizonyítását!
 

3. állítás. A Dirichlet-függvény nem áll elő, mint folytonos függvények sorozatának pontonkénti határértéke.
 

4. feladat. Lássuk be a 3. állítást! (Útmutatás: indirekt okoskodással definiáljunk rekurzívan három sorozatot, ezek közül az egyik legyen olyan (qi) racionális számokból álló sorozat, amelynek határértékében nem fog teljesülni a pontonkénti konvergencia.)
 

4. állítás. Létezik folytonos függvényekből álló pontonként konvergens függvénysorozat, amelynek pontonkénti határfüggvénye a Thomae-függvény.
 

5. feladat. Adjunk meg olyan folytonos függvényekből álló függvénysorozatot, amely pontonként konvergál a Thomae-függvényhez. (Útmutatás: készítsünk először olyan sorozatot, amely az egész pontokban konvergál a függvényhez, a többi pontban 0-hoz tart; ezután készítsünk olyan sorozatot, amely a 2 nevezőjű törtekben ‐ beleértve az egész számokat is ‐ közelíti a függvényt; ezután már a 3 nevezőjű törtekben is konvergáljon a sorozat, és így folytassuk ezt az eljárást.)
 

Annak indokát, hogy a Dirichlet-függvény nem, a Thomae-függvény viszont előáll pontonkénti határfüggvényként, később a Baire-tétel alkalmazásaként fogjuk látni, most egyelőre fogadjuk el (és lássuk be) az állításokat.
Vegyük észre, hogy a fenti bizonyítások alapgondolata, hogy (hasonló érvelések alapján) rekurzív módon definiáltunk sorozatokat. Ezek után nem meglepő, hogy a 2. feladat bizonyítása is hasonló módon történhet. A megoldás előtt emlékeztetünk egy fontos összefüggésre.
 
4. definíció (Cantor-axióma). Ha adottak az (In) nemüres zárt intervallumok úgy, hogy In+1In minden n-re (azaz az intervallumok egymásba vannak skatulyázva), akkor a közös részük nemüres.
 

A 2. feladat megoldása. Indirekt bizonyítunk, tegyük fel, hogy limxf(x)0. Ez azt jelenti, hogy létezik ε>0 szám és (xi) végtelenhez tartó sorozat úgy, hogy |f(xi)|>ε minden i-re. Ekkor az f függvény folytonossága miatt minden i-re létezik δi>0 úgy, hogy minden xIn:=[xn-δn,xn+δn] esetén |f(x)|>ε (ezt gondoljuk meg). A továbbiakban rekurzívan definiálunk két sorozatot, egy nemüres, nem csak egy pontból álló zárt intervallumokból álló (Ji), és egy pozitív egészekből álló (ki) sorozatot úgy, hogy minden i-re kiJiIn valamilyen n-re.
Legyen J1=I1 és k1=1. Tegyük fel, hogy Ji=[c,d] és ki már definiálva van. Tekintsük ekkor a Ji,2Ji,3Ji,... intervallumokat (ahol mI=[ma,mb], ha I=[a,b]). Ha k>dd-c, akkor kc<(k-1)d, vagyis a (k-1)Ji és kJi intervallumok egymásba érnek. Ez azt jelenti, hogy a Ji,2Ji,3Ji,... intervallumok lefedik a [cdd-c,) félegyenest, méghozzá úgy, hogy a félegyenes minden belső pontja valamelyik kJi-nek is belső pontja (azaz nem intervallumvégpont).
Válasszunk most egy n-et, amelyre xn>max(id,cdd-c) (ilyen van xi miatt) és legyen ki+1 olyan pozitív egész, amelyre xn belső pontja ki+1Ji-nek. Az xn>id feltétel miatt ki+1i+1. Végül legyen Ji+1=Ji1ki+1Ji. Ekkor Ji+1 nemüres és nem egypontú, hiszen xnki+1 belső pontja Ji-nek és 1ki+1Ji-nek is. Világos, hogy Ji+1Ji, továbbá ki+1Ji+1In és ki.
A Cantor-axióma szerint a (Ji) egymásba skatulyázott intervallumok metszete nem üres, legyen ennek egy eleme a. Mivel tetszőleges m pozitív egészre aJm, így kmakmJm, ezért kma eleme valamelyik In-nek, következésképpen |f(kma)|>ε. Ez viszont ellentmond az f(na)0 feltételnek.  
 

A fenti bizonyítások alapján felvetődik a kérdés, hogy nem lehet-e megfogalmazni az érvelések közös gondolatát egy állításban. A válasz igen, ez az állítás a Baire-tétel, amelyet a következő szakaszban fogalmazunk meg.
 

A Baire-tétel
 

A tétel megfogalmazásához vezessük be a következő (Cantortól származó) fogalmat.
 
5. definíció. Egy DR halmazt sűrűnek nevezünk, ha minden xR-hez és ε>0 számhoz van olyan yD, amelyre |x-y|<ε. Más szóval, bármely valós számhoz ,,bármilyen közel'' található D-beli elem.
 

Világos, hogy a racionális, és az irracionális számok halmaza is sűrű. A sűrű halmazokról szól a következő alapvető tétel.
 
1. tétel (Baire). Megszámlálható sok sűrű nyílt halmaz metszete is sűrű.
 

Bizonyítás. Legyen (Gi) sűrű nyílt halmazokból álló halmazsorozat R-ben. Rögzítsünk egy x valós és egy ε>0 számot. Be kell látni, hogy van olyan yi=1Gi, amelyre |x-y|<ε. Mivel G1 sűrű halmaz, azért létezik olyan x1G1, amely kisebb, mint r0=ε távolságra van az x0=x ponttól, azaz
x1G1(x0-r0,x0+r0).
Továbbá, mivel G1 nyílt, létezik 0<r1 szám úgy, hogy
[x1-r1,x1+r1]G1(x-r0,x+r0).
Ha már adottak az xi és ri számok, akkor az előbbi gondolatmenet alkalmazásával kapjuk xi+1-et és ri+1-et, amelyekre
[xi+1-ri+1,xi+1+ri+1]Gi(xi-ri,xi+ri).
A rekurzióval egymásba skatulyázott nemüres zárt [xi-ri,xi+ri] intervallumok sorozatát kapjuk. A Cantor-axióma szerint létezik yi=1[xi-ri,xi+ri]. Ekkor |x-y|<r0=ε.  
 
A nyílt és zárt halmazok komplementer tulajdonságából adódik a következő, zárt halmazokra vonatkozó analóg állítás.
 
1. következmény. Ha a valós számok halmaza előáll megszámlálható sok zárt halmaz egyesítéseként, akkor azok közül legalább az egyik tartalmaz nemüres nyílt halmazt (és így egy nemüres nyílt intervallumot is).
 

Bizonyítás. Ha az Fn zárt halmazok egyesítése R, és egyikük sem tartalmaz valódi (nyílt) intervallumot, akkor a komplementer Gn halmazok sűrűek és nyíltak (gondoljuk meg). Az 1. tétel szerint a Gn halmazok metszete sűrű, tehát nem lehet üres, ekkor viszont az Fn halmazok nem fedhetik le az egész számegyenest.
 

Az 1. tétel a nevét R. Baire-ről kapta, aki 1899-ben bizonyította. 2 évvel Baire előtt W. F. Osgood a következő tételt látta be (lásd a [4] monográfiát), amely a Baire-tétel előzményének tekinthető.
 
2. tétel. Tegyük fel, hogy az (a,b)R intervallumon folytonos függvényekből álló (fn) sorozatra teljesül, hogy minden t(a,b) esetén az (fn(t)) valós sorozat korlátos (azaz a függvénysorozat pontonként korlátos). Ekkor (a,b)-nek van olyan (c,d) részintervalluma, amelyen a függvénysorozat korlátos, azaz létezik K>0, hogy fn(t)K minden t(c,d) esetén (azaz a függvénysorozat egyenletesen korlátos (c,d)-n).
 

6. feladat. Igazoljuk Osgood tételét! (Útmutatás: a korábbi bizonyításokhoz hasonló gondolatmenetet alkalmazzunk.)
 

Alkalmazás
 

Ebben a szakaszban a Baire-tétel alkalmazásaként újra megválaszoljuk a korábban feltett kérdéseket.
 
Az 1. kérdés egy másik bizonyítása. Vezessük be a következő két fogalmat.
 
6. definíció. Egy halmazt Gδ halmaznak hívunk, ha előáll megszámlálható sok nyílt halmaz metszeteként. Ha egy halmaz előáll megszámlálható sok zárt halmaz egyesítéseként, akkor Fσ halmaznak nevezzük.
 

Vegyük észre, hogy egy Gδ halmaz komplementere Fσ halmaz és fordítva. Ezenkívül megszámlálható sok Gδ halmaz metszete is Gδ halmaz, valamint megszámlálható sok Fσ halmaz uniója is Fσ halmaz. Ahogy korábban megjegyeztük, a racionális számok halmaza Fσ, az irracionális számok halmza pedig Gδ halmaz. Ennek a fordítottja azonban nem igaz.
 
3. tétel. A racionális számok halmaza nem Gδ, az irracionális számok halmaza pedig nem Fσ halmaz.
 

Bizonyítás. Ha a racionális számok halmaza előállna megszámlálható sok nyílt halmaz metszeteként, akkor az irracionális számok halmaza előállna, mint megszámlálható sok zárt halmaz uniója. Ekkor viszont a racionális és irracionális számok halmazának uniója, az egész számegyenes felírható lenne megszámlálható sok zárt halmaz uniójaként (hiszen a racionális számok is előállnak megszámlálható unióként). Az 1. következmény szerint ebben az esetben a zárt halmazok legalább egyike tartalmaz nemüres nyílt intervallumot. Ez viszont lehetetlen, mert sem az egypontú halmazok, sem pedig az irracionális számok halmaza nem tartalmaz nyílt intervallumot (hiszen bármely nemüres nyílt intervallumban van racionális szám is).
 

A 2. kérdés egy másik bizonyítása. Meglepő módon egy f:RR függvény folytonossági pontjainak halmaza általánosan jellemezhető az előző pontban bevezetett Gδ halmazok segítségével.
 

4. tétel. Minden valós függvény folytonossági pontjainak halmaza előáll, mint megszámlálható sok nyílt halmaz metszete, tehát Gδ halmaz.
 

Bizonyítás. Először jegyezzük meg, hogy egy valós f függvény folytonossága egy x0 pontban a következőt is jelenti: minden ε>0-hoz létezik δ valós szám úgy, hogy |f(x)-f(x˜)|<ε, valahányszor |x-x0|<δ és |x˜-x0|<δ. Valóban, x˜=x0 választással visszakapjuk a 2. definíciót. Másrészt, a 2. definícióban ε2-höz választva δ-t,
|f(x)-f(x˜)||f(x)-f(x0)|+|f(x˜)-f(x0)|<ε2+ε2=ε.

Tekintsük most minden ε>0-ra a következő halmazt:
Gε={x0R:  létezik  δ>0  úgy, hogy  |f(x)-f(x˜)|<ε,valahányszor  |x-x0|<δ  és  |x˜-x0|<δ}.
A folytonosság előbbi átfogalmazásából adódóan ε>0Gε éppen az f függvény folytonossági pontjainak a halmaza. Másrészt minden ε>0 esetén Gε nyílt halmaz. Valóban, ha x0Gε valamilyen ε>0-ra, akkor van olyan δ, hogy |x-x0|<δ és |x˜-x0|<δ esetén |f(x)-f(x˜)|<ε. Ekkor (x0-δ,x0+δ)Gε, hiszen bármely y(x0-δ,x0+δ) esetén elég kis δ˜-ra az y körüli (y-δ˜,y+δ˜)(x0-δ,x0+δ) intervallumban lévő pontokhoz rendelt függvényértékek ε-nál kevesebbel térnek el egymástól (δ választása miatt). Végül vegyük észre, hogy ‐ mivel minden pozitív számhoz található nála kisebb pozitív racionális szám ‐ a Gε halmazok metszete ugyanaz marad, ha ε csupán a pozitív racionális számokat futja be. Így az f függvény folytonossági pontjainak halmaza előáll a nyílt Gε (ε>0 és ε racionális) halmazok metszeteként, tehát Gδ halmaz.  
 

Jegyezzük meg, hogy egy f:RR függvény szakadási pontjainak (vagyis ahol nem folytonos) halmaza egy Gδ halmaz komplementere, tehát Fσ.
A 3. tételből tudjuk, hogy a racionális számok nem alkotnak Gδ halmazt, így nincs olyan függvény, amely pontosan a racionális pontokban folytonos. Ezzel az 1. kérdésre egy új bizonyítást nyertünk.
Az irracionális számok halmaza Gδ, és a Thomae-függvény egy módosítása pontosan az irracionális pontokban folytonos. Általában vajon minden Gδ halmaz előáll valamilyen f:RR függvény folytonossági pontjainak halmazaként? A válasz igen. Legyen A=i=1Gi, ahol Gi nyílt halmaz minden i-re, és tekintsük az alábbi függvényt:
fA(x):={0,ha  xA,1n,ha  x  racionális, és  n  a legkisebb egész, amelyre  xGn,-1n,ha  x  irracionális, és  n  a legkisebb egész, amelyre  xGn.

 
7. feladat. Mutassuk meg, hogy a fent értelmezett fA függvény pontosan az A halmaz pontjaiban folytonos.
 

A 3. kérdés egy másik bizonyítása. Az előbbiek alapján már nem meglepő, hogy a folytonos függvényekből álló függvénysorozat határfüggvényeként előálló függvények bizonyos tulajdonságai kapcsolatban állnak a Gδ halmazokkal. Ez a bizonyos tulajdonság a következő fogalommal van összefüggésben.
 

7. definíció. Egy f:RR függvény szinthalmazainak az {xR:f(x)=c} alakú halmazokat nevezzük, ahol c valós szám. (Más szóval az ugyanazon függvényértékhez tartozó független változók alkotnak egy szinthalmazt.) Az alsó szinthalmazok az {xR:f(x)c} alakú, a felső szinthalmazok az {xR:f(x)c} alakú halmazok.
 

5. tétel. Ha egy f:RR függvény előáll folytonos függvényekből álló függvénysorozat pontonkénti határfüggvényeként, akkor a 7. definícióban értelmezett szinthalmazai Gδ halmazok.
 

Bizonyítás. Legyen c rögzített valós szám. Vegyük észre, hogy
{x:f(x)=c}={x:f(x)c}{x:f(x)c},
így elég belátni, hogy például az {x:f(x)c} halmaz Gδ. Gondoljuk meg, hogy ha egy adott x pontban f(x)c, ε>0 és fn(x)f(x) (n), akkor szükségképpen elég nagy n-re fn(x)>c-ε (ellenkező esetben mindig lesz (c-ε)-nál nem nagyobb elem az fn(x)-ek között, és így a határérték nem lehet legalább c). Ennek alapján könnyen látható, hogy
{x:f(x)c}=i=1n=ji{x:fn(x)>c-1i}.(1)
Vegyük észre, hogy az {x:fn(x)>c-1i} halmazok nyíltak minden n-re és i-re. Valóban, fn folytonos függvény, így fn(x)>c-1i esetén az x körüli elég kis intervallumban is (c-1i)-nél nagyobbak lesznek a függvényértékek. A fenti (1) előállítás alapján kapjuk, hogy az {x:f(x)c} szinthalmaz előáll megszámlálhatóan sok nyílt halmaz metszeteként, tehát Gδ halmaz.  
 

Világos, hogy a Dirichlet-függvénynek az {x:D(x)12} felső szinthalmaza a racionális számok halmaza, amely nem Gδ halmaz, vagyis nincs olyan folytonos függvényekből álló függvénysorozat, amely pontonként konvergálna a Dirichlet-függvényhez.
A folytonos függvényekből álló függvénysorozatok pontonkénti határértékeként előálló nem folytonos függvények halmazát Baire 1 osztálynak szokás hívni. Általában Baire n osztályú függvények azok, amelyek előállnak Baire (n-1) függvényekből álló függvénysorozat pontonkénti határfüggvényeként, és nincsenek a Baire (n-1) osztályban. Megmutattuk, hogy Baire 1 függvény szinthalmazai Gδ halmazok, így a Dirichlet-függvény nem Baire 1. A Thomae-függvényt viszont elő tudtuk állítani pontonkénti határfüggvényként.
A Baire 1 függvényeket az alábbi tétel jellemzi.
 
6. tétel. Egy függvény pontosan akkor Baire 1 osztályú, ha bármely nemüres nyílt intervallumra való leszűkítése tartalmaz folytonossági pontot.
 

A bizonyításra nézve lásd a [3] jegyzetet, vagy az [1] könyv II. kötet VI. 9. g szakasz 16. és 17. feladatait, de a tétel ,,akkor'' irányával az Olvasó is megpróbálkozhat. A tétel alapján világos, hogy a Thomae-függvény Baire 1, a Dirichlet-függvény nem. Belátható azonban, hogy a Dirichlet-függvény a Baire 2 osztályban van.
 
8. feladat. Igazoljuk, hogy
D(x)=limk(limncos2n(k!πx)).
 

Általában igazolható, hogy a Baire n osztályok nem üresek. A témáról bővebben lásd a [3] jegyzetet.
 
A 2. feladat egy másik bizonyítása. Legyen ε>0 és definiáljuk a következő halmazokat n=1,2,... esetén:
Hn:={x0:|f(kx)|ε  minden  kN,kn  esetén}.
Mivel f folytonos, így a Hn halmazok zártak (ezt gondoljuk meg). Másrészt a tétel feltételéből következően i=1Hi=R. Az 1. következmény miatt van olyan n index, amelyre a Hn halmazban van nemüres nyílt halmaz, és így legalább egy nemüres (a,b) nyílt intervallum is. Ez azt jelenti, hogy |f(kx)|ε minden x(a,b) és kn esetén. Az előző bizonyításban alkalmazott gondolatmenet alapján elég nagy n esetén a Kn:={kx:x(a,b), kn, kN} halmazok egymásba metszenek, vagyis egyesítéseik lefednek egy (c,) félegyenest, ahol c alkalmas elég nagy szám. Ekkor yc esetén y eleme valamelyik Kn-nek, így |f(y)|<ε, más szóval limxf(x)=0.  
 

Általánosítás
 

A Baire-tétellel kapcsolatban szokás bevezetni néhány fogalmat, amelyet az egyszerűség kedvéért a korábbiakban kihagytunk.
 
8. definíció. Egy HR halmazt seholsem sűrűnek hívunk, ha minden IR nyílt intervallumban létezik xR, xH úgy, hogy alkalmas r>0 számmal az (x-r,x+r) intervallumban nincs H-beli elem. Más szóval a halmaz semmilyen nyílt intervallumban sem sűrű.
 

Seholsem sűrű például egy véges halmaz, vagy az egészek halmaza. A seholsem sűrű halmazokat bizonyos értelemben ,,kicsi'' halmazoknak gondoljuk. Ha tekintjük megszámlálhatóan sok seholsem sűrű halmaz egyesítését, még mindig ,,elég kis'' halmazt kapunk.
 
9. definíció. Egy halmazt első kategóriájúnak nevezünk, ha előáll megszámlálhatóan sok seholsem sűrű halmaz egyesítéseként. Ha egy halmaz nem első kategóriájú, akkor második kategóriájúnak hívjuk.
 

Baire tételét szokás kategória-tételnek is hívni, ugyanis az előbbi definíciókkal a következőképpen is megfogalmazható.
 
7. tétel. A valós számok halmaza második kategóriájú.
 

9. feladat. Mutassuk meg, hogy az 1. és 7. tételek ekvivalensek.
 

A tétel valójában sokkal általánosabb terekben is igaz (ún. teljes metrikus terekben), és a bizonyítás teljesen hasonlóan történik, mint az egydimenziós esetben. Az általános esettel, és a Gδ, Fσ és első-, második kategóriájú halmazokkal kapcsolatban ajánljuk a [3] jegyzetet.
A Baire-tétel a matematikának az n-dimenziós tér általánosítával definiált terek közötti leképezések, más néven funkcionálok vagy operátorok elméletével foglalkozó ágában fontos eszközként kerül elő. 30 évvel Baire cikke után S. Banach vette észre, hogy az Osgood-tétel bizonyításának csekély módosítása révén fontos eredményre juthatunk az operátorok sorozatainak egyenletes korlátosságáról, amelyet azóta Banach‐Steinhaus tételeként ismerünk.
 

Hivatkozások
 

[1]Császár Ákos, Valós analízis I‐II, Nemzeti Tankönyvkiadó (Budapest, 1999).
[2]Komornik Vilmos, Valós analízis előadások I‐II, Typotex (Budapest, 2003).
[3]Laczkovich Miklós, Valós függvénytan, ELTE jegyzet (Budapest, 1995).
[4]Riesz Frigyes ‐ Szőkefalvi-Nagy Béla, Funkcionálanalízis, Tankönyvkiadó (Budapest, 1988).

1Megszámlálható sok halmaz kifejezésen röviden azt értjük, hogy a szóban forgó halmazok megszámozhatók a pozitív egész számokkal, beleértve a véges sok halmaz esetét is.