本文讨论实分析中的一个经典问题，并探讨其与点集拓扑学/泛函分析中的一个基本结论的联系。
证明：不存在在所有有理点处均连续、所有无理点处均不连续的函数\(\newcommand{\RR}{\mathbb{R}}\newcommand{\QQ}{\mathbb{Q}}\newcommand{\NN}{\mathbb{N}}f:\RR\rightarrow\RR\)。
- 基本证法
假设\(f\)在\(\QQ\)上连续，我们只需要证明\(f\)在\([0,1]\)中的某个无理点处也连续即可。
我们将\((0,1)\)上的所有有理点\(\QQ\cap(0,1)\)排成一列：
\[ \QQ\cap(0,1)=\{\xi_k\}_{k=1}^{\infty} \]任取\(\QQ\cap(0,1)\)中的一点\(\xi_{n_1}\)，对于\(\varepsilon_1=\frac{A}{2}>0\)，存在\(\delta_1\in(0,\frac{1}{2})\)使得
\[ \newcommand{\diam}{\mathrm{diam}} \newcommand{\min}{\mathrm{min}} \newcommand{\abs}[1]{\left\vert #1\right\vert} \diam\left(f(I_1)\right)<\varepsilon_1,\quad I_1=[\xi_{n_1}-\delta_1,\xi_{n_1}+\delta_1]\subset (0,1) \]对于\(\forall k\in\NN_+\)，任取\(\xi_{n_{k+1}}\in I_k,\ n_{k+1}>n_k\)，对于\(\varepsilon_{k+1}=\frac{A}{2^{k+1}}>0\)，存在\(\delta_{k+1}\in(0,\frac{1}{2^{k+1}})\)使得
\[ \diam\left(f(I_{k+1})\right)<\varepsilon_{k+1},\quad I_{k+1}=[\xi_{n_{k+1}}-\delta_{k+1},\xi_{n_{k+1}}+\delta_{k+1}]\subset I_k \]现在，令\(\Delta_k=\min\{\delta_k,\abs{\frac{\xi_{n_k}-\xi_1}{2}},\cdots,\abs{\frac{\xi_{n_k}-\xi_{n_k-1}}{2}}\}\)，那么如下构造的闭区间套有唯一的公共点
\[ \bigcap\limits_{k=1}^\infty\ [\xi_{n_k}-\Delta_k,\xi_{n_k}+\Delta_k]=\{r\} \]由于\([\xi_{n_{k+1}}-\Delta_{k+1},\xi_{n_{k+1}}+\Delta_{k+1}]\)中不包含\(\xi_1,\cdots,\xi_{n_k-1}\)，因此若\(r\in\QQ\)，设\(\xi_n=r\)，那么一定有
\[ n>k,\quad\forall k\in\NN_+ \tag{1}\label{1} \]这显然是不可能的，因此\(r\)是无理数，此时，对于\(\forall\varepsilon>0\)，均存在\(k\in\NN_+\)使得
\[ \abs{f(x)-f(r)} < \abs{f(\xi_{k+1})-f(\xi_k)} < \varepsilon_k\le\varepsilon,\quad\forall x \in I_k\ni r \]故\(f\)在无理点\(r\)处连续。
需要注意的是，如果在上面的问题中将有理数与无理数的位置对调，那么我们不一定能得出\(r\)是有理数的结论，因为\([0,1]\)上无理数并不可数——事实上，如果我们引入超限序数（transfinite ordinal number）的概念，我们可以找到满足\(\eqref{1}\)的\(n\)（比如\(\omega\)）。因此，即便\(f\)在所有无理点均连续，也不一定能得出\(f\)在所有有理点均连续的结论，如Thomae函数（也被称作爆米花函数、Riemann函数）。
- Baire纲定理
在引入Baire纲定理（Baire category theorem）的概念之前，先给出几个定义。
【定义1】 拓扑空间\((X,\tau)\)，\(E\in\tau\)，若\(E\)闭包的内部\((\bar{E})^\circ=\varnothing\)，则称\(E\)无处稠密（nowhere dense）。
【定义2】 拓扑空间\((X,\tau)\)，\(E\in\tau\)，若\(E\)是可数个无处稠密集的并集，那么\(E\)被称为第一纲集（set of first category，meagre set）；否则称\(E\)为第二纲集（set of second category，nonmeagre set）。
【定义3】 拓扑空间\((X,\tau)\)，\(E\in\tau\)，若\(E\)能表示为一列（可数个）开集的交，则\(E\)被称为\(G_\delta\)集。
Baire纲定理的基本表述及其加强的表述如下（证略（懒懒懒懒懒懒））：
【定理1】 完备的度量空间是第二纲集。
【定理2】 完备的度量空间中，
- 第一纲集的补集是稠密的第二纲集。
- 可数个稠密开集的交是稠密的第二纲集。
通过Baire纲定理可以得到如下结论：
【命题1】 若完备度量空间\((X,\rho)\)无孤立点，\(E\subset X\)是可数的稠密集，则\(E\)不是\(G_\delta\)集。
证：由【定理1】知\(E\)是第一纲集。现在设
\[ E=\bigcap\limits_{n=1}^\infty\ U_n \]其中\(U_n\)是稠密的开集，于是由【定理2】知\(E\)是第二纲集，矛盾。
回到本文最开始的问题上来，我们知道，\(f:\RR\rightarrow\RR\)的连续点的集合\(E\)可以表示为
\[ E=\bigcap\limits_{n\in\NN_+}\ \bigcup\limits_{\delta>0}\ \{x:\diam\left(f((x-\delta,x+\delta))\right)<\frac{1}{n}\} \]它是可数个开集的交，也即\(E\)是\(G_\delta\)集，根据【命题1】我们知道\(E\)不可数，也即\(f\)在所有无理点处均不连续是不可能的。