注：本节内容为《具体数学》(原书第二版) 第二章 2.7 无限和式 的旁注。
背景
看这节的时候，从定义开始就非常绕，所以特意写一篇独立的文章，来补充无限和式这节。
每一项都非负时无限和式值的定义
在 $a_k \geq 0$，$K$ 可以是无限的情况下，定义：如果有一个常数 $A$ 为界，使得所有有限子集 $F \subset K$ (注意，这里一定是真包含) 都有
$$
\sum_{k\in F} a_k \leq A
$$
那么我们就定义 $\sum_{k\in K}a_k$ 是最小的这样的 $A$ (由最小数原理，最小的 $A$ 一定存在）。如果不存在这样的 $A$，我们就说 $\sum_{k\in K} a_k = \infty$。
注意：上述的定义没有规定 $k$ 的顺序，所以其实对于求和顺序无关的，这就是说，这一定义同样适用于带有多个指标的 $k_1, k_2, \cdots$ 多重和式。这句话将在我们证明多重和式基本原理时用到。
$K$为非负整数集合时无限和式的值
在这种特殊情况下，非负项 $a_k$ 构成的和式即为
$$
\sum_{k\geq 0}a_k = \lim_{n\rightarrow\infty}\sum_{k=0}^n a_k
$$
证明：
实数的任何一个 非减序列 都存在极限 (可能为 $\infty$)，即 $n \rightarrow \infty$ 时，$\sum_{k=0}^n a_k$ 必存在极限 (可能为 $\infty$)。
(1) 若极限为 $A$:
$\forall F \subset \mathbb N$，$F$ 为有限集。若 $\sup F = n$，则
$$
\sum_{k\in F} a_k \leq \sum_{k=0}^n a_k \leq A
$$
由此我们证明了 $A$ 一定为一个上界。接下来，我们证明 $A$ 一定是最小上界，即为上确界。
若 $\exists A' < A$ 为其上确界，根据
$$
\lim_{n\rightarrow\infty} \sum_{k=0}^n a_k = A
$$
则对于 $\forall \epsilon > 0$，
$$
\exists N, s.t. ~n > N \Rightarrow A - \epsilon < \sum_{k=0}^n a_k < A + \epsilon
$$
取 $\epsilon = A - A'$，则
$$
\exists N, s.t. ~n > N \Rightarrow A - (A - A') < \sum_{k=0}^n a_k < A + (A - A')
$$
即
$$
\sum_{k=0}^n a_k > A'
$$
与题设
$$
\sum_{k=0}^n a_k \leq A'
$$
矛盾。故 $A$ 即为上确界。
无限和式的一般性定义
任何实数 $x$ 都可以写成正部减去负部：
$$
x = x^+ - x^-,~x^+=x\times[x>0],~x^-=-x\times[x<0]
$$
则定义：
$$
\sum_{k\in K} a_k = \sum_{k\in K} a_k^+ - \sum_{k\in K} a_k^-
$$
设
$$
A^+ = \sum_{k\in K} a_k^+,~A^- = \sum_{k\in K} a_k^-
$$
- 若 $A^+, A^-$ 都有限，则 $\sum_{k\in K} a_k$ 绝对收敛于 $A^+-A^-$
- 若 $A^+$ 有限，$A^-$ 无限，则 $\sum_{k\in K} a_k$ 发散于 $-\infty$
- 若 $A^-$ 有限，$A^+$ 无限，则 $\sum_{k\in K} a_k$ 发散于 $+\infty$
- 若 $A^+, A^-$ 都无限，结果很难说。
对于复数的情况，我们可以同样如法炮制，定义：
$$
\sum_{k\in K} a_k = \sum_{k\in K} \Re a_k + i\sum_{k\in K} \Im a_k
$$
根据之前实数的定义：
$$
\sum_{k\in K} a_k = \sum_{k\in K} \Re a_k^+ - \sum_{k\in K} \Re a_k^- + i\sum_{k\in K} \Im a_k^+ - i\sum_{k\in K} \Im a_k^-
$$
多重和式的基本原理证明 (补充)
多重和式的基本原理：经过两个或者多个指标集的绝对收敛的和式永远可以对这些指标中的任何一个首先求和。
我们将要证明：若 $J$ 是任意的指标集，对于 $j \in J$，$K_j$ 也表示指标集，即 $\{K_j | j\in J\}$ 的元素也是任意的指标集，使得
$$
\sum_{j\in J, k\in K_j} a_{j,k}
$$
绝对收敛于 $A$，那么对于每一个 $j \in J$ 都存在复数 $A_j$ ，使得
$$
\sum_{k\in K_j} a_{j,k}
$$
绝对收敛与 $A_j$，且
$$
\sum_{j\in J} A_j
$$
绝对收敛于 $A$。
注：$K_0, K_1, \cdots$ 都为指标集。$K_j$ 的 $j$ 是对指标集的编号。这些 $K$ 其实可以看作对于全集 $M$ (后面会出现) 的划分。证明了这个定理，我们便证明了无论指标集全集以什么样的顺序、什么样的组合来拆分，最后都会得到相同的结果。
证明：
正如定义，我们可以将所有的元素全部分为正部和负部、实部和虚部，所以我们只需要证明 $a_{j,k}$ 为非负的情况即可。故设所有指标 $(j,k)\in M$ 都有 $a_{j,k}\geq 0$，其中 $M = \{(j,k) | j\in J, k\in K_j\}$ 为所有指标的全集。注意：这里的分解看起来是结合律、交换律的内容，看起来好像构成了循环论证，但其实不然，因为这是定义的。
给定 $\sum_{(j,k)\in M} a_{j,k}$ 是有限的，即对所有有限子集 $F\subseteq M$ (注意：这里是包含于，因为 $M$ 可能为有限集) 有：
$$
\sum_{(j,k)\in F} a_{j,k} \leq A
$$
而 $A$ 是最小的这样的上界，即上确界。若 $j$ 为 $J$ 的任意一个元素，形如 $\sum_{k\in F_j} a_{j,k}$ 的每一个和式都以 $A$ 为上界，其中 $F_j \subseteq K_j$ 为一个有限子集。从而这些有限和式 $\sum_{k\in F_j} a_{j,k}$ 有一个最小上界 $A_j \geq 0$，且根据定义有 $\sum_{k\in K_j} a_{j,k} = A_j$
我们仍然需要证明：对所有有限子集 $G\subseteq J$，$A$ 是 $\sum_{j\in G}A_j$ 的最小上界。
首先证明其一定为上界。
反证法。假设 $G$ 是 $J$ 的满足 $\sum_{j\in G} A_j = A' > A$ 的有限子集。我们可以求出一个有限子集 $F_j \subseteq K_j$，使得对每个满足 $A_j > 0$ 的 $j \in G$ 均有 $\sum_{k \in F_j} a_{j,k} > \displaystyle \frac A {A'} A_j$。
这是因为：
(1) 若 $K_j$ 为有限集，取 $F_j = K_j \subseteq K_j$ ，则必有
$$
\sum_{k\in F_j} a_{j,k} = \sum_{k\in K_j} a_{j,k} = A_j > \frac {A}{A'} A_j,~(A/A'<1)
$$
(2) 若 $K_j$ 为无限集，观察到，由 $A_j$ 的定义，$\sum_{k\in K_j} a_{j,k} \leq A_j$，且 $A_j$ 为最小的那个。也就是说，$\forall \epsilon > 0$，我们都能找得到 $F_j \subseteq K_j, s.t.$
$$
\sum_{k\in F_j} a_{j,k} > A_j - \epsilon
$$
这里取
$$
\epsilon = A_j - \frac A {A'} A_j
$$
故我们取得到有限子集 $F_j$ 使得：
$$
\sum_{k\in F_j} a_{j,k} > A_j - A_j + \frac A {A'} A_j = \frac A {A'} A_j
$$
接下来，我们对其对 $j$ 求和，有：
$$
\sum_{j\in G, k\in F_j} a_{j,k} > \frac A{A'}\sum_{j\in G}A_j = A
$$
但是这与如下事实矛盾：是对于所有有限子集 $F\subseteq M$，有：
$$
\sum_{(j,k)\in F} a_{j,k} \leq A
$$
从而我们通过反证法证明了 $A$ 就是 $\sum_{j\in G}A_j$ 的上界。
接下来，我们要证明 $A$ 一定是上确界。
设 $A'$ 是小于 $A$ 的任何一个实数，如果我们能够找到一个有限集合 $G\subseteq J$，使得 $\sum_{j\in G} A_j > A'$，证明便完成了。我们知道存在一个有限集合 $F\subseteq M$，使得 $\sum_{(j,k)\in F}a_{j,k}>A'$。设 $G$ 是这个 $F$ 中那些 $j$ 组成的集合，又设 $F_j=\{k|(j,k)\in F\}$，那么就有
$$
\sum_{j\in G}A_j \geq \sum_{j\in G}\sum_{k\in F_j}a_{j,k}=\sum_{(j,k)\in F}a_{j,k}>A'
$$
Q.E.D.
注意：在证明的过程中我们看似用到了交换律，看似构成了循环论证，其实不然，因为我们都是对有限和式进行的交换。
结合律
若 $\sum_{k\in K}a_k$ 和 $\sum_{k\in K}b_k$ 分别收敛于 $A$ 和 $B$，试证：$\sum_{k\in K}(a_k+b_k)$ 收敛于 $A+B$。
证明：
记 $a_k = c_{k,1}$，$b_k = c_{k,2}$
$$
\sum_{k\in K}(a_k+b_k) = \sum_{k\in K} (c_{k,1}+c_{k,2}) = \sum_{k\in K} \sum_{j\in\{0,1\}} c_{k,j}
$$
根据我们已经证明的多重和式基本原理：
$$
\begin{aligned}
\sum_{k\in K} \sum_{j\in\{0,1\}} c_{k,j} &= \sum_{j\in\{0,1\}} \sum_{k\in K} c_{k,j} \\&= \sum_{k\in K} c_{k,1} + \sum_{k\in K} c_{k,2} \\&= \sum_{k\in K}a_k + \sum_{k\in K}b_k = A+B
\end{aligned}
$$
Q.E.D.
交换律
两种理解：
- 如果我们规定上文提到的 $K_j$ 的大小 $|K_j| = 1$，那么其实就等价于结合律。因为每个指标子集都指标含一个元素。也就是说，我们先对某个指标集求和就意味着先对某个元素求和。而定理证明的：「无论先对哪个指标集求和、无论按什么指标集顺序进行求和，值都不变」就变为了「无论先对哪个元素求和、无论元素按什么顺序求和，之都不变」。
- 书上说我们同样可以由 $(2.35)$ 的讨论给出。注意到：$(2.35)$ 的证明过程中也用到了求和记号的交换，所以本质上还是依赖了我们所证明的定理。
分配律
定理：若 $\sum_{k\in K}a_k$ 绝对收敛于 $A$，$\forall c \in \mathbb C$，那么 $\sum_{k\in K}ca_k$ 绝对收敛于 $cA$。
这里我们不证明这个定理，而是证明一个子问题：对于绝对收敛于 $A$ 的无限非负项 $a_k$，有 $\forall c\in \mathbb R^+ \cup \{0\}$
$$
\sum_{k\in K} ca_k = cA
$$
通过对集合的大小进行归纳，很容易得到这个结论，因为对于有限集 $F\subset K$ 必定有：
$$
\sum_{k\in F}ca_k = c\sum_{k\in F} a_k
$$
总结与反思
纵观整个无限和式，我们一直在使用有限来证明无限。将无限化为有限，寻找部分与整体之间的联系，从而用部分来证明整体的性质。
