Sự biến thiên

Trong lý thuyết xác suất và thống kê, sự biến thiên (Tiếng Anh: variance) của một biến ngẫu nhiên đo lường mức độ phân tán của biến đó bằng cách tính giá trị trung bình của các bình phương chênh lệch giữa các giá trị cụ thể và giá trị trung bình. Điều này cho thấy các giá trị của biến đó thường cách xa giá trị kỳ vọng bao nhiêu.

Sự biến thiên của biến ngẫu nhiên là moment trung tâm thứ hai, và nó cũng là nửa cumulant thứ hai của biến đó. Nó tương đương với bình phương của độ lệch chuẩn.

Khái niệm

Nếu $\mathrm{\mu <!--\; \mu \; -->}=E<!--\; \; -->\left(X\right)$ là giá trị kỳ vọng của biến ngẫu nhiên X, thì sự biến thiên của nó là

$\mathrm{var}<!--\; \; -->\left(X\right)=E<!--\; \; -->\left(\right(X-<!--\; -\; -->\mathrm{\mu <!--\; \mu \; -->}{)}^2).$

Nói cách khác, sự biến thiên chính là giá trị kỳ vọng của bình phương độ lệch của X so với giá trị trung bình của nó. Để đơn giản hơn, sự biến thiên có thể hiểu là 'trung bình của bình phương khoảng cách từ từng điểm dữ liệu tới điểm trung bình'. Vì vậy, nó là giá trị trung bình của bình phương độ lệch. Sự biến thiên của biến ngẫu nhiên X thường được ký hiệu là $\mathrm{var}<!--\; \; -->\left(X\right)$, ${\mathrm{\sigma <!--\; \sigma \; -->}}_X^2$, hoặc đơn giản là ${\mathrm{\sigma <!--\; \sigma \; -->}}^2$.

Lưu ý: định nghĩa này áp dụng cho cả biến ngẫu nhiên rời rạc và liên tục.

Nhiều phân phối, chẳng hạn như phân phối Cauchy, không có sự biến thiên vì tích phân từ định nghĩa sự biến thiên là phân kỳ. Một phân phối không có giá trị kỳ vọng thì cũng không có sự biến thiên. Tuy nhiên, điều ngược lại không đúng: có những phân phối có giá trị kỳ vọng nhưng không có sự biến thiên.

Các đặc điểm

• Khi phương sai được xác định, nó luôn là giá trị không âm, vì bình phương của một số không bao giờ âm.
• Đơn vị của phương sai là bình phương của đơn vị đo lường biến ngẫu nhiên. Ví dụ, phương sai của chiều cao đo bằng centimet (cm) có đơn vị là cm bình phương. Vì điều này có thể gây khó khăn, nên thường thì người ta sử dụng căn bậc hai của phương sai, gọi là độ lệch chuẩn, để làm đơn vị đo sự phân tán.
• Với các hằng số thực a và b, và biến ngẫu nhiên X, thì biến ngẫu nhiên $aX+b$ có phương sai được tính bằng:

$\mathrm{var}<!--\; \; -->(aX+b)=a^2\mathrm{var}<!--\; \; -->\left(X\right).$

• Để tính phương sai một cách thuận tiện, người ta thường áp dụng công thức sau:

$\mathrm{var}<!--\; \; -->\left(X\right)=E<!--\; \; -->(X^2-<!--\; -\; -->2XE<!--\; \; -->(X)+(E<!--\; \; -->\left(X\right){)}^2)=E<!--\; \; -->(X^2)-<!--\; -\; -->2(E<!--\; \; -->\left(X\right){)}^2+(E<!--\; \; -->(X){)}^2=E<!--\; \; -->(X^2)-<!--\; -\; -->(E<!--\; \; -->\left(X\right){)}^2.$

• $\mathrm{var}<!--\; \; -->(aX+bY)=a^2\mathrm{var}<!--\; \; -->\left(X\right)+b^2\mathrm{var}<!--\; \; -->\left(Y\right)+2ab\mathrm{cov}<!--\; \; -->(X,Y).$

Hiệp phương sai, ký hiệu là $\mathrm{cov}$, bằng 0 khi X và Y là hai biến ngẫu nhiên độc lập với nhau.

Xấp xỉ phương sai của hàm số

Phương pháp Delta áp dụng khai triển Taylor bậc hai để xấp xỉ phương sai của hàm số với một hoặc nhiều biến ngẫu nhiên. Ví dụ, phương sai của hàm số theo một biến ngẫu nhiên có thể xấp xỉ như sau:

$\mathrm{var}<!--\; \; -->\left[f\left(X\right)\right]\approx <!--\; \approx \; -->{\left(f^{\prime }(E<!--\; \; -->\left[X\right])\right)}^2\mathrm{var}<!--\; \; -->\left[X\right]$

Với giả thiết rằng $f(\cdot <!--\; \cdot \; -->)$ có khả năng bậc hai, và trung bình cũng như phương sai của $X$ là hữu hạn.

Phương sai của tổng thể và phương sai mẫu

Trong nhiều tình huống thực tế, giá trị chính xác của phương sai tổng thể, ký hiệu là ${\mathrm{\sigma <!--\; \sigma \; -->}}^2$, thường không thể xác định chính xác.

Để ước lượng phương sai của một tổng thể (cả hữu hạn lẫn vô hạn), phương pháp phổ biến là lấy mẫu từ quần thể. Giả sử rằng mẫu thu được gồm các giá trị đo được là $x_1,\dots <!--\; \dots \; -->,x_N$.

Phương sai mẫu, hay còn gọi là phương sai của mẫu, với các giá trị $(x_1,\dots <!--\; \dots \; -->,x_N)$, được tính theo công thức sau:

${\stackrel{^<!--\; ^\; -->}{\mathrm{\sigma <!--\; \sigma \; -->}}}^2=\frac{1}{N}\underset{i=1}{\overset{N}{\sum <!--\; \sum \; -->}}{(x_i-<!--\; -\; -->\stackrel{}{x}}^{}$

¯ ) 2 , {\displaystyle {\hat {\sigma }}^{2}={\frac {1}{N}}\sum _{i=1}^{N}\left(x_{i}-{\overline {x}}\right)^{2},}

Trong đó, $\stackrel{¯<!--\; ¯\; -->}{x}$ đại diện cho giá trị trung bình của mẫu.

Tuy nhiên, $\stackrel{^<!--\; ^\; -->}{{\mathrm{\sigma <!--\; \sigma \; -->}}^2}$ chỉ là một ước lượng có độ chệch của phương sai tổng thể. Để có một ước lượng không chệch, ta sử dụng công thức sau:

$s^2=\frac{1}{N-<!--\; -\; -->1}\underset{i=1}{\overset{N}{\sum <!--\; \sum \; -->}}{\left(x_i-<!--\; -\; -->\stackrel{¯<!--\; ¯\; -->}{x}\right)}^2,$

Chứng minh 1

Phần tiếp theo sẽ chứng minh rằng $s^2$ là một ước lượng không chệch cho phương sai của quần thể. Một ước lượng $\stackrel{^<!--\; ^\; -->}{\mathrm{\theta <!--\; \theta \; -->}}$ của tham số $\mathrm{\theta <!--\; \theta \; -->}$ được coi là không chệch nếu $E<!--\; \; -->\left\{\stackrel{^<!--\; ^\; -->}{\mathrm{\theta <!--\; \theta \; -->}}\right\}=\mathrm{\theta <!--\; \theta \; -->}$.

Ký hiệu $\mathrm{\mu <!--\; \mu \; -->}$ và ${\mathrm{\sigma <!--\; \sigma \; -->}}^2$ lần lượt biểu thị trung bình và phương sai của quần thể. Để chứng minh rằng $s^2$ là ước lượng không chệch, ta cần chứng minh rằng $E<!--\; \; -->\left\{s^2\right\}={\mathrm{\sigma <!--\; \sigma \; -->}}^2$.

$E<!--\; \; -->\left\{s^2\right\}=E<!--\; \; -->\left\{\frac{1}{n-<!--\; -\; -->1}\underset{i=1}{\overset{n}{\sum <!--\; \sum \; -->}}{\left(x_i-<!--\; -\; -->\stackrel{¯<!--\; ¯\; -->}{x}\right)}^2\right\}$

$=\frac{1}{n-<!--\; -\; -->1}\underset{i=1}{\overset{n}{\sum <!--\; \sum \; -->}}E<!--\; \; -->\left\{{\left(x_i-<!--\; -\; -->\stackrel{¯<!--\; ¯\; -->}{x}\right)}^2\right\}$

$=\frac{1}{n-<!--\; -\; -->1}\underset{i=1}{\overset{n}{\sum <!--\; \sum \; -->}}\ast \frac{1}{n-<!--\; -\; -->1}E<!--\; \; -->\{{\left(x_i-<!--\; -\; -->\stackrel{¯<!--\; ¯\; -->}{x}\right)}^2\}=\mathrm{\sigma <!--\; \sigma \; -->}^<!--\; ^\; -->2$

$=\frac{1}{n-<!--\; -\; -->1}\underset{i=1}{\overset{n}{\sum <!--\; \sum \; -->}}\{E<!--\; \; -->\left\{(x_i-<!--\; -\; -->\mathrm{\mu <!--\; \mu \; -->}{)}^2\right\}-<!--\; -\; -->2E<!--\; \; -->\left\{(x_i-<!--\; -\; -->\mathrm{\mu <!--\; \mu \; -->})(\stackrel{¯<!--\; ¯\; -->}{x}-<!--\; -\; -->\mathrm{\mu <!--\; \mu \; -->})\right\}+E<!--\; \; -->\{(\stackrel{¯<!--\; ¯\; -->}{x}-<!--\; -\; -->\mathrm{\mu <!--\; \mu \; -->}{)}^2\}\}$

$=\frac{1}{n-<!--\; -\; -->1}\underset{i=1}{\overset{n}{\sum <!--\; \sum \; -->}}\left\{{\mathrm{\sigma <!--\; \sigma \; -->}}^2-<!--\; -\; -->2\left(\frac{1}{n}\underset{j=1}{\overset{n}{\sum <!--\; \sum \; -->}}E<!--\; \; -->\left\{(x_i-<!--\; -\; -->\mathrm{\mu <!--\; \mu \; -->})(x_j-<!--\; -\; -->\mathrm{\mu <!--\; \mu \; -->})\right\}\right)+\frac{1}{n^2}\underset{j=1}{\overset{n}{\sum <!--\; \sum \; -->}}\underset{k=1}{\overset{n}{\sum <!--\; \sum \; -->}}E<!--\; \; -->\left\{(x_j-<!--\; -\; -->\mathrm{\mu <!--\; \mu \; -->})(x_k-<!--\; -\; -->\mathrm{\mu <!--\; \mu \; -->})\right\}\right\}$

$=\frac{1}{n-<!--\; -\; -->1}\underset{i=1}{\overset{n}{\sum <!--\; \sum \; -->}}\left\{{\mathrm{\sigma <!--\; \sigma \; -->}}^2-<!--\; -\; -->\frac{2{\mathrm{\sigma <!--\; \sigma \; -->}}^2}{n}+\frac{{\mathrm{\sigma <!--\; \sigma \; -->}}^2}{n}\right\}$

$=\frac{1}{n-<!--\; -\; -->1}\underset{i=1}{\overset{n}{\sum <!--\; \sum \; -->}}\frac{(n-<!--\; -\; -->1){\mathrm{\sigma <!--\; \sigma \; -->}}^2}{n}$

$=\frac{(n-<!--\; -\; -->1){\mathrm{\sigma <!--\; \sigma \; -->}}^2}{n-<!--\; -\; -->1}={\mathrm{\sigma <!--\; \sigma \; -->}}^2$

Chứng minh 2

Có thể chứng minh bằng cách khác như sau:

$E\left[\underset{i=1}{\overset{n}{\sum <!--\; \sum \; -->}}(x_i-<!--\; -\; -->\stackrel{¯<!--\; ¯\; -->}{x}{)}^2\right]=E\left[\underset{i=1}{\overset{n}{\sum <!--\; \sum \; -->}}{x}_i^2\right]-<!--\; -\; -->nE[{\stackrel{¯<!--\; ¯\; -->}{x}}^{}$

$=n{\mathrm{\sigma <!--\; \sigma \; -->}}^2-<!--\; -\; -->\frac{1}{n}\left(E\left[{\left(\underset{i=1}{\overset{n}{\sum <!--\; \sum \; -->}}{x}_i\right)}^2\right]-<!--\; -\; -->{\left(E\left[\underset{i=1}{\overset{n}{\sum <!--\; \sum \; -->}}{x}_i\right]\right)}^2\right)$

$=n{\mathrm{\sigma <!--\; \sigma \; -->}}^2-<!--\; -\; -->\frac{1}{n}\left(\mathrm{var}<!--\; \; -->\left[\underset{i=1}{\overset{n}{\sum <!--\; \sum \; -->}}{x}_i\right]\right)=n{\mathrm{\sigma <!--\; \sigma \; -->}}^2-<!--\; -\; -->\frac{1}{n}\left(n{\mathrm{\sigma <!--\; \sigma \; -->}}^2\right)=(n-<!--\; -\; -->1){\mathrm{\sigma <!--\; \sigma \; -->}}^2.$

Độ phân tán của vector ngẫu nhiên

Khi X là một vector ngẫu nhiên trên R, độ phân tán của X được tính theo công thức sau:

E[(X − μ)(X − μ)]

μ = E(X) và X là ma trận chuyển vị của X. Ma trận này có phương sai là một ma trận vuông xác định dương, thường được gọi là ma trận hiệp phương sai.

Lịch sử

Khái niệm phương sai lần đầu được giới thiệu bởi Ronald Fisher trong bài báo năm 1918 có tiêu đề The Correlation Between Relatives on the Supposition of Mendelian Inheritance.

• Bất đẳng thức liên quan đến tham số vị trí và tham số tỉ lệ
• Giá trị kỳ vọng
• Hệ số phân tán
• Quy tắc tổng phương sai
• Độ xiên
• Semivariance
• Độ lệch chuẩn
• Phân tán thống kê

Liên kết ngoài

• Bài báo gốc của Fisher Lưu trữ ngày 13-12-2005 trên Wayback Machine (định dạng pdf)