% ref: Szekely Mosteller ?
% Tao, Compactness and contradictions - paradoxes related to statistical averaging


\documentclass[screen,draft]{irp}
%\documentclass[print]{irp}
%\documentclass[screen,english]{irp}
%\documentclass[screen,czech]{irp}
\usepackage[utf8]{inputenc}
\usepackage[IL2]{fontenc}
\usepackage{amsmath,amssymb}
\usepackage{jsfig}
\usepackage{multicol}

%%%%%%%%%% pasha %%%%%%%%%%%%%%%%%%%%%%%%%%%
\usepackage{enumerate}
\newcommand{\vertbar}{\>|\>}
\newcommand{\set}[2]{\ensuremath{\{ #1 \vertbar #2 \}}}
\def\dcobound{\,\mathrm d}
\hyphenation{Me-ta-phor weal-thy}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%


% JS patch 161031
\newwrite\jstoc
\newif\ifjsnotoc
\def\CEpnadpiskapitoly#1#2{\hbox to\hsize{%
  \fontnadpisukapitoly
  \hsize0.45\hsize \parfillskip0pt
  \vtop{\leftskip0ptplus1fill\noindent\ehyph#1}%
  \hss\ifnum\arabic{chapter}>0 \arabic{chapter}\fi\hss
  \vtop{\rightskip0ptplus1fill\noindent\chyph#2}%
  }%
  \ifjsnotoc\global\jsnotocfalse\else
    \label{jst\arabic{chapter}}%
    \write\jstoc{\noexpand\jstocline{\arabic{chapter}}{#1}{#2}}%
  \fi}
%
\def\jstocline#1#2#3{\setbox0\hbox{\tracingmacros1 \pageref{jst#1}}%
  \hbox to\hsize{\def\quad{\enskip}%
    \hbox to0.5\hsize{\jspatch{#2}\quad\jstocfill\quad\hskip0.5\wd0}%
    \hbox to0pt{\hss\copy0\hss}%
    \hbox to0.5\hsize{\hskip0.5\wd0\quad\jstocfill\quad\jspatch{#3}}}
  \smallskip}
\def\jstocfill{\leaders\hbox{\,.\,}\hfil}
% TBN
\newread\testin
\def\softinput #1 {\let\next=\relax \openin\testin=#1
\ifeof\testin \message{Warning: the file #1 does not exist}%
\else \closein\testin \def\next{\input #1 }\fi
\next}
%

% JS patch 161202
\newbox\boxa
\def\scale#1#2{{\setbox\boxa=\hbox{#2}%
  \hbox{\pdfliteral{q #1 0 0 #1 0 0 cm}%
  \rlap{\smash{#2}}\pdfliteral{Q}%
  \vrule width0pt height#1\ht\boxa depth#1\dp\boxa \kern#1\wd\boxa}}}
\def\xscale#1#2{{\setbox\boxa=\hbox{#2}%
  \hbox{\pdfliteral{q #1 0 0 1 0 0 cm}%
  \rlap{\smash{#2}}\pdfliteral{Q}%
  \vrule width0pt height\ht\boxa depth\dp\boxa \kern#1\wd\boxa}}}
\def\leftbox#1#{\lboxA{#1}}
\def\centerbox#1#{\cboxA{#1}}
\def\rightbox#1#{\rboxA{#1}}
\def\lboxA#1#2{\hbox to #1{\lcrboxB{#1}{#2}\hfil}}
\def\cboxA#1#2{\hbox to #1{\hfil\lcrboxB{#1}{#2}\hfil}}
\def\rboxA#1#2{\hbox to #1{\hfil\lcrboxB{#1}{#2}}}
\newdimen\lcrdimen
\newcount\lcrcount
\def\lcrboxB#1#2{\lcrdimen#1%
  \setbox0=\hbox{#2}%
  \ifdim\wd0>\lcrdimen
    \def\lcrnext{\lcrboxC{#2}}%
  \else
    \def\lcrnext{#2}%
  \fi
  \lcrnext}
\def\lcrboxC#1{\lcrcount1000
  \loop
    \dimen0=0.001\wd0 % kvuli preteceni
    \dimen2=0.001\lcrdimen
    \ifdim\lcrcount\dimen0>1000\dimen2
    \advance\lcrcount-2
  \repeat
  \ifnum\lcrcount<10
    \xscale{0.00\the\lcrcount}{#1}%
  \else\ifnum\lcrcount<100
    \xscale{0.0\the\lcrcount}{#1}%
  \else
    \xscale{0.\the\lcrcount}{#1}%
  \fi\fi}
\def\jspatch#1{\setbox2\hbox{#1}\ifdim\wd2>0.46\hsize \leftbox0.46\hsize{#1}\else#1\fi}
%

\catcode64=11
\def\CEponly#1{%
  \ifJS@czech % czech=true
    \ifJS@english % czech=true, english=true
      \ifJS@print
      \else % czech=true, english=true, print=false
        #1\fi\fi\fi}
\catcode64=12

\emergencystretch24pt
\def\Indent{\quitvmode\hbox to18pt{\hss}}
\def\={\discretionary{-}{-}{-}}

\begin{document}


\begingroup
\leftskip0ptplus\hsize
\rightskip\leftskip
\parindent0pt
\parfillskip0pt
\pagestyle{empty}

\Huge\bf
\vbox{}
\vfil
\csname ifJS@english\endcsname
  \ehyph
  Introduction to Probability and Statistics
  \par\bigskip
\fi
\csname ifJS@czech\endcsname
  \chyph
  Úvod do pravděpodobnosti a statistiky
  \par\bigskip
\fi
\chyph
\Large\bf

doc. Mgr. Pasha Zusmanovich, PhD.\par
Ing. Pavel Rusnok

\vfil
\Large
Ostravská univerzita\par 2016

\vfil
\normalsize\rm
Tato studijní opora vznikla při realizaci projektu IRP201605.

\break
\endgroup


\jsnotoctrue\setcounter{chapter}{-1}
\begin{chapter}{Contents}{Obsah}

\softinput\jobname.jst

\openout\jstoc=\jobname.jst
\end{chapter}

\begin{chapter}{A Subject of Probability and Statistics}{Předmět pravděpodobnosti a statistiky}

\CZ
Teorie pravděpodobnosti je odvětví matematiky, které se snaží argumentovat precizně
o náhodných a nejistých věcech.

\EN
Probability theory is a branch of mathematics which tries to argue rigorously
about random and uncertain things.

\CZ
Jedno varování: slova \uv{pravděpodobnost} a \uv{náhoda}, používané v
mluvené řeči, nemají moc společného s matematickou pravděpodobností.
V~podstatě tato každodenní slova vyvolávají představu o lidské důvěře v
nejisté situaci. Na druhé straně, přísné měření pravděpodobnosti,
a matematická manipulace s výsledky těchto měření, se netýkají
lidské důvěry, která je psychologickým faktorem, ale objektivní
číselné charakteristiky uvažovaných jevů, které úzce souvisí s
počítáním.

\EN
A word of warning: the words ``probability'' and ``chance'' used in the
ordinary speech have not much in common with the mathematical probability. 
Basically, these everyday words invoke the idea of human confidence in an 
uncertain situation. On the other hand, rigorous measurements of probability, 
and mathematical handling of the results of these measurements, refer not to 
the confidence itself which is a psychological factor, but to objective 
numerical characteristics of the considered phenomena, initially closely related
to count. 

\CZ
I když nelze říci nic konkrétního o výsledcích jednoho náhodného jevu, při uvažování o několika takových jevech v celém rozsahu se určité vzory objevují. 
Lze je pak poddat přísnému matematickému zkoumání.

\EN
Though it cannot be said anything definite about outcomes of a single random 
event, when considering a number of such events in their totality, certain 
patterns emerge; these patterns are amenable to a rigorous mathematical study.

\CZ
Statistika se zabývá sběrem, analýzou, interpretací, prezentací,
vizualizací a organizací různých dat. Někdy jsou termíny
\uv{statistika} a \uv{datová analýza}  používány zaměnitelně.
Matematické základy statistiky jsou založeny na teorii pravděpodobnosti.

\EN
Statistics deals with collection, analysis, interpretation, presentation,
visualization, and organization of various data. Sometimes the terms 
``statistics'' and  ``data science'' are used interchangeably.
Mathematical foundations of statistics are based on probability theory.

\CZ
Nicméně statistika není omezená pouze na matematiku: její hlavní použití spočívá v analyzování dat ze \uv{skutečného světa}, jako jsou ceny akcií, měření teploty, nebo výsledky průzkumu veřejného mínění. Je velmi důležité, aby byla data
sbírána správným způsobem a byly použity vhodné metody k analýze. Toto přesahuje hranice matematiky a často vyžaduje metod z
příslušných disciplín -- biologie, sociologie, fyziky, finančnictví, atd.
Data jsou také často objemná a měla by být uložena a zpracována
efektivně. Na tom se hodně podílí počítačová věda.
Jako taková je statistika multidisciplinární iniciativou.

\EN
However, statistics is not confined to mathematics: its main utility lies
in analyzing the ``real world'' data, be it stock prices, temperature 
measurements, or results of an opinion poll. It is crucial that the data are 
collected an a proper way, and that the appropriate methods to analyze it are 
used. This goes beyond mathematics and often requires methods from
the relevant disciplines -- biology, sociology, physics, finances, etc.
Also, the data is often voluminous, and should be stored and processed 
efficiently; here a good deal of computer science is involved.
As such, statistics is a multidisciplinary enterprise.

\CZ
Někdy statistická analýza umožňuje usuzovat ve prospěch výroků, které by
jinak mohly vypadat kontroverzní v očích některých lidí. Zmíníme dva relativně 
nedávné příklady: Ruské prezidentské volby 2012 byly podvodné
(P.~Klimek et al., Proc. Nat. Acad. Sci. \textbf{109} (2012), 16469--16473);
nejvíce citované články ve vědeckých publikacích nejsou čtené většinou
citujících autorů, ale pouze kopírovány z jednoho seznamu citací do druhého
(M.V.~Simkin and V.P. Roychowdhury, Significance \textbf{3} (2006), 179--181).

\EN
Sometimes, statistical analysis allows to judge in favor of statements, which 
otherwise may look controversial in some people's eyes. Just two relatively recent examples: the Russian 2012 presidential election was fraudulent 
(P. Klimek et al., Proc. Nat. Acad. Sci. \textbf{109} (2012), 16469--16473);
in scientific publications, the top cited papers are not red by the majority
of citing authors, but merely copied from one citation list to another 
(M.V. Simkin and V.P. Roychowdhury, Significance \textbf{3} (2006), 179--181).

\end{chapter}





\begin{chapter}{Basic Combinatorics}{Základní kombinatorika}

\CZ
Počítání je důležitou součástí matematické teorie pravděpodobnosti a z toho vyplývá
význam kombinatoriky.

\EN
Counting is heavily involved in a mathematical theory of probability; thus the 
significance of combinatorics.

\CZ
Kombinatorika je jedním z odvětví matematiky. Je užitečná nejen pro
teorii pravděpodobnosti. Například jeden ze
základních kamenů teorie sociálního výběru -- tzv. Arrowův teorém -- říká, že za rozumných
předpokladů je výběr ve společnosti bez ohledu na postup k dosažení
volby (např. demokratické hlasování) diktátorský, tj. je vždy
výběrem jediného jedince (\uv{diktátora}). Tento poněkud neintuitivní výsledek
je zklamáním (sociologicky, ne matematicky!). 
Výsledek je dokázán pomocí nepříliš obtížné kombinatoriky.

\EN
Combinatorics is one the branches of mathematics. It is useful not only for 
probability theory. For example, the so-called Arrow theorem, one of the 
cornerstone results of Social Choice Theory, says that under reasonable 
assumptions, any choice in the society, no matter what the procedure to achieve
the choice is (e.g., democratic voting), is dictatorial, i.e.~is always the 
choice of a single individual (``dictator''). This somewhat counter-intuitive 
and disappointing (sociologically, not mathematically!)\ result is established 
with the help of not very difficult combinatorics.

\CZ
Základní pojmy kombinatoriky jsou permutace, variace, a
kombinace.

\EN
The basic notions of combinatorics are permutations, variations, and 
combinations.

\CZ
\Indent
\emph{Permutace} je akt uspořádání prvků množiny do nějakého pořadí.
Celkový počet permutací množiny o $n$ prvcích je $n!$. Můžeme
 dát $n$ různých prvků na první místo. Poté, co jeden prvek je umístěn,
máme $n-1$ možností jaký prvek dát na druhé místo.
Opakováním tohoto postupu nám pak na $n$-té (poslední) místo zbyde jeden
prvek, který bude dán na $n$-tou pozici (tj., nemáme žádnou volbu). Jelikož v 
každém kroku jsou volby nezávislé, máme

\EN
\Indent
\emph{Permutation} is the act of arranging elements of a set into some order.
The number of permutations of an $n$-element set is equal to  $n!$. Indeed, we 
can put $n$ different elements on the first place. After one element is placed,
we have $n-1$ possibilities to put an element at the second place.
Repeating this procedure, on the $n$-th (last) step we will be left with one
element to be put on the $n$-th place (i.e., there is no choice at all). As on 
each step the choices are independent, we have

$$
n \cdot (n-1) \cdot \ldots \cdot 1 = n!
$$

\CZ
různých možností.

\EN
different possibilities.

\CZ
\Indent
\emph{Variace bez opakování} jsou zobecněním permutací, v nichž
není nutné, aby se použily všechny prvky množiny. Stejně jako v případě permutací,
žádný prvek množiny se neobjevuje více než jednou. Počet takových uspořádání
$k$-prvkové podmnožiny $n$-prvkové množiny je rovno $\frac{n!}{(n-k)!}$.
Počítáme stejně jako v případě permutací ($k = n $) a zastavíme se v
$k$-tém kroku:

\EN
\Indent
\emph{Variation without repetition} is a generalization of permutation, in which
not necessary all elements of the set are used. As in the case of permutation, 
no element of the set occured more than once. The number of such arrangements of
a $k$-element subset of an $n$-element set is equal to $\frac{n!}{(n-k)!}$. The
counting is the same as in the case of permutation ($k=n$), stopping at the 
$k$-th step:

$$
n \cdot (n-1) \cdot \ldots \cdot (n-k+1) = \frac{n!}{(n-k)!}
$$

\CZ
Když vypustíme požadavek, aby se žádný prvek nevyskytoval více než jednou (tj.,
opakování jsou povolena), dostaneme pojem \emph{variace s opakováním}.
To je stejné jako $ k $-tice prvků z $ n $ prvkové množiny. A
počet těchto $k$-tic je roven $ n ^ k $.

\EN
When we drop the requirement that no element occurs more than once (i.e.,
repetitions are allowed), we get the notion of \emph{variation with repetition}.
This is the same as the $k$-tuple of elements from an $n$-element set, and the
number of such tuples is equal to $n^k$.

\CZ
\Indent
\emph{Kombinace} je způsob výběru prvků z množiny, tak že
nezáleží na pořadí výběru. Pokud má množina, ze které vybíráme
$ n $ prvků a my vybíráme $ k $-prvkovou podmnožinu, pak je počet způsobů, jak je to možné udělat roven kombinačnímu číslu $ \binom{n}{k} $. Ve skutečnosti je
výběr $ k $~prvků z~$ n $-prvkové množiny stejný jako variace
bez opakování, protože počet těchto voleb je $ \frac{n!}{(n-k)!} $.
Ale jelikož prvky dané $ k $-prvkové množiny můžeme vybrat 
v libovolném pořadí,
pak jsme započítali každou množinu tolikrát kolik je počet jejích permutací, tj. $ k! $. Proto je konečný počet možností

\EN
\Indent
\emph{Combination} is the way of selecting items from a set, such that 
the order of selection does not matter. If the set we are choosing from has
$n$ elements, and we are choosing $k$-element subsets, the number of ways it is
possible to do is equal to $\binom{n}{k}$, the binomial coefficient. Indeed, to
choose $k$ elements out of $n$-element set is the same as perform a variation
without repetition, hence the number of such choices is $\frac{n!}{(n-k)!}$.
But since elements of a given $k$-element set can be chosen in arbitrary order,
we have accounted each set the number of times equal to the number of permutations of its elements, i.e.~$k!$. Hence the final
number of possibilities is

$$
\frac{n!}{(n-k)!k!} = \binom{n}{k} .
$$

\CZ
\priklad
Například ze standardního balíčku $ 52 $~karet je možné vybrat
$5$ karet

\EN
\example
For example, from the standard deck of $52$ cards one possible to choose a 
$5$-card hand in 

$$
\binom{52}{5} = \frac{52!}{47! 5!} = 2{,}598{,}960
$$ 

\CZ
různými způsoby.

\EN
different ways.

\endpriklad
\endexample

\end{chapter}






\begin{chapter}{Sample Space, Event, Probability}{Prostor elementárních jevů, náhodný jev, pravděpodobnost}

\CZ
\emph{Prostor elementárních jevů} je množina takových prvků, které představují výsledky jevu, o který se zajímáme.

\EN
A \emph{sample space} is a set whose elements represent the possible outcomes of
the event we are interested in.

\CZ
\priklad
Pokud házíme mincí, pak je prostor elementárních jevů dvouprvková množina $S = \{\text{líc}, \text{rub}\}$. Pokud házíme hrací kostkou, pak prostor elementárních jevů je šestiprvková množina $\{1,2,3,4,5,6\}$. Pokud házíme dvěma mincemi najednou, pak je prostor kartézský součin $S \times S$, t.j. množina 
$$
\{(\text{líc}, \text{líc}), 
  (\text{líc}, \text{rub}),
  (\text{rub}, \text{líc}),
  (\text{rub}, \text{rub})\}.
$$
Pokud házíme (idealizovanou) šipkou (tj. bod) na (idealizovaný) terč (řekněme, kruh s poloměrem $ 1 $ s centrem v počátku souřadnic), pak prostor elementárních jevů je

\EN
\example
When tossing a coin, the sample space is a 2-element set
$S = \{\text{head}, \text{tail}\}$. When tossing a dice, the sample space is a 
6-element set $\{1,2,3,4,5,6\}$. When tossing two coins simultaneously, the 
sample space is the cartesian product $S \times S$, i.e. the set
$$
\{(\text{head}, \text{head}), 
  (\text{head}, \text{tail}),
  (\text{tail}, \text{head}),
  (\text{tail}, \text{tail})\}.
$$
If we are throwing an (idealized) dart (i.e., a point) at an (idealized) 
dartboard (say, a circle with radius $1$ with the center at the origin), the 
sample space is 

$$
\set{(x,y) \in \mathbb R^2}{x^2 + y^2 \le 1} .
$$

\endpriklad
\endexample

\CZ
\Indent
\emph{Náhodný jev} je podmnožinou prostoru elementárních jevů.
\emph{Elementární jev} je jednoprvková podmnožina prostoru elementárních jevů.

\EN
\Indent
An \emph{event} is a subset of the sample space.
An \emph{elementary event} is a subset of the sample space consisting of one
element.

\CZ
\priklad
Můžeme vybrat datumy narozenin v~určité skupině lidí.
Prostor elementárních jevů je v~tomto případě podmnožinou kartézského součinu
$$
\{1,2,\dots,31\} \times 
\{\text{Led}, \text{Úno}, \dots, \text{Pro}\}
$$
(podmnožina, protože některé páry, jako 30. února a 31. června, jsou vyloučeny).
Nyní můžeme mít zájem například o lidi narozené v určitý den,
pak jednoprvkové množiny $ \{(1, \text{Led}) \} $ a $\{(10, \text{Bře})\} $ budou
představovat elementární jevy, zatímco všechny narozeniny vyskytující se v únoru:
$$
\{1,2,\dots,29\} \times \{\text{Úno}\} ,
$$ 
nebo všechny narozeniny vyskytující se na konci měsíce:
$$
\{
(30, \text{Led}), 
(28, \text{Úno}), 
(29, \text{Úno}), \dots, 
(31, \text{Pro})
\}
$$
budou představovat (pouze) náhodné jevy.

\EN
\example
We may sample birthday dates in a certain group of people.
The sample space in this case is the subset of the cartesian product
$$
\{1,2,\dots,31\} \times 
\{\text{Jan}, \text{Feb}, \dots, \text{Dec}\}
$$
(subset, as certain pairs, like February 30 and June~31, are excluded). 
Now we may be interested, for example, in people born at the specific date, 
so the one-element sets $\{(1, \text{Jan})\}$ and $\{(10, \text{Mar})\}$ will
constitute elementary events, while all birthdays occuring in February:
$$
\{1,2,\dots,29\} \times \{\text{Feb}\} ,
$$ 
or all birthdays occuring at the end of the month:
$$
\{
(30, \text{Jan}), 
(28, \text{Feb}), 
(29, \text{Feb}), \dots, 
(31, \text{Dec})
\}
$$
will constitute (just) events.

\CZ
V příkladu házení šipkami je perfektní zásah $ \{(0,0)\} $ elementární jev, zatímco zásah pravé části terče:

\EN
In the throwing darts example, the perfect hit, $\{(0,0)\}$, is an elementary 
event, while hitting, say, the right half of the dartboard:

$$
\set{(x,y) \in \mathbb R^2}{x^2 + y^2 \le 1, x \ge 0}
$$

\CZ
je náhodný jev.

\EN
will constitute an event.

\endpriklad
\endexample

\CZ
\Indent
Množinové operace na  náhodných jevech odpovídají jejich logickým kombinacím:
k průniku $ A \cap B $ jevů $ A $ a $ B $ dochází, když oba jevy $ A $ a $ B $
nastanou; sjednocení $ A \cup B $ nastane, když buď $ A $ nebo $ B $ nastane; doplněk
$ S \setminus A $, kde $ S $ je celý prostor elementárních jevů, nastane, když $ A $ nenastane.

\EN
\Indent
The set-theoretic operations on events correspond to their logical combinations:
the intersection $A \cap B$ of events $A$ and $B$ occurs when both $A$ and $B$ 
occur; the union $A \cup B$ occurs when either $A$ or $B$ occurs; the complement
$S \setminus A$, where $S$ is the whole sample space, occurs when $A$ does not
occur. 

\CZ
\priklad
Když hodíme dvě mince současně, náhodný jev hození nejprve líce je
$$
A = \{(\text{líc}, \text{líc}), (\text{líc}, \text{rub})\} ,
$$
a náhodný jev líce na druhém místě je 
$$
B = \{(\text{líc}, \text{líc}), (\text{rub}, \text{líc})\} .
$$
Jejich průnik je elementární jev hození dvakrát líce $\{(\text{líc}, \text{líc})\}$ a jejich sjednocení je náhodný jev hození alespoň jednoho líce
$$
A \cup B = \{(\text{líc}, \text{líc}), 
             (\text{rub}, \text{líc}),
             (\text{líc}, \text{rub})\} .
$$
Doplněk k $A$ je náhodný jev, kdy hodíme nejprve rub:
$$
S \setminus A = \{(\text{rub}, \text{líc}), (\text{rub}, \text{rub})\} .
$$

\EN
\example
When tossing two coins simultaneously, the event of having
head first is
$$
A = \{(\text{head}, \text{head}), (\text{head}, \text{tail})\} ,
$$
and the event of having head second is
$$
B = \{(\text{head}, \text{head}), (\text{tail}, \text{head})\} .
$$
Their intersection is an elementary event having both heads, 
$\{(\text{head}, \text{head})\}$, and their union is an event of having at least
one head:
$$
A \cup B = \{(\text{head}, \text{head}), 
             (\text{tail}, \text{head}),
             (\text{head}, \text{tail})\} .
$$
The complement of $A$ is an event of having tails first:
$$
S \setminus A = \{(\text{tail}, \text{head}), (\text{tail}, \text{tail})\} .
$$

\endpriklad
\endexample

\CZ
\Indent
\emph{Pravděpodobnost}  je číselné vyjádření, jaká je šance, že nastane nějaká událost. Pokud
všechny výsledky v prostoru $ S $ se vyskytují stejně často, pak pravděpodobnost
$ \Pr(A) $ náhodného jevu $ A $ je roven $ \frac{|A|}{| S |} $, kde $ | X | $ je
mohutnost (počet prvků) množiny $ X $. Zejména pravděpodobnost
elementárního jevu je rovna $ \frac{1}{| S |} $.

\EN
\Indent
\emph{Probability} is a numerical expression of how likely an event occurs. If 
all outcomes in the sample space $S$ occurs equally likely, then the probability
$\Pr(A)$ of an event $A$ is equal to $\frac{|A|}{|S|}$, where $|X|$ is the 
cardinality (number of elements) of the set $X$. In particular, the probability
of an elementary event is equal to $\frac{1}{|S|}$. 

\CZ
\priklad
V předchozím příkladu házení dvěma mincemi máme

\EN
\example
In the previous example with two coins tossing, we have

\vbox{\everypar{}
\begin{gather*}
\Pr(A) = \Pr(B) = \Pr(S \setminus A) = \frac{2}{4} = \frac{1}{2} 
\\
\Pr(A \cap B) = \frac{1}{4} \phantom{.}
\\
\Pr(A \cup B) = \frac{3}{4} .
\end{gather*}}

\endpriklad
\endexample

\CEponly\break % JS161202

\CZ
\Indent
Obecněji \emph {pravděpodobnost} $ p $ na prostoru $ S $ je
funkce z množiny všech možných jevů, tj. potenční množiny $ P (S) $, do
intervalu $ [0,1] $ tak, že $ \Pr (S) = 1 $ a

\EN
\Indent
More generally, a \emph{probability function} $p$ on a sample space $S$ is a 
function from the set of all possible events, i.e.~the powerset $P(S)$, to the
interval $[0,1]$, such that $\Pr(S) = 1$ and

$$ \Pr (A \cup B) = \Pr (A) + \Pr (B) $$

\CZ
pokud $ A $ a $ B $ se nevyskytují současně, tj. $ A \cap\nobreak B = \varnothing $. To znamená, že
pravděpodobnost náhodného jevu lze vypočítat sečtením pravděpodobností všech
výsledků (elementárních jevů), které ho tvoří.

\EN
if $A$ and $B$ do not occur simultaneously, i.e.\ $A \cap\nobreak B = \varnothing$. Thus, the
probability of an event can be computed by summing up probabilities of all
outcomes (elementary events) comprising it.

\CZ
\priklad
Pokud házíme
křivou kostkou, u níž se $ 6 $ vyskytuje s pravděpodobností $ \frac 15 = 0{,}2 $ (namísto vyvážené $ \frac 16$), a zbytek bodů od $ 1 $ do $ 5 $, může nastat
se stejnou pravděpodobností $ 0{,}16$, pak pravděpodobnost, že dostaneme sudý počet bodů, se rovná

\EN
\example
If we are throwing a
crooked dice, where $6$ can occur with the probability $\frac 15 = 0.2$ (instead
of the fair $\frac 16$), and the rest of points, from~$1$ till $5$, can occur 
with the equal probability $0.16$, the probability to get an even number of 
points is equal to

$$
\Pr(\{2,4,6\}) = \Pr(\{2\}) + \Pr(\{4\}) + \Pr(\{6\}) = 
2 \cdot 0.16 + 0.2 = 0.52 . 
$$

\endpriklad
\endexample

\CZ
\Indent
Stále nejsou pojmy náhodného jevu a pravděpodobnosti zcela uspokojivé, protože můžeme narazit na problémy u nekonečných množin. \hbox{Je-li} prostor elementárních jevů $ S $ nekonečný, pak vhodný pojem náhodného jevu se nezdá být libovolná podmnožina
 $ S $, ale nějaký prvek $ \sigma $-algebry, tj. souboru podmnožin $ S $
uzavřenému vůči doplňkům a spočetným sjednocením a průnikům. Pravděpodobnost $ p $ je pak definována jako míra na \hbox{$ \sigma $-}algebře,
normalizovaná podmínkou $ \Pr (S) = 1 $.

\EN
\Indent
Still, these notions of event and probability are not entirely satisfactory, as
we can run into problems with infinite sets. When the sample space $S$ is 
infinite, the appropriate notion of event appears to be not an arbitrary subset
of $S$, but an element of a $\sigma$-algebra, i.e.~a~set of subsets of $S$ 
closed with respect to complements, and countable unions and intersections. Then
the probability function $p$ is defined as a measure on the $\sigma$-algebra, 
normalized by the condition $\Pr(S) = 1$.

\CZ
\priklad
V příkladu házení šipkou je
pravděpodobnost zásahu jakékoli měřitelné podmnožina $ A $ našeho idealizovaného terče rovna $ \frac {\mu (A)} {\pi} $. Například, pravděpodobnost perfektního zásahu je nula
(tak jako míra množiny, která obsahuje jediný bod, je nula), zatímco
pravděpodobnost zásahu pravé poloviny terče je $ \frac 12 $.

\EN
\example
In the throwing darts example, the 
probability to hit any measurable subset $A$ of our idealized dartboard is equal
to $\frac{\mu(A)}{\pi}$. For example, the probability of the perfect hit is zero
(as the measure of a set consisting of a single point is zero), while the 
probability to hit the right half of the dartboard is $\frac 12$.

\endpriklad
\endexample


\end{chapter}






\begin{chapter}{Conditional Probability, Bayes' Formula, Independent Events}{Podmíněná pravděpodobnost, Bayesův vzorec, nezávislé náhodné jevy}

\CZ
\emph{Podmíněná pravděpodobnost} $\Pr(A|B)$ je pravděpodobnost náhodného jevu $A$ předpokládající, že jiný náhodný jev $B$ nastal. Je definována jako

\EN
A \emph{conditional probability}, denoted by $\Pr(A|B)$, is a probability of an 
event $A$ assuming that another event $B$ has occured. It is defined as

$$
\Pr(A|B) = \frac{\Pr(A \cap B)}{\Pr(B)} .
$$

\CZ
(Samozřejmě předpokládáme, že $\Pr(B) > 0$.)

\EN
(Of course, we assume here that $\Pr(B) > 0$.)

\CEponly\break % JS 161202

\CZ
\priklad
Za předpokladu nepřechodného roku, nechť $A$ je náhodný jev, že osoba má narozeniny první den v měsíci a $B$ je náhodný jev, kdy osoba má narozeniny v lichém dni během léta. Pak $A \cap\nobreak B$ je jev, kdy osoba má narozeniny v prvním dni letního měsíce, 

\EN
\example
Assuming a non-leap year, let $A$ be an event that a person has 
a birthday at the first day of a month, and $B$ an event that a person has a 
birthday at an odd-numbered day at summer. Then $A \cap B$ is an event that a
person has a birthday at the first day of a summer month, 

\vbox{\everypar{}
\begin{gather*}
\Pr(A \cap B) = \frac{3}{365} , 
\\
\Pr(B) = \frac{15 + 16 + 16}{30 + 31 + 31} = \frac{47}{92} ,
\\
\Pr(A|B) = \frac{\frac{3}{365}}{\frac{47}{92}} = \frac{276}{17155} 
\approx 0.016 .
\end{gather*}}

\CZ
Porovnejte to s hodnotou nepodmíněné pravděpodobnosti

\EN
Compare this with the value of unconditional probability

$$
\Pr(A) = \frac{12}{365} \approx 0.033 .
$$

\endpriklad
\endexample

\CEponly\break % JS 161202

\CZ
\Indent
Pokud máme dva náhodné jevy $A$ a $B$ s nenulovými pravděpodobnostmi společně s podmíněnou pravděpodobností $\Pr(A|B)$, pak můžeme uvažovat o podmíněné pravděpodobnosti

\EN
\Indent
Having two events $A$ and $B$ with nonzero probabilities, along with the 
conditional probability $\Pr(A|B)$, we may consider the conditional probability 

$$
\Pr(B|A) = \frac{\Pr(A \cap B)}{\Pr(A)} ,
$$

\CZ
což implikuje

\EN
what implies

$$
\Pr(A|B) = \frac{\Pr(B|A) \Pr(A)}{\Pr(B)} .
$$

\CZ
To je známé jako \emph{Bayesův vzorec}.

\EN
This is known as \emph{Bayes' formula}.

\CZ
\Indent
Dva náhodné jevy $A$ a $B$ se nazývají \emph{nezávislé}, pokud jedna z následujících ekvivalentních rovností platí:

\EN
\Indent
Two events $A$ and $B$ are called \emph{independent}, if one of the following
equivalent equalities holds:

\vbox{\everypar{}
\begin{gather*}
\Pr(A|B) = \Pr(A) ,
\\
\Pr(B|A) = \Pr(B) ,
\\
\Pr(A \cap B) = \Pr(A)\Pr(B) .
\end{gather*}}

\CZ
Ekvivalence plyne z definice podmíněné pravděpodobnosti a Bayesova vzorce.

\EN
The equivalence follows from the definition of conditional probability, and
Bayes' formula.

\CZ
\priklad
Pro jednodušší počítání v tomto příkladu předpokládejme, že každý měsíc
v roce má 30 dní.
Náhodný jev mít narozeniny specifikované pomocí dnů měsíce (např. 10.~den měsíce, liché dny, od 10. do 15.~dne, atd.) je nezávislý na náhodném jevu mít narozeniny specifikované pomocí měsíce (např. v~lednu, na jaře, ve třech posledních měsících v roku, atd.). Na druhé straně, náhodné jevy narozenin v létě, a v lichých měsících nejsou nezávislé (intuitivně to je jasné, ale zkontrolujte to numericky!)

\EN
\example
For simplicity of calculation in this example assume that every month
of year has 30~days.
For example, an event of having a birthday specified in terms of the day of the
month (e.g., at the 10th day of the month, at odd days, from 10th till 15th day,
etc.)\ is independent from the event of having birthday specified in terms of 
the month (e.g., at January, at spring, at the last~3~months of the year, etc.).
On the other hand, the events of having birthday at summer, and at the 
odd-numbered months are not independent (intuitively this is clear, but check it numerically!)

\endpriklad
\endexample

\end{chapter}






\begin{chapter}{Discrete Random Variable, Distribution Function}{Diskrétní náhodná proměnná, distribuční funkce}

\CZ
V některých situacích se nemusíme zajímat o prostor elementárních jevů samotný, ale pouze o některé jeho vlastnosti. To nás vede k pojmu náhodné proměnné.

\EN
In some situations, we may be interested not in the sample space itself, but
only in some of its features. This leads us to the notion of a random variable.

\CZ
\emph{Diskrétní náhodná proměnná} je funkce z prostoru elementárních jevů $S$ do $\mathbb R$ s konečným nebo spočetným množstvím různých hodnot.

\EN
A \emph{discrete random variable} is a function on the sample space $S$ with 
values in $\mathbb R$, accepting finite or countable number of different values.

\CZ
Samozřejmě, pokud je prostor elementárních jevů konečný, pak jakákoli náhodná proměnná definována na něm je diskrétní.

\EN
Of course, if the sample space if finite, then any random variable defined on it
is discrete.

\CZ
\priklad
Když házíme dvěma kostkami, nemusíme se zajímat o přesný výsledek, ale pouze o~součet dvou hodů, nebo o maximum z dvou hodů. To jsou příklady diskrétní náhodné proměnné.

\EN
\example
When throwing pair of dices, we may
be interested not in the exact outcome, but merely in the sum of two throws,
or in the maximum of two throws. These are examples of a discrete random 
variable.

\endpriklad
\endexample

\CZ
\Indent
Nechť $X: S \to \mathbb R$ je diskrétní náhodná proměnná  definována na prostoru elementárních jevů~$S$. \emph{Pravděpodobnostní funkce} náhodné proměnné $X$ je funkce $f_X: \mathbb R \to [0,1]$
definována pro libovolné $x \in \mathbb R$ 

\EN
\Indent
Let $X: S \to \mathbb R$ be a discrete random variable defined on a sample space
$S$. The \emph{mass function} of $X$ is the function $f_X: \mathbb R \to [0,1]$
defined for any $x \in \mathbb R$ as

$$
f_X(x) = \Pr(X = x) .
$$

\CZ
\emph{Distribuční funkce} proměnné $X$ je funkce
$F_X: \mathbb R \to [0,1]$ definována pro libovolné $x \in \mathbb R$ pomocí

\EN
The \emph{distribution function} of $X$ is the function 
$F_X: \mathbb R \to [0,1]$ defined for any $x \in \mathbb R$ by

$$
F_X(x) = \Pr(X \le x) .
$$

\CZ
(Všimněte si, že formálně by pravé strany posledních matematických vzorců měly být zapsané jako

\EN
(Note that formally the right-hand sides of the last two formulas had to be 
written as

$$
\Pr(\set{s \in S}{X(s) = x}) ,
$$

\CZ
a

\EN
and

$$
\Pr(\set{s \in S}{X(s) \le x}) ,
$$

\CZ
ale tady a v podobných situacích níže používáme obecně přijaté zkratky).

\EN
respectively, but here and in similar situations below, we use universally 
accepted shorthands).

\CZ
Dle definice nabývá pravděpodobnostní funkce případných nenulových hodnot v konečném nebo spočetném počtu bodů (hodnoty diskrétní náhodné proměnné $X$), a je nulová všude jinde. Máme

\EN
By definition, the mass function attains possibly non-zero values in the finite
or countable number of points (the values of the discrete random variable $X$),
and is zero elsewhere. We have

$$
F_X(x) = \sum_{t \le x} f_X(t)
$$

\CZ
pro libovolné $x\in \mathbb R$. Distribuční funkce je tudíž vždy neklesající, a má \uv{skoky} pouze v konečném nebo spočetném množství bodů.

\EN
for any $x\in \mathbb R$, so the distribution function is always non-decreasing,
and has ``jumps'' only in a finite or countable number of points.

\CEponly\break % JS 161202

\CZ
\priklad
V příkladu házení mincí přiřaďme číselné hodnoty $0$ a $1$ rubu a líci a na prostoru elementárních jevů $S$ výsledků házení třemi mincemi najednou uvažujeme náhodnou proměnnou $X$ rovnou součtu všech $3$ výsledků. Proto možné hodnoty $X$ jsou $0,1,2,3$. Spočítejme příslušné pravděpodobnostní a distribuční funkce.

\EN
\example
In the tossing coin example, let us assign numerical values of $0$ and $1$
to tail and head respectively, and on the sample space $S$ of outcomes of 
tossing $3$ coins simultaneously, consider the random variable $X$ equal to the
sum of all $3$ outcomes, so the possible values of $X$ are $0,1,2,3$. Let us 
compute the corresponding mass and distribution functions.

\vbox{\vskip-9pt\everypar{}
\begin{align*}
f_X(0) &= \Pr(X=0) = \Pr(\{(0,0,0)\}) = \tfrac 18 ;
&
F_X(0) &= f_X(0) = \tfrac 18 ;
\\
f_X(1) &= \Pr(X=1) = \Pr(\{(1,0,0), (0,1,0), (0,0,1)\}) = \tfrac 38 ;
&
F_X(1) &= f_X(0) + f_X(1) = \tfrac 18 + \tfrac 38 = \tfrac 12 ;
\\
f_X(2) &= \Pr(X=2) = \Pr(\{(1,1,0), (1,0,1), (0,1,1)\}) = \tfrac 38 ;
&
F_X(2) &= f_X(0) + f_X(1) + f_X(2) 
\\
&&&= \tfrac 18 + \tfrac 38 + \tfrac 38 = \tfrac 78 ;\\
f_X(3) &= \Pr(X=3) = \Pr(\{(1,1,1)\}) = \tfrac 18 ;
&
F_X(3) &= f_X(0) + f_X(1) + f_X(2) + f_X(3)
\\&&& = 
\tfrac 18 + \tfrac 38 + \tfrac 38 + \tfrac 18 = 1 .
\end{align*}\vskip-9pt}

\CZ
Ve všech zbylých bodech jsou hodnoty $f_X$ rovny nule a

\EN
At any other points, the value of $f_X$ is zero, and

$$
F_X(x) = \begin{cases}
0        & \text{ if } x < 0 ;        \\
F_X([x]) & \text{ if } 0 \le x \le 3; \\
1        & \text{ if } x > 3 .
\end{cases}
$$

\CZ
Pomocí $[x]$ označujeme celočíselnou část $x$.

\EN
Here $[x]$ denotes the integer part of $x$.

\endpriklad
\endexample

\end{chapter}







\begin{chapter}{Continuous Random Variable, Density Function}{Spojitá náhodná proměnná, hustota pravděpodobnosti}

\CZ
Pokud reálná funkce definovaná na prostoru elementárních jevů $ S $ nenabývá diskrétních hodnot, ale spojitého intervalu hodnot, pak se dostáváme k~pojmu spojité náhodné proměnné. Formálně, náhodná proměnná $X: S \to \mathbb R$ je \emph{spojitá}, pokud

\EN
If a real-valued function defined on the sample space $S$ attains not a discrete,
but a continuous range of values, we arrive at the notion of a continuous random 
variable. Formally, a random variable $X: S \to \mathbb R$ is \emph{continuous},
if 

$$
\Pr(a \le X \le b) = \int_a^b f_X(t) \dcobound t
$$

\CZ
pro nějakou funkci $f_X: \mathbb R \to \mathbb R$ a libovolné $a,b \in\nobreak \mathbb R$, $a \le b$. Funkce $f_X$ se nazývá \emph{hustota pravděpodobnosti} proměnné $X$. Je to spojitá analogie pravděpodobnostní funkce diskrétní náhodné proměnné.

\EN
for some function $f_X: \mathbb R \to \mathbb R$, and any $a,b \in\nobreak \mathbb R$, 
$a \le b$. The function $f_X$ is called the \emph{density function} of $X$.
It is a continuous analog of the mass function of a discrete random variable.

\CZ
Všimněte si, že hustota pravděpodobnosti nabývá pouze nezáporných hodnot a splňuje, že

\EN
Note that any density function attains only non-negative values, and satisfies 

$$
\int_{-\infty}^\infty f_X(t) \dcobound t = 1 .
$$

\CZ
Distribuční funkce $F_X: \mathbb R \to [0,1]$ spojité  náhodné proměnné $X$ je definována stejným způsobem jako pro diskrétní:

\EN
The distribution function $F_X: \mathbb R \to [0,1]$ of a continuous random 
variable $X$ is defined the same way as for a discrete one:

$$
F_X(x) = \Pr(X \le x) = \int_{-\infty}^x f_X(t) \dcobound t
$$

\CZ
pro libovolné $x \in \mathbb R$.

\EN
for any $x \in \mathbb R$.

\CZ
\priklad
V příkladu házení šipkami je vzdálenost od daného bodu k počátku (nebo jakákoli jiná \uv{dobře se chovající} reálná funkce definována na jednotkovém kruhu) spojitá náhodná proměnná.

\EN
\example
In the throwing darts example, a distance from a given point to the origin (or
any other ``good behaving'' real function defined on the unit circle), is a
continuous random variable.

\endpriklad
\endexample

\CZ
\Indent
V reálném světě máme co do činění s diskrétními náhodnými proměnnými, a to i v
konkrétním případě, který zahrnuje pouze konečný počet možných hodnot.
Spojité náhodné proměnné jsou velmi užitečné matematické abstrakce pomáhající
zachytit důležité vlastnosti diskrétního případu, kdy je počet možných hodnot obrovský. To vysvětluje velkou podobnost mezi diskrétními a
spojitými náhodnými proměnnými: jako pravidlo, libovolný vzorec, výsledek, nebo
úvaha zahrnující diskrétní případ může být přenesená do spojitého,
nahrazením sumace integrací.

\EN
\Indent
In the real world, we are dealing with discrete random variables, even with a
particular case of them which involves only finite number of possible values. 
Continuous random variables are very useful mathematical abstractions helping to 
capture important properties of the discrete case when the number of possible
values is becoming huge. This explains a big similarity between discrete and 
continuous random variables: as a rule of thumb, any formula, result, or 
reasoning involving the discrete case can be turned into the continuous one, by 
replacing summation by integration. 

\CZ
Můžeme operovat s náhodnými proměnnými definovanými na stejném prostoru elementárních jevů, a to jak
s diskrétními tak spojitými, stejně jako operujeme s funkcemi: můžeme je sčítat, násobit, aplikovat na ně jiné funkce, atd.


\EN
We can operate with random variables defined on the same sample space, both 
discrete and continuous, the same way as we operate with functions: we can add them, multiply them, apply other 
functions to them, etc.

\end{chapter}







\begin{chapter}{Numerical Characteristics of a Random Variable}{Číselné charakteristiky náhodné proměnné}

\CZ
Náhodné proměnné mohou obsahovat velké množství dat ve velmi složité formě,
takže někdy můžeme chtít shrnout tuto nebo jinou vlastnost náhodné
proměnné jediným číslem.

\EN
Random variables may contain a huge amount of data in a very complicated form,
so sometimes one wants to summarize that or another property of a random 
variable by a single number.

\CZ
\emph{Očekávaná hodnota} nebo \emph{průměr} náhodné proměnné $ X $, který značíme 
$ E [X] $, je její průměrná hodnota, nebo jinými slovy, střed odpovídající distribuční funkce. Pro diskrétní náhodnou proměnnou nabývající hodnot $x_1, x_2, \ldots $ je očekávaná hodnota jen váženým průměrem těchto hodnot -- váženými příslušnými pravděpodobnostmi:


\EN
The \emph{expected value}, or \emph{mean}, of a random variable $X$, denoted by 
$E[X]$, is its average value, or, in other words, the center of the 
corresponding distribution function. For a discrete random variable attaining
values $x_1, x_2, \dots$, the expected value is just the weighted mean of the 
values, with weights being the respective probabilities:

$$
E[X] = \sum_{i=1,2,\dots} f_X(x_i) x_i .
$$

\CZ
Všimněte si, že obecně zde pracujeme s nekonečným součtem, který nemusí
existovat. Nicméně, existuje ve většině důležitých případů objevujících se v
praxi. Samozřejmě, že v případě, že náhodná proměnná $ X $ nabývá pouze konečnéno počtu
hodnot, suma je konečná, a tudíž existuje vždycky.

\EN
Note that, generally, we are dealing here with an infinite sum, which may not 
exist. However, it does exist in most of the important cases occuring on 
practice. Of course, if the random variable $X$ attains only finite number of
values, the sum is finite and thus exists always.

\CZ
\priklad
Očekávaná hodnota náhodné proměnné, která je rovna počtu bodů na hozené kostce, se rovná

\EN
\example
The expected value of the random variable equal to the number of points got in one throw of a dice is equal to

$$
\frac 16 \cdot 1 + 
\frac 16 \cdot 2 + 
\frac 16 \cdot 3 + 
\frac 16 \cdot 4 + 
\frac 16 \cdot 5 + 
\frac 16 \cdot 6 = 3.5 .
$$

\endpriklad
\endexample

\CZ
\Indent
Očekáváná hodnota spojité náhodné proměnné $X$ je definována 

\EN
\Indent
The expected value of a continuous random variable $X$ is defined as

$$
E[X] = \int_{-\infty}^{\infty} t f_X(t) \dcobound t .
$$

\CZ
$p$-tý \emph{kvantil} náhodné proměnné $X$, kde $p$ je číslo mezí $0$ a $1$, je nejmenší číslo $q_p$ takové, že

\EN
The $p$-th \emph{quantile} of a random variable $X$, where $p$ is a number 
between $0$ and $1$, is the smallest number $q_p$ such that

$$
\Pr(X \le q_p) = p .
$$

\CZ
Jedním příkladem kvantilu je \emph{medián}, který je definován jako $ 0{,}5 $-tý
kvantil. Průměr někdy není dostačující charakteristikou náhodné proměnné.
Například průměrný roční příjem domácnosti v~zemích s~velmi nerovnoměrně rozloženým bohatstvím (například USA, nikoli Česká republika) by vykazoval hodnoty mnohem vyšší než jsou \uv{očekávány}, vzhledem k relativně malému počtu až trapně bohatých jednotlivců. V takových případech by vhodnější zastoupení
 \uv{průměrné} hodnoty bylo dáno mediánem. Neformálně je medián
hodnotou, která \uv{sedí uprostřed}, a je mnohem méně citlivý na extrémní hodnoty v~datech než průměr. Další často používané v praxi kvantily jsou
\emph{kvartily}, které jsou definovány jako $ 0{,}25 $-tý, $ 0{,}50$-tý a $0{,}75$-tý
kvantil.

\EN
A particular case of quantile is \emph{median}, which is defined as $0.5$th 
quantile. Sometimes mean is not an adequate characteristic of a random variable.
For example, the mean of the yearly income per household in countries with 
very unevenly distributed wealth (think US, not Czech Republic) would exhibit
values much higher then ``expected'', due to a relatively small number of 
embarrassingly wealthy individuals. In such cases, a more adequate representation
of a ``mean'' value would be given by median. Informally, the median is the 
value which ``sits in the middle'', and it is much less sensitive than mean to 
extreme values in the data. Another frequently used in practice quantiles are 
\emph{quartiles}, which are defined as $0.25$th, $0.50$th, and $0.75$th 
quantiles.

\CZ
\Indent
\emph{Směrodatná odchylka} vyjadřuje úvahu o tom, jak \uv{široká} je náhodná
proměnná. Směrodatná odchylka náhodné proměnné $ X $ (diskrétní i
spojité), označována $ \sigma (X) $, je definována jako

\EN
\Indent
The \emph{standard deviation} expresses the idea how ``spread'' the random 
variable is. The standard deviation of a random variable $X$ (both discrete and 
continuous), denoted by $\sigma(X)$, is defined as

$$
\sigma(X) = \sqrt{ E[(X - E[X])^2] } .
$$

\CZ
\Indent
Pokud je $X$ diskrétní náhodná proměnná nabývající se stejnou pravděpodobností $\frac{1}{n}$ konečného počtu $n$ různých hodnot $x_1, \dots, x_n$, pak

\EN
\Indent
If $X$ is a discrete random variable attaining, with the equal probability 
$\frac 1n$, a finite number of $n$ distinct values $x_1, \dots, x_n$, then

\label{p28}
$$
E[X] = \frac{x_1 + \dots + x_n}{n}
$$

\CZ
a

\EN
and

$$
\sigma(X) = \sqrt{ \frac{(x_1 - E[X])^2 + \dots + (x_n - E[X])^2}{n}  } .
$$

\CZ
Druhý vzorec vysvětluje, proč je skutečně směrodatná odchylka dobrým měřítkem
toho, jak široká jsou data: čím více jsou hodnoty $ x_i $  daleko od jejich průměru
$ E [X] $, tím větší $ \sigma (X) $ bude.

\EN
The latter formula explains why indeed the standard deviation is a good measure
of how spread the data is: the more the values $x_i$ stay away from their mean 
$E[X]$, the bigger $\sigma(X)$ would be.

\end{chapter}






\begin{chapter}{Discrete Distributions: Uniform, Binomial, Poisson, Hypergeometric}{Diskrétní rozdělení: rovnoměrné, binomické, Poissonovo, hypergeometrické}

\CZ
Některé typy distribucí (rozdělení) jsou nanejvýš důležité, protože se objevují často v praxi, a poskytují pohodlný materiál pro stavění efektivních statistických modelů.

\EN
Some types of distributions are of utmost importance, as they appear often on 
practice, and provide a convenient material for building effective statistical 
models.  

\CZ
\Indent
Snad nejjednodušší rozdělení je \emph{rovnoměrné rozdělení}. Diskrétní
náhodná proměnná je rozložena rovnoměrně, pokud její pravděpodobnostní funkce
nabývá stejné hodnoty na
konečném počtu $n$ bodů. Pravděpodobnostní funkce rovnoměrného rozdělení
je ve tvaru

\EN
\Indent
Perhaps the simplest possible distribution is an \emph{uniform} one. A discrete
random variable is distributed uniformly, if its mass function attains the same value at
the finite number of $n$ points. The mass function of the uniform distribution 
is of the form

$$
f_n(k) = \frac 1n ,
$$

\CZ
kde $k = 1,2, \ldots, n $. Očekávaná hodnota a směrodatná odchylka
rovnoměrně rozložené náhodné proměnné se rovná $\frac{n + 1}{2}$ respektive
$ \sqrt{\frac{n^2-1}{12}} $.

\EN
where $k=1,2,\dots,n$. The expected value and the standard deviation of an 
uniformly distributed random variable are equal to $\frac{n+1}{2}$ and 
$\sqrt{\frac{n^2-1}{12}}$, respectively.

\CZ
\priklad
Naše oblíbené příklady náhodných proměnných házení jednou (vyváženou) kostkou nebo házení jednou (vyváženou) mincí jsou rovnoměrně rozloženy.

\EN
\example
Our favorite random variable examples of throwing a single (fair) dice or tossing a single (fair) coin are uniformly distributed.

\endpriklad
\endexample

\CZ
\Indent
\emph{Binomické rozdělení} s parametry  $n = 1,2,\dots$ a $p$,  kde $0 \le p \le 1$, je
diskrétní rozdělení počtu úspěchů v posloupnosti $n$ experimentů s binárním výsledkem (úspěch/neúspěch). Každý experiment dává úspěch s pravděpodobností $p$. Pravděpodobnostní funkce binomického rozdělení má tvar

\EN
\Indent
The \emph{binomial distribution} with parameters $n = 1,2,\dots$ and $p$, where
$0 \le p \le 1$, is the discrete distribution of the number of successes in a 
sequence of $n$ experiments with a binary outcome (success/failure), each of 
which yields success with probability $p$. The mass function of the binomial 
distribution has the form

$$
f_{n,p}(k) = \binom nk p^k (1-p)^{n-k} ,
$$

\CZ
kde $k=0,1,2,\dots,n$.

\EN
where $k=0,1,2,\dots,n$.

\CZ
\priklad
Předpokládejme například, že u nevyvážené mince vyjde líc s pravděpodobností $0{,}3$.
Pak pravděpodobnost mít $4$ líce po $6$ hodech se rovná

\EN
\example
Suppose that a biased coin comes up heads with probability $0.3$. 
Then the probability to have $4$ heads after $6$ tosses is equal to

$$
f_{6,0.3}(4) = \binom 64 0.3^4 (1-0.3)^{6-4} \approx 0.0595 .
$$

\endpriklad
\endexample

\CEponly\break % JS 161202

\CZ
\Indent
Očekáváná hodnota proměnné s binomickým rozdělením je rovna

\EN
\Indent
The expected value of a binomially distributed random variable is equal to

$$
\sum_{k=0}^n k \binom nk p^k (1-p)^{n-k} = np ,
$$

\CZ
a směrodatná odchylka je rovna

\EN
and the standard deviation is equal to

$$\sqrt{np(1-p)}.$$

\CZ
\Indent
\emph{Poissonovo rozdělení} vyjadřuje pravděpodobnost určitého počtu
událostí vyskytujících se v~pevném časovém intervalu a/nebo prostoru, jestliže se tyto události vyskytují se známou průměrnou mírou a nezávisle na době od poslední události.
Je definováno jako diskrétní rozdělení s~parametrem $\mu> 0$ (odhadovaný
počet událostí), jehož pravděpodobnostní funkce má tvar

\EN
\Indent
The \emph{Poisson distribution} expresses the probability of a given number of 
events occurring in a~fixed interval of time and/or space if these events occur
with a known average rate and independently of the time since the last event.
It is defined as a discrete distribution with parameter $\mu > 0$ (estimated
number of events) whose mass function has the form

$$
f_\mu(k) = \frac{\mu^k}{k!} e^{-\mu} ,
$$

\CZ
kde $k=0,1,2,\dots$.

\EN
where $k=0,1,2,\dots$.

\CEponly\break % JS 161202

\CZ
Očekávaná hodnota náhodné proměnné, jejíž rozdělení je Poissonovo, je rovna

\EN
The expected value of a random variable whose 
distribution function is Poisson, is equal to

$$
\sum_{k=0}^\infty k \frac{\mu^k}{k!} e^{-\mu} = \mu ,
$$

\CZ
a směrodatná odchylka se rovná $\sqrt{\mu}$.

\EN
and the standard deviation is equal to $\sqrt{\mu}$.

\CZ
\Indent
\emph{Hypergeometrické rozdělení} s parametry $N, K, n $, kde $ N $ je
nezáporné celé číslo a $ K $ a $ n $ jsou celá čísla v rozmezí od $ 0 $ do $ N $,
popisuje množství úspěchů mezi $ n $ binárními (úspěch/\penalty0neúspěch) tahy,
bez vracení, z konečné množiny $ N $ prvků, který obsahuje přesně
$ K $ úspěchů. Pravděpodobnostní funkce hypergeometrického rozdělení má tvar

\EN
\Indent
The \emph{hypergeometric distribution} with parameters $N,K,n$, where $N$ is a
non-negative integer, and $K$ and $n$ are integers ranging from $0$ till $N$,
describes the number of successes in $n$ binary (success/failure) draws, 
without replacement, from a finite set of $N$ elements, that contains exactly 
$K$ successes. The mass function of the hypergeometric distribution has the form

$$
f_{N,K,n}(k) = \frac{\binom Kk \binom{N-K}{n-k}}{\binom Nn} ,
$$

\CZ
kde $k=0,1,2,\dots,\min(n,K)$. Očekávaná hodnota je rovna $\frac{nK}{N}$ a směrodatná odchylka je

\EN
where $k=0,1,2,\dots,\min(n,K)$. The expected value 
is equal to $\frac{nK}{N}$ and the standard deviation is

$$
\frac 1N \sqrt{\frac{nK(N-K)(N-n)}{N-1}} .
$$

\end{chapter}







\begin{chapter}{Continuous Distributions: Uniform, Normal, Exponential}{Spojité rozdělení: rovnoměrné, normální, exponenciální}

\CZ
Opět platí, že mezi spojitými distribucemi \emph{spojité rovnoměrné rozdělení}
má nejjednodušší tvar: jeho hustota je konstantní v rámci daného intervalu. Přesněji řečeno je hustota pravděpodobnosti rovnoměrného rozdělení na intervalu $ [a, b] $ definována jako
$$
f_{a,b}(x) = \begin{cases}
\frac {1}{b - a} & \text{pokud } a \le x \le b,  \\
0                & \text{jinak} .
\end{cases}
$$

\EN
Again, among continuous distributions the \emph{continuous uniform distribution}
has the most simple form: its density function is a constant within a given 
range. More precisely, the density function of the uniform distribution on the 
interval $[a,b]$ is defined as
$$
f_{a,b}(x) = \begin{cases}
\frac {1}{b - a} & \text{if } a \le x \le b,  \\
0                & \text{otherwise} .
\end{cases}
$$

\CZ
Očekávaná hodnota a směrodatná odchylka rovnoměrně rozdělené spojité náhodné proměnné je rovna $\frac{a+b}{2}$ a 
$\frac{b-a}{2\sqrt{3}}$.

\EN
The expected value and the standard deviation of an uniformly distributed 
continuous random variable are equal to $\frac{a+b}{2}$ and 
$\frac{b-a}{2\sqrt{3}}$, respectively.

\CEponly\break % JS 161202

\CZ
\Indent
\emph{Normální rozdělení} s parametry $m$ a $\sigma$ je spojité rozděleni s hustotou pravděpodobnosti ve tvaru

\EN
\Indent
The \emph{normal distribution} with parameters $m$ and $\sigma$ is a continuous
distribution with the density function of the form

$$
f_{m,\sigma}(x) = 
\frac{1}{\sigma \sqrt{2\pi}} e^{-\frac 12 (\frac{x-m}{\sigma})^2} .
$$

\CZ
Graf této hustoty pravděpodobnosti má slavný \uv{zvonovitý} tvar, přičemž
maximální je kolem $ x = m $.

\EN
The graph of this density function has the famous ``bell-shaped'' form, with
the maximum around $x=m$.

\vskip12ptplus12pt

$$\pdfximage width0.45\hsize{graf.pdf}\pdfrefximage\pdflastximage$$

\CZ
Toto je snad jedno z nejdůležitějších rozdělení vzhledem k~centrální
limitní větě -- jednomu ze základních výsledků pravděpodobnosti a statistiky.
Zhruba tato věta říká, že za určitých přirozených podmínek, průměr
z velkého počtu stejně rozdělených náhodných proměnných má normální rozdělení, bez ohledu na to, jaké bylo původní rozdělení. To je důvod, proč
se normálně rozdělené náhodné proměnné objevují v praxi tak často.

\EN
This is, perhaps, the single most important distribution, due to the Central 
Limit Theorem, one of the cornerstones results in probability and statistics. 
Roughly, this theorem says that, under certain natural conditions, the average 
of a large number of identically distributed random variables is distributed 
normally, no matter what the initial distribution was. This is the reason why 
normally distributed random variables appear so often on practice.

\CZ
Očekáváná hodnota normálně rozdělené náhodné proměnné je rovna

\EN
The expected value of a normally distributed random variable is equal to

$$
\frac{1}{\sigma\sqrt{2\pi}} \int_{-\infty}^\infty 
t e^{-\frac 12 (\frac{t-m}{\sigma})^2} \dcobound t = m ,
$$

\CZ
a směrodatná odchylka je rovna $\sigma$.

\EN
and the standard deviation is equal to $\sigma$. 

\CZ
\Indent
\emph{Exponenciální rozdělení} popisuje časy mezi událostmi v procesu, ve kterém se události objevují spojitě a nezávisle v konstantní průměrné míře $\lambda>0$. Je definováno jako spojité rozdělení s~hustotou pravděpodobnosti ve tvaru
$$
f_\lambda(x) = \begin{cases}
0                      & \text{když } x < 0 ,   \\
\lambda e^{-\lambda x} & \text{když } x \ge 0 .
\end{cases}
$$

\EN
\Indent
The \emph{exponential distribution} describes the time between events in a 
process in which events occur continuously and independently at a constant 
average rate $\lambda > 0$. It is defined as the continuous distribution with the
density function of the form
$$
f_\lambda(x) = \begin{cases}
0                      & \text{if } x < 0 ,   \\
\lambda e^{-\lambda x} & \text{if } x \ge 0 .
\end{cases}
$$

\CZ
Očekávaná hodnota exponenciálně rozdělené náhodné proměnné se rovná

\EN
The expected value of an exponentially distributed random variable is equal to 

$$
\lambda \int_0^\infty t e^{-\lambda t} \dcobound t = \frac{1}{\lambda} ,
$$

\CZ
a směrodatná odchylka se rovněž rovná $\frac{1}{\lambda}$.

\EN
and the standard deviation is equal to $\frac{1}{\lambda}$ too.



\end{chapter}






\begin{chapter}{Population, Its Numerical Characteristics}{Populace, její číselné charakteristiky}

\CZ
\emph{Populace} je množina podobných předmětů nebo událostí, která jsou zajímavá 
ve vztahu k nějaké otázce nebo experimentu. Příklady populací: lidská
populace daného regionu nebo země, sklizeň nějaké plodiny v daném
regionu, dopravní provoz procházející určitým dopravním uzlem, finan\-ční transakce
prováděné na dané burze během určitého časového rámce, hvězdy v galaxii,
částice v~suspenzi, atd. V každé konkrétní situaci se zajímáme 
o určité číselné údaje týkající se členů populace, jako jsou výška a hmotnost člověka,
 množství sklizně, intenzita provozu, jas hvězd, velikost částic, atd. Obecným cílem statistiky je
předložit informace o těchto datech ve vybrané populaci.

\EN
A \emph{statistical population} is a set of similar items or events which is of
interest for some question or experiment. Examples of populations: human 
population of a given region or country, harvest of given crop in a given 
region, traffic going through a given transport hub, financial transactions 
performed on a given stock exchange during a given timeframe, stars in a galaxy,
particles in a suspension, etc. In each concrete situations, we are
interested in certain numerical data attached to members of the population, such
as height and weight of humans, amount of harvest, amount of traffic, 
brightness of stars, size of particles, etc. A~common aim of statistics is to 
produce information about such data in a chosen population.

\CZ
O populaci a datech k ní připojených můžeme uvažovat jako o implementaci abstraktních
termínů prostoru elementárních jevů a diskrétní náhodné proměnné v~\uv{reálném světě}.
Jako takovým jim můžeme přiřadit stejné číselné charakteristiky jako
diskrétním rozdělením: \emph{populační průměr $\mu $}, a
\emph{směrodatnou odchylku $ \sigma $}. V případě, že je populace velikosti $ n $
zastoupena číselnými hodnotami $(x_1, \ldots, x_n) $, pak hodnoty $ \mu $ a
$ \sigma $ jsou definovány stejnými vzorci, které jsou na straně~\pageref{p28}. Rozepsáním druhé mocniny
ve vzorci pro směrodatnou odchylku dostaneme alternativní vyjádření

\EN
One can think about population and the data attached to it as a ``real-word'' 
implementation of the abstract notions of sample space and discrete random 
variable. As such, one can assign to them the same numerical characteristics as
to discrete distributions: the \emph{population mean $\mu$}, and the 
\emph{population standard deviation $\sigma$}. If the population of size $n$ is 
represented by numerical values $(x_1, \dots, x_n)$, the values for $\mu$ and
$\sigma$ are defined by the same formulas as on page~\pageref{p28}. Expanding the squares 
in the formula for the standard deviation, we get an alternative expression

$$
\sigma = \sqrt{\frac 1n \sum_{i=1}^n x_i^2 - \mu^2} .
$$

\CZ
Někdy uvažujeme rovněž o \emph{populačním úhrnu} $\tau$, což je pouze součet všech příslušných číselných
hodnot:

\EN
Sometimes one considers also the \emph{population total} $\tau$, which is merely
the sum of all numerical values in question:

$$
\tau = \sum_{i=1}^n x_i ,
$$

\CZ
a \emph{populačním rozptylu}, což je druhá mocnina populační směrodatné odchylky.

\EN
and the \emph{population variance}, which is the square of the population 
standard deviation.

\CZ
\priklad
Nechť se populace skládá z $n$ hodů mincí s lícem a rubem zakódovaným pomocí
$0$ a~$1$, ve stejném pořadí, a předpokládáme, že líc se objevuje s pravděpodobností $p$ (pokud $p \ne \frac 12$ pak je mince nevývážená).
%Populační průměr je pak roven $p$ a populační směrodatná odchylka je rovna
Pak pro velké hodnoty~$n$ je populační průměr velmi blízko~$p$ a populační směrodatná odchylka je velmi blízko

\EN
\example
Let the population consist of $n$ flippings of a coin, with head and tail 
outcomes encoded by $0$ and $1$ respectively, and assume that head occurs with
probability $p$ (so, if $p \ne \frac 12$, the coin is biased).
%Then the population mean is equal to $p$, and the population standard deviation is equal to
For big values of~$n$, the population mean is very close to $p$, and the population standard
deviation is very close to

$$
\sqrt{\frac 1n \sum_{i=1}^n x_i^2 - \mu^2} = \sqrt{p - p^2} = \sqrt{p(1-p)} .
$$

\endpriklad
\endexample








\end{chapter}






\begin{chapter}{Sample, Random Sampling}{Výběr, náhodný výběr}

\CZ
V praxi, při sběru statistických dat, je ve většině případů
neproveditelné sesbírat data pro každého člena dané populace. Například
při provádění ankety, je nemožné kontaktovat každou osobu žijící
ve státu. Při provádění finančního auditu velké společnosti je
nepraktické se dívat na každou finanční transakci nebo záznam. Při provádění
destrukčního testu produkce z výrobního procesu, chceme zničit
tak málo položek, jak je to jen možné. To je důvod, proč je důležité zvolit relativně
malou podmnožinu dané populace -- \emph{výběr} (nebo \emph{vzorek dat} nebo \emph{datový soubor}), který by měl být dostatečně reprezentativní, abychom provedli ospravedlněnou extrapolaci na celé populaci, do takové míry, jak nám data, o která se zajímáme, dovolí. Toho je dosaženo pomocí
\emph{anketního výběru}.

\EN
On practice, when collecting statistical data, in most of the cases it is 
unfeasible to collect it for every member of the given population. For example,
when conducting an opinion poll, it is impossible to contact every person living 
in the country; when performing a financial audit of a large company, it is 
impractical to look at every financial transaction or record; when performing a
destructive test of the output of a manufacturing process, one wants to destroy
as little items as possible. That is why it is important to choose a relatively
small subset of a given population, a \emph{sample} (or \emph{data sample}, or \emph{dataset}), which should be 
representative enough to make a justified extrapolation on the whole population,
as far as the data we are interested in are concerned. This is achieved via 
\emph{survey sampling}. 

\CZ
Nejstandardnější a široce přijatá procedura pro anketní výběr je \emph{náhodný} (nebo \emph{pravděpodobnostní}) \emph{výběr}. U náhodného výběru jsou členové populace vybráni
podle určitého pravděpodobnostního kritéria, které nám dovoluje odhadnout výběrovou chybu.

\EN
The most standard and widely accepted procedure to perform a survey sampling is 
\emph{random} (or \emph{probability}) \emph{sampling}. Under random sampling, 
members of the population are selected according to certain probabilistic 
criteria; that allows to give an estimate of sampling error. 

\CZ
\priklad
Jestliže je třeba vybrat jednu osobu z každé skupiny (např. každá
domácnost v dané oblasti, nebo každá třída na univerzitě), můžeme přiřadit
každýmu členu skupiny náhodné číslo z~rovnoměrného rozdělení mezi $ 0 $ a $ 1 $ a zvolit osobu, které jsme přiřadili nejvyšší číslo. Nebo v~\emph{jednoduchém náhodném výběru s opakováním}, můžeme
náhodně vybrat jednotku ze $100{,}000$ jednotek (velikost populace),
a opakovat postup $ 100 $ krát (velikost vzorku). Nebo pokud
provádíme průzkum o nákupní zvyklosti zákazníků, můžeme si vybrat každého 15.~návštěvníka supermarketu v daném časovém rámci.

\EN
\example
If one needs to select one person from each given group (e.g., each
household in a given area, or each class in a university), one may assign to 
each member of the group a random number from the uniform distribution between $0$ and $1$, and select the person assigned the 
highest number. Or, in a \emph{simple random sample with replacement}, we may
randomly select a unit out of $100{,}000$ units (the size of the population),
and repeat the procedure $100$ times (the size of the sample). Or, when 
conducting a poll about customers' buying habits, on may choose every 15th 
visitor of the supermarket within a given timeframe.

\endpriklad
\endexample

\CZ
\Indent
Obecně je náhodný výběr definován jako soubor náhodných proměnných, které
mají stejné pravděpodobnostní rozdělení a jsou vzájemně nezávislé.
Příslušné rozdělení může být libovolné~-- normální, rovnoměrné, exponenciální, Poissonovo, nebo
i rozdělení, které není popsáno pomocí explicitně známého vzorce. Je pouze
důležité, aby každá náhodná proměnná měla stejné rozdělení. Je úkolem
inferenční statistiky určit, které teoretické statistické rozdělení
(někdy nazýváno \emph{model distribuce}) je nejvhodnější pro popsání
empirických dat, a určení parametrů distribuce (tzv.
\emph{odhad parametrů}). Toho může být dosaženo různými metodami,
od jednoduchých až po poměrně hodně propracované.

\EN
\Indent
Generally, a random sample is defined as a collection of random variables which
have the same probability distribution and are mutually independent. The 
distribution in question can be any -- normal, uniform, exponential, Poisson, or
even a distribution not described by an explicitly known formula; it is only 
important that each random variable has the same distribution. It is the task of
inferential statistics to determine which theoretical statistical distribution 
(sometimes called a \emph{model distribution}) is most suitable to describe the
empirical data, and to determine the distribution parameters (so-called 
\emph{parameters estimation}). This can be achieved with a variety of methods, 
ranging from simple ones to pretty much sophisticated. 

\CZ
Nejprimitivnější \uv{vizuální} metoda může být provedena následujícím způsobem. Zobrazíme graf histogramu z našich dat a pokusíme se odhadnout rozdělení podle tvaru histogramu. Kvůli
centrální limitní větě bude v mnoha případech normální rozdělení dobrým odhadem. Pak můžeme odhadnout parametry normálního rozdělení jako jsou populační
průměr a rozptyl. Vykreslíme graf takto získaného normálního rozdělení, a
posoudíme vizuálně, jak dobře graf odpovídá histogramu. Případně si můžeme hrát
s parametry zvoleného rozdělení -- normálního či jiného -- a
posoudit vizuálně, které nastavení parametrů vytváří křivku, která se hodí
empirickým datům nejlépe.

\EN
The most primitive ``visual'' method may run as follows. We plot the histogram 
of our data, and try to guess the distribution by the histogram shape; due to 
the central limit theorem, in many cases the normal distribution would be a good
guess. Then we may estimate the normal distribution parameters as the population
mean and variance, plot the graph of the so obtained normal distribution, and 
assess visually how good it matches the histogram. Alternatively, we may play
with the parameters of the chosen distribution~-- a normal or another one -- and
assess visually which set of parameters produces a curve which fits the 
empirical data best.

\CEponly\break % JS 161202

\CZ
Ve více propracovaných metodách budeme potřebovat spočítat další charakteristiky
našich empirických dat: například různé kvantily, nebo \emph{relativní četnosti}, t.j veličiny

\EN
In more sophisticated methods, we may need to compute other characteristics of
our empirical datasets: for example, various quantiles; or 
\emph{relative frequencies}, i.e.~the quantities

$$
\frac{|\set{i}{X_i = a}|}{n} 
$$

\CZ
pro různé hodnoty $a$, které aproximují pravděpodobnostní funkci; nebo vyšší \emph{momenty}, t.j. součty ve tvaru

\EN
for different values of $a$, which approximate the probability mass function;
or higher \emph{moments}, i.e. the sums of the form

$$
\frac 1n \sum_{i=1}^n X_i^k ;
$$

\CZ
nebo vzít v potaz vychýlenost (t.j. možná nesymetričnost okolo průměru) dat.

\EN
or to take into account skewness (i.e., a possible non-symmetricity around the 
mean) of the data.

\end{chapter}

\begin{chapter}{Hypothesis Testing, Null and Alternative Hypotheses}{Testování hypotéz, nulové a alternativní hypotézy}

\CZ
Propracovanější metody výběru vhodného rozdělení a odhadu parametrů rozdělení
jsou běžně prováděny v rámci \emph{testování hypotéz}.
 Testování hypotéz je rovněž používáno
pro stanovení vztahu (nebo jeho zamítnutí) 
mezi dvěmi datovými množinami, nebo obecněji v
odvozování jakéhokoli statistického pozorování o jedněch nebo více datech.

\EN
The more sophisticated methods of choosing a suitable distribution and 
estimation of the distribution parameters are usually performed in the 
framework of \emph{hypothesis testing}. Hypothesis testing is also used for 
establishing a relationship (or lack thereof) between two datasets, or, more
generally, in deriving any kind of statistical observation about one or more 
datasets. 

\CZ
Obvykle se to provádí určením dvou konkurujících a vzájemně se vylučujících hypotéz,
\emph{nulové} a \emph{alternativní hypotézy}, a jejich následného
porovnání pomocí nějakých statistických postupů. Neexistuje žádné pravidlo, jak by měla být
nulová a alternativní hypotéza vytvořena. Nicméně, obvyklá
statistická praxe vyžaduje, aby nulová hypotéza uváděla, že
studovaný jev nemá žádný vliv ani nehraje žádnou roli. Nulová
hypotéza je obvykle taková hypotéza, kterou chceme zamítnout nebo \uv{vynulovat}.
Například při zkoumání vztahu mezi dvěma soubory dat, nulová
hypotéza by měla uvést, že neexistuje vůbec žádný vztah. Zatímco
alternativní hypotéza by měla naznačovat existenci takového vztahu. Nebo,
řekněme, že když zkoumáme vliv kouření na rakovinu plic, nulová
hypotéza by měla konstatovat, že kouření nemá žádný vliv.

\EN
Usually, this is done by specifying two rival and mutually exclusive hypotheses,
the \emph{null} and \emph{alternative hypotheses}, and their subsequent 
comparison by certain statistical procedures. There is no rule of thumb how 
null and alternative hypotheses should be formed. However, the usual 
statistical practice stipulates that the null hypothesis states that the 
phenomenon being studied produces no effect or makes no difference. The null
hypothesis is also usually the hypothesis one wants to reject, or ``nullify''. 
For example, when investigating relationship between two datasets, the null 
hypothesis should state that there is no relationship at all, while the 
alternative hypothesis should indicate the existence of such relationship. Or,
say, when investigating the impact of smoking on lung cancer, the null 
hypothesis would state that smoking does not have any impact. 

\CZ
\Indent
\emph{Chyba typu~I} je (nesprávné) zamítnutí pravdivé nulové hypotézy.
Pravděpodobnost chyby typu~I se nazývá \emph{hladina významnosti}  testu.
\emph {Chyba typu~II} je (nesprávné) přijetí nepravdivé nulové
hypotézy. Pravděpodobnost, že neuděláme chybu typu~II, to jest (správně)
zamítneme nepravdivou nulovou hypotézu, se nazývá \emph{síla} testu.
Pravděpodobnosti provedení chyby typu~I a chyby typu~II jsou převáděny mezi sebou:
pro libovolný výběr dat má snaha snížit jeden typ chyby
obecně za následek zvýšení chyby druhé. Pro daný test
je jediným způsobem, jak snížit obě chyby, zvýšení velikosti vzorku, a to nemusí
být proveditelné.

\EN
\Indent
A \emph{type~I error} is the (incorrect) rejection of a true null hypothesis. 
The probability of type~I error is called the \emph{significance level} of a 
test. A \emph{type~II error} is the (incorrect) acceptance of a false null 
hypothesis. The probability of not making a type~II error, i.e.~the (correct) 
rejection of a false null hypothesis, is called the \emph{power} of a test. The
probabilities of making type~I and type~II errors are traded off against each 
other: for any given sample set, the effort to reduce one type of error 
generally results in increasing the other type of error. For a given test, the 
only way to reduce both error rates is to increase the sample size, and this may
not be feasible.

\CZ
\Indent
Jednou z nejčastěji používaných testovacích statistik v testování hypotéz je \emph{$p$-hodnota},
která je definována jako pravděpodobnost získání výsledku shodného nebo \uv{více extrémního} tomu, co bylo ve skutečnosti pozorováno, když je nulová hypotéza $ H_0 $ pravdivá. Co je \uv{extrémnější} a jak je měřena, závisí na kontextu.

\EN
\Indent
One of the most used test statistics in hypothesis testing is \emph{$p$-value}, 
which is defined as the probability of obtaining a result equal to or ``more 
extreme'' than what was actually observed, when the null hypothesis $H_0$ is 
true. What is ``more extreme'' and how it is measured, depends on the context.

\CZ
\priklad
Pro \uv{dvoustranné} události může být $p$-hodnota náhodné
proměnné $ X $, za předpokladu \uv{extrémnějších} hodnot než $ x $ (pozorovaná hodnota),
definována jako

\EN
\example
For a ``double-tailed'' event, the $p$-value of a random 
variable $X$ assuming values ``more extreme'' than $x$ (the observed value), 
might be defined as

$$
2 \cdot \min \{\>\Pr (X \ge x \vertbar H_0), \> \Pr (X \le x \vertbar H_0) \>\} ,
$$

\CZ
zatímco pro \uv{levostranné} události může být stejná hodnota definována jako

\EN
while for ``left-tailed'' events the same value might be defined as

$$
\Pr (X \le x \vertbar H_0) ,
$$

\CZ
a obdobně pro \uv{pravostranné}.

\EN
and similarly for ``right-tailed'' ones.

\endpriklad
\endexample

\CZ
\Indent
$ p $-hodnota měří statistickou
významnost testu, ale neměla by být zaměňována s pravděpodobností, že
hypotéza je pravdivá, pravděpodobností pozorování daných dat, atd.
$ p $-hodnoty bývají často zneužívány a nesprávně interpretovány.

\EN
\Indent
The $p$-value measures statistical 
significance of the test, but it should not be confused with the probability of
the hypothesis being true, the probability of observing the given data, etc. 
$p$-values are often misused and misinterpreted.

\CZ
\priklad
Předpokládejme, že v příkladu házení mincí nulová hypotéza tvrdí, že
mince je vyvážená. V oboustranném modelu by alternativní hypotéza byla,
že mince je nevyvážená v kterémkoli směru, zatímco v jednostranném modelu alternativní
hypotéza říká, že mince je nakloněna směrem, řekněme, lícům. Předpokládejme, že hodíme $ 5 $ líců v~řadě v jednom experimentu. V jednostranném modelu se jedná o
nejextrémnější možnou hodnota s $ p $-hodnotou rovnající se

\EN
\example
In the flipping coin example, suppose that the null hypothesis specifies that 
the coin is fair. In a double-tailed model, the alternative hypothesis would be 
that the coin is biased either way, while in an one-tailed model the alternative
hypothesis says that the coin is biased towards, say, heads. Suppose that one 
gets $5$ heads in a row in one experiment. In the one-tailed model this is the 
most extreme possible value, with a $p$-value equal to 

$$\Bigl(\frac 12\Bigr)^5 = \frac{1}{32} \approx 0.03\,.$$

\CZ
V dvoustranném modelu
by byla odpovídající \hbox{$ p $-}hodnota dvakrát větší:


\EN
In the double-tailed model, the 
corresponding \hbox{$p$-}value would be twice as that: 

$$2 \cdot \Bigl(\frac 12\Bigr)^5 = \frac{1}{16} \approx 0.06\,.$$

\CZ
Často se nastavuje $ 0{,}05 $, jako mezní hodnota pro $ p $-hodnotu testu, pro to aby byla statisticky významná.
Za takového předpokladu bychom měli zamítnout nulovou hypotézu v prvním případě,
zatímco v druhém případě to nemůžeme udělat.

\EN
One frequently sets $0.05$ as
the threshold for the $p$-value of the test to be statistically significant.
Under this assumption, we should reject the null hypothesis in the first case,
while we cannot do that in the second one.

\endpriklad
\endexample

\CZ
\Indent
V principu ekvivalentní postup, který nepo\-užívá konceptu $p$-hodnoty, by
byl následující:


\EN
\Indent
An essentially equivalent procedure, but not using the concept of a $p$-value, 
would run as follows: 

\CZ
1. Vyberte testovací statistiku (například pouze počet líců v příkladu házení mincí);

\EN
1. Choose a test statistics (for example, just the number of heads in the 
flipping coin example);

\CZ
2. Odvoďte rozdělení testovací statistiky za předpokladu nulové hypotézy (například
binomické rozdělení);

\EN
2. Derive the distribution of the test statistics under the null hypothesis
(the binomial distribution on our example);

\CZ
3. Určete úroveň signifikance (významnosti) testu (běžné hodnoty jsou $0{,}05$ a $0{,}01$);

\EN
3. Select the significance level of the test (the common values are $0.05$ and 
$0.01$);

\CZ
4. Určete \emph{kritický} (nebo \emph{zamítací}) \emph{obor hodnot} -- hodnoty testovací statistiky, pro které je nulová hypotéza zamítnuta;

\EN
4. Determine the \emph{critical} (or \emph{rejection}) \emph{region} -- the 
values of the test statistics for which the null hypothesis is rejected;

\CZ
5. Proveďte test, vypočítejte z empirických hodnot testovací statistiku a podívejte se,
jestli padla do oboru kritických hodnot či nikoli.

\EN
5. Perform the test, derive from it the empirical value of test statistics, and see 
whether it falls into the critical region or not.


\CZ
Z těchto příkladů a popisu by mělo být zřejmé, že záležitost
zamítnutí nulové hypotézy, je vysoce citlivá na velké množství faktorů.
Některé z nich jsou vysoce subjektivního charakteru: samotná volba nulové a
alternativní hypotézy, počáteční předpoklady o tvaru
statistického rozdělení, volba hladiny významnosti, velikost výběru,
atd. Každé statistické tvrzení bez uvedení všech těchto faktorů by mělo být přijato
s velkou dávkou skepse. Podívejte se například na zvláštní (ale poučný)
\emph{Journal of Articles in Support of the Null Hypothesis} (\emph{Časopis článků pro podporu nulové hypotézy}), kde takové postupy jsou často (a oprávněně) kritizovány.

\EN
From these examples and descriptions it should be clear that the matter of 
rejecting the null hypothesis is highly sensitive to a big number of factors, 
some of them of a highly subjective character: the choice of the null and 
alternative hypotheses themselves, initial assumptions about the form of 
statistical distribution, the choice of significance level, the sample size, 
etc. Any statistical claim without mentioning all these factors should be taken
with a big grain of salt. See, for example, a curious (but edifying) 
\emph{Journal of Articles in Support of the Null Hypothesis}, where such 
practices are often (and justly) criticized.

\CZ
Existuje přímá souvislost mezi oborem kritických hodnot a konfidenčním intervalem.
\emph{Konfidenční interval} určitého statistického parametru je
interval, vypočítaný z výběru, který obsahuje zadanou hodnotu
parametru s~určitou pravděpodobností. Typickou situací, kdy se tento
pojem vyskytuje přirozeně, je odhad průměrné střední hodnoty stejně
rozdělené náhodné proměnné. Například, pokud určitá náhodná proměnná má
normální rozdělení se stejným průměrem $ \mu $ a směrodatnou odchylkou $ \sigma $,
pak je známo, že průměr $ \overline{x} $ o $ n $ pozorováních má normální rozdělení se středem $\mu $ a směrodatnou odchylkou $ \frac{\sigma} {\sqrt{n}}$. A
$ 95$\% konfidenční interval $ \mu $ je určený jako jako

\EN
There is a direct relationship between the critical region and the confidence 
interval. The \emph{confidence interval} of a certain statistical parameter is 
the interval, calculated from the sample, that contains the specified value of 
the parameter with the specified probability. A typical situation when this 
notion occurs naturally is estimation of the average of the mean of identically
distributed random variables. For example, if a certain random variable is 
normally distributed with the same mean $\mu$ and standard deviation $\sigma$, 
then it is known that the average $\overline{x}$ of $n$ observations is normally
distributed around $\mu$ with standard deviation $\frac{\sigma}{\sqrt{n}}$. A~$95$\% confidence interval for $\mu$ is determined then as

$$
\overline{x} + N_{0.025} \frac{\sigma}{\sqrt{n}} \le \mu \le 
\overline{x} + N_{0.975} \frac{\sigma}{\sqrt{n}} ,
$$

\CZ
%kde $N_{0.025} = -N_{0.975}$ je $2.5$\%-ní ($0.025 = \frac{1 - 0.95}{2}$) kvantil normálního rozdělení.
kde $N_{0{,}975}\approx 1{,}96$ a $N_{0{,}025}=-N_{0{,}975}$ jsou 97{,}5\% a 2{,}5\% kvantily standardního (tj.~s~parametry $\mu=0$ a $\sigma=1$) normálního rozdělení.

\EN
%where $N_{0.025} = -N_{0.975}$ is the $2.5$\% ($0.025 = \frac{1 - 0.95}{2}$) quantile in the normal distribution.
where $N_{0.975}\approx 1.96$ and $N_{0.025}=-N_{0.975}$ are the 97.5\% and 2.5\% quantiles in the standard (i.e.~with parameters $\mu=0$ and $\sigma=1$) normal distribution.

\CZ
Nyní předpokládejme, že pro nějaký parametr~$\theta$ a jeho hodnotu $\theta_0$ testujeme nulovou hypotézu $H_0:\nobreak \theta=\theta_0$ oproti alternativní hypotéze $H_1:\nobreak \theta>\nobreak \theta_0$ (jednostranný test). Potom zamítáme~$H_0$ ve prospěch $H_1$ (t.j. $\theta$ \emph{není} v oboru kritických hodnot) na úrovni $\alpha$ pravě tehdy když $\theta_0$ není v $100(1-\alpha)$\% jednostranném konfidenčním intervalu pro $\theta$. Podobný výrok je pravdivý v~případě dvoustranného testu.

\EN
Now, suppose that for some parameter $\theta$ and its value $\theta_0$, we test 
the null hypothesis $H_0: \theta =\nobreak \theta_0$ against the alternative hypothesis
$H_1: \theta > \theta_0$ (one-tailed test). Then we reject $H_0$ in favor of~$H_1$ (i.e., $\theta$ is \emph{not} in the critical region) at the significance
level $\alpha$ if and only if $\theta_0$ is not in the $100(1 - \alpha)$\% 
one-tailed confidence interval for $\theta$. A similar statement is true in the
case of double\=tailed test.

\end{chapter}






\begin{chapter}{Sources}{Zdroje}

\EN
In compiling this material, we have used the following sources
liberally.

\CZ
Při přípravě tohoto materiálu byly volně použity následující zdroje.

$\triangleright$
P. Dalgaard, \emph{Introductory Statistics with R}, 2nd ed., Springer,
2008.

$\triangleright$
F.M. Dekking, C. Kraaikamp, H.P. Lopuha\"a, and L.E. Meester,
\emph{A Modern Introduction to Probability and Statistics}, Springer,
2005.

$\triangleright$
Yu.I. Manin, \emph{Mathematical knowledge: internal, social and
cultural aspects}, in:
Mathematics as Metaphor. Selected Essays of Yuri I. Manin, AMS, 2007,
3--26.

$\triangleright$
J.A. Rice, \emph{Mathematical Statistics and Data Analysis},
3rd ed., Thomson Brooks/Cole, 2007.

\bigskip

\CZ
a také články v (anglické) Wikipedii:

\EN
and also (English) Wikipedia articles:

\begin{multicols}{3}
\begin{enumerate}[$\triangleright$]
\setlength{\itemsep}{0pt}
\setlength{\parskip}{0pt}
\item \emph{Alternative hypothesis}
\item \emph{Binomial distribution}
\item \emph{Discrete uniform distribution}
\item \emph{Combination}
\item \emph{Confidence interval}
\item \emph{Exponential distribution}
\item \emph{Hypergeometric distribution}
\item \emph{Normal distribution}
\item \emph{Null hypothesis}
\item \emph{$p$-value}
\item \emph{Permutation}
\item \emph{Poisson distribution}
\item \emph{Probability distribution}
\item \emph{Probability theory}
\item \emph{Sample (statistics)}
\item \emph{Sampling (statistics)}
\item \emph{Simple random sample}
\item \emph{Statistical hypothesis testing}
\item \emph{Statistical population}
\item \emph{Statistical power}
\item \emph{Statistics}
\item \emph{Survey sampling}
\item \emph{Systematic sampling}
\item \emph{Type I and type II errors}
\end{enumerate}
\end{multicols}

\end{chapter}

\end{document}
