確率行列の式を提示します. が確率行列とします. そうすると, になります. そうすると特に, このようになっています. ですから, とします. そうすると, というベクトルと という2つのベクトルが得られます. つまり,次元のベクトルと次元のベクトルが得られます. これらの要素は全部足すと, となります. このようなベクトルを「確率ベクトル(stochatic vectorまたはprobability vector)」といいます.