Criador de Cadeias de Markov

Use este Criador de Cadeias de Markov para informar valores, ajustar opções e analisar resultados em uma área de trabalho compacta e responsiva.

Os resultados são calculados automaticamente conforme você informa os dados.

Matriz de transição

Cada linha representa a probabilidade de passar desse estado para cada estado seguinte.

Controles da simulação

Distribuição inicial

Total: 1.0000

Diagrama de estados

Arraste os nós para organizar a cadeia. Setas mais espessas indicam probabilidades de transição maiores.

Distribuição futura Defina as probabilidades de transição para começar.

Simulação atual

Distribuição estacionária

Observações do cálculo

▼ Veja explicações e dicas abaixo ▼

O que é uma cadeia de Markov finita?

Uma cadeia de Markov finita é um modelo para um sistema que se move entre um número limitado de estados possíveis. O próximo estado é incerto, mas as probabilidades do próximo estado dependem apenas do estado atual, não de todo o caminho percorrido até ele. Essa ideia é chamada de propriedade de Markov.

Por exemplo, um modelo simples do clima pode usar os estados Ensolarado, Nublado e Chuvoso. Se hoje estiver Ensolarado, o modelo pode atribuir um conjunto de probabilidades para amanhã. Se hoje estiver Chuvoso, pode atribuir outro conjunto. O modelo não considera se estava Ensolarado dois dias atrás, a menos que essa informação esteja incorporada ao estado atual.

Uma cadeia de Markov finita em tempo discreto é especialmente útil quando um processo muda em etapas: de um dia para o outro, de uma ação de cliente para a seguinte, de uma aula para a próxima ou de uma rodada de jogo para a seguinte. O resultado não é um único caminho futuro garantido. É uma distribuição de probabilidade que indica a probabilidade de cada estado após um número escolhido de transições.


Por que as cadeias de Markov são importantes

As cadeias de Markov oferecem uma forma estruturada de modelar a incerteza ao longo do tempo. Em vez de dizer apenas “qualquer coisa pode acontecer”, uma cadeia de Markov descreve quais mudanças são possíveis e qual é a probabilidade de cada uma.

Elas são úteis porque dividem um problema em três perguntas práticas:

  • Em quais estados o sistema pode estar?
  • Qual é a probabilidade de cada transição de uma etapa a partir de cada estado?
  • Qual distribuição devemos esperar após muitas etapas repetidas?

Isso torna as cadeias de Markov úteis em probabilidade, estatística, pesquisa operacional, ciência da computação, demonstrações didáticas, exemplos de filas, passeios aleatórios e muitos outros contextos em que um sistema evolui passo a passo.


Termos importantes

  • Estado: uma possível condição do sistema, como Ensolarado, Nublado ou Chuvoso.
  • Transição: uma mudança de um estado para outro em uma etapa.
  • Probabilidade de transição: a probabilidade de passar de um estado atual específico para um estado seguinte específico.
  • Matriz de transição: uma tabela quadrada com todas as probabilidades de transição de uma etapa.
  • Matriz estocástica por linhas: uma matriz de transição cujas entradas são não negativas e cujas linhas somam, cada uma, \(1\).
  • Distribuição dos estados: uma lista de probabilidades que mostra a probabilidade de o sistema estar em cada estado em uma determinada etapa.
  • Etapa de previsão: uma aplicação da matriz de transição.
  • Distribuição estacionária: uma distribuição que permanece igual depois de ser multiplicada pela matriz de transição.
  • Estado estacionário: uma distribuição de longo prazo, quando as atualizações repetidas se estabilizam em uma distribuição constante.
  • Estado absorvente: um estado que, uma vez alcançado, não pode ser abandonado.

Como funcionam as cadeias de Markov finitas

Uma matriz de transição contém uma linha para cada estado atual e uma coluna para cada próximo estado possível. Em uma convenção baseada em linhas, a entrada \(p_{ij}\) significa:

$$ p_{ij} = \Pr(\text{next state is } j \mid \text{current state is } i) $$

Como uma linha representa todos os próximos estados possíveis a partir de um estado atual, cada linha deve formar uma distribuição de probabilidade:

$$ 0 \le p_{ij} \le 1 $$
$$ \sum_{j=1}^{m} p_{ij} = 1 $$

onde \(m\) é o número de estados.

Uma distribuição dos estados também é uma distribuição de probabilidade. Se houver \(m\) estados, a distribuição inicial pode ser escrita como um vetor linha:

$$ \boldsymbol{\pi}_0 = [\pi_0(1), \pi_0(2), \ldots, \pi_0(m)] $$

Para avançar uma etapa, multiplique a distribuição atual pela matriz de transição:

$$ \boldsymbol{\pi}_{n+1} = \boldsymbol{\pi}_n P $$

Para um estado-alvo específico \(j\), isso significa:

$$ \pi_{n+1}(j) = \sum_{i=1}^{m} \pi_n(i)p_{ij} $$

Cada nova probabilidade é obtida somando todas as formas pelas quais o sistema poderia chegar a esse estado: a probabilidade de estar em cada estado de origem multiplicada pela probabilidade de passar desse estado de origem para o estado-alvo.

Após \(n\) etapas, a mesma ideia se torna:

$$ \boldsymbol{\pi}_n = \boldsymbol{\pi}_0 P^n $$

Uma distribuição estacionária é uma distribuição que não muda após uma transição:

$$ \boldsymbol{\pi}_* P = \boldsymbol{\pi}_* $$

Quando uma cadeia converge para um estado estacionário, a multiplicação repetida por \(P\) aproxima a distribuição desse vetor estável. Algumas cadeias convergem rapidamente, outras lentamente, e algumas não convergem no sentido simples de “se estabilizar em uma distribuição a partir de qualquer ponto de partida”.


Exemplos práticos de cadeias de Markov

Exemplo 1: uma transição de clima em uma etapa

Suponha que um modelo climático tenha três estados: Ensolarado, Nublado e Chuvoso. A partir de Ensolarado, a linha de transição é:

De Ensolarado para... Ensolarado Nublado Chuvoso
Probabilidade \n\(0.75\)\n \n\(0.20\)\n \n\(0.05\)\n

A linha é válida porque:

$$ 0.75 + 0.20 + 0.05 = 1 $$

Se o sistema estiver certamente Ensolarado agora, a distribuição de uma etapa será:

$$ [1,0,0] \begin{bmatrix} 0.75 & 0.20 & 0.05 \\ 0.30 & 0.45 & 0.25 \\ 0.20 & 0.35 & 0.45 \end{bmatrix} = [0.75, 0.20, 0.05] $$

Portanto, após uma etapa, o modelo atribui uma chance de \(75\%\) a Ensolarado, uma chance de \(20\%\) a Nublado e uma chance de \(5\%\) a Chuvoso.


Exemplo 2: uma previsão em duas etapas

Usando a mesma matriz de transição e começando em Ensolarado com probabilidade \(1\), a distribuição após duas etapas é:

$$ \boldsymbol{\pi}_2 = \boldsymbol{\pi}_0 P^2 $$
$$ \boldsymbol{\pi}_2 \approx [0.6325, 0.2575, 0.1100] $$

Interpretando como porcentagens, isso corresponde aproximadamente a \(63.25\%\) para Ensolarado, \(25.75\%\) para Nublado e \(11.00\%\) para Chuvoso após duas transições.

Após oito etapas com a mesma distribuição inicial, a distribuição é aproximadamente:

$$ \boldsymbol{\pi}_8 \approx [0.5141, 0.3028, 0.1831] $$

As probabilidades se aproximaram de um padrão de longo prazo. Para este exemplo, a distribuição estacionária é aproximadamente:

$$ \boldsymbol{\pi}_* \approx [0.5119, 0.3036, 0.1845] $$

Exemplo 3: um caso-limite periódico

Considere uma cadeia com dois estados que sempre alterna entre eles:

$$ P = \begin{bmatrix} 0 & 1 \\ 1 & 0 \end{bmatrix} $$

Se o sistema começar no estado A, estará no estado B após uma etapa, no estado A após duas etapas, no estado B após três etapas e assim por diante. A distribuição futura oscila em vez de se estabilizar a partir desse ponto de partida.

Essa cadeia tem uma distribuição estacionária:

$$ \boldsymbol{\pi}_* = [0.5, 0.5] $$

mas a existência de uma distribuição estacionária nem sempre significa que toda distribuição inicial converge visivelmente para ela etapa a etapa. Essa é uma das razões para interpretar os resultados de estado estacionário junto com a estrutura da cadeia.


Como interpretar o resultado

A distribuição futura é a probabilidade prevista de estar em cada estado após o número selecionado de transições. Uma porcentagem maior significa que esse estado é mais provável nessa etapa, não que ele seja garantido.

A soma da linha verifica se cada linha da matriz de transição é uma distribuição de probabilidade válida. Um total de linha próximo de \(1\) significa que a linha contabiliza todos os próximos estados possíveis a partir daquele estado atual.

A distribuição da simulação mostra a evolução determinística das probabilidades. Ela atualiza toda a distribuição por multiplicação de matrizes. Não é um caminho amostral aleatório em que um estado é escolhido a cada etapa.

A distribuição estacionária satisfaz \(\boldsymbol{\pi}P=\boldsymbol{\pi}\). Uma distribuição estacionária única, por si só, não garante que toda distribuição etapa a etapa convirja para ela; cadeias periódicas podem oscilar, e cadeias redutíveis podem ter mais de uma distribuição estacionária.

As porcentagens exibidas podem não somar exatamente \(100\%\) porque cada valor é arredondado para facilitar a leitura. Pequenas diferenças de arredondamento normalmente não indicam um problema matemático.

Em um diagrama de transição, arestas mais espessas representam probabilidades de transição maiores. Uma aresta minúscula oculta ou ausente no diagrama não significa necessariamente que a probabilidade seja zero; probabilidades muito pequenas ainda podem ser incluídas no cálculo.


Erros comuns e equívocos

Inserir porcentagens em vez de probabilidades. Uma probabilidade de \(75\%\) deve ser inserida como \(0.75\), e não como \(75\).

Ler as colunas como o estado atual. Em uma matriz de transição baseada em linhas, as linhas são os estados “de” e as colunas são os estados “para”. Inverter essa convenção altera o modelo.

Esquecer que cada linha deve somar \(1\). Uma linha de transição representa todos os próximos estados possíveis a partir de um estado atual. Se a linha somar menos que \(1\), falta alguma probabilidade. Se somar mais que \(1\), a linha atribui probabilidade demais.

Usar uma distribuição inicial que não some \(1\). A distribuição inicial também deve ser uma distribuição de probabilidade completa entre os estados.

Supor que uma distribuição estacionária seja sempre um limite único de longo prazo. Cadeias periódicas podem oscilar, enquanto cadeias redutíveis podem conter várias classes fechadas e, portanto, várias distribuições estacionárias. Esta calculadora relata esses casos estruturais separadamente.

Achar que a simulação é aleatória. A multiplicação de matrizes evolui as probabilidades exatamente de acordo com a matriz de transição. Ela não simula um único caminho aleatório, a menos que a ferramenta realize especificamente uma amostragem aleatória.

Ignorar arestas pequenas ocultas. Um gráfico pode ocultar setas de transição muito pequenas para permanecer legível, enquanto o cálculo numérico continua usando essas probabilidades.


Quando usar cadeias de Markov

Use uma cadeia de Markov finita quando:

  • O sistema tiver um conjunto limitado de estados bem definidos.
  • O processo mudar em etapas repetidas.
  • As probabilidades de transição em uma etapa puderem ser estimadas ou assumidas.
  • O próximo estado depender principalmente do estado atual.
  • Você quiser prever probabilidades de estados futuros, e não um único resultado garantido.
  • Você quiser estudar se as transições repetidas se aproximam de um padrão de longo prazo.

As cadeias de Markov são especialmente úteis para ensinar probabilidade, demonstrar matrizes de transição, modelar comportamentos simples de alternância, comparar cenários e explorar como regras de transição de curto prazo afetam distribuições de longo prazo.


Limitações e pontos importantes

Uma cadeia de Markov finita em tempo discreto é um modelo simplificado. Ela pressupõe que a mesma matriz de transição se aplica em todas as etapas e que o estado atual contém todas as informações necessárias para prever as probabilidades da etapa seguinte.

A calculadora trabalha com \(2\) a \(6\) estados. Esse é um limite de legibilidade da interface, não um limite matemático das cadeias de Markov.

As probabilidades devem ser números decimais de \(0\) a \(1\). Cada linha de transição e a distribuição inicial devem somar \(1\) dentro da tolerância da calculadora. A tolerância da soma das linhas é \(0.0001\); totais aceitos que diferem ligeiramente de \(1\) são normalizados uma vez antes do cálculo, enquanto discrepâncias maiores precisam ser corrigidas.

As etapas de previsão são transições em números inteiros. As quantidades de etapas inseridas são arredondadas para o inteiro mais próximo e limitadas ao intervalo de \(0\) a \(100\).

As distribuições estacionárias são calculadas a partir das equações de ponto fixo \(\boldsymbol{\pi}P=\boldsymbol{\pi}\) juntamente com \(\sum_i\pi_i=1\). A calculadora também identifica classes fechadas de comunicação e seus períodos, em vez de tratar uma iteração que muda lentamente como prova de convergência.

A calculadora diagnostica classes fechadas, periodicidade e distribuições estacionárias não únicas, mas não fornece quantidades especializadas de cadeias absorventes, como o tempo esperado até a absorção e as probabilidades de absorção. Ela também não modela cadeias em tempo contínuo, matrizes de transição variáveis no tempo, recompensas, custos ou caminhos amostrais de Monte Carlo.


Como usar esta calculadora

  1. Dê nome aos estados ou comece com os estados do exemplo padrão.
  2. Insira cada probabilidade de transição na matriz usando números decimais de \(0\) a \(1\).
  3. Leia cada linha como sendo do estado da linha para o estado da coluna.
  4. Verifique se a soma de cada linha é igual a \(1\) ou use Normalizar para redimensionar linhas já válidas e não negativas e a distribuição inicial com totais positivos.
  5. Insira a distribuição inicial de modo que as probabilidades de todos os estados somem \(1\).
  6. Defina o número de etapas de previsão.
  7. Consulte a distribuição futura para ver as probabilidades previstas após esse número de transições.
  8. Use os controles de etapa ou reprodução para observar a evolução da distribuição de probabilidade em transições repetidas.
  9. Consulte o resultado da distribuição estacionária junto com as classes fechadas e os períodos informados.
  10. Reorganize visualmente o diagrama se necessário; mover os nós altera o layout, não a matriz de transição.

Perguntas frequentes

Por que cada linha de transição deve somar \(1\)?

Cada linha representa todos os próximos estados possíveis a partir de um estado atual. Como o sistema deve ir para algum dos estados listados, as probabilidades dessa linha precisam somar \(1\).


Devo inserir \(75\) ou \(0.75\) para \(75\%\)?

Insira \(0.75\). A calculadora usa probabilidades decimais de \(0\) a \(1\), não porcentagens expressas em números inteiros.


O que significa uma etapa de previsão?

Uma etapa de previsão significa uma aplicação da matriz de transição. Se os estados forem tipos de clima diários, uma etapa pode significar um dia. Se os estados forem situações de clientes após cada interação, uma etapa pode significar uma interação.


Uma distribuição estacionária é sempre o resultado após muitas etapas?

Nem sempre. Para uma cadeia aperiódica com uma classe fechada, a distribuição futura se aproxima de sua distribuição estacionária única. Cadeias periódicas podem oscilar, e cadeias redutíveis podem ter diferentes misturas estacionárias dependendo da distribuição inicial.


A simulação mostra um caminho aleatório?

Não. A simulação mostra a mudança da distribuição de probabilidade completa por multiplicação de matrizes. Ela não escolhe aleatoriamente um estado a cada etapa.


Posso modelar estados absorventes?

Você pode inserir um estado absorvente atribuindo a ele uma linha com probabilidade \(1\) de permanecer nele e \(0\) de se mover para outro estado. No entanto, a calculadora não fornece resultados especializados de cadeias absorventes, como o tempo esperado até a absorção ou as probabilidades de absorção.


Fontes e referências

Livros e livros didáticos abertos

  1. David A. Levin, Yuval Peres e Elizabeth L. Wilmer. Markov Chains and Mixing Times. 2ª ed., American Mathematical Society, 2017. Capítulo 1, especialmente as seções sobre cadeias de Markov finitas, atualizações de distribuições, irredutibilidade, aperiocidade e distribuições estacionárias. PDF hospedado pelos autores.
  2. Charles M. Grinstead e J. Laurie Snell. Introduction to Probability. 2ª ed. revisada, American Mathematical Society, 1997. Capítulo 11, especialmente as seções sobre cadeias de Markov ergódicas e o teorema-limite fundamental para cadeias regulares. LibreTexts: Ergodic Markov Chains e LibreTexts: Fundamental Limit Theorem for Regular Chains.

Fontes educacionais on-line

  1. MIT OpenCourseWare. “Lecture 16: Markov Chains I.” 6.041 Probabilistic Systems Analysis and Applied Probability, outono de 2010, professor John Tsitsiklis. Usado como referência para a propriedade de Markov, a configuração finita em tempo discreto, as probabilidades de transição e a interpretação da previsão em n etapas. Página do curso.
  2. Sebastien Roch. “7.3 Limit behavior 1: stationary distributions.” Mathematical Methods in Data Science (MMiDS Textbook), copyright 2025. Usado como referência para as definições de distribuição estacionária e para a interpretação de ponto fixo \(\boldsymbol{\pi}P=\boldsymbol{\pi}\). Seção do livro didático.