A organização interna de parte de uma CPU von Neumann é chamada de fluxo de dados e é constituída por registradores e pela unidade lógica e aritmética (ALU).

Os registradores alimentam os dois registradores de entrada da ALU, que mantêm as entradas da ALU enquanto ela está executando a operação.

A própria ALU executa adição, subtração e outras operações simples com suas entradas, produzindo um resultado no seu registrador de saída. Este resultado pode ser armazenado de volta em um registrador da CPU e, de lá, de volta à memória, se desejado.

As instruções podem ser divididas em três categorias, onde tem-se o principal que é o Registrador-registrador: essas instruções permitem que dados sejam buscados da memória para registradores, onde podem ser usados como entradas para a ALU em instruções seguintes, por exemplo.

A memória consiste no local de onde a CPU apanha os dados a serem processados, onde guarda valores intermediários e para onde envia os resultados finais do processamento, sendo assim, um elemento básico para o funcionamento da CPU.