La palabra "probabilidad" remite a la idea intuitiva de prueba. La característica singular de una prueba es que no se tiene un conocimiento a priori acerca del resultado, es decir, previamente a la ejecución de la prueba. Por lo tanto el problema que se presenta es el de la incertidumbre en relación con el resultado y sus consecuencias.
El problema de la incertidumbre es uno de los más frecuentes y realistas. Se relaciona de manera directa con la idea de azar y, por lo tanto, con la experiencia de los juegos de azar. Históricamente se comenta que fueron los juegos de azar los que ofrecieron el primer marco teórico en el que se desarrolló por primera vez, en el siglo XVII, los primeros cálculos de probabilidad en manos de Blas Pascal.
La estadística tiene un origen etimológicamente distinto, relativo a los asuntos de estado. El problema se plantea en términos del procesamiento de grandes conjuntos de información que el estadista requiere para tomar decisiones.
Se opone la idea de probabilidad a la noción de determinismo en el sentido de un proceso que tiene un resultado absolutamente conocido. En tal situación no hay dificultad alguna en definir el curso de acción a seguir. Estrictamente no se está tomando una decisión sino una "determinación", debido a que el resultado de la acción está claramente preestablecido. Es justamente en el ámbito de las probabilidades en el cual se trata el problema de la "decisión". En toda decisión se presentan opciones y un riesgo de error de no haber tomado la decisión correcta. El problema se resume así a evaluar el nivel de riesgo y a presentar y procesar conjuntos de información que contribuyan a facilitar la toma de decisión. En tal sentido el cálculo de probabilidades recurre a la matemática como auxiliar para la evaluación de riesgo y toma de decisión.
Si nos ubicamos en el contexto histórico, puede verse que el desarrollo del cálculo de probabilidades, durante el siglo XVII, coincide con el de varios otros campos de las matemáticas, las ciencias y los problemas de Estado. Durante el siglo XV, en Europa occidental, los problemas de Dios comenzaron a ser desplazados por los problemas del hombre. En tal sentido, la determinación de los designios divinos comienza a ser reemplazada por la incertidumbre ante las acciones humanas.
Durante el siglo XVI nuevos problemas acometen sobre la civilización occidental, nuevos mundos, nuevas rutas. Una visión diferente del cielo a través de un ojo de cristal, leyes escritas sobre planos inclinados con el tiempo marcado por el reloj del corazón. Pero progresivamente la matemática se tomó una herramienta para la comprensión del mundo a través de la razón. Entre las razones, la "razón de estado" se impone como criterio para la toma de decisión entre los estadistas, que requerían información para tomar sus decisiones. En este ámbito se desarrolla el cálculo de probabilidades que mucho después se ofrecerá como sustento teórico para la estadística.
Pero el punto de partida fueron los juegos de azar como la forma más pura de incertidumbre, a la vez la más sencilla para iniciar el desarrollo del cálculo de probabilidades. A este enfoque del problema se lo suele interpretar como "empírico" en el sentido de partir de la interpretación de la prueba, del experimento, la evaluación de los posibles resultados y la mayor o menor factibilidad de que algunos de los resultados se obtengan al cabo de la realización de la experiencia. Ante este enfoque más práctico del cálculo de probabilidades se plantea una visión más formal, matemática y finalmente axiomática del problema, en realidad desarrollada durante el siglo XVIII.
