Wann spricht man von einer empirischen Standardabweichung und wann von "Standardabweichungen von Zufallsgrößen"?

Du musst dir überlegen, wie du an Informationen über eine Grundgesamtheit kommst. Dabei gibt es 2 Wege, die je nach Situation mehr oder weniger sinnvoll sind:

Logische Deduktion

Du schaust dir beispielsweise einen normalen Würfel mit 6 Seiten an und deduzierst, dass jede Seite mit gleich großer Wahrscheinlichkeit geworfen wird. Damit hast du eine Gleichverteilung auf jede Möglichkeit. Dann kann man eine Standardabweichung daraus berechnen. Das wäre die Standardabweichung einer Zufallsgröße.

Empirische Induktion

Du schaust dir beispielsweise einen Würfel mit 6 Seiten an und bist nicht ganz sicher, dass dieser Würfel normal ist. Du gehst von nichts aus und startest ein Experiment. Das Experiment ergibt eine Verteilung der Ereignisse auf die 6 Möglichkeiten eine Seite des Würfels zu würfeln. Jetzt hast du eine Verteilung mit der du eine Standardabweichung berechnen kannst. Das wäre eine empirische Standardabweichung.

Ich würde doch sagen, Zufallsgrößen sind einfach aus dem Ärmel geschüttelt und sozusagen spontan festgelegt, die Grenzen.

Empirisch ermittelt heißt ja nach Erfahrung ermittelt, in diese ermittelten Grenzen spielt also eine Erfahrung herein und sie sind nicht einfach willkürlich bestimmt.