Ist ziemlich kompliziert und langwierig, das herauszufinden - vor allen Dingen bei langen Passwörtern und/oder guten Verschlüsselungsalgorithmen wie AES und Twofish. Entweder nimmst du ein fertiges Programm dafür (ich habe bisher keines dafür gefunden) oder du programmierst einen Password-Cracker selbst.

Sowas funktioniert - wie du schon vermutet hast - bei guten Verschlüsselungsalgorithmen wie AES oder Twofish (nahezu) ausschließlich über das zufällige oder geordnete Durchprobieren von Zeichenketten ungefähr so als wenn du eine Zahl hochzählst bzw. generierst. Nur hast du statt der Zahlen eben noch Buchstaben des Alphabets (und vielleicht Sonderzeichen) in der Liste der möglichen Zeichen. Ein richtiger Cracker weiß ja auch vorher zumeist nicht, wie lang das Passwort ungefähr ist geschweige denn welche Zeichen enthalten sind. Um das Szenario möglichst realistisch zu gestalten, müsstest du also bei 0 anfangen.

Komplizierter wird es herauszufinden sein, ob der PW-Cracker auch richtig geknackt hat. Du müsstest also den entschlüsselten Text mit dem Cracker-Passwort also schon irgendwie mit dem Ausgangstext vergleichen können bzw. feststellen, ob denn wirklich etwas Sinnvolles dabei rausgekommen ist - und daran scheitern die Meisten. Gerade wenn mehrere Algorithmen ineinander verschachtelt sind, ist es nahezu unmöglich (es sei denn, vielleicht mit Quantencomputern - aber das ist noch Zukunftsmusik).