Mein Vorredner hat Recht. Wahrscheinlich hast du deinen PC an den Phono-Eingang der Anlage angeschlossen. Dieser ist eigentlich für das schwache Signal eines Plattenspielers gedacht. Das würde nämlich erklären, warum du deinen PC so weit runterdrehen musst. Der Phono-Eingang verstärkt das schwache Signal eines Plattenspielers, aber dann eben auch das Signal deines PCs. Drehst du diesen weit runter hast du dann ein ähnliches schwaches Signal wie ein Plattenspieler.
Das Brummen kommt daher dass die meisten Plattenspieler geerdet werden wenn sie an den Phono-Eingang angeschlossen werden. Hierzu hat ein Plattenspieler meist eine Extra-Leitung, welche einfach mit an das Gehäuse der Stereoanlage angeschraubt wird. Meistens befindet sich auch eine Schraube dafür direkt neben den Cinch-Eingängen für den Plattenspieler. Wird diese Leitung nicht angeschlossen, hat man ein deutlich hörbares 50 Hertz-Netzbrummen mit im Ton. Da du deinen PC nicht auch erden kannst, hörst du deshalb dieses Brummen.
Kurzum: du verwendest den falschen Eingang. Um ein Notebook sauber an eine Stereoanlage anzuschließen brauchst es einen Line-Eingang an der Stereoanlage. An dem kannst du dann auch das Notebook auf voller Lautstärke betreiben. In wenigen Fällen kann es noch sein, dass das Netzteil vom Notebook das Brummen verursacht, hatte das mal mit älteren Netzteilen. Sobald ich dies abgeklemmt hatte, war das Brummen weg.
Um aber deine eigentliche Frage zu beantworten: ja, es gibt eine Methode um Kassetten in guter Qualität aufzunehmen und mit dem richtigen Equipment hört man kaum einen Unterschied zu einer digitalen Aufnahme auf einer CD oder einer MP3. Da diese Frage sehr oft gestellt wird bei gutefrage.net habe ich vor kurzem dazu mal ein YouTube-Video erstellt. Ich werde dies als Kommentar unter meine Antwort posten, weil gutefrage.net das leider nicht anders zulässt. Kannst mir ja im Nachhinein sagen ob dir das Video hilft.
Als letzten Rat gebe ich dir mit auf den Weg dass du dir am besten ein altes Tapedeck besorgst. Diese kann man mit viel Glück für kleines Geld (zwischen 25 und 50 Euro) bei ebay ersteigern und die Decks von Technics, Onkyo, Sony und Konsorten waren und sind bis heute High-End-Geräte, mit denen man hervorragende Ergebnisse auf Kassette bekommt.
Wie gesagt, im ersten Kommentar unter meiner Antwort der Link zum Video und dann wünsche ich dir viel Spaß beim Aufnehmen deiner eigenen Mixtapes!