Also, ich hatte genau das selbe Problem auch schon einmal, allerdings glaube ich nicht, dass die Leistungsschwankungen dein Problem sind sondern die Temperaturen.
Meine RX580 (gaming x 8g) ist ab 90° komplett abgeriegelt und aus gegangen und der PC musste neu gestartet werden.
Als erstes empfehlen ich dir die EMPFOHLENE Radeon Software für die RX580 zu installieren nicht die neueste
Was bei mir außerdem zu einem extremen Unterschied geführt hat, war einfach Mal die Wärmeleitpaste auszutauschen, ich bin so von Temps über 85° beim zocken auf knapp über 65-70° gedroppt. Also das ist auf jeden Fall einen Versuch wert, da die RX580 ja auch schon einige Jahre auf dem Buckel hat.
Hoffe ich konnte helfen