Im Regelfall funktioniert das mit den meisten Programmen, da nicht alle irgendwelche Einträge in der Registry o.Ä. erstellen. - Ansonsten gibt es aber auch die sogenannten "Portable Apps", die direkt dafür ausgelegt sind.