Was ultrabrunner sagt ist falsch, im Buch wurde der Vektor AB berechnet. Ob die Differenz v (was ja genau der Vektor ist!!) minus oder plus ist, hängt hier davon ab, ob dein "Pfeil" von A nach B oder eben von B nach A zeigt.
Wenn der Vektor AB gesucht ist, dann berechnet man v = b - a und beim Vektor BA v = a - b. Also den Orstvektor des hinteren Punktes vom vorderen abziehen.
Die Vektorlänge berechnest du dann mit dem Betrag des Vektors. Die Formel findest du bestimmt auch im Mathebuch.