Mathematik, Skalarprodukt, Orthogonalität