При вычислении угла между двумя векторами я традиционно использовал acos, но для этого требуется, чтобы два вектора были нормализованы. atan2 можно использовать для достижения того же (в частности, atan2(b.y_, b.x_) - atan2(a.y_, a.x_) ), требуются...