A (sqrt(2); 2; -sqrt(2));
b (3;0;3)
(a,b) = |a|*|b|*cosφ, где φ — угол между векторами.

Длина вектора v(x,y,z):
|v| = sqrt(x^2 + y^2 + z^2)

|a| = sqrt(2 + 4 + 2) = sqrt(8)
|b| = sqrt(9 + 0 + 9) = 3*sqrt(2)
Также,
(a,b) = a_x*b_x + a_y*b_y + a_z*b_z
Следовательно, получим:
cosφ=(a_x*b_x + a_y*b_y + a_z*b_z)/(|a|*|b|)= (sqrt(2)*(-3) + 2*0 + (-sqrt(2))*3)/(sqrt(8)*3*sqrt(2)) = -sqrt(2)/2
Следовательно, φ = 3π/4