Если нужно вычислить угол между линией определенной этими двумя точками и горизонтальной осью:
double angle = atan2(y2 — y1, x2 — x1) * 180 / PI;
Если нужен угол между векторами OP1 и OP2 (где O начало), то нужно знать скалярное произведение между двумя векторами u и v:
u . v = u.x * v.x + u.y * v.y = |u|*|v|*cos(a)
a — угол между векторами.
Так что угол вычисляется так:
double n1 = sqrt(x1*x1+y1*y1), n2 = sqrt(x2*x2+y2*y2);
double angle = acos((x1*x2+y1*y2)/(n1*n2)) * 180 / PI;