Разделим первое уравнение на второе

По свойству пропорции умножим крайние и средние члены пропорции
х²+у²=13(х²+2ху+у²)
12х²+26ху+12у²=0
6х²+13ху+6у²=0
Делим уравнение на у² и заменим переменную   
6t²+13t+6=0
D=169-144=25
t=-3/2       или    t=-2/3
Решаем две системы

Решаем первую систему

Решаем второе уравнение

Умножаем на 8
y³=-8
у=-2
тогда
х=(-3/2)(-2)=3
Решаем вторую систему

Решаем второе уравнение

Умножаем на 27
y³=-27
у=-3
тогда
х=(-2/3)·(-3)=2
Ответ. (3; -2) (2;- 3)

-