Нужно разложить на 2 части:
(x²-8x+16)+(y+2y+1) = 0

Это сворачивается в 2 "квадрата":
(х-4)²+(у+1)² = 0

Сумма "квадратов" тогда равна нулю, когда каждый из них равен нулю:
х-4 = 0
у+1 = 0

х = 4
у = -1

Ответ: (4;-1)

Разделим уравнения на 2, разделив две неизвестные:
х²+у²-8х+2у+17=0
х²+у²-8х+2у+16+1=0

1) х²-8х+16=0
D=b²-4ac=(-8)²-4*1*16=64-64=0 - один корень
x=(-b+√D)/2а=-(-8)/2*1=4
x=4

2) y²+2y+1=0
D=b²-4ac=(2)²-4*1*=4-4=0 - один корень
y=(-b+√D)/2а=-2/2*1=-1
y=-1

Ответ: х=4; у=-1