Уравнение окружности в общем виде:
( х - а)^2 + (у - в)^2 = R^2,
где (а,в)  - координаты центра окружности,
R - радиус.
Если центр окружности лежит на биссектрисе, значит координаты равны у = х. Пусть у = х = t.
Точка (1; 8) принадлежит окружности, значит:   
(1-t)^2 + (8-t)^2 = 5^2;    
1 - 2t + t^2 + 64 - 16t + t^2 = 25; 
2t^2 - 18t + 40 = 0;    
 t^2 - 9t + 20 = 0; 
 t = 4  или  t = 5,
уравнений, удовлетворяющих данному условию  два:
(х - 5)^2 + (y - 5)^2 = 5^2      или    (х -4)^2 + (y - 4)^2 = 5^2