Здесь решение очень упрощается, если сообразить, что это "египетский" треугольник, то есть подобный тр-ку со сторонами 3,4,5 и радиусом вписанной окрузности (3+4-5)/2 = 1, но с удвоенными размерами. 

То есть второй катет равен 6, а гипотенуза 10.

Если поместить это треугольник на координатную плоскость (угол С - в начало координат, катеты - по осям), то центру вписанной окружности соответствует точка (2,2), а центр описанной окружности находится в середине гипотенузы, то есть имеет координаты (3,4) (или (4,3), как выбрать оси:), на ответ это не влияет), осталось найти расстояние между этими точками.

x^2 = (4-2)^2 + (3-2)^2 = 5.

Ответ корень(5).

Можно тупо воспользоваться соотношением r = (a+b-c)/2;откуда с = а+4, (a+4)^2 = a^2 +8^