Периметр прямоугольника равен 18  

p= 2(a+b)=18   ;  a+b=9 ; a= 9-b

диагональ=гипотенуза

a^2+b^2=8^2

(9-b)^2 +b^2 = 8^2

81 -18b +2b^2 - 64 =0

2b^2  -18b +17 =0

разделим на 2,чтобы было приведенное квадратное уравнение

b^2  -9b +8,5 =0

способ 1

по теореми Виета

b1*b2 = 8.5

b1 , b2 - это стороны прямоугольника  b1*b2= 8.5 - это площадь прямоугольника

способ 2

можно искать корни

b1 =4.5 -кор.кв.(47)/2

b2 =4.5 +кор.кв.(47)/2

площадь = b1*b2 =(4.5 -кор.кв.(47)/2) *(4.5 -кор.кв.(47)/2) =4.5^2-47/4=8.5