Рассмотрим треугольник ABC где BC является гипотенузой, угол B=90 следовательно
по Th Пифагора находишь как 

Так как мы проводим диагональ, то получается треугольник с ровным углом. в этом треугольнике нам нужно найти гипотенузы (это и есть диагональ прямоугольника). соответственно, по теореме Пифагора:
8 (в квадрате) + 6 (в квадрате) = х (в квадрате)
х (в квадрате)=100
х=10 - это и есть диагональ прямоугольника!