Аргумент логарифма должен быть больше нуля. Аргумент корня должен быть больше или равняться нулю, отсюда имеем систему неравенств:
Решением системы будет множество - пересечение множеств решений каждого из неравенств.
x^2 - 6x > 0
x*(x-6) > 0    x1 = 0   x2 = 6
Т.к. это парабола с ветками вверх, пересекающаяся с осью абсцисс в 2 точках, то график функции будет больше нуля в точках, не включенных в этот интервал, т.е. x принадлежит (-беск;0)U(6;+беск).

Решим второе неравенство:
8-x >= 0
x <= 8
х принадлежит (-беск; 8]

Пересечением множеств будет множество (-беск;0) U (6;8] это и есть область определения данной функции.