Ответ:

Дробь равна 0 если числитель равен 0, а знаменатель отличен от 0.

Система
{x2–4x+А=0
{5x2–6Аx+А2 ≠ 0

Квадратное уравнение имеет два корня, если дискриминант положителен.

D=(–4)2–4·A=16 – 4A

D>0

16 – 4A >0

–4A> –16

А< 4


Значит решение неравенства:
(–∞; 4)

Из этого множества надо исключить те значения параметра а, при которых корни числителя являются корнями и знаменателя.

Корни знаменателя:
5x2–6Ax+A2= 0
D1=(–6A)2–4·5·A2=16A2

x1=(6A–4A)/10=A/5; x2=(6A+4A)/10=A

Подставляем в первое уравнение

(A/5)2–4·(A/5)+A=0
(A2/25)+(A/5)=0
A2+5A=0
A·(A+5)=0
A=0; A=–5

A2–4A+A=0
A2–3A=0
A=0; A=3

О т в е т. (– ∞;–5)U(–5;0) U(0;3)U(3;4)