1-х*2-2ху-у*2 = 1- (х*2+2ху+у*2) = 1 - (х+у) *2... 
Получили разность квадратов двух чисел, где первое число = 1 (единицу можешь представить, как один в квадрате 1*2), а второе = (х+у) . Разность квадратов двух чисел равна произведению суммы этих чисел на их разность. Теперь осталось раскрыть скобки и упростить формулу.. . 
[1-(x+y)] умножить на [1+(x+y)] = (1-x-y) * (1+x+y). Это всё. 
Успехов!...