Пусть сторона квадрата х, тогда ширина прямоугольника х/2, а длина (х+7).
Площадь квадрата равна х^2, а площадь прямоугольника (х/2*(х+7)) и она же равна (х^2+15)
Получаем уравнение:
х/2*(х+7)= х^2-15
х^2/2 + (7х)/2 = х^2-15
 -x^2/2 + (7х)/2 + 15 = 0
1/2 (-x^2 + 7х +  30) = 0
-x^2 + 7х +  30 = 0
- (х-10) (х + 3) = 0
х1=10
х2=-3  
Так как длина стороны  квадрата не может быть отрицательной то сторона квадрата равна 10 см.
Площадь квадрата равна S=10^2=100 кв. см.