Пусть a - меньшая сторона
2a+2b=28, значит b=14-a
ab-a^2=12

14a-2a^2=12

a^2-7a+6=0

(a-6)(a-1)=0

a=1 значит b=13
a=6 значит b=8

Проверим:
1<13; 13*1 - 1 * 1 = 12; (1 + 13) * 2 = 28
6 < 8; 6 * 8 - 6 * 6 = 48 - 36 = 12; (6+8)*2 = 28

Ответ:1 и 13 или 6 и 8.

Пусть а см - сторона квадрата и меньшая сторона прямоугольника, а b см - бОльшая. Тогда исходя из того, что периметр прямоугольника равен 28 см, а площадь его больше площадь квадрата со стороной а на 12 см², составим систему:
2(а + b) = 28
ab - 12 = a²

a + b = 14
ab - a² = 12

b = 14 - a
a(14 - a) - a² = 12

b = 14 - a
14a - a² - a² - 12 = 0


b = 14 - a
a² - 7a + 6 = 0

b = 14 - a
a² - 3,5•2a + 12,25 - 6,25 = 0

b = 14 - a
(a - 3,5) - 2,5² = 0

b = 14 - a
(a - 3,5 + 2,5)(a - 3,5 - 2,5) = 0

a = 1 и b = 13
a = 6 b = 8

Значит, стороны прямоугольника равны 6 см и 8 см или 1 см и 13 см.
Ответ: 6 см и 8 см или 1 см и 13 см.