пусть диагональ m, стороны a b  и c d, так, что a,b,m - стороны одного треугольника, а c,d,m - стороны другого треугольника (ясно, что диагональ делит четырехугольник на 2 треугольника).

Неравенства треугольника дают

m < a + b;

m < c + d;

2*m < (a + b)+(c + d);

m < (a + b + c + d)/2;

чтд.

Я сам не очень понял, но похоже, что и в НЕВЫПУКЛОМ четырехугольнике та же история :))) решение выпуклости нигде не использует, так что вот так :)))