Переведем длину диагонали в мм. 1"=25.4 мм, тогда длина диагонали d составит 25.4×17 = 431.8 мм.
Теперь нужно решить вопрос о соотношении сторон экрана, т.е. отношения ширины экрана к высоте. На старых мониторах использовалось соотношение 4:3, на современных - 16:9 и 16:10. Тут не угадаешь. Примем соотношение 16:9. Пусть высота экрана монитора равна h, тогда его ширина b=(16/9)*h.
По теореме Пифагора d² = b²+h². Для выбранного нами случая d² = (16/9)²*h²+h² = h²((16/9)²+1). Решаем полученное уравнение.

Если точка имеет размер 0.28мм, то по высоте экрана 211.7 мм таких точек поместится 211.7/0.28 ≈ 756. А по ширине - 756×16/9 ≈ 1344.
Получаем разрешение 1344×756. Увы, оно нестандартное, т.е. таких мониторов не выпускают. Смотрим промышленный ряд разрешений и выбираем ближайшее 1366x768. Оно немного больше полученного нами, но это скорее всего вызвано тем, что на самом деле размер точки не 0.28, а 0.2755 мм.

Ответ: расчетное 1344×756, стандартное 1366×768