Тут можно методом оценки решить....
Пусть число дубов, кленов и берез по x штук. Пусть число тополей равно a. Число тополей более чем в 3 раза больше, чем число всех остальных деревьев. Тогда a > 3*(x+x+x) или же a > 9x.
Так же известно, что число кленов и тополей меньше 12. То есть x + a < 12.
Поскольку 9x < a, то справедливо неравенство x + 9x < x + a < 12, то есть 10x < 12. Единственным натуральным решением является x=1.
То есть число дубов, кленов и берез по 1 штуке, а число тополей может быть a > 9.
Для a=10: 1 + 10 < 12 - верно
Для a=11: 1 + 11 < 12 - уже не верно.
Таким образом, дуб один, клен один, береза  одна, а тополей десять.