S1=S*3/5
S2=(S-S1)*5/8
S3=S-S1-S2=870
***************
S1=S*3/5
S2=(S-S*3/5)*5/8
S3=S-S*3/5-(S-S*3/5)*5/8=870
***************
S-S*3/5-(S-S*3/5)*5/8=870
S*(1-3/5-(1-3/5)*5/8)=870
S=870/(1-3/5-(1-3/5)*5/8)= 5800 м - это ответ

Решите задачу выделяя три этапа математического моделирования. Альпинисты при восхождении на гору в первый день преодолели 3/5 всего пути, а во второй день  5/8 оставшегося пути, а в третий день последние 870м. На какую высоту совершили восхождение альпинисты?
  Раз предлагается найти высоту, условие в задаче должно было быть выражено несколько иначе.  Но не будем придираться. 

Решение задачи состоит из трех этапов. 
1 этап. Построение математической модели. 
Пусть весь путь равен единице. 
В первый день пройдено 3/5 пути. 
Тогда в во второй день альпинисты преодолели 5/8 от оставшегося. 
(1- 3/5)*5/8 =1/4 всего пути.
 Осталось пройти в третий день 
1-(3/5+1/4) 
По условию это равно 
1-(3/5+1/4)=870м  
Уравнение, которое получено, является математической моделью задачи. 
2 этап. Решение уравнения. 
Найдем дробное выражение третьего дня пути.
1-(3/5+1/4)=1-17/20=3/20 
3/5+1/4+3/20=20/20 =1
3/20=870 м
1/20=870:3=290 
1=20/20 
Весь путь равен
290*20=5800 м 
3 этап. Анализ результата. 
Вывод, ответ на вопрос задачи. 
Альпинисты поднялись на высоту 5800 м.