Одно из доказательств - это как раз то что они образовались в кайнозойскую эру так как это самая поздняя (то есть была сравнительно недавно) эпоха горообразования 
Второе доказательство это то , что Кавказ имеет пикообразную форму гор, местность сильно пересеченная, что говорит о том, что это территория подверглась слабому воздействию эрозионных процессов (химическое выветривание, эоловые процессы, биологическое выветривание и тп)
Так же можешь написать, что в горах кавказа находят осадочные породы которые характерны для морских отложений то есть раньше там находилось дно моря, а если бы эти горы были древними, то эти породы подверглись бы разрушению в первую очередь и мы бы сейчас их там не наблюдали