Определяешь, сколько бит имеется для записи одной секунды звукового файла: 5.1*1024*1024*8бит / 120с ~= 4 501 012 бит/сек.
Так как глубина кодирования - это количество уровней силы сигнала, то она не может быть меньше 2, а больше 1024 ее не имеет смысла делать, так как человек столько уровней не различит.
Определяющей является частота. Предположим, что хотим получить звук высшего качества, т. е. частота дискретизации 20 000 герц: тогда на уровень остается:
4501012 / 20000 ~= 225 бит. Принимаем, 256 - ближайшее к степени двойки число. Тогда частоту дискретизации пересчитываем: 4501012 / 256 = 17582 герц.
Где-то так я бы решал.