Начнем с аудео, в нашем случаи рассмотрим три варианта, качество записанного звука относительно техники для звукозаписи в расчёт не берем, оно будет константное:
а. Без сжатия — самый лучший вариант по качеству, но велик по объёму.
б. lossy — осуществляется сжатие, в следствие - качество, - занимаемый размер на диске.
в. lossless — сжатие, но с максимальным сохранением качества: +/- качество, +/- занимаемый размер на диске (оптимальный вариант между а и б)

Примеры lossy: aac, mp3, mpeg, wma, ogg
Примеры lossless: flac, ape, wv
Что до примеров без сжатия: wav, aiff

Если поставим вопрос: самый лучший аудео-кодек (формат это не одно и то же, но понятия близки), который максимально качественно передает звучание и сжимает звук, на данный момент - однозначно flac.

Теперь поговорим про видео-кодеки:
С видеоформатами такая же ситуация, с той лишь разницой, что форматы сложнее и нет формата без сжатия (для изображений это RAW, но для видео слишком велеки объёмы, в специфической области может и есть таковые, мне об этом не известно и в открытых источниках информации нет).

lossy: avi, mpeg1(2,3,), wmv, mov, 3gp
lossless: flv, avc, mkv, mpeg4
без сжатия: dv (на самом деле сжатие присутствует, но не значительное относительно всех остальных форматов)

Нельзя на столько однозначно дать ответ на вопрос, какой же лучший, тут необходимо исходить из потребностей, если говорить о лучшей сжатие/качество, то скорее avc.
З.Ы.
Вопрос кодека видео как и аудео стоит немного "не ровно", есть форматы в которых удобно редактировать материал (содержит много информации), что позволяет модифицировать его без искажений. Но выпускать в продакшн уже необходимо сжатый, то есть уже с отсеченной не нужной информацией. В ответе указал уже форматы которые обычно выходят как раз в этот продакшн с лучшим качеством. Но запись и редактирование может быть совершенно в других. аудео - wav, видео - dv, для более удобной их правки.