Погреб - почему бы и нет? Однозначно погреб в доме лучше, чем на улице. Но если грунтовые воды высокие, то ничего путного из этого не выйдет, разве что придется сделать дополнительную усиленную гидроизоляцию. У меня у большинства знакомых сделан погреб в ленточном фундаменте. Иногда даже не заглубленный - просто ниша до уровня грунта и все.
Вообще погреб в частном доме - это вещь незаменимая. Хранение варений-солений, пустых банок - где вы еще все это положите? Темное прохладное место опять же.
Другое дело - если хочется полноценный подвал. Тогда обычную ленту скорее всего нужно будет усилять и заливать стены. Ну или собирать из блоков. Это уж точно дополнительные расходы, да и проконсультироваться с инженером стоило бы - вдруг фундамент поедет в сторону? Даже если строится дом из клееного бруса, а не из кирпича - все равно вес немалый, будьте внимательны!