Смотря когда.
В Первую эпоху гномы, в основном, жили на востоке, в горах Эред Луин. Там были их города - Габилгатхол и Тумунзахар, по эльфийски - Белегост и Ногрод .
Но, по-видимому, до прихода Эльдар с Запада, гномы жили и в Белерианде.
Малые гномы - точно. Об этом упоминает Мим, когда говорит: "I am Mîm; and before the proud ones came from over the Sea, Dwarves delved the halls of Nulukkizdîn. I have but returned to take what is mine; for I am the last of my people." Сильм, OF THE RUIN OF DORIATH, с. 284
Нулуккиздин - гномье название Пещер над Нарогом.
Сам Мим жил на Амон-Руд, где было до событий Сильма обособленное поселение гномов.
И позже, в Третью Эпоху, гномы, судя по Торину и К, селились иногда вместе с людьми.
Так что, вопрос непростой. Т.к. кроме основных общин, гномы, как мы видим, имели обычай расселяться разрозненными группами, возможно, родоплеменного характера. Судя по описанию Амон Руд в НС и ДХ.