Миномет был разработан в конструкторском бюро под руководством Б.И. Шавырина и представлял собой гладкоствольную жесткую систему (без противооткатных устройств) со схемой мнимого треугольника. Основными элементами его конструкции является стол, двунога-лафет, опорная плита и прицельные приспособления.

Ствол миномета состоит из трубы, казенника со стреляющим приспособлением, обтюрирующего кольца, предотвращающего прорыв пороховых газов в месте соединения трубы с казенником, а также хомута с опорами для укладки и крепления ног двуноги по-походному. Канал трубы гладкий, полированный. В дульной части канал имеет конусную фаску для обеспечения удобства заряжания (направление стабилизатора мины при опускании ее в ствол). Двунога-лафет поддерживает ствол, придает ему необходимые углы вертикальной и горизонтальной наводки. На ней размещены подъемный, поворотный, горизонтирующий механизмы и прицельные приспособления. Чтобы двунога с прицельными приспособлениями при выстреле не получала резких ударов, миномет имеет амортизатор, пружина которого смягчает жесткие толчки на двуногу.

Углы возвышения миномета (вертикальная наводка) обеспечиваются определенной установкой двуноги-лафета и подъемным механизмом. Горизонтальная наводка осуществляется с помощью поворотного механизма и перестановкой двуноги-лафета. Опорная плита 120-мм миномета представляет собой арочную конструкцию. Ее верхний лист изготовлен методом глубокой штамповки и опирается на приваренные к нему ребра жесткости.

120-мм минометы обр. 1938 г. комплектовались коллиматорными прицелами МП-41 или МП-42 и стойками, применявшимися при построении параллельного веера.

Стрельба из миномета может вестись как самонаколом капсюля хвостового патрона на боек, так и с помощью стреляющего механизма. При стрельбе самонаколом обеспечивается максимальная скорострельность до 15 выстрелов в минуту, стрельба с помощью стреляющего приспособления обычно используется для обеспечения безопасности расчета при обращении с мощным выстрелом.

Боевой выстрел 120-мм миномета состоит из мины, взрывателя, хвостового патрона и дополнительных зарядов.

Основной заряд находится в хвостовом патроне. Дополнительные заряды служат для сообщения мине добавочных скоростей в зависимости от требуемой дальности и представляют собой равновесные пучки пороха в матерчатых картузах прямоугольной формы. Они надеваются на трубку стабилизатора мины и крепятся на ней с помощью петли.

Наибольшая дальность стрельбы осколочно-фугасной чугунной миной ОФ-843А весом 15,9 кг составляет 5700 м. Для перевозки миномета был разработан колесный ход, который прицеплялся к передку с боеприпасами. Колеса этого хода имеют разъемные металлические диски и шины, заполненные губчатой резиной. Перевозка производилась четырехконной запряжкой.

Миномет на колесом ходе мог транспортироваться также в прицепе за автомашиной со скоростью, не превышающей 18 км/ч при движении по булыжной мостовой, и со скоростью до 35 км/ч при движении по асфальтовому шоссе. Транспортирование за автомашиной с большей скоростью не допускалось, так как вследствие отсутствия на ходе подрессоривания были возможны поломки хода. Кроме того, миномет с колесным ходом без передка мог быть погружен в кузов автомашины. При этом он перевозился со скоростью, допускаемой автомашиной. Эта же автомашина использовалась для перевозки расчета и мин, уложенных в парковые ящики. На близкое расстояние миномет на колесном ходе может перемещаться и вручную - усилиями расчета.

В начале Великой Отечественной войны в каждом стрелковом полку Красной Армии имелась минометная батарея, вооруженная четырьмя 120-мм минометами обр. 1938 г.