Харьковский Дом Государственной промышленности проектировался для «Паевого товарищества строительства и эксплуатации домов госпромышленности в городе Харькове», в которое входили 22 государственных треста, Промышленный банк, Внешторг и Госторг Украинской ССР.

Проект Дома Государственной промышленности был выбран в результате конкурса, который был объявлен 5 мая 1925 года. Авторами конкурсной программы являлись инженер-строитель Я. И. Кенский и профессор Харьковского технологического института А. Г. Молокин. На конкурс было представлено 19 проектов. 1 премию получил проект «Незваный гость» ленинградских архитекторов Сергея Саввича Серафимова, Самуила Мироновича Кравца и Марка Давидовича Фельгера.

Здание построено в рекордно короткие сроки — подготовительные работы начались летом 1925 года, сдача в эксплуатацию — 7 ноября 1928 года. На торжественной закладке центрального корпуса, которая произошла 21 ноября 1926 года, зданию присвоили его имя.

Создание такого значительного объекта стало возможно благодаря главному инженеру строительства — П. П. Роттерту. Под его руководством на стройке были разработаны рабочие чертежи уникальной конструкции, проведена механизация работ (до 80 %), подготовлены специалисты — квалифицированные рабочие и инженеры, разработана технология индустриального железобетона и т. д.

Высота здания Госпрома 63 м. Вместе с первой телевышкой, установленной в 1955 году, составляет 108 метров.

Полезная площадь помещений Госпрома составляет 60 тыс. м², площадь участка застройки 10760 м².

Впервые в мире разработаны и применены точные расчёты сложных пространственных рамных железобетонных конструкций. Авторы нового способа (графо-аналитический метод постоянных точек) — харьковские инженеры-конструкторы А. Прейсфрейнд и М. Пайков.

В момент постройки это был самый большой в СССР (по другим данным, в Европе) «небоскрёб», который и сейчас впечатляет: его объём 347 тыс. м³. Материал — монолитный железобетон. Израсходовано 1315 вагонов цемента, 9000 т металла, 3700 вагонов гранита и 40000 м² стекла. В здании 4500 оконных проёмов, площадь наружного остекления — 17 гектаров.

 После постройки, с 1928 по 1934 год, в здании размещался Совет Народных Комиссаров Украины.

Во время немецкой оккупации 1941—1943 на первом этаже была устроена конюшня, на других этажах в начале оккупации жили обезьяны, сбежавшие из расположенного рядом со зданием зоопарка. До 23 августа 1943 в Госпроме дожили три макаки-резуса, которым на 65-ю годовщину освобождения города, в августе 2008, был открыт памятник на территории зоопарка.

Перед отступлением в августе 1943, во время так называемой «очистки» Харькова, немцы заминировали Госпром, как и многие другие здания города, но взрыв был предотвращен неизвестным патриотом, который при этом погиб. Тогда здание подожгли, но железобетонному остову Госпрома это не нанесло вреда.

Здание восстановлено после войны в 1944—1947 годах.

В 1955 г. на крыше установлена одна из первых в СССР телевизионных вышек высотой 45 м.