Особое место в деятельности учёного занимает руководство исследованиями Курской магнитной аномалии. Летом 1920 г. Иван Михайлович был назначен председателем Особой комиссии по изучению Курской магнитной аномалии при Президиуме ВСНХ, которая подтвердила гипотезу о наличии под землёй громадных скоплений железной руды.

В честь учёного назван город Губкин в Белгородской области, а также улицы населённых пунктов нашего края.