С 1936 по 1938 год — начальник отдела Управления учебных заведений Наркомата обороны СССР, в 1938 году — начальник артиллерийских курсов усовершенствования комсостава РККА, а с того же года — заместитель председателя Военно-промышленной комиссии при СНК СССР.
30 мая 1941 года арестован по делу «О вредительстве в системе наркомата боеприпасов» (из-за неравномерного распределения заказа по заводам был сорван план по выпуску зенитных снарядов 37 мм и 85 мм, и бронебойных снарядов 76 мм).
После начала войны нехватка именно таких снарядов ощущалась наиболее болезненно для Красной Армии:
Cамый мощный 6-й мехкорпус Западного особого военного округа и один из самых укомплектованных в РККА. 22 июня он имел 238 танков Т-34 и 114 КВ и НЕ ИМЕЛ БРОНЕБОЙНЫХ СНАРЯДОВ для 76-мм пушки ВООБЩЕ.
Отчитывается об обеспеченности вооружением и боеприпасами по состоянию на 25 апреля 1941 г. 3-й мехкорпус Прибалтийского особого военного округа: танков KB — 79, танков Т-34 — 50, положено по табелю 17 948 бронебойных 76-мм снарядов, имеется налицо ноль.
4-й мехкорпус генерал-майора Андрея Андреевича Власова: танков KB корпус имеет 72, танков Т-34 — 242, положено иметь к 76-мм танковым пушкам 66 964 артвыстрела, из них имеется в наличии ноль.[1][неавторитетный источник]
29 января 1942 года И. П. Сергеев без суда приговорен к расстрелу согласно
расстрельному списку[1]. На первой странице этого перечня собственноручная виза Сталина: «Расстрелять всех поименованных в записке. И.Ст.».
Черушев Н. С., Черушев Ю. Н. Расстрелянная элита РККА (командармы 1-го и 2-го рангов, комкоры, комдивы и им равные): 1937—1941. Биографический словарь. — М.: Кучково поле; Мегаполис, 2012. — С. 278—279. — 2000 экз. — ISBN 978-5-9950-0217-8.