Подготовлен сам хорошо. Руководил сбором вычислительных отделений школы, подготовил их хорошо. Подтверждаются положительные личные и служебные качества тов. Нестеренко. Выдвигался на должность помощника начальника штаба дивизиона в очередном порядке. Окончательный вывод — должности вполне соответствует.
1934 г. Отмечается хорошая подготовка взвода управления батареи (в школе), а также его хорошая личная подготовка и положительные командирские качества. Активен в общественной работе, умело руководит соцсоревнованием. ВЫВОД: утвердить в должности помощника начальника штаба.
1935 г. Работу по обучению и воспитанию курсантов выполнял хорошо. Отличный спортсмен, организатор и руководитель 1000 км лыжного перехода, за что награжден наркомом ценным подарком. Должности помощника начальника штаба дивизиона вполне соответствует. Может быть командиром батареи школы.
Копия верна.
Старший офицер отдела кадров академии артиллерийских наук капитан Терещенко
26 сентября 1949 г.».
После выпуска из академии, в апреле 1939 года, майор Нестеренко был назначен командиром 170-го артиллерийского полка 37-й стрелковой дивизии (дислоцировался в городе Речица Белорусского военного округа). В июле 1939 года полк был поднят по тревоге и в составе дивизии направлен на Халхин-Гол, где советские войска отражали агрессию японских милитаристов против дружественной Монголии. В связи с быстрым завершением боевых действий полк был остановлен в Омске и оставлен вместе с дивизией в составе Сибирского военного округа. Однако вскоре было принято новое решение: в декабре полк вместе со всей дивизией перевели на механическую тягу и перебросили на Карельский перешеек, где началась война с Финляндией. Под командованием майора Нестеренко артиллеристы прошли всю войну в 1939–1940 годах.
В автобиографии Алексей Иванович писал: «При взятии острова Вуоратсу наша пехота залегла, не захватив господствующего гребня острова, что привело бы к провалу операции или потребовало бы многих дополнительных жертв. Пришлось вместе с комиссаром Вишняковым и разведкой полка поднять пехоту на штурм главных высот. Эти действия были вынужденными». За этот бой и умелое руководство полком майор А. И. Нестеренко и батальонный комиссар Н. Д. Вишняков были награждены орденами Красной Звезды.
После окончания войны с белофиннами полк дислоцировался некоторое время в Петрозаводске. В течение лета 1940 года личный состав работал на укреплении оборонительной полосы в районе Вяртсиля, занимался очисткой полей сражений от мин и других боеприпасов. Осенью полк в составе 37-й стрелковой дивизии переводится в Белорусский военный округ в район города Лепеля. В этом же году на осенних инспекторских стрельбах в Дретуне полк получил лучшую оценку среди артиллерийских частей лагерного сбора и переходящее знамя дивизии.
Приказом народного комиссара обороны от 30 апреля 1941 года А. И. Нестеренко был назначен командиром 681-го артиллерийского полка во вновь формируемую противотанковую бригаду, а приказом НКО от 6 июня 1941 года назначен начальником артиллерии 86-й стрелковой дивизии. В первых числах июня Алексей Иванович сдал командование 170-м полком, но, по просьбе командира 21-го стрелкового корпуса генерал-майора Владимира Борисовича Борисова, сопровождал свой полк в район нового места дислокации — на станцию Беняконь в районе города Лида в недавно присоединенной к СССР Западной Белоруссии.
Марш длился 12 суток. 21 июня к исходу дня полк сосредоточился в районе станции Беняконь.