Родился в Пскове. Начальное образование получил в церковно-приходской школе, затем учился в Рисовально-технических классах при Поганкиных палатах по специальности живописца-рисовальщика, здесь же увлекся фотографией.
В первые годы Советской власти в Пскове был создан губернский комитет по делам охраны памятников искусства, старины, народного быта и природы, где стал работать И.Н. Ларионов. С декабря 1918 года он стал сотрудничать с псковскими музеями: занимался сбором художественных ценностей, читал лекции, проводил экскурсии. 1 апреля 1921 года при непосредственном участии Ларионова была открыта Губернская картинная галерея. Он же и возглавлял ее до 1938 года, когда был назначен заместителем директора по научной части Государственного музея. Кроме того, в 1920-е годы в городе существовало Псковское общество художников, среди основателей которого был живописец Иван Ларионов.
Перед войной псковский музей был одним из самых богатых по количеству экспонатов и их художественной и научной ценности. В это же время Ларионов занимался созданием семи псковских музеев. Во время Великой Отечественной войны эвакуировать удалось лишь небольшую часть коллекции. После войны Иван Николаевич вернулся в родной город, где принимал активное участие в работе Государственной Чрезвычайной комиссии по расследованию фашистских преступлений. В период послевоенного возрождения музея Ларионов работал заместителем директора по научной части, возглавлял комиссию по восстановлению.
В августе 1946 года был награжден медалью "За доблестный труд в Великой Отечественной войне 1941-1945 гг.". В 1955 году Ларионов возглавил музей. Наряду с организаторской работой, он занимался исследовательской деятельностью и опубликовал более 30 популярных книг. Среди них "Архитектура Пскова", "Легенды озера Чудского", "По Пскову и области", "Поганкины палаты" и другие. В 1968 году ему было присвоено звание "Заслуженный работник культуры РСФСР", в 1972 – звание "Почётный гражданин города Пскова".
