Вприпрыжку, припрыжка. [...] степень лексической употребительности отдельных падежных форм имени существительного не одинакова. Поэтому какое-нибудь слово может вымереть, исчезнуть, а те или иные формы его в определенных сочетаниях продолжают жить. Понятно, что случаи предложного употребления таких форм — при наличии подходящих условий — превращаются в наречия. Именно таким образом складываются продуктивные морфологические типы образования наречий. Например, наречие вприпрыжку, относящееся к продуктивному типу наречных образований из предлогов в и на с винительным образа действия, представляет собой остаток имени существительного — припрыжка. Ср. у Пушкина в «Евгении Онегине»:
Но в городах, по деревням
Еще мазурка сохранила
Первоначальные красы:
Припрыжки, каблуки, усы
Все те же...
(Виноградов. Русск. язык, с. 382).