Институт прикладной физики Российской Академии наук был открыт 1 апреля 1977 года на базе нескольких отделов Научно-исследовательского радиофизического института.
Основателем нового института и его первым директором стал академик Гапонов-Грехов, лауреат двух Государственных премий СССР (1967, 1983) и Государственной премии Российской Федерации (2003). А после ряда изменений в период с 2010 по 2018 год к нему в качестве филиалов присоединены Институт физики микроструктур РАН и Институт проблем машиностроения РАН.