Институт общей физики им. А.М. Прохорова Российской академии наук был организован в 1982 г. на базе Отделения А Физического института им. П.Н. Лебедева АН СССР. Организатор и первый директор института — лауреат Нобелевской премии по физике 1964 г. академик Александр Михайлович Прохоров.
В 2002 г. Институту было присвоено имя академика А.М. Прохорова. C 1998 по 2018 гг. директор ИОФ РАН — академик РАН Иван Александрович Щербаков, в настоящее время являющийся научным руководителем Института.
С 2018 г. Институт общей физики РАН возглавляет член-корреспондент РАН Сергей Владимирович Гарнов.