Институт был образован на основе трёх лабораторий, выделенных из ФИАН. Была поставлена задача развивать теоретические и экспериментальные исследования на московской площадке, построить современный научный центр с мощным ускорителем и экспериментальным ядерным реактором в Красной Пахре, построить современную низкофоновую лабораторию для исследования космических излучений в горах Северного Кавказа; с 90-х годов началось создание глубоководного нейтринного телескопа на озере Байкал.

В Институт пришли выпускники лучших институтов страны: МГУ им.М.В.Ломоносова, МФТИ, МИФИ и др.; для решения поставленных научных и хозяйственных задач были приглашены известные учёные и специалисты из ФИАН, ОИЯИ и других организаций; для создания необходимой инфраструктуры создано мощное строительное объединение и опытное производство.