Отдел бактериологии возглавил С. Н. Виноградский, вошедший в мировую историю науки открытием круговорота азота в природе. Отделом физиологической химии (биохимии) руководил ученый с мировым именем М. В. Ненцкий, положивший начало производству вакцин и сывороток. Отделом физиологии руководил И. П. Павлов, первый и до сих пор единственный Нобелевский лауреат в России в области физиологии пищеварения. Отделом сифилидологии руководил Э.-Л. Ф. Шперк, крупнейший специалист в области кожно-венерических болезней.
В отделе эпизоотологии под руководством К. Я. Гельмана и А. А. Владимирова проводились работы по изучению сапа у лошадей, бешенства и туберкулеза животных. Отдел патологической анатомии возглавил «первый русский гематолог» Н. В. Усков.
Особняк О. Михальцевой стал первым зданием будущего Института экспериментальной медицины. В 1889 г. к строительству институтского комплекса был привлечен архитектор Ф. Л. Миллер. Он разобрал ветхие пристройки к зданию и достроил его одновременно с домом директора. При входе установили бронзовый бюст Л. Пастера.
В 1889–1890 гг. с правой стороны особняка О. Михальцевой по проекту инженера Э. Ганнекена возвели каменное здание в едином объеме с водонапорной башней, где установили двигатели и паровые котлы. Пар служил средством дезинфекции помещений, белья. Особые печи были предназначены для быстрого обеззараживания тепловым способом. Машинное здание в 1911 г. надстроил Г. И. Люцедарский.
В 1892 г. Э. А. Ганнекен построил деревянные здания для служащих, бараки для заразных больных людей, а также виварий для животных — обезьянник, собачник и конюшни, лабораторию для изучения сапа, не сохранившиеся до наших дней.
В 1893 г. по проекту Ф. Л. Миллера возведено каменное двухэтажное здание с высоким стеклянным фонарем. Фасады выполнены в кирпиче с оштукатуренными поясами. Вход выделен порталом с двумя колоннами и лучковым фронтоном. Второй этаж с пилястрами и арочным окном завершен треугольным фронтоном. В нем разместился Отдел химии во главе с основоположником современного учения о кровяном пигменте профессором М. В. Ненцким. Здесь работали академики В. С. Гулевич и В. А. Энгельгардт.
В 1894 г. Ф. Л. Миллер возвел двухэтажное здание физиологического Отдела для опытов над животными. Гладкие оштукатуренные стены и прямоугольные окна с профилированными наличниками соответствовали функциональному характеру постройки. На втором этаже размещался террариум с земноводными, растениями. Здесь же были кабинеты ученых (с 1936 г. стал мемориальным кабинет И. П. Павлова). Внутри здания находилась операционная, в которой Павлов и его сотрудники оперировали собак, и специальная клиника для выхаживания оперированных животных.
В 1896 г. Миллер построил трехэтажное кирпичное здание Отдела общей патологии. В центральной части здания помещены окна с полуциркульными завершениями, наличниками и замковыми камнями.
Летом 1911 г. по проекту Г. И. Люцедарского началось строительство четырехэтажного здания научной библиотеки. Здание построено в стиле модерн со стилизацией мотивов романского и древнерусского зодчества. Книгохранилище спроектировано так, чтобы ряды полок освещались высокими узкими окнами. Портал из майолики выполнен по проекту В. А. Покровского в мастерской П. К. Ваулина. До этого он украшал вход в павильон России на Международной гигиенической выставке в Дрездене (1911 г.). 21 февраля 1913 г. библиотека переехала в новое здание. В настоящее время в ее хранилищах размещается более полумиллиона книг, среди которых коллекции уникальных изданий XVI–XVII вв., тибетские и китайские рукописи, письма Л. Пастера.
Слева от Отдела химии в 1912–1914 гг. по проекту архитектора А. А. Полещука построена специальная лаборатория физиологического отделения со звуконепроницаемыми камерами для изучения И. П. Павловым условных рефлексов животных. А. А. Полещук опирался на опыт постройки физиологических лабораторий в Утрехте и Гамбурге, сейсмической станции в Пулково. Стены сделаны из материала разной звукопроводимости (песка, гари и кирпича), на бетонные своды между балками положены слои войлока и опилок, залитых силикатным раствором. Ныне она известна как «башня молчания».
До 1917 г. институт назывался Императорским (ИИЭМ), с 1918 г. — Государственным (ГИЭМ), с октября 1932 г. — Всесоюзным (ВИЭМ). В 1934 г. его перевели в Москву, а в Ленинграде остался филиал. В 1944 г. на базе ВИЭМ создали Академию медицинских наук СССР, его Ленинградский филиал стал ИЭМ АМН СССР.
Первым директором института был врач кожно-венеролог Э.-Л. Ф. Шперк, затем патофизиолог С. М. Лукьянов (1894–1902 гг.), бактериолог С. Н. Виноградский (1902–1905 гг.), патофизиолог В. В. Подвысоцкий (1906–1913 гг.), гигиенист и микробиолог С. К. Дзержговский (1913–1917 гг.). В советское время его возглавляли А. А. Владимиров, Л. Н. Федоров, Н. Н. Никитин, Р. Э. Янсон, Д. Н. Насонов, Д. А. Бирюков, Н. П. Бехтерева, Б. И. Тищенко.