В 1896 году Андрей Львович окончил Императорскую медико-хирургическую академию. В 1901 году защитил докторскую диссертацию, а в 1904 году продолжил обучение в клиниках Франции и Швейцарии. С 1910 года был приват-доцентом Военно-медицинской академии. С 1914 года являлся профессором кафедры оперативной хирургии Петербургского психоневрологического института, реорганизованной по его инициативе в 1918 году в кафедру травматологии, а в 1920 году, в связи с образованием на базе Государственного института медицинских знаний (ГИМЗ), кафедру травматологии и ортопедии. В 1917 году А. Л. Поленов одновременно с работой в ГИМЗ открыл Петроградский физио-хирургический институт для лечения инвалидов Первой мировой войны. В 1924 году он возглавил организованный по его инициативе Ленинградский государственный травматологический институт (ЛГТИ).
В 1938 году А. Л. Поленов возглавил первый в мире Научно-практический институт хирургической невропатологии (основанный в мае 1926 года), который расположился в здании бывшей Александринской женской больницы в Ленинграде на Надеждинской ул. (ныне ул. Маяковского), д. 12.
Под его руководством стали разрабатываться основные проблемы нейрохирургии. Важным этапом в становлении института явилась его реорганизация в 1938 году в Ленинградский научно-исследовательский нейрохирургический институт Наркомздрава РСФСР, что позволило расширить развитие клинического направления и приблизить научные задачи к вопросам практического здравоохранения.
Тогда же впервые началась работа по организации нейрохирургической службы в РСФСР, по существу — зарождение одного из важнейших направлений деятельности института, получившего особое развитие в послевоенном периоде.
19 июля 1947 года директор института действительный член АМН СССР, профессор А. Л. Поленов скончался. Постановлением Совета министров СССР Ленинградскому научно-исследовательскому нейрохирургическому институту было присвоено его имя. 25 октября 1954 года состоялось торжественное открытие памятника — бронзового бюста А. Л. Поленова у здания института (скульптор — Н. В. Дыдыкин, архитектор — Ю. Н. Смирнов). Похоронен Андрей Львович в Ленинграде на Большеохтинском кладбище.
Дело выдающегося медика, ученого и организатора, а также светлая память о нем навечно останутся в сердцах его последователей и учеников.