Александр Владимирович Варламов родился 19 (6) июня 1904 года в Симбирске, в семье коллежского, затем статского советника, члена Симбирского окружного суда.
Учился во второй симбирской мужской гимназии. В 1912 году в были опубликованы его первые музыкальные произведения — пьеса «Грусть» и вальс «Вечерок».

В 1922 году Варламов поступил в ГИТИС. Однако вскоре ушёл оттуда и поступил в Училище имени Гнесиных в класс Р.Глиэра и Д.Рогаль-Левицкого.
В 1934 году организовал джаз-оркестр при Центральном доме Красной армии, начал выступать с концертами, аккомпанируя негритянской вокалистке Целестине Коол. Создал первую группу из музыкантов-импровизаторов ("Семёрка"). 
В 1937 году создал джаз-оркестр Всесоюзного радиокомитета, которым руководил до 1939 года.
В 1940—1941 годах — главный дирижёр Государственного джаз-оркестра СССР.
В начале войны возглавлял симфоджаз в Москве.
В 1943—1956 годах жил на Урале и в Казахстане, куда был выслан. До 1948 года руководил лагерным оркестром, позже работал преподавателем в Караганде.
После реабилитации вернулся в Москву, писал музыку для эстрадных оркестров, кинофильмов и телевизионных постановок. Автор более. 350 пьес для эстрадных оркестров и свыше 50 песен.
Заслуженный деятель искусств РСФСР (1979).
Умер 20 августа 1990 года в Москве, похоронен на Домодедовском кладбище.