Родился в Тифлисе, сын генерала. Образование получил в пажеском корпусе, откуда был выпущен в 15 драгунский Тверской полк. В 1877-1878 гг. участвовал в русско-турецкой войне. В 1881 г. поступил на учебу в Петербургскую кавалерийскую школу. В последующие годы Брусилов занимал должности старшего учителя верховой езды и выездки лошадей, начальника отдела эскадронных и сотенных командиров, помощника начальника школы, вырос в чинах до генерал-майора (1900 г.), был причислен к штату лейб-гвардии. Его знали и ценили руководители Военного министерства, главный инспектор кавалерии великий князь Николай Николаевич. Брусилов пишет статьи о кавалерийской науке, посещает Францию, Австро-Венгрию и Германию, где изучает опыт верховой езды и работы конных заводов. В 1902 г. Брусилов по праву был выдвинут на должность начальника Петербургской кавалерийской школы. «Лошадиная академия», как ее шутливо называли в армии, под его руководством сделалась признанным центром подготовки командного состава русской кавалерии.
В 1906 г. Брусилов, по протекции в.к. Николая Николаевича, был назначен начальником 2-й гвардейской кавалерийской дивизии, где заслужил большое уважение подчиненных своим командирским искусством и уважительным отношением к офицерам и солдатам. Но личная драма — смерть жены, а также гнетущая обстановка петербургской жизни после революции 1905 — 1906 гг. подтолкнули его к решению уйти из рядов столичной гвардии в армию: в 1908 г. Брусилов получил назначение в Варшавский военный округ командиром 14-го армейского корпуса с производством в генерал-лейтенанты. В 1912 г. Алексей Алексеевич принял предложение занять пост помощника командующего Варшавским военным округом. Трения с генерал-губернатором Скалоном и другими «русскими немцами» в штабе округа вынудили его покинуть Варшаву и занять должность командира 12-го армейского корпуса в соседнем Киевском военном округе. Брусилов писал жене: «Не сомневаюсь, что в войсках Варшавского округа мой уход произведет сенсацию... Ну! Что сделано, то сделано, и я рад, что вырвался из этой клоаки скалоновской придворной атмосферы».
С объявлением 17 июля 1914 г. общей мобилизации российский генеральный штаб развернул войска Северо-Западного и Юго-Западного фронтов, и в составе последнего Брусилову было поручено командовать 8-й армией. С началом военных действий армия приняла участие в Галицийской битве. 2 августа Брусилов получил приказ о наступлении, и через три дня его войска двинулись от Проскурова к границе с Австро-Венгрией: началась Галич-Львовская операция, в которой 8-я армия действовала совместно с 3-й армией генерала Рузского. Поначалу австро-венгерские войска оказывали слабое сопротивление, и части 8-й армии за неделю продвинулись в глубь Галиции на 130-150 километров. В середине августа у рек Золотая Липа и Гнилая Липа противник попытался остановить наступление русских армий, но в ходе ожесточенных сражений был разгромлен. Брусилов докладывал командующему фронтом: «Вся картина отступления противника, большая потеря убитыми, ранеными и пленными ярко свидетельствуют о полном его расстройстве». Австро-венгерские войска оставили Галич и Львов. Галиция, исконная русская земля Киевской Руси, была освобождена. За победы в Галицийской битве Алексей Алексеевич был удостоен орденов святого Георгия 4-й и 3-й степеней. Волею судеб соратниками Брусилова в рядах 8-й армии являлись будущие вожди Белого движения: генерал-квартирмейстером штаба армии был А.И. Деникин, командиром 12-й кавалерийской дивизии — А.М. Каледин, 48-й пехотной дивизией командовал Л.Г. Корнилов.
Зимой — весной 1915 г. Брусилов руководил 8-й армией в Карпатской операции Юго-Западного фронта. На Венгерской равнине русские войска натолкнулись на встречное наступление австро-венгерских и германских корпусов. В зимнюю стужу и весеннюю слякоть 8-я армия вела упорные встречные бои с противником; она обеспечила сохранение блокады крепости Перемышль и тем предопределила ее падение, неоднократно вела удачные наступательные действия.
Брусилов часто появлялся в передовых частях, не заботясь о личной безопасности. В своих приказах «первейшей обязанностью» всех подчиненных ему командиров он ставил заботу о солдате, его пище и сухарях. При посещении Николаем II Галиции Брусилов был удостоен звания генерал-адъютанта, чему он не особенно радовался в предвидении скорых осложнений на фронте.
В результате Горлицкого прорыва германских войск к середине лета 1915 г. русские армии оставили Галицию. Упорным сопротивлением 8-й и других армий Юго-Западного фронта положение было выровнено. Потянулась длинная череда позиционных боев, не приносившая ни одной из сторон ощутимых успехов и получившая название «позиционного тупика».
В марте 1916 г. бездеятельного и осторожного командующего фронтом генерала Н.И. Иванова сменил пользовавшийся авторитетом Брусилов, прославившись своим знаменитым наступлением летом 1916 г. (Брусиловский прорыв). Слабая поддержка других фронтов и недостаток резервов вынудили Брусилова прекратить наступление и перейти к оборонительным действиям. Но Брусиловский прорыв стал, по сути, переломным моментом в первой мировой войне, чаша весов склонилась в пользу Антанты. За разгром австро-венгерской армии и взятие сильно укрепленных позиций на Волыни, в Галиции и на Буковине Алексей Алексеевич был награжден Георгиевским оружием, украшенным бриллиантами.
Во время событий февральской революции он принял заметное участие в давлении на императора Николая II с целью подписать отречение. После увольнения генерала Алексеева, 21 мая 1917 г. был назначен Верховным главнокомандующим. Однако Брусилов оказался в сложнейшем положении: с одной стороны, полководец по-прежнему стоял за продолжение войны до победного конца, с другой — поддерживал проведение в армии демократизации, которая в условиях нараставшей революционной пропаганды вела к падению дисциплины и боеспособности войск. Именно поэтому 19 июля он был заменен на этом посту более «твердым» Корниловым и отозван в Петроград в качестве военного советника правительства.
В 1919 г. вступил в Красную Армию. С 1920 г. служил в центральном аппарате Наркомвоена, в 1923-1924 гг. — инспектор кавалерии РККА, с 1924 г. состоял для особых поручений при РВС. Умер в Москве от воспаления легких. Советская власть отнеслась к бывшему царскому полководцу уважительно: он был похоронен со всеми воинскими почестями на Новодевичьем кладбище.