Родился в семье морского офицера. В 1905—1913 учился в Академии художеств (в частности, у Д. Н. Кардовского), сдружившись в эти годы с В. И. Шухаевым, который стал как бы его творческим alter ego.
Сотрудничал в журналах «Сатирикон» и «Новый Сатирикон» (1909—1918).Был членом «Мира искусства» (с 1912).
В 1913 вместе с Шухаевым побывал в Испании, 1914—1915 путешествовал по Италии. В 1917-1919 побывал в Монголии, Китае, Японии. C 1920 жил во Франции. Кроме живописи и преподавания (среди прочего, в 1934-1937 преподавал в Бостоне), занимался книжной иллюстрацией.
А. Е. Яковлев был сыном морского офицера. Художественное образование получил в Петербургской АХ (1905-13), в мастерской Д. Н. Кардовского, уделявшего особое внимание обучению рисунку. Уже тогда Яковлев увлекся графикой и начал сотрудничать в художественных журналах тех лет как художник-график. Его рисунки появлялись в "Аполлоне", много рисовал он для "Сатирикона", а впоследствии - для "Нового Сатирикона" и "Нивы".
Художник рано, с 1909 г., начал участвовать в выставках. Его большой групповой портрет "На Академической даче", показанный на Балтийской выставке 1912 г. в Мальмё (Швеция), заслужил одобрительный отклик А. Н. Бенуа.
В академические годы завязалась тесная дружба и творческое сотрудничество Яковлева с В. И. Шухаевым; современники в шутку называли их художниками-близнецами.
Миновав в ученический период кратковременное увлечение импрессионизмом, Яковлев обратился за вдохновением к классическому искусству. Его конкурсные работы "Купание" и "В бане" (обе 1913) демонстрировали ориентацию молодого художника на искусство старых мастеров. Уже в них обозначилось его тяготение к "неоклассицизму". За эти работы Яковлев получил звание художника и пенсионерскую поездку за границу. 1913-15 гг. он провел в Италии, где изучал старую живопись. Затем побывал в Испании, на острове Майорка.
Наряду с огромным количеством натурных этюдов художник выполнил в Италии свой автопортрет в образе Арлекина, который стал частью двойного автопортрета Шухаева и Яковлева. Эту картину художники считали одной из самых серьезных своих работ. Яковлев изобразил себя в театральном гриме и ярком костюме, придуманном художником Н. Н. Сапуновым. Театральности портрета как нельзя лучше соответствуют средства из арсенала старого искусства: точный рисунок, почти скульптурная лепка формы, локальный цвет, некоторый примитивизм, идущий от русского лубка. Элементы стилизации, подражания мастерам итальянского Возрождения или искусству примитива заметны и в других произведениях художника, например в картине "Скрипач" (1915).
Эту и некоторые работы, созданные в Италии, Яковлев показал на выставке "Мира искусства" по возвращении в Петроград в 1915 г. Они вызвали шквал самых разнообразных оценок. Совет АХ, в частности, не принял живописные работы художника. Во второй половине 1910-х гг. Яковлев занимался портретной живописью и рисунком, достигнув больших успехов в технике сангины. К числу наиболее значительных произведений этого времени относятся "Портрет Казарозы (жены художника)" (1916) и "Автопортрет" (1917), графические портреты Ф. И. Шаляпина, Н. Э. Радлова.Одновременно художник попробовал себя в монументально-декоративном искусстве. Часть из его проектов (росписи церкви в Бари, Казанского вокзала в Москве) осталась неосуществленной. Совместно с В. И. Шухаевым он расписал плафон в особняке Фирсановых в Москве; вместе с Б. Д. Григорьевым и С. Ю. Судейкиным оформлял артистическое кабаре "Привал комедиантов" в Петрограде.
Занимался Яковлев и педагогической работой: преподавал на женских архитектурных курсах, а также в Новой художественной мастерской и Институте истории искусств.
В 1917 г. наряду с Кардовским, Шухаевым и Радловым был инициатором создания "Цеха живописцев святого Луки".
Летом 1917 г. Яковлев как пенсионер АХ отправился в Монголию, Китай и Японию. Путешествие заняло два года и привело к появлению серии работ о Китае. Впоследствии художник поселился в Париже, и его дальнейшая жизнь проходила за границей.
Яковлева всегда привлекала экзотика. В 1924-25 гг. он принимал участие в экспедиции в Северную и Центральную Африку, организованной фирмой "Ситроен". Привезенные из поездки картины и рисунки принесли Яковлеву шумный успех.
В 1926 г. он был награжден орденом Почетного Легиона. В 1931-32 гг. художник вновь отправился с экспедицией в страны Востока - посетил Сирию, Иран, Афганистан, Монголию и Китай. И вновь итогом его поездки стала целая серия художественных работ, в основном этнографического характера, но неизменно отмеченных виртуозной техникой рисунка.
В 1920-х гг. работы Яковлева часто экспонировались в Европе и Америке, его искусство пользовалось большим успехом, хотя по-прежнему вызывало противоречивые оценки. Не порывалась и связь художника с Россией: в 1928 г. выставка его произведений прошла в залах АХ.
Яковлев занимался станковой живописью и графикой, монументальным и театрально-декорационным искусством. В 1934 г. Яковлев получил приглашение занять место профессора Академии искусств в Бостоне. До 1938 г. он жил в США. Умер Яковлев в парижской больнице, после неудачной операции.