Доктор филологических наук (1945), академик АН Казахской ССР (1958), профессор (1960), заслуженный деятель науки Казахской ССР (1961), основатель казахстанской археологической школы, видный ученый во многих областях знаний: в этнографии, востоковедении, истории, литературоведении, искусствоведении.

Начальное образование получил в аульной школе. С 1915 г. учился в 3-классной русской школе. В конце1919 г. поступил на учительские курсы в г. Павлодаре, окончив которые, в 1920 г. возвратился в родной аул и работал учителем. Чувствуя недостаточность образования, он в 1921 г. поступает в Семипалатинский педагогический техникум. В годы учебы в Семипалатинске сотрудничает вредакциях журнала "Тан" и газеты "Казак тип". Здесь же он знакомится с МАуэзовым, по совету которого в 1925 г. едет в Ленинград, где поступает на литературный факультет Восточного института. Одновременно он посещает лекции в Ленинградском университете и Институте истории искусств. В эти годы А.Маргулан увлекается сбором литературных, архивных материалов по истории и культуре казахского народа, литературной деятельностью.Произведения выдающихся русских и зарубежных писателей впервые дошли до казахского читателя в его переводах. В 1926-1927 гг. он принимал участие в Казахстанской и Алтайской экспедициях Особого комитета по исследованию союзных и автономых республик АН СССР. В 1929 г. Маргулан заканчивает учебу в Восточном институте. В 1930-1938 гг. Маргулан - ученый секретарь Комитета нового алфавита при Наркомпросе КазССР, аспирант Государственной академии истории материальной культуры при АН СССР. В 1938 г. по вызову СовнаркомаКазахской ССР был переведен в Алматы в Казахский филиал АН СССР. В 1943 г. защитил кандидатскую диссертацию по письменным памятникам кыпчакской этнокультурной общности. 1941-1946 гг. — заведует сектором истории, 1946-1951 гг. — сектором археологии и отделом па­леолита, 1958-1976 гг. — отделом этнографии Института истории, археологии и этнографии им. Ч.Валиханова АНКазССР. Результатом его исследований в области истории культуры казахского народа явилась защита в 1945 г. докторской диссертации на тему: "Эпические сказания казахского народа". Эпический жанр устного поэтического творчества, история материальной и духовной культуры казахов получили всестороннее исследование в трудах Маргулана. Им была обоснована датировка и раскрыты историко-социальные корни народных эпических произведений. Кроме этого, объектом его исследований были памятники древней архитектуры, им были открыты уникальные археологические памятники эпохи бронзы и раннего железа - Бегазы, Сангуыр, Беласар и др. Результаты археологических исследований территорий Центрального Казахстана были обобщены в фундаментальных монографиях: "Древняя культура Центрального Казахстана" (написана под его руководством и при непосредственном участии, в 1967 г. удостоена премии им. Ч.Валиханова), "Бегазы-дандыбаевская культура Центрального Казахстана" и "История Казахской ССР" в пяти томах, за написание которой Маргулан как один из ведущих авторов в 1982 г. был удостоен Государственной премии Казахской ССР.

Маргулан всегда был многопланным в своих научных интересах. В поле его зрения входили также такие области, как музыка, земледелие, металлургия и др. С середины 50-х гг. под его руководством осуществляется сбор материалов о выдающемся казахском ученом Ч.Валиханове. Маргулан - редактор и составитель собрания сочинений Ч.Валиханова, автор многочисленных монографий о нем.

Большую научно-преподавательскую деятельность Маргулан успешно сочетает с огромной организаторской работой, возглавляя в течение многих лет Координационный совет по этногенезу казахского народа, Ученый совет Института истории, археологии и этнографии АН КазССР, Специализированный совет по защите докторских и кандидатских диссертаций. За многие годы Маргулан осуществил более 300 научных и научно-популярных публикаций. За плодотворную деятельность награжден орденами и медалями СССР. Лауреат Государственной премии Казахской ССР (1982).