Создал научную школу, подготовил более 80 кандидатов наук, 15 из них получили докторские степени. В числе учеников профессора А. Г. Костюченко — ректор МГУ академик В. А. Садовничий.
Родился в семье военного. В 1949 году поступил на механико-математический факультет Киевского университета, который закончил в 1954 г. Ещё студентом 4 курса получил рекомендацию А. Н. Колмогорова в аспирантуру механико-математического факультета МГУ (единственный рекомендованный из всех студентов на курсе). На старших курсах университета занимался под руководством Г. Е. Шилова. В своей студенческой работе (совместной с А. В. Скороходом), дал геометрическое доказательство теоремы Н. К. Бари о базисности ортонормированной системы в гильбертовом пространстве, квадратично близкой к ортонормированному базису.
В 1954 году переехал в Москву, стал аспирантом механико-математического факультета под научным руководством Г. Е. Шилова. В это время группа Г. Е. Шилова разрабатывала вопросы теории уравнений в частных производных, главным образом с постоянными коэффициентами, в рамках теории обобщенных функций, которой тогда активно занимался также И. М. Гельфанд. А. Г. Костюченко доказал существование решений задачи Коши в классах функций, для которых Гельфанд и Шилов до этого установили единственность решения.
Впоследствии был привлечен И. М. Гельфандом к разработке теории разложений по собственным функциям общих самосопряженных операторов.
«О собственных функциях самосопряженных операторов». Диссертация на соискание ученой степени кандидат физико-мaтемaтических нaук, МГУ, М., 1957.
«О некоторых спектральных свойствах дифференциальных операторов». Диссертация на соискание ученой степени доктоp физико-мaтемaтических нaук, МГУ, М., 1966. Пpофессоp кaфедpы теоpии функций и функционaльного aнaлизa мехaнико-мaтемaтического фaкультетa МГУ (1967).
Дал (с соавторами) решение задачи С. Л. Соболева об устойчивости вращения волчка с полостью, заполненной вязкой жидкостью.
Член правления Московского математического общества.
Заслуженный профессор Московского университета (1999)[1]. Почетный доктор Башкирского ГУ (2008)[2].
Лауреат Ломоносовской премии 1 степени (2001)
Автор и соавтор 77 научных работ.
Член редколлегии журнала «Функциональный анализ и его приложения» со дня его основания. Член Редакционного совета журнала «Успехи математических наук»
Скончался после тяжелой и продолжительной болезни.