В том же памятном 1962-м Козлов окончил Московский архитектурный институт.
В 1964 году первую джазовую запись на гибкой пластинке «Квинтет А. Козлова» выпустил журнал «Кругозор», затем вышли записи «Квартета» на виниловых пластинках: «Джаз-65, 66, 67».
С конца 1966 по 1968 год Козлов работал в оркестре «ВИА-66» под управлением Юрия Саульского. «Овладевая тем или иным стилем, — пишет Саульский в своей книге, — А. Козлов делал это фундаментально, подводя каждый раз теоретическую базу, объясняя и доказывая преимущество именно этого, а не какого-либо другого направления современного джаза. Так, в 60-е годы, после увлечения стилем бибоп и знакомством (во время работы в оркестре ВИА-66) со спецификой биг-бэнда и аранжировкой для него, молодой музыкант уделяет большое внимание модальному джазу, возглавят ряд ансамблей и групп, играющих в этом стиле. Тогда же, наряду с интерпретацией джазовой классики и музыки, характерной для новых веяний в джазе, А. Козлов пишет первые собственные композиции для биг-бэнда и различных видов комбо. В этих композициях чувствовалось, что их автор хорошо осведомлен обо всем, что происходит в мире современного джаза; вместе с тем в его музыке проявлялись и индивидуальные черты — как в тематизме, так и в конструктивных элементах, в форме».
На рубеже 1960-х-1970-х годов происходит постепенное сближение джаза и рок-музыки. Становится ясно, что джаз и рок близки друг другу. Проходит еще несколько лет, и джаз-рок и стиль «фьюжн» стали объективной реальностью.
«В 1972 году я поехал на фестиваль в Будапешт, — рассказывал Козлов. — Здесь я увидел одну рок-группу с хорошей звуковой аппаратурой. Как ни странно, вся эта музыкальная сверхгромкость меня не испугала. Наоборот, даже привлекла, как новое эстетическое явление. Я решил в нем разобраться.
В том же году на московском джазовом фестивале, проходившем в „Ударнике“, я вывел на сцену несколько необычный состав, более похожий на камерный оркестр — были в нем скрипка, виолончель, контрабас. Сам я играл на саксофоне-альте, имитируя альт струнный. Именно тогда я написал несколько „псевдострунных“ пьес. Любителей традиционного джаза эта музыка шокировала, они говорили, что джаза здесь нет. И правда, расслышать джаз было нелегко. Но он все-таки существовал — как контекст. Вот что важно — джазовый контекст! Это был мой первый шаг к джаз-року. Современная музыка характерна тем, что в ней можно использовать все, что угодно, любые средства и приемы, если это поставлено в единый контекст, объединено общей художественной задачей. Я вдруг понял, что мои скачки из одного стиля в другой, в чем меня нередко упрекали даже друзья, теперь могут мне пригодиться для работы в современном джаз-роке».
В 1973 году, на базе экспериментальной джазовой студии ДК «Москворечье» Козлов начинает собирать молодых музыкантов, получивших опыт в самодеятельных рок-группах. Он задумывает создать принципиально новый по стилю ансамбль, где бы соединились свойственное молодежи чувство рок-музыки и его собственный большой джазовый опыт.
Козлов вспоминает: «Уровень музыкальной подготовки играющих в этих группах был невероятно низок. Они и держались вместе прежде всего по причине своей профессиональной слабости; не зная музыкальной грамоты и нот, играя по стереотипам, лишь заучивая наизусть скопированные партии, они не могли столь легко входить в творческий контакт с новыми музыкантами, как это удавалось опытным джазовым исполнителям. В конце концов, после долгого отбора, я собрал ансамбль из студентов Московской консерватории и Гнесинского института. Солидный профессиональный уровень музыкантов позволил мне быстро найти с ними общий язык».
Довольно скоро «Арсенал», названный «джаз-рок-ансамблем», становится профессиональным коллективом.
«В 1976 году „Арсенал“ взяли на работу в Калининградскую областную филармонию, — рассказывает Козлов. — Стало ясно, что на нас можно хорошо заработать. График концертов планировался на два года вперед исходя из нормы — 13 концертов в месяц (меньше невыгодно, а больше — запрещено, чтобы мы не обогатились). За 15 лет работы график ни разу не нарушался, более того, я знаю случаи, когда конфликты с руководителями популярных групп или с поп-звездами заканчивались плачевно для крупных администраторов из филармонии. Кроме того, существовала и практика „левых“ концертов, в которых использовались популярные артисты советской эстрады минуя государственные организации. Гонорары здесь превышали советские ставки во много раз. За легендарными „левыми“ администраторами гонялось ОБХСС, периодически кто-то из них садился в тюрьму, кто-то выходил, но концерты продолжались. Эти люди были гениями советского подпольного менеджмента и заслуживают памятника от своих продолжателей».