В 1945 году Джона призвали во флот и послали на Гавайские острова. Колтрэйн играл в военно-морском оркестре в основном на кларнете.
Демобилизовавшись, Джон вернулся в Филадельфию. Он возобновил занятия в консерватории. Играл на саксофоне Колтрэйн и с оркестрами «ритм-энд-блюз», с успехом исполняющими популярную негритянскую музыку.
В оркестре Винсона, по случаю, Джон перешел на тенор-саксофон. Несмотря на то что поначалу он играл на этом инструменте с большой неохотой, постепенно Колтрэйн стал отдавать ему предпочтение перед другими.
В 1949 году Колтрэйн играл в большом оркестре Диззи Гиллеспи. Показательно, что, когда из-за финансовых трудностей оркестр сократился до маленького ансамбля, Диззи оставил в нем Колтрэйна. Они выступали с Гиллеспи вместе до 1951 года, когда Джон вернулся в Филадельфию. Его мать купила там дом, и он поселился вместе с нею.
В Филадельфии Колтрэйн поступил в частную консерваторию — «Granoff Scool of Music». Здесь он занимался по классу саксофона. Кроме того, он изучал теорию музыки у Денниса Сэндоула. Последний увлекался запутанными концепциями битональности и ладовых звукорядов, предоставлявших неограниченные возможности для композиции и импровизации.
В 1952 году Колтрэйн стал работать с альт-саксофонистом в оркестре Эрла Бостика, игравшим в стилях свинг и ритм-энд-блюз. Руководителя оркестра отличала безупречная техника, особенно в верхнем регистре, и Колтрэйн многому у него научился. Затем он перешел в оркестр Джонни Ходжеса. Колтрэйну снова посчастливилось играть с крупнейшим саксофонистом.
В 1954 году Колтрэйн встретил Хуаниту Граббз, которую близкие звали просто Найму. Ей он позднее посвятил одну из своих композиций. Джон и Найма поженились в октябре 1955 года. В том же году произошло еще одно важное событие — Колтрэйн получил приглашение от Майлса Дэ-виса, который и вывел его на магистральное направление джаза.
«В основном Колтрэйн играл в стиле хард-боп, — отмечает Д. Колли-ер. — Как и многие саксофонисты его поколения, он воспитывался на игре Хокинса, и в то же время он был современником Паркера, поэтому его игра поначалу сочетала приметы обоих стилей. Позднее он не хотел и не стал играть в той текучей манере, которая отличала Хокинса, Паркера и их последователей, предпочитая отрывистый, резкий стиль, усвоенный им не без влияния Сонни Роллинса. В результате его мелодическая линия распадалась на кусочки, изобиловала непривычными, извилистыми фигурациями, которые, казалось, рождались спонтанно».
Выступая с Дэвисом в составе самого популярного джазового ансамбля тех лет, Колтрэйн обратил на себя внимание публики. К сожалению, из-за эмоциональных срывов через два года он ушел из ансамбля по просьбе Дэвиса.
Колтрэйн возвращается в Филадельфию и ждет интересных предложений. Телониус Монк приглашает его как тенор-саксофониста в клуб «Five Slot» в свой ансамбль. Они выступали вместе несколько месяцев.
«Работа с Монком дала мне возможность быть рядом с архитектором музыки высочайшего ранга, — говорил Колтрэйн. — Я беседовал с Монком о музыке, он отвечал на мои вопросы, играл на фортепиано. Он предоставил мне такую творческую свободу, которой у меня раньше никогда не было».
Манера Колтрэйна разительно отличалась от монковской: полная серьезность и стремление втиснуть в каждый такт как можно больше звуков. Но было и то, что сближало — пристрастие к нарушениям симметрии. Оба любили изломанные, угловатые линии, употребляли метрически необычные фигуры, исполненные в отрыве от граунд-бита.
Музыкант здесь демонстрирует стиль, получивший название стиля звуковых пластов.
Термин означает, что звуки извлекаются столь стремительно, что их нельзя услышать в отдельности, а только в составе сплошной звуковой линии. Колтрэйн играл не столь произвольно, как это может показаться по звучанию.
«Мы знаем, — пишет Д. Коллиер, — что начиная с 20-х годов в джазе уточнялась и совершенствовалась система аккордов. В тот период Колтрэйн довел ее до высшей степени сложности.»
Как представитель второго поколения боперов, он, конечно, владел новым гармоническим языком, разработанным пионерами бопа. Занятия с Деннисом Сэндоулом обогатили его знания гармонии, и в середине 50-х годов он был просто охвачен страстью к экспериментам, обнаружив, что любой аккорд можно заменить двумя-тремя другими. Этим приемом часто пользуются пианисты, чтобы обогатить гармоническую линию. Колтрэйн разработал систему, которая позволяла вместо одного аккорда, предусмотренного стандартной гармонией, брать четыре.