В Константинополе многим, не только из числа аристократов и духовенства, стало ясно, что государству для противостояния сельджукам необходим сильный правитель. И такой человек нашелся.
После смерти императора Константина Х его вдова Евдокия (под давлением столичных вельмож) вышла замуж за талантливого полководца Романа Диогена. Так он стал новым правителем Византийской империи. Главной задачей его стало ведение успешных войн.
Роман IV, как никто другой из его окружения, видел причины военных неудач империи в последние годы. Они, на его взгляд, заключались в устройстве армии, давно состоявшей из наемников. Новый базилевс (император), не щадя ни себя, ни государственной казны, почти весь 1067 год потратил на то, чтобы фактически возродить византийскую армию: численно увеличить, сделать ее мобильной и боеспособной, поднять патриотический дух. Многое ему удалось.
Первый свой поход император совершил против турок-сельджуков. Они в 1068 году весьма неосмотительно разместились на зимних квартирах во Фригии и Каппадокии Понтийской, то есть в опасной близости от Константинополя. Византийская армия, совершив быстрый переход по горным дорогам, неожиданно оказалась перед войском сельджукского султана Алп-Арслана, не давая ему времени на сбор немалых сил.
Алп-Арслан (его имя означает «Храбрый Лев») был племянником великого военного вождя сельджуков Тогрильбега. Он отличался большим знанием дела, хотя судьба не всегда была благосклонна к нему в войнах против Византии. Но он был тем полководцем, который умел извлекать уроки из поражений.
Близ города Себастия (современный Сивас в Турции) состоялась большая битва. Турки были разгромлены, хотя больших потерь не понесли. Их спасло то, что легкая восточная конница удачно выходила из-под обстрела византийских лучников и во многих случаях могла избежать продолжительных схваток с тяжелой панцирной кавалерией противника. Сельджукам пришлось отступить от Себастии.
Византийцы победили во многом благодаря своей организованности и дисциплинированности. Туркам пришлось через несколько дней уйти еще дальше от Себастии – в Армению и Месопотамию. Султан Алп-Арслан разумно избежал нового сражения с армией базилевса.
Тот, успешно отразив набеги сельджуков на Каппадокию, двинулся в поход на восток, вошел в земли Армении и осадил сильную крепость Ахлат на берегу озера Ван. Турецкий гарнизон сдаться отказался, надеясь на обещание султана в самом скором времени прийти на выручку.
Однако вскоре Романа IV постигла неудача: часть армии он отправил из осадного лагеря в Мидию, где Алп-Арслан разбил ее в сражении. Сельджуки удачно выбрали место для битвы на пустынной равнине среди таких же пустынных гор. Их конница продемонстрировала на поле битвы все искусство стремительного маневрирования, в нужный момент зайдя за фланги византийцев.
Базилевсу пришлось снять осаду с Ахлатской крепости и двинуться навстречу султанской армии. В то время войска Алп-Арслана вторглись в Анатолию, нанося удар в направлении города Икония (современный Конья). Сельджуки торопились захватить его до подхода византийцев.
Базилевс блестяще обыграл своего опытного соперника, совершив обходной маневр. Византийская армия, имевшая хороших проводников, неожиданно зашла в тыл неприятелю.
Близ современного турецкого города Эрегли, называвшегося тогда Гераклеей, произошло большое сражение. Византийцы одержали убедительную победу, но не воспользовались в полной мере ее результатом, позволив сельджукам отступить и не став их преследовать. Султанские войска отошли на север Сирии к городу Алеппо.
Военная кампания Романа Диогена увенчалась полным успехом. Всего за два года боевых действий он смог вытеснить турок со всей территории империи. Мусульмане теперь удерживали на ней только несколько небольших горных крепостей в Армении. Константинополь торжественно встречал победоносного базилевса и его армию.
Султан Алп-Арслан, решительно настроенный на завоевание христианского государства, давно пережившего эпоху своего могущества, в 1070 году вновь обрушился на Византию. Во главе первой сельджукской армии встал он сам, сумев захватить крепость Манцикерт. Но из города Эдессы (ныне Урфы) византийцы турок выбили.
Второй сельджукской армией начальствовал Арисьяха, зять султана. В битве при Себастии он нанес чувствительное поражение византийским войскам, которыми командовал Михаил Комнин.