Аристократия организует ряд покушений на правителей. Именно к 520–514 годам до Р. X. относится вторая ссылка Алкмеонидов, а также заговор некоего Кедона против тиранов. Заговор провалился, хотя у Кедона был круг верных сторонников, еще долго воздававших ему хвалу на пирах. Вторую попытку свержения тирании, вероятно, также до 514 года, предприняли изгнанные Алкмеониды, обосновавшиеся в Липсидрионе в Парнасских горах. Но и они потерпели неудачу и были вынуждены покинуть страну. Третий заговор принес частичный успех: на Панафинейских играх 514 года Гиппарх был убит Гармодием и Аристогитоном.
На этот раз основные источники Фукидид и Аристотель едины в том, что один из братьев Гиппия тяжело оскорбил сестру Гармодия, который вместе со своим другом Аристогитоном решил за это отомстить. Заговорщики собирались убить и Гиппия и таким образом свергнуть тиранию.
Но осуществить задуманного в полной мере не удалось. После того как Гармодий заколол кинжалом Гиппарха, его тут же убили телохранители тиранов. Аристогитон же попытался скрыться, но был вскоре схвачен и после допроса под пытками казнен.
Гиппия спасло лишь то, что он находился во время покушения в другом месте.
После кровавых событий Гиппий перестает церемониться с оппозицией, и режим становится более суровым. Многих, причастных к заговору он велел казнить, а подозрительных или просто ненадежных изгнал из Аттики.
Около 513 года рудники в Пангейских горах перешли к персам, продвинувшимся через Южную Фракию до Стримона. Чтобы компенсировать финансовые потери, Гиппий, считавший себя собственником земли Аттики, ввел новые налоги Он потребовал платить налоги даже за входные лестницы и изгороди, якобы расположенные на его территории.
Недовольство населения росло, тем более что денежные средства расходовались на увеличение наемного войска и укрепление возвышающейся над гаванью Мунихийской горы. Впрочем, и то и другое было теперь необходимо для сохранения тирании. В то же время Гиппий завязывает дружественные отношения с персами, а оппозиционеры в это время обращаются за помощью к изгнанникам, мечтавшим о возврате на родину. Во главе их стояли Алкмеониды. Первая армия эмигрантов была разбита при Липсидрии.
Спартанцы же выступали против власти тиранов во всем греческом мире. Но с Писистратидами у них были наилучшие отношения, и поэтому лишь после долгих колебаний они решились принять участие в их свержении.
Спартанцы отправили против Гиппия отряд под предводительством Анхимолия, но он был уничтожен афинянами, а полководец убит. Тогда против Гиппия отправляется во главе войска сам спартанский царь Клеомен; ему удается одержать верх над Гиппием и осадить его в акрополе. Но и этот поход грозил окончиться неудачей спартанцам надо было возвращаться на родину, а Гиппий имел с собой достаточно припасов, чтобы выдержать долгую осаду. И только после того, как спартанцам удалось захватить в плен сыновей Гиппия, пытавшихся незаметно уйти из акрополя, тиран согласился оставить Афины (510), оговорив себе и своим близким личную неприкосновенность. Он отправился в Сигей, завоеванный его отцом и находившийся теперь под властью персов, где и правил под протекторатом персидского царя.
Через несколько лет у Гиппия появилась надежда вернуться в Афины. В Спарте вскоре пришли к выводу, что изгнание Писистратидов не принесло нужных результатов. Исагор, которому лакедемоняне покровительствовали, не смог удержать в руках власть над аттическим полисом и вынужден был уступить место вернувшемуся Алкмеониду Клисфену, преобразовавшему строй Афин в демократическом духе. Однако попытка свергнуть Клисфена вооруженным путем потерпела поражение (506) из-за колебаний коринфян и раздора между двумя спартанскими царями на поле битвы.
Гиппий по-прежнему искал шанс восстановить тираническую власть в Афинах. Он попытался достичь своей цели с помощью сатрапа в Сардах Артафрена. Поскольку в 506 году афиняне, когда им грозило нападение пелопоннесцев, беотийцев и халкидян, уже обращались к сатрапу с просьбой о помощи и выполнили его встречное условие дать великому царю «землю и воду» (то есть признать его верховенство), перспективы изгнанного тирана были неплохими. Ведь персы уже владели многими греческими городами Малой Азии с помощью зависимых от них тиранов Артафрен категорически потребовал от афинян, которых он рассматривал как подданных царя, восстановления правления Гиппия, но, когда его требование было отклонено, отступил (около 502 года).