В итоге Амалия слова не сдержала и вскоре после свадьбы вернулась на концертную эстраду. «Брачная жизнь великого скрипача, — пишет Герингер, — постепенно стала несчастливой, так как супруг страдал от почти патологической ревности, постоянно разжигаемой тем образом жизни, который госпожа Иоахим, естественно, была вынуждена вести как концертная певица».
Конфликт между супругами особенно обострился в 1879 году, когда Иоахим заподозрил жену в близких отношениях с издателем Фрицем Зимроком. В этот конфликт вмешивается Брамс, абсолютно убежденный в невинности Амалии. Он уговаривал Иоахима опомниться и в декабре 1880 года послал Амалии письмо, послужившее впоследствии причиной разрыва между друзьями. «Я никогда не оправдывал Вашего мужа, — писал Брамс… — я еще раньше вас знал злополучное свойство его характера, благодаря которому Иоахим так непростительно терзает себя и других». Брамс выражал надежду, что все еще образуется. Письмо Брамса фигурировало на бракоразводном процессе Иоахима с женой и глубоко оскорбило музыканта. Дружбе его с Брамсом пришел конец. Иоахим развелся в 1882 году.
Несмотря на то что Иоахим в этой истории не прав, он и здесь предстает как человек высоких моральных устоев. В 1868 году Иоахим поселился в Берлине. Через год он стал директором открывшейся консерватории и занимал пост до конца жизни. В Берлине Иоахим был постоянно окружен почетом и уважением, к нему стекались ученики со всех концов мира. Музыкант вел напряженную концертную — сольную и ансамблевую — деятельность.
В Берлине Иоахим создал квартет, считавшийся одним из лучших в мире. В него входили помимо Иоахима Г. де Ана (позднее его сменил К. Галирж), Э. Вирт и Р. Гаусман.
Иоахим сыграл выдающуюся роль в распространении и популяризации произведений Баха и Бетховена. Их пропаганда стала делом всей его жизни. Шуман называл Иоахима лучшим истолкователем чудо-музыки Баха. О его исполнении Концерта Бетховена Ганс Бюлов писал в «Berliner Feuerspitze»: «Этот вечер останется незабываемым и единственным в памяти тех, кому выпало это художественное наслаждение, наполнившее душу глубоким восторгом. Не Иоахим играл вчера Бетховена, играл сам Бетховен! Это уже не исполнение величайшего гения, это само откровение. Даже величайший скептик должен поверить чуду; подобного перевоплощения еще не бывало. Никогда еще произведение искусства не воспринималось столь живо и просветленно, никогда еще бессмертие не претворялось в ярчайшую действительность столь возвышенно и лучезарно. На коленях должно было бы слушать такую музыку».
О его интерпретации последних квартетов Бетховена А.В. Оссовский писал: «В этих пленительных по возвышенной красоте и подавляющих в своей загадочной глубине озданиях гениальный композитор и его исполнитель были родными братьями по духу.
Недаром Бонн, родина Бетховена, поднес Иоахиму в 1906 году звание почетного гражданина. И как раз то, на чем срываются другие исполнители — бетховенские адажио и анданте, — именно они давали Иоахиму простор развернуть всю свою художественную силу».
Дважды в 1872 и 1884 годах Иоахим приезжал в Россию, где его выступления солиста и квартетные вечера проходили с огромным успехом.
Вспоминая выступление Иоахима с Лаубом в Москве в 1872 году, русский музыкальный критик О. Левензон писал: «В особенности нам остался памятен дуэт Шпора; исполнение это представляло собой истинное состязание двух героев. Как сказывались в этом дуэте спокойная классическая игра Иоахима и полная огня темперация Лауба! Как теперь помним колокольчикообразный звук Иоахима и жгучую кантилену Лауба».
«Суровым классиком», «римлянином» назвал Иоахима Коптяев, рисуя нам его портрет: «Хорошо выбритое лицо, широкий подбородок, густые зачесанные назад волосы, сдержанные манеры, опущенный взгляд — совсем давали впечатление пастора. Вот Иоахим на эстраде, все притаили Дыхание… Ничего стихийного или демонического, но строгое классическое спокойствие, не вскрывающее душевных ран, а излечивающее их. Настоящий римлянин (не эпохи упадка) на эстраде, суровый классик — вот впечатление от Иоахима».
Судя по отзывам очевидцев, в игре Иоахима преобладали мягкость, нежность, романтическая теплота. Он располагал относительно небольшим, но очень приятным звуком. Бурная экспрессивность, порывистость были ему чужды.
22 апреля 1891 года в Берлине состоялось празднование шестидесятилетия Иоахима. Примечательно, что на юбилейном концерте струнный оркестр, за исключением контрабасов, состоял исключительно из учеников юбиляра — 24 первых и столько же вторых скрипок, 32 альта, 24 виолончели.