Имя Фельтена связано также с созданием замечательного сооружения, ставшего началом современного музея Государственный Эрмитаж.
Для размещения все увеличивающихся художественных коллекций решено было строить с восточной стороны жилого дворца специальное здание, возводившееся по проекту Деламота, а отчасти и в соответствии с проектом самого Фельтена (1764—1768).
Именно Фельтен осуществлял строительство здания. Он же в 1763—1766 годах разработал конструктивное основание Висячего сада и возвел жилой южный павильон (так называемый Малый дворец), а позднее, в 1769—1775 годах, им же были построены боковые галереи, предназначавшиеся для размещения картин.
По проекту Фельтена в 1775—1785 годах было построено «здание в линию с Эрмитажем» (Большой, или Старый, Эрмитаж). План из собрания Отделения рисунка Государственного Эрмитажа поясняет своеобразное название сооружения, встречающееся в архивных документах: при строительстве нового здания были использованы стены прежних построек, существовавших на этом участке, а возведенный фасад был как бы приложен, вытянут по одной оси с северным павильоном Эрмитажа. По проекту Фельтена был создан так называемый Овальный зал, который примыкал к этому павильону с восточной стороны.
В 1760—1770-х годах, после отъезда Растрелли, Фельтен был главным архитектором Канцелярии от строений. У Екатерины II по мере упрочения ее на престоле рождались грандиозные честолюбивые замыслы обновления столицы и загородных резиденций, преобразования всей страны. Она вникала во все строительные планы. Исполнителем ее намерений эти годы был Фельтен. На передний план выдвигались задачи градостроительного порядка. В числе первых мер по преобразованию Петербурга была совпавшая с окончанием строительства Зимнего дворца замена деревянной набережной Невы каменным парапетом с лестницами-пристанями.
Фельтену принадлежала определяющая роль в осуществлении этого замысла, хотя, несомненно, участников было много. В результате город обогатился сооружением, величавым по естественной простоте своих очертаний и мастерству обработки гранита безымянными каменотесами.
В июне 1770 года последовало распоряжение об установке решетки у Летнего сада. Совершенство решетки Летнего сада, классическая простота и завершенность ее строгого графического рисунка постоянно приковывают к себе внимание. Она стала своеобразным эталоном сооружений подобного рода. Ее композицию неоднократно варьировали позднее. Ограде Летнего сада посвящали стихи поэты.
С 1772 года началась педагогическая деятельность Фельтена в Академии художеств, занимавшая много времени. Внимания требовали постройки в столице и пригородах. С этих пор непосредственное наблюдение за ведением работ по установке ограды возлагается на Петра Егорова. В частности, по его замечаниям корректировался окончательный рисунок ворот и завершений столбов в виде ваз и урн, поначалу не предусмотренных. Егоров руководил производством работ до самого окончания строительства в 1784 году.
Объективная оценка заслуг Егорова вовсе не противоречит правильному пониманию роли Фельтена в сооружении решетки. С самого начала строительства роль Фельтена была не административной, а определяющей, формирующей характер и вид будущего сооружения.
В 1773 году на площади Зимнего дворца Фельтен переделал дом, который называли Глазовским – по имени его владельца капитана В. Глазова. Удачно выполненное зодчим поручение побудило императрицу повелеть 20 декабря 1778 года преобразить площадь «против императорского Зимнего дворца, между восточным углом Адмиралтейства и Миллионною улицею». Примерно через месяц, 26 января 1779 года, в Академии художеств был объявлен конкурс на застройку площади.
В октябре в Академии обсуждались итоги конкурса. Предпочтение было отдано модели «с порталом дорического ордера и антаблементом ордера коринфского… по открытии записки, приобщенной при упомянутой модели», сочинителем ее оказался архитектор Фельтен.
Именно на эти годы приходится широкое внедрение типового строительства в России. Принятое в результате конкурса предложение Фельтена и явилось таким типовым проектом, согласно которому должна была оформляться площадь. Работы, начавшиеся в восьмидесятых годах по его проекту, растянулись на многие годы. По соседству с Глазовским были возведены два дома – для А.Д. Ланского и Я.А. Брюса. Следует заметить, что по той же типовой схеме предполагалось видоизменить разнохарактерные фасады сороковых годов на Миллионной-Луговой улице, составлявшей юго-восточную границу площади, в результате чего вся она должна была получить единый облик в соответствии с проектом Фельтена.