Beyoğlu’nda bağımsız bir elçilik binasının 1553'te Fransızların yaptırmasından sonra, diğer ülke elçilikleri de Galata ve Pera'daki yapılara yerleşmeye başlamışlardır. Çoğunluğu ahşap olan bu elçilikler defalarca yanıp, yeniden yapılır.
1870 sonbaharında görevlendirilen mimar Hubert Goebbels'in tasarımıyla, 1872 ilkbaharında Yazıcı Sokak'ta yapıma başlanacakken; yeni elçi Von Radowitz, konumunun elverişsizliğini ileri sürerek uygulamayı durdurtur ve yeni arsa arayışını başlatır. Böylece de Ayazpaşa'daki büyük Müslüman Mezarlığı’na komşu olan, büyük bir arsa 95.000 altın marka satın alınır.
Satın alınan arsanın bir bölümü, mezarlık parsellerinden oluştuğundan, özel izin alınarak mezarlar taşıtılmış, ancak Fındıklılı tarihçi Silahdar Mehmed Ağa ve ailesinin mezarları, istek üzerine yerlerinde bırakılmıştır. Almanların burayı yeğlemelerinin nedenleri arasında, Pera’nın bilinen sıkışıklığında büyük bir arsa bulunmayışının yanı sıra, Boğaz ve Marmara yönlerindeki olağanüstü manzaralı bir konumda oluşu gösterilebilir.
Bütçe kısıtlaması ve zaman darlığı nedeniyle Goebbels'in Yazıcı Sokak için hazırladığı projenin uygulanması kararlaştırılır. Goebbels'in ölümü üzerine onun yerine görevlendirilen mimar Kortum, büyük bir hızla yapıyı tamamlatmıştır. Binanın resmi açılışı 1877 sonlarında yapılmıştır.
Biçem ve kitlesel özellikleri konusunda, o yıllarda geniş bir yapı etkinliğine sahne olan Berlin'deki kamu yapılarından esinlenildiği bilinen elçilik, cadde yönünden dört katli bir kitle olarak algılanır. İki yan ve deniz cephelerinin orta bölümleri, çıkıntı halinde taşırılarak belirginleştirilen yapıda sekiz köşeye, çatıda kanatlarını açmış Alman kartallarının yerleştirilmesiyle, halk diliyle “Kuşlu Saray” olarak tanınmaya başlanmıştır.
Deniz yönünde ise, arsanın çok eğimli olusu nedeniyle, iki bodrum katinin eklenmesinin yanı sıra, teraslamalar yapılması da zorunlu olmuştur.
Yapı, elçilik çevresindeki ahşap ev ve konaklardan oluşan doku içinde çok farklı ölçekteki, hantal kitlesiyle belirginleşmiştir. Yapı malzemesinin ve ustalarının çoğunun da dışarıdan getirildiği Alman Sarayı’nın iç düzenlemesinde hiçbir masraftan kaçınılmamıştır.
Değişik tarihlerde yapılan onarımlar sonucu, yapının özgün cepheleri bir hayli değiştirilmiştir. (1924 onarımında çatı kartalları kaldırılmış, bir daha da yerlerine konmamışlardır.) 1980'lerin sonlarında yapılan geniş kapsamlı bir restorasyon sonucu cepheler, özgün biçimlerine döndürülmüş, iç düzenleme
çağdaşlaştırılmıştır.
Cumhuriyet döneminde tüm elçiliklerin Ankara'ya taşınmaları sonucu yapı, günümüzde Alman Konsolosluğu olarak görev yapmaktadır.