Arap egemenliği bittikten sonra, Tanzanya bir Alman sömürgesi durumuna geldi. 1880'lerden 1919 yılına kadar Almanya'nın boyunduruğu altında kalan Tanzanya, Milletler Cemiyeti'nin kurulmasıyla beraber İngiliz boyunduruğuna geçti. Ancak kuzeybatı bölgesindeki, bugün Ruanda ve Burundi olarak bilinen bazı küçük ülke toprakları Belçika'ya verildi.
İngiliz sömürge dönemi 1961 yılına kadar sürdü. 1961 yılında ise, Kenya'da olduğundan farklı olarak bölge daha barışçıl bir şekilde bağımsızlığını elde etti. 1954 yılında Julius Nyerere, Tanganika Afrika Ulusal Birliği'ni (TANU) kurdu. TANU'nun asıl amacı, Tanganika'nın bağımsızlığı için savaşmaktı. Yeni üye alımlarından sonra TANU, bölgedeki en güçlü kurumlardan biri oldu. 1961 yılında elde edilen bağımsızlığın ardından, Nyerere'nin ilk devlet başkanlığı görevi başladı. Ancak Nyerere'nin ilk başkanlık süreci Afrika sosyalizmi dönemine geçişle ve Arusha Bildirgesi ile sona erdi.
Komşu Zengibar da 1963 yılında, üzerindeki Arap boyunduruğunu atarak Zengibar Devrimi'ne imza attı. 26 Nisan 1964 yılında ise Zengibar ile Tanganika birleştirilerek, bugünkü Tanzanya adını aldı. Nyerere'nin Tanzanya'da ikinci defa başa gelmesiyle beraber tek partili bir diktatörlük kuruldu. Bu yeni sosyalist rejim, Doğu Bloğu güçleri olan Çin, Doğu Almanya ve SSCB tarafından desteklendi. Ancak bu süreç içinde rüşvet ve siyasi bozukluklar hızla artmaya başladı.
Sosyalist rejim süresince kimi köyler yakılarak, sakinleri zorla toplu tarlalarda çalışmaya yollandı. Bu durum tarımsal yeterliliği ve üretimi bozguna uğrattı. Öyle ki, başta geçimlik çiftçilerle dolu olan ülke, bu yanlış siyaset yüzünden kıtlığa sürüklendi. 1970'lerin sonunda bu durum daha da kötüye gitti. Bu süreçten sonra Tanzanya, komünist Çin'den yardım almaya başladı.
Bu dönemin ardından Tanzanya, dünyanın en az gelişmiş ve dış yardıma en çok gereksinim duyan ülkelerden biri haline geldi.