Atbrīvošanas cīņu Tanganikikā vadīja Tanganikikas Āfrikas Nacionālā apvienība, kuras karogs bija horizontāli zaļš-melnzaļš trīskrāsains. Vēlēšanas apstiprināja milzīgo tautas atbalstu šai organizācijai, un Lielbritānijas varas iestādes ierosināja mainīt partijas karogu, lai to izmantotu kā valsts karogu pēc neatkarības iegūšanas 1961. gada 9. decembrī. Tajā laikā tika pievienotas dzeltenas fimbrācijas.
Arābu pakļautībā Zanzibāra jau sen bija plīvojusi sarkanā karodziņā, bet melnā, dzeltenā un zilā karoga priekšā 1964. gada 12. janvārī pie varas nāca Āfrikas melnais režīms. Nākamajā mēnesī valdošā Afro-Širazi partija ieviesa jaunu valsts karogu, kas līdzīgs tās pašas karogam. Horizontālās zili-melni zaļās svītras apzīmēja attiecīgi jūru, cilvēkus un zemi, savukārt šaura balta vertikāla josla pie pacēlāja bija mieram.
1964. gada aprīlī Tanganyika un Zanzibar valstis apvienojās, un jūlija sākumā viņu karoga tradīcijas tika apvienotas, lai izveidotu jaunu Tanzānijas valsts karogu. Karoga krāsas tika atdalītas pa diagonāli. Lielāko valsts iedzīvotāju daļu simbolizē melnā josla, bet zaļā krāsa norāda uz zemes bagātīgajiem lauksaimniecības resursiem. Minerālu bagātība atspoguļojas šaurās dzeltenajās robežās, bet Indijas okeānu simbolizē zils. Pēc Zanzibāras apvienošanās ar Tanganikiku Zanzibāras karogs šajās salās joprojām tika izmantots lokāli.
