A háborúban vesztes Németországot és annak fővárosát, Berlint a győztes szövetséges nagyhatalmak (az Egyesült Államok, Nagy-Britannia, Franciaország és a Szovjetunió) megszállási övezetekre osztották. A szovjet zóna közepén fekvő Berlin keleti, szovjet része az 1949-ben létrejött Német Demokratikus Köztársaság (NDK) fővárosa lett, a nyugati szövetségesek által ellenőrzött részén jött létre Nyugat-Berlin. A két városrész között többé-kevésbé szabadon lehetett közlekedni, ennek következtében 1949 és 1962 között két és félmillió ember - többségük jól képzett szakember - távozott végleg nyugatra.
Az NDK egyre jobban sérelmezte állampolgárai számának fogyatkozását és a nyugati oldalra ingázók által okozott hatalmas veszteséget. Jóllehet Walter Ulbricht, a keletnémet államfő-párttikár 1961 júliusában még azt mondta, senki sem akar falat építeni, augusztus 11-én a kelet-berlini parlament teljes felhatalmazást adott a kormánynak az ország védelmében szükséges intézkedések meghozatalára. 1961. augusztus 13-án hajnalban "az NDK államhatárának biztosítása céljából" a hadsereg és a rendőrség egységei szögesdróttal, drótakadályokkal zárták le Kelet- és Nyugat-Berlin határát, két nap múlva pedig megkezdték a betonelemekből álló fal felhúzását.
A fal nem az ellenség távoltartására, hanem a lakosság helyben tartására épült, de hivatalosan "antifasiszta védműként" emlegették.
Az addigi 80 szektorátlépő közül csak 12 maradt nyitva, a tömegközlekedés csonkává vált. A 155 kilométer hosszú, egész Nyugat-Berlint körülvevő, folyamatosan erősített, végül már 3,5 méter magas fal a várost 44 kilométer hosszan szelte át, vonalán 302 figyelőtorony és 20 földalatti bunker volt.
Keletnémet területen 100 méterrel beljebb egy szögesdrótrendszer is húzódott, s még ennek megközelítése is szigorúan tilos volt. A két kerítés közötti "halálzónába" eső házakat elbontották, helyükre aknamezőt, vizesárokrendszert, kutyák futtatására szolgáló sávot telepítettek, a határőrök mindenkire lőttek, aki belépett a zónába.
A fal egyetlen éjszaka családokat szakított szét, kelet-berliniek ezreit hagyta munka és megélhetés nélkül. Az első órákban számos atrocitásra került sor, a szigorú biztosítás ellenére az építkezés alatt 85 keletnémet katona és 800 civil szökött nyugatra.
A nyugat-berliniek tiltakoztak, de az Egyesült Államok tudatta Moszkvával, hogy "a nemzetközi élet tényeként" elfogadja a fal létezését. A berlini fal tövében mondta el egyik leghíresebb beszédét 1963. június 26-án John F. Kennedy amerikai elnök, aki az Ich bin ein Berliner szavakkal fejezte ki szolidaritását, 1987-ben a Brandenburgi kapunál szólította fel Ronald Reagan amerikai elnök Mihail Gorbacsov szovjet vezetőt, hogy rombolja le a falat.
A fal nyugati oldalán több világsztár, köztük David Bowie és Bruce Springsteen adott a keleti részen is hallható koncertet.
A fal 1989. novemberi lerombolásáig mintegy ötezer embernek sikerült nyugatra menekülnie, s körülbelül ugyanennyit fogtak el.
Azt nem tudni pontosan, hányan vesztették életüket menekülés közben: a potsdami Kortárs Történeti Kutatóközpont 140 halálesetet tart nyilván (köztük van határőr és véletlen áldozat is), más intézetek ezt a számot jóval magasabbra, 200-nál többre teszik. Az első áldozat 1961. augusztus 22-én egy 59 éves nő volt, aki az épülő fal határán álló lakása erkélyéről akart a nyugat-berlini utcára átugrani, de a kidobott matracok helyett a betonra zuhant. Az utolsó, egy 33 éves férfi 1989. március 8-án saját maga készítette léggömbbel akart átjutni a fal fölött, de túl magasról ugrott ki, és halálra zúzta magát.
Bár Erich Honecker, az NDK vezetője még 1989 januárjában is azt mondta, a fal még "száz évig állni fog", az építmény még az év végét sem élte meg. A kelet-európai változások, a magyar kormány szeptember 10-i bejelentése az NDK-ból elmenekültek nyugatra engedéséről az NDK-ban is tíz- és százezres megmozdulásokhoz vezetett. A népharag miatt október 18-án a beteg, minden változtatást elutasító Honeckert elvtársai lemondatták, az új vezetés hatalma megőrzése érdekében reformokra kényszerült.
A fal nem várt leomlását a készülő liberalizált utazási rendelkezések összehangolatlan bejelentése okozta.
Günter Schabowski, az állampárt politikai bizottságának tagja 1989. november 9-én este élő tévéadásban közölte, hogy megnyitják a határokat. Nem tudva arról, hogy a végrehajtási utasítás csak fokozatos lazítást írt elő, kérdésre hozzátette: az intézkedés azonnal hatályos. A berliniek még a sajtótájékoztató alatt elözönlötték az átkelőhelyeket, a fallal együtt egy lélektani gát is leomlott, a tovább folytatódó tömegtüntetéseket már a német újraegyesítést sürgető jelszavak uralták.
A következő napokban a berliniek elkezdték bontani a falat. A határzár magánszorgalmú eltávolítása 1990. június 13-án öltött hivatalos formát, az első betonszelvényt a Bernauer Strasse és az Acker Strasse sarkán döntötték ki helyéről. A leghíresebb, sok regényben és filmben is szereplő átkelőhelyet, a Checkpoint Charlie-t június 22-én a négy nagyhatalom külügyminisztereinek jelenlétében bontották le, helyén ma múzeum áll. A határőrizet a fal helyén hivatalosan július 1-jén szűnt meg, a műszaki zárat 1991 novemberére számolták fel.
A falnak Berlinben csak hat rövid szakasza maradt meg mementóként, az egyiken graffiti-galériát hoztak létre. A falból a világ számos pontjára került, egy darabja 2004-ig a budapesti Tabánban volt látható, azóta a Magyar Máltai Szeretet Szolgálat zugligeti Befogadó Központjában áll. Egy másik darab az Andrássy úton, a Terror Háza Múzeum előtt látható, s idén a Páneurópai Piknik 30. évfordulóján Sopronpusztán is elhelyeztek egy faldarabot.