De Zwitserse stichter, Roger Schutz (1915), vatte tijdens een zware ziekte het plan op een gemeenschap te beginnen die haar levenswijze zou baseren op het evangelie. Voorts zou zij pogen de verzoening tussen christenen te bevorderen. Met het oog daarop vestigde hij zich in 1940 in Taizé. De opvang van (voornamelijk joodse) vluchtelingen voor het naziregime moest hij vanaf 1942 tijdelijk staken. In 1944 voegden zich enkele mannen bij hem die zijn levenswijze wilden delen. Met Pasen 1949 legden de eerste zeven leden van de communiteit, die tegenwoordig ongeveer honderd leden uit vele landen omvat, de geloften af.

In 1952 kwam de eerste kloosterregel van Taizé tot stand. De leden van de gemeenschap voorzien door eigen arbeid in hun onderhoud. Als oecumenische kloostergemeenschap heeft Taizé al vroeg de aandacht getrokken. Schutz en zijn roomskatholieke confrater Max Thurian (1921-1996) werden als waarnemers uitgenodigd het Tweede Vaticaans Concilie bij te wonen. Taizé oefent sinds de jaren 1960 vooral een grote aantrekkingskracht uit op jongeren. In de zomermaanden brengen duizenden er enkele dagen door. De eenvoudige, vaak herhalende liederen die tijdens de driemaal daagse gebeds- en meditatiebijeenkomsten worden gezongen, hebben ingang gevonden in het volkszangrepertoire van talrijke parochies. Er zijn sinds de jaren 1960 ook kleine gemeenschappen van Taizé in andere landen ontstaan.

In 1970 kondigde Schutz, de charismatische prior van de gemeenschap, een jongerenconcilie aan, dat in 1974 bijeenkwam. De internationale Taizé-bijeenkomsten die sinds 1978 rond de jaarwisseling in grote Europese steden plaatsvinden, gaan op dit concilie terug.