Cohen, New York'ta İbranice konuşan, ılımlı Ortodoks, Rus kökenli Siyonist bir ailede dünyaya geldi. Cohen lisans eğitimini; 1943 yılında, Muhafazakâr Yahudiliğin ana merkezi olan Jewish Theological Seminary of America (JTSA) ve bununla paralel olarak New York City College'da (1944) tamamladı. Aynı zamanda Cohen, JTSA’da master derecesini ve 1948 yılında da rabinik diplomasını aldı. Cohen, doktorasını da Columbia Üniversitesi’nde 1958 yılında bitirdi. Küçük yaşta İbranice eğitimi alan Cohen, Amerikan Yahudiliğinin bir şubesi olan Muhafazakâr Yahudilikte önemli bir yere sahip olmuştur. JTSA’da ilk önce kütüphaneci olarak göreve başlayan (1950) Cohen, daha sonraki yıllarda, Yahudi Tarihi ve Literatürü dersleri vermeye başlamış, daha sonra da profesör olarak görevine devam etmiştir. 1972-1986 yılları arasında JTSA’nın rektörlüğünü yapan Cohen, 1985 yılında Muhafazakâr Yahudilik içerisinde ilk defa kadın rabbi atayan kişi olmasından dolayı en iyi bilinen rektörlerdendir. Cohen, rektörlük döneminde, başta Yahudi öğretmenler, idareciler ve rabbiler olmak üzere JTSA’yı, Amerika’daki tüm Yahudilerin eğitim merkezi olan bir üniversite haline getirmeye çalışmış, Tora Çalışmaları, Siyonizm, Halaka ve İbranice öğrenimi alanlarına büyük önem vermiş ve bunları Muhafazakâr Yahudiliğin merkezine yerleştirmiştir. Cohen, tarihselci bir yaklaşımla, bugünkü Yahudiliği tarihten gelen Yahudiliğin bir devamı olarak görüyordu. Onun gözünde, JTS gibi Amerika’daki tüm Yahudi dini eğitim kurumları işlevleri itibariyle, Yavneh akademisinden farklı değildi. O aynı zamanda, çeşitliliği tabii karşılıyor ve müstakil bir grup olarak “Conservative Judaism” tabirini kullanmaktan çekinmiyordu. Cohen, JTS’teki meslektaşlarından, Muhafazakâr hareketin başarılarıyla iftihar etmeleri gerektiğini söylüyor ve Amerikan diasporasındaki Yahudilerin kurumsallaşmasının gelecek nesiller için hayatiyet arzettiğini düşünmekteydi. Cohen’in en çarpıcı fikri, asimilasyonu Yahudiler için bir pozitif unsur olarak görmesiydi. Cohen’e göre, aslında asimilasyonun Yahudiliğin tarihsel bağlamı içerisinde değerlendirildiğinde olumlu bir değerinin olduğuna hak vermekte bir sakınca yoktu. Ona göre, asimilasyon ve kültürel değişim, bir yenilenme olarak görülmelidir çünkü bu iki faktör, Yahudi düşünce hayatınının canlanmasını teşvik etmekte ve geleneğin devamlılığına katkıda bulunmaktadır. Cohen’in bu fikri bazıları tarafından yaratıcı bir fikir olarak görülse de çoğu Yahudi çevrelerce eleştirilmiştir. Eleştirilere göre, Yahudiler tarihte, asimilasyon dolayısıyla çok zarar görmüş ve asırlarca Yahudilerin ayakta kalamamasına sebebiyet vermiştir. Özellikle Helenistik ve Grek dönemlerinde Yahudiler, isimlerini, dillerini kaybetmişler ve kutsal ibadet dili olan İbranice’yi bile terketmişlerdir. Cohen’in Yahudileri izole eden "Yahudi grubu" tabiri ile, yine Yahudileri bir azınlık olarak tarif eden; "Yahudiler daima azınlık olmuştur ve şüphesiz azınlık olarak kalacaktır” görüşü, Yahudileri yalnızlaştıran bir görüştür. Cohen, bir taraftan diasporada Yahudilerin (diğer dinler ve diğer Yahudi mezhepleri dahil) dış çevre ile diyaloğunu savunurken, diğer taraftan da Yahudileri bir “azınlık” olarak görüp onları toplumdan soyutlaması büyük bir çelişki oluşturmaktadır. Ayrıca Cohen, “sağlıklı bir İsrail” olabilmesi için Siyonizm ve İsrail Devleti’nin desteklenmesini her Yahudi’nin üzerine düşen bir görev olarak kabul etmektedir. Bu fikre sahip olmasında onun çocukluğunda yetiştiği Siyonist aile ve çevresinin büyük etkisi vardır. Nitekim, Cohen’in İsrail’de Merkaz adlı Siyonist organizasyonun kuruluşunda yer alması ve JTS’in İsrail’de şube ve bazı okulları açması, onun Siyonist görüşünü desteklemektedir. Fakat bu yaklaşım, diaspora Yahudiliğini zayıflatan ve bağımsız hareket etmesini engelleyen bir faktör olarak görülebilir.

Cohen was born in New York to a Hebrew-speaking, moderately Jewish Orthodox and Zionist family of Russian origin. Cohen completed his undergraduate education in the Jewish Theological Seminary of America (JTSA) in 1943, which is the main center of Conservative Judaism, and simultaneously, in New York City College in 1944. Cohen also received his master's degree in JTSA and his rabbinic diploma in 1948. Cohen completed his doctorate at the University of Columbia in 1958.