Родился 22 января 1922 года в городе Козельце на Черниговщине в еврейской семье. Жили бедно, нуждались порой в самом необходимом.
В поисках лучшей доли родители часто переезжали с места на место, и когда мальчику исполнилось три года, семья уже жила в Киеве. Потом отцу поэта Давиду Исаевичу Левитанскому удалось найти работу на одной из донбасских шахт. Вскоре семья перебрались в столицу шахтерского края город Сталино (ныне Донецк).
Окончив школу в 1938 г. в Сталино, Юрий Левитанский едет в Москву, где в 1939 г. поступает в Институт философии, литературы и истории (ИФЛИ).
С началом Великой Отечественной войны поэт со второго курса института добровольцем ушёл на фронт в звании рядового, служил в частях ОМСБОН(Отдельную мотострелковую бригаду особого назначения), стал лейтенантом, затем военным корреспондентом, начав печататься в 1943 году. во фронтовых газетах. Воинская часть, к которой он был приписан, вошла в Москву в октябре 1941-го и заняла оборону на рубеже Белорусского вокзала. Позже, уже в ноябре, их забросили в район Волоколамска. В декабре Левитанский участвовал в наступлении советских войск под Москвой. А дальше — Синявинские болота, затем Украина, Бухарест, Братислава. Свой боевой путь молодой лейтенант закончил в Праге. Служил в пехоте на Северо-Западном, Степном и 2-м Украинском фронтах.
В начале лета 1945-го все подразделения 53-й армии, где проходил службу Левитанский, погрузили в эшелоны с намереньем отправить на дислокацию в Одесский военный округ. Однако вместо Одессы он оказался в Монголии — на войне с Японией. Лишь спустя несколько месяцев его перевели в Иркутск, в состав Восточно-Сибирского военного округа. Демобилизовался в 1947 году.
В 1955 году Юрий Левитанский поступает учиться на двухгодичные Высшие литературные курсы при Литературном институте им. Горького.
В 1957-м вступает в Союз писателей СССР. Вместе с женой Мариной он окончательно переезжает в Москву. В мае 1995 года ветеран Великой Отечественной отметил 50-летие Победы, а в июне был удостоен звания лауреата Государственной премии России за поэтическую книгу «Белые стихи».
Умер 25 января 1996 года, похоронен на Ваганьковском кладбище Москвы.
Награждён орденами Красной Звезды и Отечественной войны, медалями «За боевые заслуги», «За оборону Москвы», «За взятие Будапешта», «За победу над Германией», «За победу над Японией», двумя медалями Монголии и другими.