В тот же день оккупанты отдали приказ о том, чтобы 29 сентября 1941 г. к 8 часам утра все еврейское население города явилось в Бабий Яр с документами и ценными вещами. За невыполнение этого приказа полагался расстрел. В конце улицы были устроены ворота, за которые людей пропускали группами по 30-40 человек, предварительно отбирая у них вещи и одежду. Затем местные коллаборационисты дубинками гнали людей к проходам в насыпи на краю оврага. На противоположной стороне сидели пулеметчики. Тела расстрелянных падали на дно. После того, как ров заполнялся несколькими слоями трупов, сверху его присыпали землей.

За 29 и 30 сентября было казнено 33 771 человека. Дальнейшие расстрелы евреев проходили до середины октября 1941 г. Большинство из убитых составляли женщины, старики и дети. Стоит учесть, что среди них кроме евреев были представители других народов из интернациональных семей.

Массовые казни продолжались вплоть до освобождения Киева. Так, 10 января 1942 г. были расстреляны около 100 матросов Днепровского отряда Пинской военной флотилии. Бабий Яр стал местом расстрела пяти цыганских таборов. Кроме того, рядом с оврагом летом 1942 г. был открыт Сырецкий концентрационный лагерь. 18 февраля 1943 г. в нём были расстреляны трое игроков футбольной команды «Динамо», участников «Матча смерти» Н.А. Трусевич, И.С. Кузьменко и А.Г. Клименко. Всего в Сырецком концлагере погибло 25 тыс. человек.

По разным подсчётам, в Бабьем Яру в период с 1941 по 1943 гг. было расстреляно от 70 до 200 тыс. чел. Нацисты, отступая из Киева, в августе-сентябре 1943 гг. откопали и сожгли на открытых «печах» десятки тысяч трупов, а кости перемалывали на привезённых из Германии машинах. Их пепел был рассыпан по окрестностям Бабьего Яра. Через два года после первого расстрела, в ночь на 29 сентября 1943 г. в Бабьем Яру произошло восстание занятых на работах у печей 329 заключённых-смертников, из которых спаслись только 18 человек. Впоследствии они выступили свидетелями попытки нацистов скрыть факт массовых казней.