
Родился в семье кустарей-кожевников, еврей. Получил низшее образование, окончив два класса, затем самоучка. С 1914 по 1916 год состоял в партии «Поалей Цион». Рабочий-строгальщик в Оренбурге, там же в мае 1918 года был принят в партию большевиков. В 1918—1919 годах красногвардеец, следователь и член военного трибунала ВЧК. В 1919—1928 годах чекист в системе ОГПУ в городе Баку.
В феврале 1929 года в связи с делом Азербайджанского ГПУ коллегией ОГПУ приговорён к семи годам лишения свободы как участник незаконного расстрела рабочего (за превышение власти). В сентябре 1931 года по пересмотру дел Президиумом ВЦИК освобождён досрочно, а ОГПУ восстановило его на работе в своих органах. Тогда же решением Центральной контрольной комиссии по ходатайству членов ЦК ВКП(б) Орджоникидзе и Ягоды восстановлен в рядах партии. Со 2 ноября 1929 года начальник Ухтинской экспедиции Управления северных лагерей ОГПУ особого назначения (УСЕВЛОН)[1], с июля 1931 по август 1938 года начальник Ухтпечлага ОГПУ—НКВД. Проживал в Коми АССР, посёлок Чибью.
В 1938 году Я. М. Морозу были предъявлены обвинения в «преступной бесхозяйственности» и «пособничестве врагам народа». Арестован 21 августа 1938 года, а через 5 дней, 26 августа на собрании партийного актива лагеря одобрен приказ НКВД о снятии с работы и предании суду бывшего начальника Ухтпечлага Я. М. Мороза и главного инженера Ю. К. Максимовича. 16 сентября на собрании членов ВКП(б) управления и политотдела Ухтпечлага Я. М. Мороз как враг народа, проводивший организованную вредительскую деятельность в лагере, исключён из рядов ВКП(б). Приговорён Военной коллегией Верховного суда СССР (ВКВС) 19 января 1940 года по обвинению в участии в контрреволюционной террористической заговорщической организации. Расстрелян через два дня после вынесения приговора 21 января. Захоронен на территории Донского кладбища. Определением ВКВС СССР от 18 ноября 1958 года реабилитирован.