Войну встретил заведующим военно-физкультурным отделом «Комсомолки». На фронте с первых дней. О нем сохранились прекрасные письма его фронтового друга Всеволода Вишневского: «Яков Гринберг пришел к нам в начальную пору войны – в июле 1941 г. Мы не сразу узнали, каков он в работе – но он сумел и поставить себя, и сработаться с коллективом без торопливости, лишних изъявлений и пр. Он был человек ровного выдержанного типа. Ровно, скромно пошел он в одну из рискованных десантных операций в районе Пернова. Ровно, скромно вел работу в «Красном Балтийском флоте», где охотно печатали его статьи и заметки за подписью «Я. Грин». Он аккуратно посылал материалы в свою «Комсомольскую правду»… Работал не только для «Комсомолки» и «Красного Балтийского флота» - был одним из активнейших членов редколлегии русской газеты в Таллине «Советская Эстония».
Я. Гринберг работал ровно, выдержанно, трудолюбиво, день за днем, бывал в частях и на кораблях. Он делал много записей впрок – ездил на фронт в особые разведгруппы, знакомился с комсомольцами и неустанно записывал факты боевой комсомольской работы в многодневных боях за Таллин. Я. Гринберг вошел в нашу морскую семью, как хороший товарищ и работник.
…Подошли дни осады Таллина (19-20 августа 1941 г.). 26 и 27 августа Яков был на перекрестке шоссе у памятника «Русалка». Здесь останавливал отступающих, формировал отряды, наводил порядок и по-большевистски обеспечивал оборону окраин Таллина. Работа эта велась в условиях обстрела со стороны автоматчиков и минометов. Яков вышел с рейда к вечеру 29 августа и вскоре подвергся ряду атак… Транспорт погиб. Яков Гринберг до последней минуты стоял на своем месте, внося порядок и показывая пример выдержки.
Мы ждали возвращения, спасения ряда товарищей две недели…»
Имя Якова Гринберга на памятной Стеле редакции.