После образования Варшавского герцогства Берек вернулся на родину, в чине полковника командовал эскадроном улан и получил за храбрость еще и высший польский орден - военный крест "Виртути милитари". Кроме него служили в польской армии майор уланов Каспер Юнгоф, капитан стрелкового полка Мордка Розенфельд, военный врач Филипп Любельский и другие евреи.
В 1809 году австрийский корпус вторгся в пределы герцогства, и Берек поспешил со своим эскадроном в Люблин. Возле города Коцка он напал на австрийский отряд, смял его и потеснил, но к неприятелю подошло подкрепление, и после отчаянной борьбы Берек был изрублен венгерскими гусарами. Австрийцы докладывали потом: "Под Коцком убит знаменитый польский полковник Берек, сильно оплакиваемый; по национальности он был еврей". Жители Коцка похоронили его возле своего города и насыпали над могилой курган, который так и назывался потом долгие годы: "курган Берека". В народе сохранилась поговорка: "Погиб, как Берек под Коцком". Солдаты польской армии распевали песни о популярном командире, и в одной из них были такие слова: "В этом собачьем деле погиб Берек под Коцком". Полковника Иоселевича провозгласили национальным героем Польши. О нем писали рассказы и пьесы, описания его подвигов вошли в польские хрестоматии для детей, а граф Потоцкий сказал о Береке такие слова: "Помнит отчизна и битвы твои за нее, и давние раны, полученные в борьбе; помнит вечно, что ты первым дал пример своему народу, пример возрожденной доблести, и воскресил облик тех воинов, которых некогда оплакивали дщери Сиона".
Но еврейские жертвы на благо Польши ни к чему не привели. Варшавское герцогство просуществовало недолгое время, однако его правители успели ввести многие ограничительные законы для польских евреев, хотя у властей были тогда и иные заботы - тяжелый экономический кризис и полная неуверенность в завтрашнем дне. Первым делом евреев выселили с главных улиц Варшавы, хотя незадолго до этого они дали большой кредит на нужды столицы, и отцы города этот кредит благосклонно приняли. Особый декрет перечислял запретные улицы, - среди них оказалась и улица под названием Еврейская, - потому что, как было сказано, "большое скопление евреев влечет за собой разные опасные последствия, пожары и потерю здоровья, а переполнение этим народом главных улиц и домов мешает удобству публики". Домохозяева с запретных улиц просили отменить это ограничение, чтобы не потерять квартирантов; домохозяева с разрешенных улиц отстаивали ограничение, чтобы заполучить тех же самых квартирантов; но дополнительным указом правительство запретило держать на главных улицах даже еврейские магазины. Учитывали самые незначительные мелочи: если, к примеру, угловой дом одной стороной выходил на разрешенную улицу, а другой - на неразрешенную, то в одной половине этого дома могли селиться евреи, а в другой половине это им запрещалось.