Карл Эммерман родился 6 марта 1915 года в Гамбурге. На флот он пришёл в апреле 1934 года в возрасте 19 лет. После окончания курса начальной военной подготовки летом того же года Эммермана вместе с другими кадетами отправили на учебный парусник «Горьх Фок» для прохождения морской практики, которая длилась до осени. Затем они совершили кругосветное плавание на лёгком крейсере «Карлсруэ», длившееся десять месяцев. Летом 1935 года Эммерман сдал экзамены и был зачислен в военно-морское училище Мюрвика, где с учётом обучения на других курсах повышения квалификации офицерского состава он находился до июня 1940-го.
Войну Эммерман встретил в Мюрвике, уже будучи в звании оберлейтенанта цур зее. Так как флоту требовались подводники, в июле 1940 года он перешёл служить в подводные силы. Окончив Школу подводного плавания и пройдя обучение артиллерийскому делу в 1-й учебной дивизии подплава, в ноябре Эммерман был назначен первым вахтофицером подлодки UA, обязанности которого исполнял до августа 1941 года. Любопытно, что именно эту субмарину 7 марта 1941 года атаковал британский эсминец «Вульверин». Долгое время считалось, что во время этой атаки была потоплена U 47 знаменитого Гюнтера Прина, но в итоге удалось выяснить, что глубинные бомбы эсминца предназначались UA.
В августе 1941 года Эммерман направился на трёхмесячные курсы командиров подлодок, после чего ему было присвоено очередное звание – капитан-лейтенант. 5 ноября 1941 он получил под своё командование лодку U 172 – новенькую «девятку» типа IXC, на которой впоследствии пять раз выходил в море, топя в среднем по 30 000 брт за поход. После прохождения испытаний и курса обучения экипажа в апреле 1942 года субмарина вошла в состав 10-й боевой флотилии, базировавшейся во французском Лориане. 22 апреля лодка вышла из Киля, чтобы совершить переход во Францию, который продлился 12 суток. Это был единственный поход Эммермана, в котором он не потопил ни одного судна. Спустя пять дней U 172 отправилась в Карибское море, где её жертвами стали девять судов общим тоннажем 40 619 брт. Последним судном, потопленным Эммерманом в этом походе, был американский сухогруз «Санта Рита», которой стал причиной настоящей бойни судов союзников в конце 1942 года.
Эммерману удалось захватить на «Санта Рите» очень ценные документы, включая сведения об обороне важного южноафриканского порта Кейптаун. На основании этих данных штаб подводных сил спланировал операцию «Кейптаун», которую должна была проводить группа «Айсбер», включавшая четыре подводных крейсера типа IXC и подводный танкер U 459. Одновременно с ними в Индийском океане должна была начать действовать группа из четырёх лодок типа IXD2 и итальянской субмарины «Каньи». Правда, из-за истории с британским лайнером «Лакония» события стали развиваться совсем не так, как предполагал Карл Дениц. Командующему пришлось произвести рокировку лодок, заменив в группе «Айсбер» U 156 Вернера Хартенштайна другой субмариной.