После того как 16 декабря 1937 года Имперское министерство финансов утвердило размеры финансирования института, Карл Дим направился в Лозанну, чтобы перевезти в Берлин первую часть архивов Кубертена. Для этого не потребовалось вести длинные переговоры, так как завещание Кубертена было для МОК обязательным к исполнению документом. В итоге официальное открытие Международного олимпийского института без каких-либо проблем произошло 9 февраля 1938 года. Теперь от МОК требовалось согласие на то, чтобы национал-социалистическая Германия являлась официальной преемницей всего духовного наследия Кубертена. Речь шла не о документах, а об общей совокупности идей, положенных в основу олимпийского движения. Выполнение этого задания в очередной раз было поручено Карлу Диму, которого в марте 1938 года послали на заседание МОК, проходившее в Каире. На этот раз успех не во всем сопутствовал ему. Поначалу тон на заседании задавала прогерманская группировка, в которую входили граф Байе-Латур, Зигфрид Эдстрём, Эйвери Брэндедж и т. д. Но в итоге удалось добиться только формального разрешения на издание «Олимпийского обозрения». Поскольку как раз во время заседания МОК произошел аншлюс Австрии, то Карлу Диму не удалось убедить абсолютно всех, что «Германия с се миролюбивыми целями должна стать центром всего олимпийского движения». Но национал-социалистической прессе это обстоятельство не помешало подать информацию исключительно в выгодном для себя свете.
Международный олимпийский институт начал свою деятельность в апреле 1938 года. В то же время Карла Дима официально назначили директором этого учреждения. Несмотря на то что финансирование института происходило но линии имперского правительства, предпринимались многочисленные попытки изобразить его как совершенно независимую от национал-социалистов структуру. Если говорить о конкретной деятельности Дима на посту директора института, то она в основном сводилась к выпуску журнала «Олимпийское обозрение», большую часть статей в который он сам и писал. Эти материалы были посвящены истории спорта, спортивно-практическим темам, популяризации наследия Кубертена. До апреля 1943 года журнал выходил раз в квартал. Затем раз в полгода. Последний его выпуск увидел свет в октябре 1944 года. На тот момент здание Международного олимпийского института очень сильно пострадало от воздушных налетов. В огне погибли многие рукописи Кубертена, документы и фотографии, относящиеся не только к Олимпиаде 1936 года, по и другим играм. В своей послевоенной книге «Жизнь, посвященная спорту» Карл Дим сообщал читателю, что, «продолжая олимпийскую деятельность даже в годы войны, я предпринимал множество зарубежных поездок». Эта информация не совсем соответствовала действительности. Да, Дим в годы Второй мировой войны много раз бывал за пределами Германии. Но ни в одной из этих поездок он не был в качестве директора Международного олимпийского института. Представляется весьма интересным, как и почему Карл Дим выезжал за рубеж.