В конце XIV века многих караимов поселили в крепостях, расположенных цепочкой вдоль северной и северо-западной границы между Литвой и рыцарями Ливонского ордена для защиты литовской границы от немцев.416 Караимам была доверена и защита въезда на мост, соединявший крепость Трокай (расположенную на острове посреди озера) с берегом.417
Следует заметить, что караимы единственные из нехристиан в великом княжестве пользовались всеми выгодами Магдебургского права. Однако они не смешивались с христианской общиной Трокая, а были организованы в отдельную общину. Трокайским караимам было дано право избирать войта, должность которого подтверждалась великим князем и который был подчинен великому князю. Войт действовал как судья в тяжбах между караимами живущими в Трокае и теми, кто жил в других городах великого княжества, например, близ Львова. В тяжбе между караимом и христианином вопрос рассматривался объединенным судом войта и трокайского воеводы. Караимы получали половину дохода, поступавшего от муниципальных учреждений. Как и христианские горожане в муниципалитетах, подчиненных Магдебургскому праву, караимы были освобождены от целого ряда налогов и обязанностей.418
Помимо Трокая, караимские поселения существовали в Гродно, Луцке, Смоленске, Стародубе, Житомире, Киеве и ряде других городов великого княжества.419 В XVI и XVII веках караимы оказали литовскому и польскому правительству неоценимую помощь в войнах с крымскими татарами и оттоманскими турками. Тяжелые потери, которые они несли в боевых сражениях, должно быть, серьезно воспрепятствовали увеличению числа литовских караимов. Шведский историк Густав Перингер, который изучал караимов в 1690 г., отмечал, что их численность мала, потому что у них заведено уходить на войну в очень раннем возрасте.420
В своем «Трактате о двух сарматиях» (1517 г.) польский писатель Мацей из Мехова (Матвей Меховский) говорит, что на Руси (т.е. в Западной Руси) евреи (он имеет в виду караимов) «не являются ростовщиками, как евреи в христианских (т.е. римско-католических) землях, но ремесленниками, земледельцами и оптовыми купцами, которым часто дается откуп на собирание таможенных пошлин и государственных налогов».421 Некоторые караимы служили в администрации великого княжества. Они принимали активное участие в восточной торговле, а некоторые из них имели деловые отношения с Варшавой, Данцигом (Гданьском), Ригой и Смоленском.422
Несмотря на военную службу караимов и их большую пользу для литовского государства, указ о выселении 1495 г. касался их в той же степени, что и раввинских евреев. Обычно предполагается что большинство караимов отправились в Крым и возвратились в Литву в 1503 г. Однако в финансовом докладе о положении дел в великокняжеском замке в Трокае за 1498-1502 гг. упоминает ряд чиновников, привратников, мушкетеров и «казаков» с типична караимскими именами. Это говорит о том, что на многих караимов указ о выселении не распространился.