У тым-жа годзе Карскага, семдзесяцілетняга хворага старэчу, арыштоўвае дый садзіць у вязьніцу ГПУ, закідаючы яму прыналежнасьць да антысавецкіх арганізацыяў. Колькі месяцаў пазьней, 29 красавіка 1931 году, Карскі памірае.
Пастановай ураду БССР імя Я. Карскага прысвоена Гродзенскай абласной бібліятэцы і Лашанскай сямігодняй школе. Адна з вуліц Гродна названа імем Карскага. 15.1.1961 г. адбылася сэсія аддзяленьня грамадзкіх навук АН БССР у Менску. Даклады чыталі Суднік, Жураўскі, Бырыла, Цімашэнка, Мартынец.
Апрача моваў славянскіх Карскі знаў добра мовы грэцкую дый лацінскую, ведаў і санскрыт, але, што ў беларускай моваведзе асабліва важна, ня знаў балцкіх моваў.
Навуковая спадчына
Карскі пакінуў па сабе больш 800 працаў, артыкулаў, зацемак, рэцэнзыяў. Бальшыня ягоных працаў арыгінальных прысьвечаная беларусаведным пытаньням. З тэматычнага гледзішча працы Карскага можна падзяліць на:
1. Працы моваведныя
2. Працы ў галіне беларускае этнаграфіі й фальклёру
3. Працы з гісторыі беларускае літаратуры
4. Працы зь беларускае палеаграфіі
5. Манаграфію «Беларусы»
6. Працы ў небеларусаведных галінах
1. Працы моваведныя
Да гэтае трупы належыць найбольшы лік беларусаведных працаў Карскага. Яны зьяўляюцца й найважнейшымі з навуковага гледзішча спасярод усяе навуковае спадчыны Карскага. У выдадзеным у мінулым годзе ў Менску Беларускім Дзяржаўным Унівэрсытэтам «Бібліяграфічным указальніку літаратуры па беларускаму мовазнаўству», складзеным М. А. Жыдовічам, Я. М. Рамановічам і А. К. Юрэвічам, які прэтэндуе на паўніню і падае 1864 пазыцыі, працы Карскага абыймаюць больш 100 пазыцыяў, што дае — яшчэ й 30 гадоў пасьля сьмерці Карскага — больш 5 % усіх працаў.
Сваю павуковую працу над беларускаю моваю Карскі распачаў яшчэ на Нежынскім Інстытуце й вынікі яе даў у публікаванай у 1885 г., годзе сканчэньня гэтага Інстытуту, кнізе «Обзор звуков и форм белорусской речи». Праца гэтая спачатку друкавалася ў «Известиях Историко-филологического Института в Нежине». Пазьней выйшла яна ў Маскве й асобнаю адбіткаю-кніжкаю памеру 170 бачынаў. У працы гэтай Карскі намагаецца зарэгістраваць, апісаць ды склясыфікаваць галоўныя фанэтычныя й марфалягічныя прыкметы беларускае мовы. У ей распрацаваньне навуковае граматыкі беларускае мовы — тое, што ў практычна-навучальнай форме падручніка беларускае граматыкі было, на аснове працаў таго-ж Карскага, пазьней складзена й выдадзена Тарашкевічам толькі ў 1918 г. у ягонай «Беларускай граматыцы для школ».
Паява гэтае працы Карскага была важнаю падзеяй у галіне беларускае моваведы, што зразумеем, калі будзем мець на ўвеце, што да яе паявы, калі ня лічыць дробных выказваньняў і зацемак, існавалі толькі дзьве невялікія навуковыя працы ў гэтай галіне — заўвагі К. Аппеля «О белорусском наречии» з 1880 г. і крыху большая праца І. Недзяшова «Исторический обзор важнейших звуковых и морфологических особенностей белорусских говоров», што выйшла ў 1884 г., усяго на год раней перад працаю Карскага. Рэцэнзыю на гэтую працу пісаў расейскі мовавед Сабалеўскі, была яна прыхільная аўтару, але Сабалеўскі зьвярнуў увагу й на адну нястачу гэтае працы: яна давала толькі статычнае апісаньне тагачаснае народнае беларускае мовы, яе «гукаў і формаў», а амаль зусім не кранала эвалюцыйнага гістарычнага разьвіцьця гэтых «гукаў і формаў». У працы сваей Карскі амаль зусім ня браў пад увагу пісьменных памятак старое беларускае мовы; апіраўся ён вылучна на сучасныя яму фальклёрныя запісы ды сваю собскую веду беларускае народнае мовы.
Карскі зразу-ж прыступае да пастараненьня гэтай заганы. Будучы яшчэ настаўнікам гімназіі ў Вільні, ён бярэцца за вывучаньне старое беларускае літаратурнае мовы на аснове рукапісных ды друкаваных памятак, галоўна Віленскае Публічнае Бібліятэкі. У выніку ўжо з 1890 г. у РФВ пачынае друкавацца ягоная другая грунтоўная праца ў галіне беларускае моваведы — праца пад назовам «К истории звуков и форм белорусской речи». Друк гэтае працы быў закончены толькі ў 1893 г. Тадыж яна выйшла й асобнаю адбіткаю, але ўсяго ў 50 экзэмплярах, дзеля гэтага ў сваім кніжным выданьні яна сяньня вялікая бібліяграфічная рэдкасьць. Як сам загаловак паказвае ў працы — гэта гістарычнае апісаньне разьвіцьця беларускіх фанэтычных і марфалягічных зьяваў. Абедзьве гэтыя працы былі прынятыя як дысэртацыі падчас ягонага магістэрскага экзаміну на Варшаўскім унівэрсытэце ў тым-жа 1893 г.