Причины, по которым Клинберг попал под подозрение израильской контрразведки, до сих пор неизвестны. На суде следователи «Шин бет» показали, что он продолжительное время находился под наблюдением контрразведки. Однако это заявление не вызывает доверия, так как ни одна контрразведка не допустит продолжительной работы иностранного агента в таком секретном учреждении, каким являлся Институт военной медицины. Скорее всего, правы те, кто считает, что Клинберга сдал один из бежавших в начале 80-х годов в США сотрудников ПГУ КГБ.
Также неизвестны и обстоятельства ареста Клинберга, произошедшего в начале 1983 года. Известно только, что в связи с занимаемым им высоким положением санкцию на его задержание дал лично премьер-министр Менахем Бегин. Вместе с Клинбергом была задержана и его жена, которую, правда, после допросов освободили. На состоявшемся в том же году закрытом судебном процессе Клинберга осудили на 20 лет тюремного заключения за шпионаж в пользу СССР.
О том, что Клинберг арестован и осужден, знали только несколько членов израильского правительства, сотрудники контрразведки, которые вели его дело, судьи, его жена и дочь Сильвия, адвокаты и четверо друзей. Только им было разрешено посещать его в тюрьме Ашкелон, где он содержался в одиночной камере под фамилией Гринберг. Но все они обязаны были хранить о случившемся полное молчание. Даже жена Клинберга была вынуждена заявить журналистам, заинтересовавшимся исчезновением ученого, что она не имеет о муже никаких известий.
Исчезновение видного ученого породило множество самых противоречивых слухов. Так, одни утверждали, что Клинберг во время поездки в Европу познакомился с молодой женщиной и начал с ней новую жизнь, скрываясь от семьи и друзей. Другие считали, что он находится на лечении в частной швейцарской психиатрической клинике. А в 1985 году журналисты британской газеты «Обсервер», ссылаясь на неких анонимных друзей Клинберга, заявили, что он бежал в СССР. Интересно, что эту версию буквально на следующий день подхватила израильская газета «Хадашот», в которой была опубликована статья, где утверждалось, что Клинберг был соблазнен женщиной-агентом КГБ, передавал СССР секретную информацию, а сейчас находится в Москве.
После ареста Клинберга ПГУ КГБ начало осторожно зондировать почву для переговоров о его обмене или освобождении. С этой целью дочь Клинберга Сильвия, жившая во Франции, в середине 80-х годов обратилась к французскому адвокату Антуану Конта с просьбой официально обратиться за помощью в советское посольство в Париже. И через некоторое время начались секретные переговоры с участием израильтян, французов и восточных немцев. К 1988 году была достигнута договоренность об обмене Клинберга на арестованных западных разведчиков. Для согласования всех вопросов в Тель-Авив приезжал известный специалист по таким операциям восточногерманский адвокат Вольфганг Фогель. Но в связи с разразившимся в 1988 году шпионским скандалом, вызванным предательством сотрудника ПГУ в Израиле Александра Ломова (об этом ниже), обмен так и не состоялся. Второй раз был подготовлен трехсторонний обмен с участием Сирии, в ходе которого Клинберга должны были обменять на израильского летчика Рона Арада, находящегося в ливанской тюрьме. Но и на этот раз сделка сорвалась. Наконец, в 1990 году была предпринята еще одна попытка освободить Клинберга, на этот раз в обмен на находящегося в американской тюрьме агента «Моссад» Джонатана Полларда. Но и она закончилась неудачей.
Между тем состояние здоровья находящегося в тюрьме Клинберга стало ухудшаться. К началу 90-х годов он частично утратил зрение и слух, а также перенес два инфаркта. А когда он узнал о смерти в 1990 году жены, то трижды пытался покончить с собой. В результате администрация тюрьмы была вынуждена провести обследование состояния его здоровья. Итоги этого обследования оказались неутешительными. В подписанном 9 декабря 1993 года профессором тель-авивской больницы Шоломом Шиболетом медицинском заключении говорилось, что у Клинберга грудная жаба, повышенное давление, аритмия, атеросклероз. Здоровье заключенного, констатировал Шиболет, в последние годы резко ухудшилось, и дальнейшее пребывание в тюрьме угрожает его жизни.