В автобиографических заметках Мандела писал: ""Меня лишили прав и изолировали от моих товарищей; агенты тайной полиции следовали за мной, куда бы я ни направлялся… Закон сделал из меня преступника не за мои поступки, а за мои убеждения"".

В 1956 году Н. Мандела оказывается в тюрьме. В течение четырех лет он боролся за свою невиновность, в итоге победил на судебном процессе и как юрист, и как политик.

В июле 1960 года в Шарпевилле проходила мирная демонстрация африканцев. Полиция применила оружие, в результате чего погибли 69 человек, а 178 человек были ранены. К этому времени у АНК был уже многолетний опыт ненасильственного сопротивления, выросший во многом из философии Махатмы Ганди. Но после разгона мирной демонстрации Н. Мандела заявил, что, видимо, ""придется закрыть эту главу ненасильственной политики"". И уже через полгода газеты сообщали о прежде и неслыханном — о нападениях на правительственные здания и экономические объекты. Ответственность за них взяла на себя никому тогда не известная организация ""Умконто ве сизве"" (""Копье нации""). Руководил боевыми отрядами Н. Мандела, которому на протяжении двух лет удавалось избегать арестов. Он гримировался как профессиональный актер, и даже жена Винни не всегда могла узнать его.

В августе 1962 года Н. Мандела был арестован в провинции Наталь. В тот день он ехал в город Ховик под видом шофера, служившего у белого хозяина. О его маршруте знал один сотрудник Центрального разведывательного управления США, который и предложил южноафриканским властям сделку: сведения о Н. Манделе в обмен на план будущего устройства бантустанов. Власти быстро согласились на это. ""Шофера"" арестовали и приговорили к пяти годам каторги на острове Роббен — самой страшной тюрьмы ЮАР, откуда мало кто выходил. Крохотное оконце одиночной камеры (2,1x2,4 м) выходило на внутренний двор. В 7 часов утра начинались проверка и обыск, во время которых заключенные должны были стоять у стен с поднятыми руками. Завтрак (овсяную кашу) приносили еще в пять часов утра, и, конечно, он давно уже был остывшим. После проверки все брали холодные миски и выходили во двор, где полагалось есть. Никаких столов и скамеек не существовало, и есть приходилось, сидя на корточках.

Политические преступники работали в каменоломнях: 8-килограммовыми молотками они вытесывали из камней плиты, а отходы превращали в гравий. В карьерах всегда стояли лужи по колено, и если камни падали, надо было доставать их из воды с риском поломать или повредить ногу о многочисленные обломки. От извести слезились и болели глаза, даже охранники старались подолгу не оставаться в отвалах… Не легче было и на сельскохозяйственных работах, и на расчистке территории от деревьев и пней, которые вытаскивали голыми руками.