李克農，祖籍安徽省巢縣（今巢湖市），1899年9月15日出生于巢縣一個小康之家。1910年以后，他們舉家遷居到安徽蕪湖市，李克農的青少年時代，大部分是在蕪湖度過的。

李克農的父親李哲卿（又名李道明）雖然接受的是舊式教育，但他知書達理，且為人正派，思想比較開明。李哲卿年輕時，曾在地方政府及海關任過職，積累了一定的家產。出生于這樣的書香門第，使李克農從小受到較好的教育。他曾就讀于安徽公學附小和圣雅閣中學，少年時代便受到民主革命思想的熏陶。他所就讀的安徽公學，是革命黨人活動的基地。在這里讀書期間，他開始接受新文化，新思想，不僅接觸到了《新青年》、《每周評論》等進步的書刊，還結識了陶行知、蔣光慈、惲代英等中共早期黨員，受到他們的影響。

1917年，李克農來到北平，在北平的《通俗周刊》做發(fā)行工作。張勛復辟，被迫回蕪。也是在這年，他娶了趙瑛為妻。

次年，在蕪湖省立第五中學讀書的蔣光慈與校外的錢杏邨、李克農等人組織“安社”（以英文“無政府主義”一詞的漢語譯音“安那其”為名），出版油印小報《自由之花》，猛烈抨擊反動軍閥政府。

1919年“五四”運動爆發(fā)后，作為安徽公學的一名學生領袖，李克農積極參加了蕪湖學生運動。與高語罕、朱蘊山、錢杏邨（阿英）、宮喬巖等，常在科學圖書社相聚，并給《皖江日報》撰稿。不久，李克農到安徽安慶市的《國民日報》擔任副刊編輯，因反對苛捐雜稅，被安徽省參議會議長晉恒履控告入獄。一周后經學生會等群眾團體請愿，才獲保釋。

1920年李克農曾就任省政府秘書。第二年，赴安徽六安任縣政府第二科科長。

鴉片戰(zhàn)爭以后，許多西方國家在中國開辦教會學校，企圖對中國人進行奴化教育。蕪湖是教會學校較集中的地方，僅中學就有4所。1925年李克農回到蕪湖。5月11日，圣公會中學學生因為拒絕參加祈禱，與校方發(fā)生矛盾，教會學校開除領頭學生，導致該校與其他三所教會中學舉行罷課，蕪湖學生掀起反對帝國主義奴化教育學潮。李克農、錢杏邨等推舉王稼祥等人作為代表前往省政府教育廳請愿，最后教育廳為學生辦理了轉學手續(xù)，學生取得初步勝利。