1825年3月4日，小亞當(dāng)斯就任美國(guó)第6任總統(tǒng)。選舉過(guò)程的艱辛和勝利的來(lái)之不易使他不敢有絲毫的不滿和輕松懈怠。他在就職演說(shuō)中極力呼吁寬容和諒解。

小亞當(dāng)斯總統(tǒng)主張對(duì)憲法條文進(jìn)行更廣義的解釋，擴(kuò)大聯(lián)邦政府的權(quán)力，以推進(jìn)大規(guī)模的國(guó)內(nèi)改良。例如，由政府部門(mén)有秩序地處理國(guó)有土地；征收高關(guān)稅，以保護(hù)國(guó)內(nèi)工商業(yè)的發(fā)展；由聯(lián)邦負(fù)責(zé)人保護(hù)印第安人土地，使之免遭掠奪；由聯(lián)邦政府采取措施，大力發(fā)展交通運(yùn)輸業(yè)，加快鐵路、公路和運(yùn)河的建設(shè)項(xiàng)目；政府還應(yīng)承擔(dān)起發(fā)展科學(xué)教育事業(yè)的重任，包括創(chuàng)辦國(guó)立大學(xué)、天文臺(tái)和資助科學(xué)研究和探險(xiǎn)等。此時(shí)期，小亞當(dāng)斯對(duì)于擴(kuò)大聯(lián)邦政府的權(quán)力十分關(guān)注，從而成為“新國(guó)家主義”的先驅(qū)。

但在小亞當(dāng)斯那個(gè)時(shí)代，人們對(duì)民主的一般理解是要求政府少所作為，加之南方各州擔(dān)心他推行的國(guó)內(nèi)改良計(jì)劃會(huì)沖擊奴隸制度，北方的許多人士對(duì)于他“廣義地”解釋?xiě)椃☉n心忡忡，因此，他的主張帶有超前色彩。由于沒(méi)有在國(guó)內(nèi)得到廣泛的支持，致使他的計(jì)劃大部分落空，只是在發(fā)展交通運(yùn)輸業(yè)方面有所收獲。

在外交領(lǐng)域，他做的也不如任國(guó)務(wù)卿時(shí)出色，一些外交努力由于反對(duì)派的抵制而流產(chǎn)。例如，1826年，他支持美國(guó)參加巴拿馬會(huì)議，目的是通過(guò)支持拉丁美洲各國(guó)之間的合作，增強(qiáng)美國(guó)對(duì)這一地區(qū)的影響力。但由于南方代表在議會(huì)中的阻撓拖延，他的這一設(shè)想未能實(shí)現(xiàn)。對(duì)此，小亞當(dāng)斯感到非常痛心，認(rèn)為這是對(duì)他所倡導(dǎo)的“門(mén)羅主義”的一次沉重打擊。

所有這些都束縛住了他的手腳，使他的總統(tǒng)任期沒(méi)有多少建樹(shù)。在1828年總統(tǒng)競(jìng)選中，主要對(duì)手杰克遜又大肆渲染“骯臟的交易”，使他遭到慘敗。他在日記中寫(xiě)道：“我的政治生命猶如天邊落日，即將沉淪，但我們國(guó)家的前景仍舊是一片光明?！?/p>

聯(lián)邦眾議員 卸任后，小亞當(dāng)斯的情緒十分低落，因此未出席繼任總統(tǒng)的就職儀式，不久便返回了家鄉(xiāng)，試圖在書(shū)齋和田園之中尋求解脫。此時(shí)他得知，他的長(zhǎng)子在一次海上事故中不幸身亡，這使他的身心受到了致命的打擊。雖然他對(duì)政治生活早已心灰意冷，但馬薩諸塞的人們?nèi)詫?duì)他寄予厚望，1830年選舉他為國(guó)會(huì)眾議員，這使他成為唯一一位卸任后進(jìn)入國(guó)會(huì)的前任總統(tǒng)。

在國(guó)會(huì)中，他如同當(dāng)年一樣以獨(dú)立人士自居，不愿為黨派政治所左右，始終不渝地維護(hù)其國(guó)家主義原則，反對(duì)州權(quán)主義。他厭惡奴隸制，曾為逃亡奴隸辯護(hù)，認(rèn)為奴隸制違背人性和國(guó)家利益，但在這一問(wèn)題上持溫和立場(chǎng)，主張緩和南北雙方在奴隸制問(wèn)題上的劇烈沖突。他還反對(duì)對(duì)周邊國(guó)家的肆意侵略，例如，他反對(duì)吞并得克薩斯，并聯(lián)合一批眾議員使吞并計(jì)劃推遲了數(shù)年。他還堅(jiān)定地支持保留國(guó)家銀行。

1839年，他支持通過(guò)一項(xiàng)議案，規(guī)定1845年以后出生的美國(guó)人不得為奴隸。但當(dāng)時(shí)國(guó)會(huì)中的“限制言論條例”阻礙了這一議案的通過(guò)。為了取消這一條例，小亞當(dāng)斯據(jù)理力爭(zhēng)，收集了大量證據(jù)。1844年，他終于促使國(guó)會(huì)廢除了這一條例，為美國(guó)反對(duì)黑奴制度的斗爭(zhēng)作出了貢獻(xiàn)。1846年，他還投票反對(duì)向墨西哥宣戰(zhàn)——有人認(rèn)為，促使他這樣做的主要是他的廢奴主義情結(jié)。

小亞當(dāng)斯還敦促有關(guān)部門(mén)接受了英國(guó)科學(xué)家詹姆斯·史密森的遺贈(zèng)，用他的遺產(chǎn)創(chuàng)建了史密森學(xué)會(huì)，以支持科學(xué)事業(yè)的發(fā)展。1843年，辛辛那提天文臺(tái)舉行奠基儀式，小亞當(dāng)斯不顧旅途艱辛，長(zhǎng)途跋涉趕來(lái)參加盛會(huì)，因?yàn)檫@是他總統(tǒng)任內(nèi)未能如愿的一項(xiàng)工程。

擔(dān)任議員十七年的所作所為，使人們更加深刻地認(rèn)識(shí)了這位杰出的政治家，人們幽默地稱呼他為“雄辯的老人”。

自從1781年進(jìn)入外交界，小亞當(dāng)斯從事公共事務(wù)長(zhǎng)達(dá)六十五年，從不懈怠。1848年2月21日，他在國(guó)會(huì)中發(fā)言，就反對(duì)侵墨戰(zhàn)爭(zhēng)之事闡述自己的觀點(diǎn)，發(fā)言后不久就中風(fēng)了，兩天后去世，享年八十歲。臨終時(shí)他說(shuō)道：“死得其所，我愿足矣！”

1848年2月26日，全體眾議員參加了他的葬禮。四年后，他與夫人合葬在昆西公理會(huì)教堂他父母的身旁。