در۲۱ رمضان سال ۴۰ هجری مصادف با ۲۷ ژانویه ۶۶۱ میلادی، علی در ۶۲ یا ۶۳ سالگی درگذشت.[۱] پس از مرگ علی، قاتل وی قصاص شد.[۴]

پیکر علی را جمعی از خویشان و اصحاب نزدیکش مخفیانه دفن کردند. در سال ۷۹۱ میلادی، در زمان هارون‌الرشید، خلیفهٔ عباسی، در فاصلهٔ چند کیلومتری از کوفه، محل مزارش مشخص و آرامگاهی در آنجا ساخته شد که بعداً زیارتگاه شیعیان شد. پس از آن، این منطقه نیز تبدیل به شهر نجف شد.

حسن، حسین، محمد بن حنفیه و عبدالله بن جعفر پیکر علی را پس از مرگ غسل و کفن کردند و به همراه عبیدالله بن عباس و چند تن دیگر از اصحاب خاص علی مخفیانه در نزدیکی کوفه دفن کردند.[۱][۵]: 309  اما مزارش از ترس نبش قبر و بی‌حرمتی به آن پنهان نگه داشته شد.[۱] تا آنکه در زمان هارون‌الرشید، خلیفهٔ عباسی، در سال ۷۹۱ میلادی در فاصلهٔ چند کیلومتری از کوفه، محل مزارش مشخص و آرامگاهی در آنجا ساخته شد، که بعداً به زیارتگاه شیعیان مبدل گردید. بعداً این منطقه نیز به شهر نجف تبدیل شد.[۳][۹]: 69 

مشهور در میان علماى شیعه این است که امام در سحرگاه نوزدهم ماه مبارک رمضان سال چهلم هجری ضربت خورد، و در شب بیست و یکم وقتی یک سوم از شب گذشته بود به شهادت رسید. در این شب امام علیه السلام فرزندان و اهل بیت خود را جمع کرد و با ایشان وداع کرد و فرمود: «خداوند پس از من نگهدار شما باشد. نیکو وکیلی است خداوند و همو مرا کفایت خواهد کرد».

امام سپس فرزندان و اهل بیتش را به نیکیها وصیت فرمود. آن شب اثر زهر بر بدن امام علیه السلام ظاهر شده بود و هر خوردنی که برای امام آوردن تناول نفرمود و لبهایش فقط به ذکر خداوند مشغول بود و عرق از جبین مبارکش مثل مروارید مى‏ ریخت. امام با دست مبارکش عرق پیشانی را پاک کرد و فرمود: «شنیدم از رسول خدا صلّى اللّه علیه و آله و سلّم که چون نزدیک وفات مؤمن مى ‏شود، عرق مى‏ کند جبین او مانند مروارید تر، و ناله او ساکن مى ‏شود». همه به گریه افتادند. امام حسن علیه السّلام گفت: «اى پدر به گونه ای سخن مى ‏گوئى که گویا از خود ناامید شده‏ اى».

امام فرمود: «اى فرزند گرامى یک شب پیش از آنکه این واقعه بشود جدّت رسول خدا صلّى اللّه علیه و آله و سلّم را در خواب دیدم، از آزارهاى این امّت به او شکایت کردم، گفت: نفرین کن بر ایشان، پس گفتم: خداوندا بجای من بدان را بر ایشان مسلّط گردان، و بدل ایشان بهتر از ایشان به من روزى کن، پس حضرت رسول فرمود که: خدا دعاى تو را مستجاب کرد، بعد از سه شب تو را به نزد من خواهند آورد، و اکنون سه شب گذشته است».

سپس امام فرمود: «اى حسن! تو را وصیت مى‏ کنم به برادرت حسین. شماها از منید و من از شمایم». سپس امام رو کرد به فرزندان دیگر که از همسران دیگر امام غیر فاطمه بودند و ایشان را وصیت فرمود که با حسن و حسین علیهما السلام مخالفت نکنند، پس فرمود: «حق تعالى شما را صبر نیکو کرامت کند، امشب از میان شما مى ‏روم و به حبیب خود محمّد مصطفى صلّى اللّه علیه و آله و سلّم ملحق مى‏ شوم، چنانچه مرا وعده داده است».[۱۸]

سپس امام به فرزندشان امام حسن علیه السلام فرمود: اى حسن! وقتی از دنیا رفتم، مرا غسل ده و کفن کن و با بقیه حنوط رسول خدا صلّى اللّه علیه و آله و سلّم که از کافور بهشت است و جبرئیل براى آن حضرت آورده بود حنوط کن. هنگامی که مرا برای تدفین روى تخت گذاشتید جلوی آن را رها کنید و فقط پشت تخت را بگیرید. ملائکه جلوی آن را خواهند گرفت و تخت حرکت خواهد کرد. به هر سو که تخت روان شد شما هم به همان سو حرکت کنید و جایی که توقف نمود همانجا محل قبر من است. ... پس از اینکه بر من نماز خواندی جنازه را از موضع خود بردار و خاک را از آن موضع کنار بزن. در آنجا قبر کنده شده و لحد ساخته ای خواهی یافت که پدرم حضرت نوح علیه السّلام براى من ساخته در آنجا گذاشته است، پس مرا بر روى آن تخته دفن کن، و هفت خشت ساخته در آنجا خواهى یافت از خشتهاى بزرگ، آنها را بر روى من بچین، پس اندکى صبر کن و یک خشت را بردار و به قبر نگاه کن، مرا در آنجا نخواهى دید زیرا به جدّ تو رسول خدا صلّى اللّه علیه و آله و سلّم ملحق خواهم شد، بدان که هر پیغمبرى بمیرد اگر چه در مشرق مدفون شده باشد و وصىّ او در مغرب باشد، حق تعالى روح و جسد او را با روح و جسد وصىّ او خواهد پیوست، بعد از آن جدا مى ‏شوند، باز هر یک به قبرهاى خود برمى ‏گردند. سپس قبر مرا از خاک پر کن و محل قبر مرا پنهان کن. هنگام صبح تابوتى بر ناقه ‏اى ببند، و سر آن ناقه را به کسى بده که به جانب مدینه بکشد تا آنکه مردم ندانند که من در کجا مدفون شده‏ ام.[۱۹]

در بعضى از روایات معتبر از امام جعفر صادق علیه السّلام روایت شده که حضرت امیر المؤمنین علیه السّلام فرزند خود امام حسین علیه السّلام را امر کرد که برای ایشان چهار قبر در چهار محل ایجاد نماید: در مسجد کوفه و در رحبه و در نجف و در خانه جعدة بن هبیره، تا دشمنان امام از خوارج و بنى امیه محل قبر ایشان را نشناسند، مبادا که اراده کنند جسد مطهر امام را خارج نمایند.[۲۰]

سپس حضرت به فرزندان خود فرمود: «به زودی که فتنه ‏ها از هر سو رو به شما آورد و منافقان این امّت کینه‏ هاى دیرینه خود را از شما طلب نمایند و از شما انتقام بگیرند، پس بر شما باد به صبر که عاقبت صبر نیکو است».

سپس به امام حسن و امام حسین علیه السلام فرمود: «بعد از من به خصوص بر شما فتنه ‏هاى بسیار واقع خواهد شد از جهت هاى مختلف، پس صبر کنید تا خدا حکم کند میان شما و دشمنان شما، او بهترین حکم کنندگان است. پس رو کرد به امام حسین علیه السّلام و فرمود: اى ابو عبد الله توئى شهید این امّت، پس بر تو باد به تقوى و صبر بر بلا».[۲۱]

پس از این سخنان امام بیهوش شد، وقتی به هوش آمد فرمود: «در این وقت رسول خدا صلّى اللّه علیه و آله و سلّم و عمویم حمزه و برادرم جعفر به نزد من آمدند گفتند که: زود بیا به نزد ما که ما مشتاقیم بسوى تو». امام سپس به اهل بیت خود نظر کرد و فرمود: «همه را به خدا مى ‏سپارم، خدا همه را به راه حقّ درست بدارد و از شرّ دشمنان حفظ نماید».

سپس گفت: «بر شما باد سلام اى رسولان وحى پروردگار من» و این آیه را قرائت فرمود که: «لِمِثْلِ هذا فَلْیعْمَلِ الْعامِلُونَ»[۲۲] براى مثل این ثواب و منزلت باید که عمل کنند عمل کنندگان، و نیز این آیه را «إِنَّ اللَّهَ مَعَ الَّذِینَ اتَّقَوْا وَ الَّذِینَ هُمْ مُحْسِنُونَ»[۲۳] یعنی به درستى که خدا با آنهاست که پرهیزکارى کردند و آنها که نیکوکار بودند. پس پیشانی مبارک امام در عرق نشست و مشغول ذکر خدا گردید، رو به قبله کرد و چشمان خود را بر هم گذاشت، دستها و پاهاى مبارک خود را بسوى قبله کشید و شهادت به وحدانیت الهى و رسالت پیامبر داد و به لقاء پروردگارش شتافت.[۲۴]

لحظات آخر عمر امیرالمؤمنین (علیه‌السّلام) فرا رسیده بود که دیده‌های خود را گردانیدند و به تمام اهل بیت خود نگاه کردند و فرمودند: «همه را به خدا می‌سپارم خدا، همه را در راه حق و راست قرار دهد و از شر دشمنان حفظ نماید. خدا خلیفه و ناصر من بر شماست و خدا برای این امر کافی است.»
آن‌گاه فرمودند: «ای فرستادگان خدا! سلام من بر شما باد.»و فرمودند: «ولمثل هذا فلیعمل العاملون[۸] » «ان الله مع الذین اتقوا والذین هم محسنون[۹] »

«باید اهل عمل، برای چنین ثواب و منزلتی عمل کنند، به درستی که خدا با پرهیزکاران و نیکوکاران است»
آن‌گاه بر پیشانی آن حضرت عرق نشست و آن حضرت پیوسته به ذکر خداوند سبحان مشغول بودند و مدام «لا اله الا الله» می‌گفتند و شهادتین را بر زبان می‌آوردند.[۱۰] [۱۱]

کمی بعد، رو به قبله نمودند و دیده‌های خود را بر هم نهادند و دست‌ها و پاهای خود را به سوی قبله دراز کردند و برای شهادت به وحدانیت الهی و رسالت حضرت (علیه‌السّلام) فرمودند: «اشهد ان لا اله الا الله وحده لا شریک له واشهد ان محمدا عبده و رسوله»

آن‌گاه با قدم شهادت، به سوی بهشت رفتند. پس در آن حال صدای شیون و گریه از خانه آن حضرت بلند شد، مانند روزی که پیامبر (صلی‌الله‌علیه‌و‌آله‌وسلّم) از دنیا رحلت فرموده بودند. در آن شب آفاق آسمان متغیر گشت و زمین لرزید. صدای تسبیح و تقدیس فرشتگان و ملائکه الهی بود که در خفای کوفه به گوش مردم می‌رسید و آنها می‌دانستند که این صدای فرشتگان است که در آسمان پیچیده است.[۱۲] [۱۳]

پس از آنکه آن حضرت در اواخر شب ۲۱ رمضان به شهادت رسید، جنازه حضرت را امام حسن (علیه‌السّلام) با کمک برادران غسل دادند و حنوط و کفن نموده و نماز خواندند و سپس در میان تابوت گذاشتند. دنبال تابوت را بلند کرده، جلو تابوت خود بلند شد و حسن و حسین (علیه‌السّلام) و عبدالله بن جعفر و محمد حنفیه (همین چهار نفر) شبانه پیکر مطهر امام را به سرزمین نجف آوردند. ناگهان در آنجا سنگ سفید درخشانی یافتند؛ آن‌را از جا کندند. ناگهان لوحی پیدا شد که در آن نوشته بودند «این قبری است که نوح (علیه‌السّلام) آن‌را برای علی بن ابیطالب (علیه‌السّلام) ذخیره کرده است.» جنازه را همان‌جا به خاک سپردند و زمین قبر را هموار ساخته به کوفه بازگشتند.[۱۴] [۱۵]

بدین‌سان آن پیکر پاک، بیش از سپیده دم به خاک سپرده شد و همان‌گونه که خود وصیت فرموده بودند قبرش را نهان ساختند تا از کینه کور گماشتگان تعصب و دشمنی ددمنشانه خوارج و دیگر تبهکاران در امان بماند.

امام علی(ع) توسط امام حسن(ع)، امام حسین(ع)، محمد حنفیه و عبدالله بن جعفر غسل داده شد.[۶۹] امام حسن(ع) بر جنازه امام نماز میت خواند.[۷۰] علی(ع) را شبانه دفن کردند و چند نقطه را برای دفن آن حضرت مهیا کردند تا مکان قبر مخفی بماند.[۷۱] محل دفن امام علی(ع) برای جلوگیری از نبش‌قبر توسط خوارج[۷۲] و دشمنی بنی‌امیه[۷۳] پنهان بود. تعداد اندکی از شیعیان محل دفن را می‌شناختند تا اینکه امام صادق(ع) در زمان حکومت بنی‌عباس، محل قبر را برای همگان آشکار کرد.[۷۴] محل دفن امام علی(ع)، در شهر نجف که در منابع با نام‌های مختلفی از آن یاد شده،[۷۵] مورد اتفاق‌نظر میان شیعیان است.[۷۶]