Peristiwa itu terjadi pada awal tahun ke-7 Hijrah. Di tempat itu mereka (bangsa Yahudi) mendirikan beberapa benteng yang sangat kokoh. Benteng-benteng itu terletak diatas bukit bercadas yang terjal. Hubungan antara satu benteng dengan benteng yang lain di jalin dengan terowongan tanah yang dibangun dengan sangat rahasia. Bila tidak diamati secara baik pintu untuk menuju ke arah benteng-benteng itu terlalu sulit untuk diketemukan. Air dari mata air yang terdapat disekitar tempat itu dialirkan ke dalam benteng. Nampaklah bahwa kaum Yahudi memang sudah terkenal sebagai arsitek yang ulung dan canggih.
Kelompok-kelompok Yahudi di Khaibar ini merupakan koloni Israil yang terkuat yang paling kaya dan paling besar pula persenjataannya. Kaum muslimin yakin sekali selama Yahudi masih tetap berada disitu, mereka akan tetap menjadi duri dalam daging seluruh jazirah.
Pasukan Islam menyerbu dengan kekuatan seribu enam ratus orang dengan seratus kavaleri muslimin.
Kaum Yahudi menempatkan barikade pasukan panah dan pelempar batu di atas benteng. Mereka bersembunyi di puncak benteng dan melempari pasukan Islam dengan batu dan menghujaninya dengan anak panah. Sekalipun mereka dikenal sebagai pasukan terlatih yang ditakuti, tapi cara-cara mereka yang bersembunyi, sama sekali tidak mencerminkan pasukan jantan.
Pertarungan terus berlangsung dengan sangat sengitnya. Sampailah pada suatu benteng terberat yang bernama Na’im. Di benteng ini selain dipusatkan kekuatan pasukan Yahudi, cadangan makanan dan persenjataan juga dikumpulkan disini.
Begitu beratnya sehingga ummat Islam kehilangan seorang komandannya. Syuhada pertama dijumpai pemimpin Islam dari kalangan anshar. Pemimpin Islam ini meninggal setelah dilempar batu oleh Kinana bin Rabi dari atas benteng.
Hal itu tidak membuat kendor semangat tempur pasukan. Pihak muslimin bahkan memperketat kepungan atas benteng-benteng Khaibar itu dengan lebih gigih lagi. Demikian dengan Yahudi mati-matian mempertahankan dengan keyakinan bahwa kekalahan mereka menghadapi Muhammad berarti suatu penumpasan terakhir terhadap Bani Israil di negeri-negeri Arab.
Sampai beberapa hari penumpasan itu tidak berhasil. Rasulullah kemudian menyerahkan bendera perang kepada Abu Bakar supaya memasuki benteng Na’im. Tetapi setelah terjadi pertempuran ia kembali tanpa berhasil menaklukkan benteng itu. Keesokan harinya pagi-pagi Rasulullah menugaskan Umar bin Khaththab. Tetapi beliaupun mengalami nasib yang sama seperti Abu Bakar.
Sekarang Ali bin Abi Thalib dipanggil Rasulullah seraya berkata : “Pegang bendera ini dan bawa sampai Tuhan memberikan kemenangan kepadamu.” Ali berangkat membawa bendera itu. Setelah berada dekat benteng, penghuni benteng itu keluar menghadapinya dan seketika itu juga pertempuran lanjutan terjadi. Dalam perang tanding antara Ali dengan komandan Yahudi, Harith bin Abi Zainab, Ali dapat membunuh dedengkot Yahudi itu. Nyawa Ali hampir melayang ketika perisai yang ada di tangannya pecah kena pukulan pedang Harith. Setelah menggapai pintu benteng dan menjadikannya sebagai tameng, Ali dapat selamat dari tebasan pedang lawan. Padahal pintu itu begitu kokohnya sekalipun puluhan orang pun mengalami kesulitan untuk menggerakkannya.
Suatu hal yang sangat mengharukan, semangat juang kaum muslimin itu tetap berkobar-kobar sekalipun sudah beberapa hari mereka tidak makan. Bahan makanan yang mereka bawa tidak cukup untuk waktu pertempuran yang berlangsung lebih lama.
Dari peristiwa diatas terlihat, pergantian kepemimpinan mutlak terjadi ketika sebuah permasalahan yang dihadapi memang menghendaki demikian. Bila lawan tangguh sementara kepemimpinan lemah, hanya akan mengorbankan banyak kekuatan. Bila benteng (persoalan) yang dimiliki lawan sangat kuat dan tangguh, pemimpin yang gagal segera digantikan, setelah lebih dahulu diuji untuk mengerahkan segala kemampuan yang dimilikinya.