Kelompok teroris ini didirikan oleh Yosef Trumpeldore. Ia adalah seorang aktivis Zionis yang tergolong generasi awal dan terkenal militan. Dilahirkan di Rusia tahun 1880, ia kemudian berkembang menjadi Tokoh Yahudi yang siap berkorban demi agama dan bangsa. Padahal, awalnya ia hanyalah seorang yang bercita-cita menjadi Dokter Gigi, namun keadaan memaksanya mengubah haluan bergabung ke barisan sukarelawan tentara Rusia pada tahun 1902.
Selama Perang Rusia-Jepang, Yosef pun berpartisipasi dalam pengepungan Port Arthur, di mana Yosef kehilangan lengan kirinya karena pecahan peluru. Ia sampai menghabiskan waktu seratus hari di rumah sakit untuk menjalani masa pemulihan. Namun sekalipun masih dalam perawatan, ia lebih memilih untuk menyelesaikan baktinya terhadap Tuhan. Trumpeldor sepertinya benar-benar didedikasikan untuk negaranya, Rusia. Ketika ia ditanya tentang keputusannya kembali ke medan pertempuran meski dalam kondisi sebelah tangan, ia justru menjawab, "tapi aku masih memiliki satu lengan untuk diberikan kepada tanah air."
Ketika, Port Arhur menyerah, Yosef pun dibawa tentara Jepang ke tempat penahahan. Saat itu, bersama dengan beberapa tahanan perang, ia berbagi keinginan untuk mendirikan sebuah peternakan di jantung Yahudi, yakni Israel. Sekembalinya dari penawanan, ia pun akhirnya pindah ke St Petersburg. Trumpeldor kemudian menerima empat tanda penghargaan oleh Pemerintah Rusia yang membuatnya menjadi prajurit Yahudi paling disegani di negeri beruang merah tersebut. Dan akhirnya pada tahun 1906, Yosef pun didaulat menjadi orang Yahudi pertama dalam ketentaraan untuk menerima amanah di bagian komisi perwira. Mengingat karena dirinya cacat, maka Yosef mulai mempelajari hukum. Ia pun kemudian mengumpulkan sekelompok pemuda Zionis di sekelilingnya dan pada tahun 1911, mereka beremigrasi ke tanah Palestina, yang kala itu masih dibawah naungan Kekaisaran Ottoman. Saat awal-awal tiba di Palestina, maka Yosef dan kawan-kawannya bekerja pada sebuah peternakan di pantai laut Galillea.
Selanjutnya ketika meletus Perang Dunia Pertama, ia bersama Ze'ev Jabotinsky pergi ke Mesir. Darah militernya kembali muncul melihat konflik antar Negara kembali terjadi. Akhirnya, bersama Jabotinsky ia mengembangkan ide untuk membentuk Legiun Yahudi dalam rangka membantu Inggris melawan Kekaisaran Ottoman. Akhirnya pada tahun 1915, ia pun membentuk Zion Mule Corps. Banyak para pengamat menyatakan bahwa Zion Mule Corps adalah satuan militer pertama yang menyatukan seluruh Yahudi selama hampir kurun waktu 2000 tahun belakangan, bahkan Zion Mule Corps digadang-gadangkan sebagai cikal bakal Tentara Resmi Israel suatu saat kelak. Dan pada saat bersamaan pula Yosef mulai mengembangkan suara untuk mendirikan Negara Israel. Maka, sekembalinya ke Petrograd, Rusia, pada tahun 1918, Yosef pun mengorganisir orang-orang Yahudi untuk membela diri dan mendirikan HeHalutz, sebuah organisasi pemuda yang dipersiapkan untuk berimigrasi menuju Palestina.
Setelah Negara Zionis Israel berdiri tahun 1948, Negara Israel menarik anggota kelompok-kelompok Zion Mule Corps untuk menjadi bagian dari tentara Israel. Para petinggi kelompok-kelompok teroris Zion Mule Corps juga dipilih sebagai wakil di Parlemen. Setelah kematiannya, Trumpeldor menjadi simbol pembelaan total kepada Yahudi. . Kata-kata terakhirnya, "Never mind, it is good to die for our country" (En Davar, tov Lamut be'ad artzenu אין דבר, טוב למות בעד ארצנו),menjadi terkenal dalam gerakan Zionis baik sebelum dan seteleh berdirinya Israel.
Bahkan sampai era seterusnya, Yosef Trumpeldor pun dianggap sebagai pahlawan oleh kedua basis politik di Israel baik di sayap kanan maupun sayap kiri Zionis. Gerakan sayap kiri pun mendirikan monument untuk menghormatinya.
