‘হারাম’ শব্দের অর্থ ‘অবৈধ’ এবং ‘পবিত্র’ দুটোই হয়। পবিত্র অর্থে মসজিদুল হারাম অর্থ পবিত্র মসজিদ। আবার অন্য অর্থে, এখানে যুদ্ধ আর রক্তপাত নিষিদ্ধ বিধায় একে মসজিদুল হারাম বলে। মক্কা বিজয়ের সময় কয়েকজন অপরাধী এ কারণে মসজিদুল হারামে লুকিয়ে পড়েছিল বলে জানা যায়, কারণ সেখানে কেউ তাদের ক্ষতি করতে পারবে না।
কাবাকে অনেক নামেই কুরআন-হাদিসে ডাকা হয়েছে; বাইতুল হারাম (Sacred House), বাইতুল্লাহ (House of Allah), বাইতাল আতিক (Ancient House) এবং আওয়াল উল বাইত (First House)। এর দিকে ফিরেই মুসলিমরা নামাজ আদায় করেন (‘কিবলা’), তবে এর আগে জেরুজালেমের পবিত্র ঘরের দিকে ফিরে নামাজ আদায় করা হত। কাবা সম্পর্কে অনেককাল ধরেই কিছু ভুল ধারণা প্রচলিত ছিল যে, কাবার উপর দিয়ে কোন পাখি বা কিছুই উড়ে যেতে পারে না। আসলে অনেক পাখিই কাবার ওপর দিয়ে উড়ে যায় এবং উপরে বসেও। কাবা পৃথিবীর কেন্দ্রে অবস্থিত, কিংবা কাবা বরাবর সোজা আকাশেই স্বর্গদ্বার- এমন কথাও প্রচলিত ছিল।
