อำเภอบางใหญ่ ได้รับการจัดตั้งเป็นอำเภอเมื่อ พ.ศ. 2447 ตั้งอยู่ทางทิศตะวันตกเฉียงใต้ของจังหวัดนนทบุรี มีเนื้อที่กว้างขวางมาก ต่อมาเจ้าหน้าที่ราชการดูแลไม่ทั่วถึง จึงได้แบ่งเขตการปกครองตำบลบางใหญ่และบางม่วงทางด้านตะวันตกเฉียงเหนือไปตั้งเป็นกิ่งอำเภอบางแม่นางใน พ.ศ. 2460 ขึ้นอยู่กับอำเภอบางใหญ่จนถึง พ.ศ. 2464 จึงได้ยกฐานะเป็นอำเภอบางแม่นาง ต่อมากระทรวงมหาดไทยได้ประกาศเปลี่ยนชื่ออำเภอบางใหญ่ตามบริเวณที่ตั้งอำเภอและตามการเรียกของคนสมัยนั้นเป็น อำเภอบางกรวย เมื่อวันที่ 14 ตุลาคม พ.ศ. 2473 พร้อม ๆ กับที่อำเภอบางแม่นางได้เปลี่ยนชื่อเป็น "อำเภอบางใหญ่" แทน

วันที่ 1 เมษายน พ.ศ. 2480 ได้มีพระราชบัญญัติเปลี่ยนแปลงเขตจังหวัดนนทบุรีและจังหวัดธนบุรี โดยกำหนดให้โอนพื้นที่ตำบลบางอ้อ ตำบลบางรัก และตำบลบางพลัดของอำเภอบางพลัด จังหวัดธนบุรี เฉพาะส่วนที่อยู่ด้านเหนือของทางรถไฟสายใต้ มาขึ้นกับตำบลบางกรวย; โอนพื้นที่ตำบลบางบำหรุของอำเภอตลิ่งชัน จังหวัดธนบุรี เฉพาะส่วนที่อยู่ด้านเหนือของทางรถไฟสายใต้ มาขึ้นกับตำบลวัดชลอ; โอนพื้นที่ตำบลบางกรวยเฉพาะส่วนที่อยู่ด้านใต้ของทางรถไฟสายใต้ ไปขึ้นกับตำบลบางอ้อ ตำบลบางรัก และตำบลสวนพริกของอำเภอบางพลัด; โอนพื้นที่ตำบลวัดชลอเฉพาะส่วนที่อยู่ด้านใต้ของทางรถไฟสายใต้ ไปขึ้นกับตำบลสวนพริกของอำเภอบางพลัดและตำบลบางบำหรุของอำเภอตลิ่งชัน; โอนพื้นที่ตำบลมหาสวัสดิ์เฉพาะส่วนที่อยู่ฝั่งใต้ของคลองมหาสวัสดิ์ ไปขึ้นกับตำบลตลิ่งชันของอำเภอตลิ่งชัน และถือเอาทางรถไฟสายใต้ คลองบางกอกน้อย และคลองมหาสวัสดิ์เป็นเส้นแบ่งเขตจังหวัดทั้งสองนับแต่นั้น

ครั้นใน พ.ศ. 2486 จังหวัดนนทบุรีถูกยุบลงเนื่องจากขณะนั้นเกิดปัญหาสภาวะเศรษฐกิจตกต่ำ อำเภอบางกรวยถูกโอนไปเป็นส่วนหนึ่งของจังหวัดธนบุรี แต่ภายหลังก็ได้กลับมาอยู่ในการปกครองของจังหวัดนนทบุรีซึ่งได้รับการยกฐานะขึ้นมาอีกครั้งใน พ.ศ. 2489

ที่ตั้งและอาณาเขต

อำเภอบางกรวยตั้งอยู่ทางใต้สุดของจังหวัด ห่างจากตัวจังหวัด 16.86 กิโลเมตร  มีอาณาเขตติดต่อดังนี้

• ทิศเหนือ ติดต่อกับอำเภอบางใหญ่และอำเภอเมืองนนทบุรี มีคลองขุดใหม่, คลองจีนบ่าย, ถนนบางม่วง-บางคูลัด, คลองหัวคูใน (วัดพระเงิน), คลองบางนา, คลองนาคเกี้ยว, คลองบางค้อ, คลองบางกอกน้อย, คลองวัดแดง, แนวรั้วหมู่บ้านเยาวพรรณ, ถนนบางศรีเมือง 1, คลองวัดสนาม, คลองบางสีทอง, ซอยบางกรวย-ไทรน้อย 30 (วัดรวกบางสีทอง), ซอยบางไผ่ ซอย 3 (วัดรวกบางสีทอง), ถนนบางไผ่พัฒนา, คลองธรรมบาล และคลองบางกรวยเป็นเส้นแบ่งเขต
• ทิศตะวันออก ติดต่อกับอำเภอเมืองนนทบุรีและเขตบางซื่อ (กรุงเทพมหานคร) มีแนวกึ่งกลางแม่น้ำเจ้าพระยาเป็นเส้นแบ่งเขต
• ทิศใต้ ติดต่อกับเขตบางพลัด, เขตตลิ่งชัน และเขตทวีวัฒนา (กรุงเทพมหานคร) มีทางรถไฟสายใต้, คลองบางกอกน้อย และคลองมหาสวัสดิ์เป็นเส้นแบ่งเขต
• ทิศตะวันตก ติดต่อกับอำเภอพุทธมณฑล (จังหวัดนครปฐม) มีคลองนราภิรมย์เป็นเส้นแบ่งเขต