ในสมัยโบราณยังมิได้มีการแบ่งแยกกำลังรบทางเรือออกจากทางบก จวบจนรัชสมัยพระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว จึงเริ่มมีการแบ่งแยกกำลังรบทางเรือออกจากทางบก เมื่อครั้งเริ่มแรกตั้งกรมทหารเรือนั้น กิจการทหารเรือบางประเภทยังขาดบุคคลที่มีความรู้ความชำนาญ จำเป็นต้องจ้างชาวต่างประเทศเข้ามารับราชการตามตำแหน่งหน้าที่ต่างๆ อาทิ ผู้บังคับการเรือและผู้บัญชาการป้อมต่างๆ ต่อมาภายหลังวิกฤตการณ์ ร.ศ.112 (พ.ศ.2436) พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว มีพระราชดำริว่า กิจการของทหารเรือเท่าที่อาศัยชาวต่างประเทศเข้ามาประจำตำแหน่งหน้าที่ต่างๆ นั้น ไม่อาจที่จะหวังในด้านการรักษาอธิปไตยของชาติได้ดีเท่ากับคนไทยเอง พระองค์มีพระราชประสงค์ให้จัดการศึกษาแก่ทหารเรือไทย ให้มีความรู้ความสามารถเพียงพอที่จะรับตำแหน่งหน้าที่ต่างๆ ในเรือ แทนชาวต่างชาติที่จ้างไว้ต่อไป จึงทรงพระกรุณาโปรดเกล้าฯ ให้พลเรือเอก พระเจ้าบรมวงศ์เธอ พระองค์เจ้าอาภากรเกียรติวงศ์ กรมหลวงชุมพรเขตอุดมศักดิ์ พระราชโอรส เสด็จไปทรงศึกษาวิชาการทหารเรือยังประเทศอังกฤษ ภายหลังจากที่ทรงสำเร็จการศึกษาวิชาการทหารเรือและกลับมารับราชการในกรมทหารเรือ พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว ทรงพระกรุณาโปรดเกล้าฯ ให้กรมทหารเรือจัดการฝึกสอนวิชาการทหารเรือขึ้น โดยเริ่มตั้งโรงเรียนขึ้นครั้งแรกที่บริเวณอู่หลวงใต้วัดระฆัง ตรงข้ามท่าราชวรดิฐ สำหรับอบรมนายทหารชั้นประทวน หรือฝ่ายช่างกลและเดินเรือ ต่อมาในปี พ.ศ.2434 ได้ตั้งโรงเรียนนายสิบขึ้น และในปี พ.ศ.2440 ได้จัดตั้งโรงเรียนนายร้อยทหารเรือขึ้นอีกโรงเรียนหนึ่ง

จนถึงปี พ.ศ.2442 ได้จัดตั้งโรงเรียนนายเรือขึ้น สถานที่ตั้งโรงเรียนนายเรือครั้งแรก อยู่ที่วังนันทอุทยาน (สวนอนันต์) มีนาวาโทไซเดอลิน (Seidelin) เป็นผู้บังคับการโรงเรียนนายเรือคนแรก ต่อมาในปี พ.ศ.2443 เมื่อสมเด็จพระเจ้าบรมวงศ์เธอ เจ้าฟ้ากรมจักรพรรดิพงศ์ สิ้นพระชนม์ พระราชวังเดิม กรุงธนบุรี ซึ่งเป็นที่ประทับได้ว่างลง พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว ทรงพระกรุณาพระราชทานพระราชวังเดิม กรุงธนบุรี ให้เป็นที่ตั้งของโรงเรียนนายเรือ ตั้งแต่วันที่ 23 กุมภาพันธ์ พ.ศ.2443 เป็นต้นมา กับได้พระราชทานพระราชหัตถเลขาในสมุดเยี่ยมของโรงเรียน ความว่า “วันที่ ๒๐ พฤศจิกายน ร.ศ.๑๒๕ เราจุฬาลงกรณ์ ปร. ได้มาเปิดโรงเรียนนี้ มีความปลื้มใจ ซึ่งได้เหนการทหารเรือ มีรากหยั่งลงแล้ว จะเปนที่มั่นสืบต่อไปในภายน่า” กองทัพเรือจึงได้ถือเป็น "วันกองทัพเรือ" เพื่อน้อมรำลึกถึงพระมหากรุณาธิคุณของพระองค์ที่ได้ทรงเล็งเห็นความสำคัญในการก่อตั้งสถาบันหลักของกองทัพเรือ ซึ่งถือเป็นรากฐานของการพัฒนากิจการทหารเรือให้มีความเจริญก้าวหน้า และมั่นคงมาจนถึงปัจจุบันนี้