1895年，中国在甲午战争中失败，被迫割让台湾岛和澎湖列岛，南海的东北大门洞开，日本成为清末中国在南海的最大威胁。日本打出“殖产兴业”的旗号，想攫取南海的资源。
1901年夏，日本商人西泽吉次遇风漂到东沙群岛中最大岛屿——东沙岛，他看到岛上鸟粪资源丰富，就取标本到台湾基隆化验，结果发现东沙岛上存在丰富的磷矿资源。次年，西泽吉次率人窜入东沙岛，窃取磷肥回台湾出售，引起清政府的注意。同年，清政府派官员到东沙岛巡查，并竖纪念碑作为主权标志。
1906年以后，日本政府推动所谓“水产南进”，日本船只“长风”号和“四国”号先后侵入东沙海域，驱赶中国渔民，捣毁中国的主权碑，拆毁东沙岛上的庙宇。
丧心病狂的日本侵略者竟将岛上百余座中国居民的陵墓用铁器掘开，挖出遗骸，焚化后推入水中。在销毁中国人居住的痕迹之后，西泽吉次在岛上悬挂日本旗，宣称占据“无主土地”，并擅自将岛屿命名为“西泽岛”。同年，日本渔船大举南下，一直窜到南沙群岛，掠夺中国渔业资源。日本海军也蠢蠢欲动，试图为日本商人和渔民的侵略活动“保驾护航”。据史料记载，1907年冬，“日本突由从台湾方面开来军舰一艘、商轮一艘，满载军火及日民，图谋占我东西沙岛”，这遭到中国渔民的坚决抵抗，清政府闻讯后与日本交涉，迫使日本舰船退回。
清朝外务部获悉日本的侵略行径后，责令两广总督张人骏查明东沙情况，对日交涉，同时命令南洋大臣派出军舰巡查。
张人骏奉令约见日本驻广东领事赖川浅之进，该领事狡辩，称若中国认为该岛为辖境，须有地方书志，及该岛应归何官何营管辖的确切证据。此时，这位号称中国通的领事，得知东沙岛上的庙宇已拆，陵墓已毁，自以为无可对证。他还自以为是地认为，中国的史书和地方志，只详细介绍陆地之事，对于海中岛屿暗礁一向极为简略，清政府不可能提交令人信服的中国管辖证据。在张人骏的努力下，清政府在短期内找到了证明东沙群岛属于中国的历史文献，如王之春著《国朝柔远记》、英国海军海图官局编《中国江海险要图志》等和中文、英文的地图。
时任两广总督张人骏
在外交斗争的同时，晚清时代艰难起步、屡败屡战的中国海军，也勇敢担当起保卫海疆的重任。曾在威海卫与日军血战的北洋水师管带(舰长)萨镇冰，此时已成长为中国海军的最高将领，担任广东水师提督，兼任南北洋海军统领。
1908年，萨镇冰派出飞鹰号兵舰和海关的舰只两次巡查东沙群岛。飞鹰号是19世纪90年代从德国购进的，时速高达30海里，是甲午战后中国海军的主力舰艇之一。该舰管带黄钟英等官兵走访了尚在东沙海域坚持捕鱼的中国渔民，发现庙宇虽被日本人拆毁，地基和石块还能辨认，众多渔民纷纷提供在此长期生产生活的证据，控诉日本侵略者的暴行。
最终，日本方面在确凿的人证物证前哑口无言，1909年，被迫承认东沙岛为中国固有领土，侵占该岛的日本人撤离，将该岛交还中国，并且赔偿中国渔民的损失，补交侵占期间中国损失的税款。
在反抗日本侵占东沙的斗争中，中国渔民坚持在第一线，清朝中央外交机构、地方政府和海军密切配合，进行了有勇有谋、有理有节的斗争，取得了晚清反侵略史上罕见的全面胜利。
此后，清朝更加重视对南海渔业资源和中国渔民的保护，水师提督李准和副将吴敬荣、刘义宽等，率兵170人分乘“伏波”、“深航”诸舰，巡视西沙和南沙群岛并于永兴岛升旗鸣炮，公告中外，重申南海诸岛为中国领土。清朝政府本来打算在南海诸岛进一步加强守备，建立无线电台，后由于辛亥革命爆发未能实现。