เป็นเรื่องราวความรักความสัมพันธ์ของสองพี่น้องที่อาศัยอยู่ในเมืองโกเบประเทศญี่ปุ่นเหตุการณ์เกิดระหว่างสงครามโลกครั้งที่ 2 เซตะ โยโกกาวา ลูกชายคนแรกของนายพลทหารเรือ อายุ 14 ปี กำลังขนเสบียงลงหลุมเพื่อมีอาหารเวลาสงครามสงบ และในเวลานั้นเครื่องบินกำลังบินผ่านมายังเมืองเพื่อปล่อยระเบิดครั้งรุนแรงกว่าที่ผ่านมา เซตะจึงให้แม่ของตนออกเดินทางไปยังหลุมหลบภัยก่อน เนื่องจากแม่เป็นโรคหัวใจ โดยเซตะ และ น้องสาว เซซึโกะ อายุ 4 ขวบ จะตามไปทีหลัง ซึ่งระหว่างทางไปหลุมหลบภัย ระเบิดจากเครื่องบินของทหารอเมริกาถูกทิ้งลงมา ทำให้เซตะและเซซึโกะ พลัดหลงกับแม่ของพวกเขา ทำให้เซตะพาน้องสาวไปหลบภัยอยู่หลังเนินถนนสูงเป็นกำแพงหินริมทะเล ซึ่งภายหลังพวกเขาพบว่าบ้านของพวกเขาถูกไฟไหม้หมดทั้งหลัง และรอบๆบริเวณนั้นถูกทำลายทั้งหมด
สองพี่น้องพยายามตามหาแม่ มีคนมากบอกเซตะว่าแม่ของเขาบาดเจ็บสาหัสและเสียชีวิตลงเนื่องจากถูกไฟลวก และเมื่อเวลาผ่านไปเซซึโกะถามหาแม่ของเขาแต่เซตะบ่ายเบียงไม่ยอมบอกและปกปิดน้องสาวของเขาไม่ให้รู้ว่าแม่ได้เสียชีวิตแล้ว และทั้งสองก็ได้ไปอยู่กับป้า ฮิซาโกะ ของพวกเขา ซึ่งป้าของเซตะถามถึงอาการปาดเจ็บของแม่ เซตะจึงต้องบอกความจริงไปว่าแม่ได้เสียชีวิตไปแล้ว และต่อมาพวกเขาก็ทนนิสัยป้าของเขาไม่ไหวจึงออกจากบ้านป้ามาทั้งสองคน ทั้งสองพี่น้องจึงไปอยู่ในเหมืองเก่าๆ ซึ่งในสมัยก่อนใช้เป็นที่หลบภัย ภายในเหมืองมีแสงสว่างน้อยมากทำให้เซซึโกะกลัวความมืด เมื่อเป็นเช่นนั้น เซตะพี่ชายจึงไปหาหิ่งห้อยมาปล่อยไว้มากมายทำให้มีแสงสว่างมากพอทำให้เซซึโกะไม่กลัว
และเมื่อเวลาผ่านไปนาน อาหารก็เริ่มหมด และไม่มีอาหารให้แลกแล้ว และเซซึโกะก็เริ่มมีอาการเจ็บป่วยเกิดขึ้น ซึ่งเซซึโกะป่วยเป็นโรคขาดสารอาหาร และเมื่ออาหารหมด ทำให้เซตะต้องขโมยของตามบ้านเมื่อมีการทิ้งระเบิดของทหารอเมริกา ผู้คนมากมายกำลังหลบหนีระเบิดอยู่แต่เซตะกลับวิ่งฝ่าระเบิดเข้าไปตามบ้านคนที่ว่างเปล่าเพื่อเข้าไปหาของกินมาให้เซซึโกะ และนานวันเข้าอาการป่วยของเซซึโกะเริ่มมากขึ้น เซตะจึงพาน้องไปหาหมอแต่หมอก็ไม่มียารักษาให้ มีวันหนึ่งเซตะเข้าไปในตัวเมืองเพื่อไปถอนเงินก้อนสุดท้ายเพื่อเอาออกมาใช้ และเขาก็ได้ข่าวว่าญี่ปุ่นยอมแพ้สงครามแล้ว เรือทุกลำจมลงทะเลหมด จมไปพร้อมกับความหวังที่จะเห็นพ่อซึ่งเป็นทหารเรือกลับมาหาตนและน้อง
เมื่อเซตะกลับมาที่เหมือง เขาเห็นน้องสาวนอนอมลูกหินอยู่ซึ่งเซซึโกะคิดว่าป็นลูกอม เซตะจึงห้ามไม่ให้น้องสาวกินลูกหินอีก และเขาจึงไปเอาแตงโมมาป้อนให้เซซึโกะกินและปล่อยให้เซซึโกะนอนพัก เมื่อเห็นน้องสาวนอนพัก เซตะจึงไปทำอาหาร และตั้งแต่นั้นมา เซซึโกะก็ไม่ตื่นขึ้นมาอีกตลอดกาล ในคืนที่ฝนตกหนักและหนาวเย็นเซตะนอนกอดร่างไร้วิญญาณของน้องสาวเขาทั้งคืน และพอเช้าเซตะ ก็เผาร่างของเซซึโกะและนำเศษกระดูกมาใส่ในกล่องลูกอมและเซตะก็นำกล่องนั้นติดตัวไปตลอดจนกระทั่งเขาเสียชีวิตลงในวันที่ 21 กันยายน ปี 1945 ในตอนเริ่มเรื่องและตอนจบของเรื่อง จะสื่อถึงความสัมพันธ์ของทั้งสองซึ่งแม้แต่เสียจะชีวิตลงไปทั้งสองคน แต่ทั้งคู่ก็เป็นวิญญาณและอยู่ด้วยกันตลอดไป หลังจากนั้น 1 เดือนหลังจากจบสงคราม จึงมีการกฎหมายบังคับใช้คุ้มครองเด็กที่ประสบในภาวะสงครามขึ้น ในเรื่องสุสานหิ่งห้อยนั้น จะเปรียบหิ่งห้อยที่มีชีวิตอยู่ได้ไม่กี่วัน เหมือนกับชีวิตเด็กๆที่อดอยากไม่มีกิน เนื่องจากผลจากการกระทำของสิ่งใดก็ตาม และยังเปรียบแสงของหิ่งห้อยเหมือนความหวังอันริบหรี่ของเด็กๆที่สุดท้ายความหวังอันนั้นก็ดับไปพร้อมก็แสงสว่างของหิ่งห้อยยามเมื่อมันเสียชีวิตลง