大部分 F-4B 都在海军或者陆战队服役，1969 年开始进入后备部队服役，一直到 1975 年 F-4B 才完全退出海军。只有一些改装为 F-4N 的 B 型机服役到 1980 年代。
F-4J 是为海军和陆战队生产的最后一型“鬼怪”，它是作为 F-4B 的后续型号设计的，修正了一些 F-4B 暴露的缺陷。1966 年至 1972 年间美国一共为海军和陆战队生产了 522 架 F-4J，首架 F-4J 于 1966 年 10 月 1 日交付军方，VF-101 在同年 12 月开始装备该机型。F-4J 很快取代了大多数中队原装备的 F-4B。
在“滚雷”行动后期 F-4J 被广泛的使用，1972 年它们重返越南参加了“后卫”行动。F-4J 是美军最后撤出东南亚的作战飞机，直到 1973 年 8 月 VMFA-232 的 F-4J 才离开泰国孔敬府基地。
越战时 VF-96 与 VF-92 的 F-4J
美国为了政治解决越南问题于 1968 年 10 月 1 日停止了持续轰炸北越的"滚雷"行动。1972 年 3 月 29 日至 30 日夜间 12 个师的越军地面部队在坦克掩护下攻入南越境内。4 月 2 日尼克松总统下令恢复对北越的轰炸并开始 Freedom Train（自由列车）行动。美军从佛罗里达 Elgin 和 Homestead 基地调 遣 6 个 F-4E 中队进驻南越和泰国的基地。从新墨西哥州 Holloman 基地调动 F-4D 前往泰国大居里基地。
1972 年 5 月 8 日尼克松宣布用水雷封锁海防港并将解除对北越的轰炸限制。有限的“自由列车”行动被全面升级的“后卫”行动取代，旨在以狂轰滥炸迫使北越停止地面进攻，重回谈判桌。
1972 年 12 月末由 B-52 主演的圣诞节轰炸使得“后卫”行动达到最高潮。1973 年 1 月 27 日双方在巴黎签署了停战协定，美国正式退出战争。1973 年 1 月 12 日从“中途岛”号（CV-41）起飞的“鬼怪”击落了一架米格，这是“鬼怪” 在越南取得的第 197 次也是最后一次战果。
截至 1973 年越战停止，海军的“鬼怪”共击落 40 架敌机。产生了两名王牌，VF-96 的 Randall H. Cunningham 上尉（飞行员）和同机的武器官 William P. Driscoll 中尉。海军一共损失了 71 架“鬼怪”，其中 5 架被击落，13 架被地空导弹击落，53 架被高炮和轻武器击落。另外还有 54 架毁于事故。
Randall H. Cunningham 上尉
有些 F-4J 改装后编入 VAQ-33 中队，它们在翼下携带电子战吊舱执行“电子攻击”任务，这些“鬼怪”又被称为 EF-4J。
到了 1970 年海军开始关注自己的 F-4B 机队的健康问题，很多飞机已经服役超过十年，开始频出状况。就在那年海军开始了一项名为“Bee Line”的计划，准备对 F-4B 进行翻新改造。最终有 228 架 F-4B 进行了改进，翻新后的飞机被命名为 F-4N。
第一架 F-4N 首飞于 1972 年 6 月 4 日并于 1973 年 2 月加入海军现役，此时越战已经结束。F-4N 在海军服役的时间不长，1970 年代中期开始就逐步被 F-14A 替代。但是“珊瑚海”号航母上的 VF-154 到 1983 年才把 F-4N 换成 F-14A。F-4N 在海军和陆战队后备部队继续服役，直到 1980 年代初被 F-4S（F-4J 的改进型）或者 F/A-18 取代。1984年 2 月驻达拉斯的 VF-201 后备中队把最后一架 F-4N 退役。
许多退役后的 F-4N 被改装成遥控靶机，代号 QF-4N，第一架 QF-4N 出现在 1983 年。1970 年代中期有 265 架（另说 248 架）F-4J 进行了升级改造，代号变为 F-4S。该计划和改造 F-4B 为 F-4N 的“Bee Line”类似。
改造的首要目标是延长 F-4J 的寿命使其能服役到被 F-14 取代。第一个接收 F-4S 的是 VF-21，驻地在迈阿密，时间是 1979 年 12 月。
到了越战末期，在较大型的航母上 F-14 已经开始取代“鬼怪”。1970 年代末期到 1980 年代初海军舰载机的换装速度日益加快。不过在较小型的航母上，如 Midway （CVA-41）、Franklin D. Roosevelt （CVA-42）、Coral Sea （CVA-43），继续使用 F-4N 和 F-4S。1986 年 3 月 24 日 VF-151 和 VF-161 的 F-4S 飞离“中途岛”号航母，至此海军把所有的“鬼怪”全部退役。
1986 年后 F-4S 全部被转交给岸基的海军后备部队使用，不过“鬼怪”在这里呆的时间也不长。1987 年 5 月 14 日驻达拉斯的 VF-202 把最后一架 F-4S（155560）退役，这也是海军中最后一架“鬼怪”。此后只在中国湖的海军武器中心和加州木古角的太平洋导弹试验中心还能看到改为靶机的 QF-4。
本章节原作者参考书目及资料来源：
麦克唐纳 F-4“鬼怪 II”重型战斗机
原著：Joseph F. Baugher
翻译：涡扇
目录
相关资料：美国海军在越南的空战
“鬼怪”在美国海军陆战队
1962 年 6 月驻 Cherry Point 基地的海军陆战队 VMF(AW)-314 中队将 F4D“天光”换为“鬼怪”，这是陆战队接收的第一批 F4H-1。
到了 1964 年夏天陆战队已经拥有 6 个 F-4B 中队。1965 年 4 月 11 日 VMFA-531 带着它的 F-4B 进驻 岘港基地，这是第一个抵达战场的陆战队航空兵中队。两天后该中队执行了第一次战斗任务。从 1965 年 4 月开始，陆战队的F-4B 就进驻了南越和泰国的基地以及美国号航母 （CVA-66）。陆战队的“鬼怪”积极参与了越战，主要是在南越执行对地攻击任务以支持陆战队地面部队的作战。不过它们也执行过 Tally Ho 行动主动攻击北越境内的目标以及代号为 SteelTiger/Tiger Hound 的在老挝境内的遮断任务。