1958 年 5 月 27 日，麦克唐纳飞机公司一架代号“98Q 型”（Mode 98Q）的新型飞机由该公司试飞员利特尔（Robert C．Little）驾驶在圣路易斯市机场成功进行了首飞。随后这架被美国海军称为 YF4H-1 的飞机飞到加州爱德华兹空军基地与沃特公司的 XF8U-3“十字军战士Ⅲ”展开竞争性对比试飞。1958 年 12 月海军宣布 F4H-1 获胜，麦克唐纳于次年 7 月 3 日在圣路易斯举行的公司成立 20 周年庆典上将该机正式命名为“鬼怪” Ⅱ。到 1981 年 5 月 20 日三菱重工向日本航空自卫队交付最后一架 F-4EJ 时，F-4 系列（注：1962年9月18日美国空军和海军航空兵、海军陆战队航空部队按五角大楼统一编号的规定对作战飞机进行了重新编号，海军的F4H-1F、F4H-1重编号为F-4A、F-4B，空军选择的F4H-1改型编号由F-110A改为F-4C。）总产量已达 5,195 架，在世界同技术等级飞机中仅次于苏联的米格-23 家族（到 1984 年停产时米格-23/-27 系列的生产数量超过 6,000 架），并早已从最初的海军防空战斗机转变成一种经典的多功能战斗机。
1959 年 12 月 6 日，F4H-1 原型机从爱德华兹空军基地起飞，创造了 30,040 米（98,557 英尺）的绝对飞行高度记录。注意机身右侧写着“Top Flight”
第 6 架 F4H-1F（145307）在 1961 年 8 月 28 日创造了贴地飞行速度记录
45 年弹指一挥间，在 1990 年 12 月 28 日驻扎在北卡罗来纳州西摩•约翰逊空军基地的第 4 战术战斗机联队第 334 战术战斗机中队换装 F-15E 后，美国空中力量现役单位的 F-4 作战型除了少量的 F-4G“野鼬鼠”外已全部转入预备役或退役；英国的 F-4 也在 1992 年全部退役，由“狂风”ADV 型取代。其它国家的 F-4 仍在继续服役甚至改进，但这些国家大都也已经装备了第三代战斗机，如以色列空军装备了 F-15/-16、日本航空自卫队装备了 F-15 和 F-2、希腊和埃及空军都装备了 F-16 和“幻影”2000、伊朗空军装备了 F-14、土耳其和韩国空军装备了 F-16、西班牙和皇家澳大利亚空军装备了 F/A-18。而在德国，F-4F 自从 70 年代后期代替 F-104G 后便成为德国空军唯一的防空战斗机（1990 年 10 月 3 日两德统一后原东德的米格-29 被保留，不过数量只有 24 架），并且从 1983 年完成第一次升级改进后，直到 2002 年底一直是德国空军唯一具有超视距作战能力的战斗机。该机还将继续服役，直到被号称“三代半”的 EF2000“台风”完全取代。
F-4 展示挂载能力
选择 F-4F
F-4F 是改进自美国空军 F-4E 的德国空军专用型。第一架生产型 F-4E（序号 66-0284）在 1967 年 6 月 30 日由亨特（R. D. Hunt）和韦恩•怀特（Wayne Wight）驾驶进行了首飞。它根据越南空战的教训在机头下方安装了一门 6 管 20 毫米 M61A1 加特林炮，是第一种安装固定机炮的 F-4。该机还装有带目标拦截计算机和连续波照射器的 APQ-120 雷达，故也是美国空军第一种装备火控雷达的 F-4，因为此前美国空军的 F-4C/D 都采用独立的火力控制组控制 AIM-7 “麻雀”拦射导弹，而 1966 年 5 月 27 日首飞的美国海军 F-4J 已经装有更先进的 AWG-10 脉冲多普勒火控系统。
地勤人员正在维护 F-4E 的 APQ-120 雷达
1968 年，为了对抗苏联米格-21 的扩散，美国空军宣布了一项“国际战斗机”（IFA）计划，目的是发展一种以米格-21 为作战对象的低成本军援战斗机。由于 F-4E 过于昂贵，所以麦道公司（注：麦克唐纳公司在1967年与道格拉斯公司合并，称为麦克唐纳-道格拉斯公司，简称麦道公司。）在它的基础上提出了名为“98MZ 型”的单座简化方案参加竞标，并将它编号为 F-4E（F）。这种亚改型去掉了 F-4E 的后座舱、用前缘缝翼代替了前缘吹气襟翼、采用简化的机载设备，并且不具备使用“麻雀”导弹的能力。F-4E（F）的竞争对手是凌•特姆科•沃特公司（注：1963年沃特公司与凌•特姆科电子公司合并，改称凌•特姆科•沃特公司。）的 F-8“十字军战士”轻型化方案 V-1000、洛克希德公司在 F-104“星战士”基础上改进的 CL-1200“枪骑兵”和诺斯罗普公司在 F-5A“自由战士”基础上发展的 F-5A-21。最后 F-5A-21 获胜，并最终发展出 F-5E/F“虎” Ⅱ。这样 F-4E（F）方案就被暂时束之高阁了。
60 年代德国空军装备的主力防空战斗机是洛克希德的 F-104G，近距支援攻击机则是意大利菲亚特的 G.91。60 年代末德国和英国、意大利联合开展了“多任务战斗机”（MRCA）的研制，并计划用其截击型和对地攻击型分别替换 F-104G、G.91。但不久德国空军就意识到 MRCA 截击型难以在预定的 1975 年开始服役，于是从 1971 年开始寻求一种过渡机种以填补该机服役前的空白。
麦道公司见有机可乘，立刻向德国政府抛出了 F-4E（F）方案。这次它的竞争对手是多国联军，除了 V-1000 和 CL-1200 外，还有诺斯罗普公司的 P-530“眼镜蛇”（F/A-18 的前身）、瑞典萨伯公司的萨伯-37“雷”和法国达索公司的“幻影”-F1。精打细算的日耳曼人总喜欢首先从成本考虑问题，经过比较分析，他们认为 F-4E（F）可以和 1969 年订购的 RF-4E（F-4E 的侦察型）通用大多数零部件，降低维护和使用成本，并且其空战格斗性能也比较好，所以决定选择该机。但在麦道开始制造第一架 F-4E（F）之前，德国空军又改变了主意，选择直接让 F-4E 保留双座并进行低成本简化改进，改进后的飞机编号为 F-4F，麦道公司称为“98NQ 型”。