F-104G 的设计初衷是作为一种高性能的全天候多用途战斗轰炸机，这和当初 F-104A 的“纯”昼间点防御战斗机已经完全不同了。该机换装了 J79-GE-11A 发动机，加强了机体结构。加装、换装了大量先进的电子设备，包括自动驾驶仪、武器投射计算机、红外夜视仪、新型无线电系统和敌我识别系统，以及 F15A-41B 多功能火控雷达，使得该机具备了超低空高速飞行能力、精确导航和武器投射能力以及全天候作战能力，性能全面提高。弹射座椅更换为马丁·贝克的 MK.GQ7(F) 。
荷兰皇家空军的 F-104G。在巨大的空防压力下，荷兰空军不得不咬牙买下昂贵的 F-104， 而不是更加廉价的 F-5
1960 年 9 月 1 日，F-104G 原型机首次试飞成功。该机其实是由第 15 批次的一架 F-104A（56-0770） 改装而成。垂尾面积加大（和 B/D 型相当）， 以提供更好的航向稳定性，这个设计后来成为 F-104G 的标准设计。由于是改装机，机体结构并未按照 F-104G 的标准进行加强，很多电子设备也未能装机。直到 10 月 5 日，第一架预生产型 F-104G 才试飞成功。1961 年 5 月，F-104G 获准批量生产。
为了满足要求，除了洛克希德自己生产了少数 F-104G 外，大部分由欧洲 4 个生产集团根据许可证生产，包括南方集团、西方集团、北方集团和意大利集团。
1973 年，F-104G 停产，共计生产 1,127 架，先后装备西德、希腊、挪威、土耳其、台湾、比利时、荷兰、意大利、丹麦、西班牙等国家和地区。
TF-104G 是 F-104G 的双座教练型，洛克希德设计代 号583-10-20 。外观和 F-104D 类似，但取消了机身中线挂点，同时装备了 F15A-41B 多功能火控雷达。
该机全部由洛克希德制造，产量共计 220 架，先后交付德国、荷兰、比利时、意大利和台湾。
除了担负教练任务外，还有部分 TF-104G 被改装用于战术侦察，这些飞机也被称为 RTF-104G。
意大利空军装备的 TF-104G。他们装备的 F-104S 没有教练型，因此该型机的训练需要依靠 TF-104G
RF-104G 是 F-104G 的战术侦察型，洛克希德设计代号 682-04-10 。该机拆除了 M61A1 航炮， 并在腹部加装航空侦察相机。大部分 RF-104G 采用内置的 3 台 KS-67A 相机，，为此腹部增加了一个整流罩。但荷兰空军的 RF-104G 则采用侦察吊舱，在外观上和 F-104G 并无多大差别。
该型机共计生产 189 架。
联邦德国空军 RF-104G 和荷兰皇家空军同型机对比。前者在机腹整流罩内置侦察相机，后者则直接挂载侦察吊舱
CF-104 是加拿大航空有限公司在 F-104G 基础上改进生产的攻击侦察型，该机和欧洲版的 F-104G 相比，主要区别是，采用了 R-24A 火控雷达，改用加拿大制造的轰炸计算装置，并采用加拿大仿制的 J79-OLE-7 发动机，此外还拆除了 M61A1 航炮以安装增程油箱。
正在进行火箭弹齐射的 CF-104。该机主要用于攻击和侦察，而只具备有限的对空能力
事实上，加拿大是继德国之后第二个采用 F-104G 作为下一代主力战斗机的国家。1959 年 7 月 2 日，加拿大皇家空军宣布将和洛克希德联合生产 200 架 CF-104 （原称 CF-111），并由洛克希德单独生产 38 架双座教练型 CF-104D（原称 CF-113）。和大多数欧洲版 F-104G 不同，CF-104 没有专门的战术侦察型。它和荷兰的 F-104G 一样，利用机身中线挂点携带战术侦察吊舱（内置4 台“维腾”侦察相机），进行低空高速侦察。
执行侦察任务返航着陆的 CF-104。其机腹侦察吊舱外形和荷兰的 RF-104G 不同，颇令人诧异
1960 年 9 月 1 日，由一架 F-104A 改装的 CF-104 原型机首次试飞。次年 5 月 26 日，加拿大自行生产的 CF-104 首飞成功。1962 年 12 月，第 427 中队首批换装 CF-104。此后，421、422 、430 、434 、439 、441 、444 中队相继换装。1963 年 9 月 4 日，200 架 CF-104 全部生产完毕。此后加拿大航空有限公司根据军援计划（MAP） 开始转产 F-104G，以装备北约盟国和台湾。
1970 年，加拿大空军将所有 CF-104 缩编为 3 个中队，以增强核打击能力。到了 1972 年初，CF-104 作战任务改为对地攻击，为此重新加装 M61A1 航炮，以及各类常规对地攻击武器。1983 年起，随着 CF-18 的服役，CF-104 逐渐淘汰。至 1986 年 3 月 1 日，最后一架 CF-104 从 441 中队退役。此后，加拿大先后将 48 架 CF-104 移交土耳其空军。
CF-104D 是 CF-104 的双座教练型，由洛克希德生产（设计代号 583-04-15）。该机和 TF-104G 类似，但装备了加拿大仿制的 J79-OLE-7 发动机。该机于 1961 年 6 月 14 日首飞，共计生产 38 架（583A-5301～5338），全部交付加拿大皇家空军使用。其中最后 16 架，由于机载设备改进，被命名为 CF-104D Mk.II 。
1971 至 1973 年间，共有 7 架 CF-104D 被升级到 TF-104G 标准，然后转让给丹麦空军。1973 年，又有 2 架 CF-104D 转让给挪威。在 CF-104D 从加拿大皇家空军退役后，6 架该型机被送往德国翻修，然后转让给土耳其。
正在进行夜间地面试车的 CF-104D。耀眼的加力火焰与黑暗的背景形成强烈对比，令人震撼
F-104J 是日本日本第 2 次防卫计划中为其航空自卫队选定的截击机，由三菱重工根据许可证仿制的 F-104G 改型，洛克希德设计代号 683-07-14。该机虽然由 F-104G 发展而来，但由于政治因素，使得 F-104J 并不具备 G 型那样突出的对地攻击能力，在作战使命上更接近于早期 F-104A/C。