L'agent J, autrefois formé par son mentor l'ex-agent K, continue de réglementer l'activité extraterrestre dans les rues de New York pour la secrète agence MIB, depuis 5 ans. Changeant en permanence de partenaires pour diverses raisons, il se voit confier par Z une nouvelle affaire de meurtre impliquant 2 aliens, pendant laquelle J décide de ne pas respecter le règlement, qui oblige à effacer la mémoire des témoins. Il s'apercevra vite que la Terre est (à nouveau) en danger de mort si la "lumière de Zartha" n'est pas très vite retrouvée. Malheureusement pour J, la seule personne sachant où se trouve cette lumière n'est autre que K, actuellement en retraite. La mission se révèle d'autant plus difficile car il faut que K retrouve la mémoire avant que la puissante Serleena ne trouve elle aussi l'objet de toutes les convoitises, et ce avant minuit.