À partir de là, son itinéraire est peu clair, on sait juste qu'il tenta de retrouver l'Unique et finit par suivre la trace de Frodon qui découvrit sa présence lors de la descente de l'Anduin. Il ne put pourtant pas l'attraper et ce n'est seulement une fois la Communauté de l'Anneau dissoute et après une chute qui l'affaiblit, que Sam et Frodon réussirent à l'attraper. Malgré son aversion pour tout ce qui est elfique, notamment les vêtements, armes et nourriture des hobbits, Gollum se laissa pourtant apprivoiser par Frodon qui eut, à la différence de Sam, pitié de lui. Gollum les conduisit alors à travers les Marais des Morts vers la porte du Mordor, mais ils tombèrent sur une porte close et Gollum décida alors de les faire entrer en Mordor par le tunnel de Cirith Ungol, car son véritable but était de les livrer à Arachné, une araignée géante, et de récupérer l'Unique.
Son plan échoua grâce au grand exploit de Sam qui blessa et fit fuir Arachné. Et une fois de plus Sam et Frodon perdirent la trace de Gollum qui ne réapparut qu'au moment où, à Sammath Naur, au bord de la crevasse du Mont Orodruin, Frodon se proclame maître de l'Anneau. C'est là que Gollum se battit pour la dernière fois pour l'Unique et au moment où enfin, après avoir tranché le doigt de Frodon avec ses dents, il le tint dans ces mains, il fit un faux-pas et chuta dans la lave.
Ainsi finit le Maître Anneau, par la main de celui qui le garda le plus longtemps après Sauron et s'accomplit la prémonition de Gandalf:
« Car même les très sages ne peuvent voir toutes les fins. Je n'ai pas grand espoir de la guérison de Gollum avant sa mort, mais il y a tout de même une chance. Mon cœur me dit qu'il a encore un rôle à jouer, en bien ou en mal, avant la fin; et quand celle-ci arrivera, la pitié de Bilbon peut déterminer le sort de beaucoup - à commencer par le vôtre. »
(extrait du Seigneur des Anneaux)