D'origine italienne, Frank Grillo naît à New York où il suit des études de commerce. Le physique de sportif dont il hérite grâce à ses passions pour l'athlétisme, la boxe et les arts martiaux, lui permet d'apparaître dans plusieurs publicités pour la télévision et les magazines américains. Conciliant entre sport et vie associative, il arrive aussi à décrocher de petits rôles dans des séries et des films. On le voit apparaître par exemple en 1993 dans la saison 3 des Dessous de Palm Beach ou en 1996 dans Deadly Charades, un film de Kelley Cauthen.

À partir de 2002, il commence à s'imposer en tant qu'acteur de séries en participant à la saison 4 de New York Unité Spéciale et à la première saison de The Shield. Il s'introduit ensuite beaucoup plus dans l'univers du cinéma en interprétant le rôle d'Andy aux côtés de Cameron Diaz dans la comédie romantique Allumeuses ! (2002). Il incarne également un policier dans Minority Report (id.) de Steven Spielberg, rôle qui lui sied. Le comédien au physique athlétique se voit ensuite solliciter pour les besoins de la série à succès Prison Break (2005) où son personnage lui permet d'être plus connu auprès du public. Il joue par ailleurs au détective dans la série Blind Justice (id.) puis dans les téléfilms Hollis & Rae (2006) et Blue Blood (2008).

En 2007, Frank tient incarne M. Pig parmi les acteurs réguliers de la série Kill Point : dans la ligne de mire. Sa lancée sur grand écran s'affirme avec le personnage d'Eddie Carbone dans Le Prix de la loyauté de Gavin O'Connor en 2008. Le même réalisateur le reprendra plus tard dans son poignant Warrior (2011) dans la peau de l'entraineur de Joel Edgerton. En 2010, Grillo assure le premier rôle dans la série américaine d'épouvante The Gates et s'ouvre ainsi, une fois pour toutes, les portes de l'univers de l'horreur. On le retrouve ainsi plus tard dans des films du même genre comme Mother's Day (2010) ou My Soul To Take de Wes Craven (2012).

Joe Carnahan le place ensuite en compagnie de Liam Neeson dans l'aventure de survie Le Territoire des Loups (2012). Second couteau dont le visage et la carrure sont désormais connus, Frank Grillo se retrouve face à Bruce Willis dans Lady Vegas de Stephen Frears avant de regagner une atmosphère plus tendue avec les brutaux End of Watch, Intersection et Homefront où il tient fortement tête au spécialiste des techniques de combat Jason Statham. Très actif, il enchaine avec le blockbuster Captain America, le soldat de l'hiver (2014) dans la peau du méchant Crossbones.