Docteur de l’Université de Technologie de Compiègne et ingénieur civil des Mines de Nancy, Philippe Baptiste est également titulaire d'un MSc de l’Université de Strathclyde à Glasgow, d'un DEA obtenu à Sorbonne Université ainsi qu'une habilitation à diriger des recherches.
En 1999, il entre au CNRS en tant que chercheur, puis au Watson Research Center d’IBM de 2000 à 2001. Philippe Baptiste enseigne aussi à l’École Polytechnique, de 2002 à 2012, au sein de laquelle il a dirigé le laboratoire d'informatique. Par ailleurs, il créé l'Institut des sciences de l'information et de leurs interactions.
Il rejoint en mai 2013 le ministère de l'Éducation nationale en tant que chef du service de la stratégie et de l'innovation à la Direction générale de la recherche et de l'Innovation. En 2014, il devient Directeur général délégué du CNRS.
Directeur scientifique puis CTO du groupe Total de 2016 à 2017, et « Partner and Director » au sein du Boston Consulting Group en 2020, il rejoint en mai 2017 le ministère de l'Enseignement supérieur et de la Recherche en tant que directeur de cabinet de la ministre Frédérique Vidal. En novembre 2019, il rejoint le Premier ministre Édouard Philippe en tant que conseiller.
Depuis 2021, Philippe Baptiste occupait les fonctions de Président du Cnes, le Centre national d'études spatiales.
Sur proposition du Premier ministre, François Bayrou, le président de la République nomme Philippe Baptiste ministre chargé de l'Enseignement supérieur et de la Recherche, le 23 décembre 2024. Philippe Baptiste est ministre auprès d’Élisabeth Borne, ministre de l’Éducation nationale, de l'Enseignement supérieur et de la Recherche.