El jugador de 30 años se incorporó inicialmente a los Blades en febrero, pero solo disputó tres partidos tras sufrir una lesión de rodilla.
Phillips llegó al City procedente del Leeds United por 45 millones de libras en 2022 y formó parte de la histórica plantilla que logró el triplete en 2023.
El ex internacional con Inglaterra ha perdido protagonismo en el Etihad y ahora buscará relanzar su carrera en Bramall Lane.
"Este era el movimiento que quería", declaró Phillips al sitio web del club.
"Mi etapa se vio empañada por mi último partido y la lesión posterior, así que estoy aquí para cambiar eso".
"La plantilla es similar a la de la temporada pasada, me alegra ver a todos y tengo muchas ganas de volver en plena forma".
"Es una buena sensación volver a entrar por las puertas de Shirecliffe. Veo que la pretemporada ha sido dura y los compañeros han salido enchufados, así que estoy contento de empezar a entrenar y sumarme al grupo".