Le Pontavice était la seigneurie de la paroisse de Tremblay. Il relevait de la baronnie de Fougères ; il était également une sergenterie féodée de la seigneurie de Saint-Brice. Il s’agissait d’une châtellenie qui possédait un droit de haute justice et un droit de quintaine au bord de la Loysance.
En 1414, le manoir appartenait aux seigneurs du Pontavice puis, il passe par alliance au début du 17e siècle aux Budes, seigneurs de Sacé. En 1680, il est vendu aux Labbé, seigneurs du Hino, qui le revendent en 1681 aux Lys, seigneurs de Beaucé. En 1760, il est à nouveau vendu au marquis du Hallay qui le possède encore au moment de la Révolution française.
Cet ancien manoir était situé dans le bois du même nom, à proximité du Couesnon ; il était déjà en ruines en 1454 (au début du 20e siècle, il existait encore un amas de pierres sur un promontoire face à la Ballue qui en marquait l’emplacement). Il possédait une motte, la Motte du Tronchay.
Les bâtiments actuels correspondent à un manoir plus récent.
En 1824, lors de la réalisation du premier cadastre communal, le « Pont à Vis » était composé de plusieurs bâtiments : l’ancien manoir, le moulin et la ferme. En ce qui concerne les bâtiments qui subsistent aujourd’hui, le logis actuel n’était pas encore construit, il est donc postérieur à 1824. En effet, l’architecture de ce bâtiment témoigne du milieu du 19e siècle : régularité et symétrie des percements formant trois travées, pente de toiture encore relativement forte… Cependant, il n’est pas exclu que des réemplois provenant des bâtiments de l’ancien manoir aient servi à son édification.
En 1824, le cadastre montre l’existence de deux bâtiments orientés est-ouest, parallèles l’un par rapport à l’autre. Il semble que celui du sud, qui possédait une aile en retour d’équerre au sud-ouest n’existe plus aujourd’hui. Il a peut-être été détruit au milieu du 19e siècle, lors de la construction du logis actuel. Le bâtiment perpendiculaire au logis actuel, situé à l’ouest dans le prolongement sud d’un bâtiment plus ancien, date également, au vu de ses caractéristiques architecturales, de la seconde moitié du 19e siècle.
Photographe à l'Inventaire