Jan Gossaert est probablement né vers 1478 à Maubeuge dans le Hainaut, (qui faisait alors partie des Pays bas) et il était peut-être le fils de Simon Gossaert, relieur du chapitre de sainte Aldegonde à Maubeuge. Mais certains pensent qu'il aurait pu être le fils de Jacques de Maubeuge, intendant de l'évèque d'Utrecht entre 1470 et 1490, et il serait alors né au chateau de Wijcklez-Duurstede (Wijk-bij-Duurstede).

On l'appelait également Jean Gossart, Jennin Gossart , Jennyn van Henegouwe (Jennin de Hainaut) et Jehanin de Maubeuge ou Ioannes Malbodius (Jean Mabuse). Son surnom de "Mabuse" provenait de "Malbodium" , nom latin de Maubeuge.

On ignore ou il apprit à peindre (peut-être à Bruges selon certains spécialistes), mais c'est à Anvers, en 1503, qu' il fut accepté comme "franc-maître" (maître libre) à la Guilde de Saint Luc. Étant donné que la maitrise s'atteignait généralement à l'age de 25 ans, on en déduit donc qu'il était né vers 1478.
De 1503 à 1507 il dirige ensuite un atelier de peinture à Anvers, et on considère que son style faisait alors partie du « maniéristme gothique anversois » tout en montrant une influence de Memling et de l'école Brugeoise de Gerard David.
Seules deux oeuvres subsistent de cette époque : "Le mariage mystique de sainte Catherine" et "La vision de l'empereur Auguste".
Certains pensent que le petit triptyque avec la sainte famille, sainte Catherine et sainte Barbara pourrait dater aussi de cette période.

Il accueillera deux élèves dans son atelier : Hennen Mertens, en 1505 (qui est peut-être Jan Mertens / Van Dornicke, futur beau-père de Pieter Coeck) et un autre , de nom inconnu, en 1507.

Bon artiste de cour, Gossaert fréquente les deux principaux pôles de la culture maniériste des Pays-Bas : la cour de Philippe de Bourgogne (batard de Philippe le Bon et frère de Charles le Téméraire), seigneur de Somerdyk, amiral de Zélande et abbé de Middelburg, à Utrecht et celle de l'archiduchesse Marguerite d'Autriche, régente des Pays-bas, à Malines

Du 26 octobre 1508 au 14 janvier 1509, il accompagne Philippe de Bourgogne qui se rend en mission diplomatique pour Marguerite à la cour du Pape Jules II à Rome. Son but est d'y étudier l'architecture et la sculpture de l'antiquité.
Gérard Geldenhauer, secrétaire de Philippe de Bourgogne, écrit en 1529 : "Rien ne lui plaisait davantage à Rome que les témoins sacrés de son antiquité, qu'il a fait reproduire pour lui par le très célèbre peintre Jean Gossart de Maubeuge .
A Trente, Verone, Mantoue et Florence, Gossaert entre en contact avec la sculpture et la peinture de la renaissance italienne. A Rome il est même possible qu'il ait observé le travail de Raphael et de Michel-Ange.

De ce séjour italien n'ont été conservés que quatre dessins : "Le Colisée", "Apollon Kitharoedos (au repos) ", "Hercule Capitolin" et "L'arracheur d'épine".
La légation de Philippe de Bourgogne quitte l'Italie en juin 1509, mais on sait que Gossaert s'attarde à Rome encore au moins jusqu'en juillet.

Ensuite, enrichi par son expérience italienne, Gossart revient au Pays-bas et s'installe en Zélande. Sous le nom de "Janin de Waele" (Jean de Wallonie) il deviendra alors membre de la gilde de Middebourg (1509-1517).

Cependant ses 1ers commanditaires étant souvent des ecclésiastiques de gouts traditionnels, il aura souvent du mal à exprimer à fond ses nouvelles connaissances dans les oeuvres de nature religieuse qui lui sont demandées. Pendant cette période, on ressent une influence de Dürer et de Mantegna sur ses oeuvres.

Mais en fin 1515 l'humaniste Philippe de Bourgogne charge Gossaert et le vénitien Jacopo de Barbari de décorer son château de Suytburg (Soubourg près de Middelburg, en Zélande) pour faire un centre de culture de la renaissance pour les pays du nord. Philippe de Bourgogne veut s'entourer avec des scènes de la mythologie classique, donnant enfin à Gossaert sa première occasion d'expérimenter son nouveau style classique et d'explorer la nudité dans le mouvement . Dans ce travail, Jacopo de Barbari, son collègue italien, a eu également une influence importante. Ses théories au sujet des proportions humaines ont notamment exercé une influence claire sur Gossaert.
Le seul élément décoratif de ce chateau qui nous soit parvenu intact est le panneau représentant Neptune et Amphitrite. Ces deux nus classiques ont été entièrement nouveaux pour l'art des Pays-Bas : ils démontrent pourquoi les disciples attribuent à Gossaert l'introduction des figures nues dans l'art flamand. Van Mander,le glorifie en tant que premier artiste à avoir émancipé l'art flamand de la théologie en le transportant dans la sphère de l'humanisme.

Gossaert recoit d'autres commandes dans la même période, de la part des Habsburgs, parents de Philippe de Bourgogne. Ces commandes sont essentiellement des portraits ou il parvient à méler la minutie de la tradition flamande avec le traitement italien des ombres et de la lumière.

On estime que Gossaertl a alors joué un rôle important dans l'introduction de la renaissance italienne aux Pays-Bas. Il y a créé le courant qui sera connu plus tard sous le nom de « Romanisme flamand » ou il mèle les influences de la tradition flamande à des éléments italiens..
A partir de cet instant, et pendant les 150 annéees à venir, les peintres flamands vont régulièrement visiter l'Italie pour s'inspirer de son art.

En 1517, Gossaert suit son protecteur Philippe de Bourgogne au château de Duurstede, à Utrecht, sa nouvelle résidence (Philippe de Bourgogne étant devenu évèque d'Utrecht).

Il épousera Marguerite de Molenaer, dont il aura deux enfants : Pierre (1521), qui sera également peintre et doyen de la gilde de Middebourg en 1554, et Gertrude, qui épousera un peintre, Henri van der Heyden de Louvain.

En 1521, le peintre allemand Albert Dürer vient regarder une de ses oeuvres, un grand retable, dans l'abbaye de Middelburg et il le cite dans son journal de route sous le nom de "Johann de Abüse" .

En 1523, il part à Malines restaurer des tableaux pour Marguerite d'Autriche. Il y rencontre le roi Christian II du Danemark, le roi détroné, auquel il se lie d'amitié et dont il fera le portrait des enfants.

En 1525, aprés la mort de Philippe de Bourgogne, Gossaert retourne à Middelburg pour entrer au service de son frêre, Adolphe de Bourgogne, marquis de Veere.

En 1526-27 il accompagne Lucas de Leyde en voyage d'agrément à Gand, Mechelen et Anvers.

Ensuite il travaillera pour Mencia de Mendoza, comtesse de Nassau et de Bréda, et il s'installera à Anvers ou il mourra le 1er octobre 1532.
On a retrouvé son portrait gravé par Lampsonius en 1572. T. Gall y aurait ajouté, vers 1600, une inscription prétendant que Gossaert avait été enterré à Notre-Dame.

On a reconnu que son importance historique avait été très grande. Bien qu'il n'ait eu pratiquement aucun impact sur ses contemporains, il influenca profondément les peintres flamands des générations suivantes, étant fondateur du style Romaniste.
Parmi ses disciples, on notera le Romaniste Jan van Scorel (1495-1562) à Utrecht et Middelbourg et le Romaniste Maniériste Lambert Lombard (? - 1566) à Liège.