Galéria sídli v zrekonštruovanom objekte tzv. Schaubmarovho mlyna v Pezinku - Cajle č. 255 z roku 1767, ktorý je kultúrnou a technickou pamiatkou (v mlyne je revitalizovaná mlynská technika z r. 1913). Je taktiež súčasťou Slovenskej národnej galérie.

Galéria Jána Koniarka je pomenovaná podľa zakladateľskej osobnosti slovenského sochárstva Jána Koniarka, ktorý sa narodil 30.01.1878 v obci Voderady a zomrel 04.05.1952 v Trnave. Bola založená 1. júna 1976. Od 1. apríla 2002 funguje galéria pod vedením Trnavského samosprávneho kraja.

Galéria sa nachádza v troch obnovených budovách zo 16. storočia na Námestí sv. Trojice.