《赋格的艺术》在巴赫逝世时处于未完成状态——最后一首赋格未十分完整写出。这部作品总是被蒙上神秘色彩，并且引起许多疑难问题。不幸的是，人们把它当作一部“非键盘”作品，认为赋格风格是严峻而理性呆板的，因此，很少有键盘表演家弹奏它。此外，在三个方面总发生一些混乱，这就是：乐章间正确的排列顺序；巴赫是否计划创作另外一些赋格，对此没有任何资料存留下来；以及那首未完成的赋格是否属于这部作品。
    学者们现在已经对所有围绕着这部伟大作品的主要问题提供了令人信服的回答，巴赫的意图实际上几乎可以从每一争论上推断出来：我们现在知道巴赫写作这部作品时，确实是以羽管键琴作为主导乐器；他意想中的顺序可以确切地重新建立起来；最后一首肯定是套曲的一部分，因为巴赫在他原始的页码中给它以特殊的位置。
    《赋格的艺术》包括14首赋格曲，是按复杂性的增长而排列的羽管键琴作品，4首卡农曲就像14首赋格曲那样建立在同样的铭言性主题上，也同样按复杂性的增长排列，形成整首作品的结束部。这种结构在目前的版本中得到了恢复。演奏家们注意到，在巴赫的手迹中，赋格1和3是并列在一起的，如同赋格8和11。
    巴赫创作这部作品的构想可能始于1705年，并且在他的一生中逐渐发展起来。在这一年，巴赫前往吕贝克，照他所说“为的是了解有关他的艺术的一两件事”。（引自《宗教法庭议事录》阿恩斯塔特，1706年2月21日）至少两首倒影赋格与布克斯霍德发表在他的《和平和愉快旅行》（1674）中的两个d小调四声部乐章（每一乐章标明为“Contrapunctus”对位曲，并且每个乐章都有镜向“evo-lutio，展开）有惊人相似之处。
    《赋格的艺术》是在巴赫生命的最后一年为雕版家（即曾经雕刻六首“舒伯勒”管风琴圣咏的约翰·乔治、舒伯勒的弟弟约翰·海茵列希·舒伯勒）而准备的，这部作品于1751年作曲家去世约12个月后出版，并在1752年再版。巴赫可能在完成《平均律钢琴曲集》第二集（1742）之后才正式着手创作这一曲集，原始的草稿和手稿已经遗失，但相当好的一抄本却保留下来，注明是1745年，包括几乎所有的乐章（12首赋格曲和2首卡农曲）。抄本是分部式总谱（open score），就像已出版的那样。
    巴赫可能计划在1749年6月完成《赋格的艺术》，作为他向弥兹勒尔协会（Mizler Society）的第三次，也是最后一次献礼。他于1747年参加此协会（作为该协会成员的条件之一，巴赫需每年呈交一部出版的“科研”作品，直到65岁止。巴赫在1747年第一次贡献的是一首根据“从至高的天界”而创写的卡农变奏曲；在1748年大概提交了“音乐的奉献”）。但在1749年6月他的视力严重恶化。虽然几乎失明，但他在与他居住在一起的几个儿子的帮助下，仍然继续工作。在一次中风之后，于1750年6月28日晚逝世。