在经典物理学中，最常用也最好用的概念是向量，在描述向量时，我们通常会在头脑中构造一个坐标系，向量是其中既有大小又有方向的有向线段，许多经典物理量都可以用向量描述。
然而在微观世界里，向量的概念显然是不够用的。例如氢原子中电子的轨道角动量或自旋角动量，就不能用向量来描述。因为一个普通向量的测量值与测量方向有关，当普通向量与测量方向同向时，得到最大值，而普通向量与测量方向垂直时，测量值是0。但是电子的轨道与自旋角动量却与测量方向无关，当外加一个磁场时，电子的轨道平面才变得有意义。如果磁场方向为Z方向，轨道平面就是XY平面，如果磁场方向是X方向，轨道平面就变成了YZ平面，这是经典思维无法理解的。
因此，在描述微观世界的物理量时，需要新的概念。
系统的状态可以由向量（或函数）描述，所有可能的向量（或函数）组成的集合，再加上一些必要的运算定义（例如加法、数乘之类的），就构成了描述系统状态的希尔伯特空间。而物理量就是对系统状态的操作，这个操作的目的是将一个向量变成另一个向量（或者把一个函数变成另一个函数）。显然这样的操作在数学上对应的是矩阵（或算符）。
我们将对希尔伯特空间中的基础元素（向量或函数）进行的所有可能的操作抽象出来，构成一个新的集合，而每一个操作对应一个元素，并在这个集合的基础上定义一些加法、数乘之类的运算，从而可以形成一个新的空间，这个空间可以给它取个名字，例如物理量空间、操作空间或者干脆叫矩阵空间。
显然可以证明，如果描述系统状态的希尔伯特空间是n维的，相应的矩阵空间就是n2维。系统状态的演化对应希尔伯特空间中指定元素的变化，而物理量的变化对应的是矩阵空间中指定元素的变化，也就是说，要想完整的描述一个物理量的演化过程，需要给出矩阵空间中相应元素的一个排列。