并行处理是一种计算机处理的类型，在这种处理中，大型计算任务被分解成较小的子任务，然后这些子任务被同时处理，或者并行处理，而不是顺序处理。这项技术在现代计算中得到广泛应用，特别是在自然科学等高级问题上。单个设备内并行处理技术的示例包括对称多处理和多核处理。多台计算机也可以通过分布式计算、计算机集群和大规模并行计算机等方法连接在一起并行工作。

对称多处理器是一台计算机，它有一个公共主内存和一个操作系统实例链接到多个相同的处理器。处理器具有相同的功能，并链接到一个公共内存，因此可以根据需要轻松分配或重新分配任务，以平衡它们之间的工作负载。在多核处理中，每个处理器至少包含两个中央处理器（CPU），称为核心，负责读取和执行指令。本质上，多核处理器实际上是单个集成组件中的多个处理器。与每个CPU都是独立组件的多处理器计算机相比，这使得处理核心之间的通信速度更快、效率更高。

多处理器计算机广泛应用于科学和商业领域。它在个人计算机系统中不太常见，通常是单处理器设计，尽管多处理器在消费市场中已变得越来越常见。计算机软件必须专门为多处理器计算机设计，以充分利用它所能提供的好处，因此，这种类型的软件在单处理器计算机上往往存在性能问题。同样，考虑到单处理器编写的程序通常只能从多处理器中获得有限的好处，因为它们不是为了利用多处理器而设计的。

分布式并行处理技术使用多台独立的计算机并行处理问题的不同部分，通过Internet或内部网络连接在一起，以便它们可以相互通信。这种类型的并行处理技术可以用于物理上彼此距离较远的计算机，尽管情况并非总是如此。连接在一起的计算机形成了所谓的计算网格。

计算网格可能非常大，可能包含数千台可能分布在世界各地的计算机。这些计算机也可能同时处理不相关的问题，网格处理的任务根据每个计算机当时有多少空闲处理能力分布在计算机之间。网格计算不同于大多数其他现代并行计算，因为单个网格通常包含具有不同功能的各种计算机阵列，而不是一组相同的单元。

计算机集群是并行处理技术的一种形式，在这种技术中，通常具有相同功能的多个链接计算机作为一个单元紧密协作。与对称多处理不同，对称多处理使用共享一个公共内存和操作系统的多个处理器，集群中的每个单独单元都是一台完整的独立计算机。它们通常位于同一地理位置，并通过局域网连接。有些计算机是专门为计算机集群而构建的，但集群也可以通过连接最初设计为自主运行的计算机而形成。

大规模并行计算机与集群计算机有一些相似之处，因为它们也由多台连接在一起的计算机组成，但它们要大得多，通常包含数百或数千个节点。它们还拥有自己的专用组件，将组成它们的各个计算机连接在一起，而计算机集群则通过标准的现成硬件（通常称为商品组件）连接在一起。最先进的大规模并行计算机可能真的是巨大的，包含成千上万台独立的计算机，占据数千平方英尺的空间，所有这些计算机一起工作。世界上大多数用于天体物理学和全球气候建模等领域复杂计算的高级超级计算机都是这种类型的。