目前VoIP系統一般由IP電話終端、網關(Gateway)、網(關)守(Gatekeeper)、網管系統、計費系統等幾部分組成。

VOIP電話終端

在局域網電話話音網絡中的話機與常見PBX話機在外觀和感覺方面十分相似，唯一的例外是這些話機直接插入數據網絡，并不使用傳統的電話配線。有的網絡電話機通過USB的總線連接到PC或者筆記本電腦中，有的產品設計得像一部移動電話，而有的產品則提供模擬電話的接口，用來連接模擬電話。這樣的設備并不是什么網關，而實際上是PC to PC方式IP電話的一種延伸，PC中還需要裝載專門的IP電話軟件。它可以說僅僅是一個撥號鍵盤、麥克風和耳機的結合，PC仍舊是網關。

網關

VoIP的核心與關鍵設備是IP電話網關。

IP電話網關具有路由管理功能，它把各地區電話區號映射為相應的地區網關IP地址。這些信息存放在一個數據庫中，有關處理軟件完成呼叫處理、數字語音打包、路由管理等功能。在用戶撥打IP電話時，IP電話網關根據電話區號數據庫資料，確定相應網關的IP地址，并將此IP地址加入IP數據包中，同時選擇最佳路由，以減少傳輸時延，IP數據包經因特網到達目的地IP電話網關。對于因特網未延伸到或暫時未設立網關的地區，可設置路由，由最近的網關通過長途電話網轉接，實現通信業務。

人們提出了把信令控制功能從媒體網關分離出來集中在單設的控制網關中，分立的網關主要有MGCP和SIP兩類，前者是通過呼叫代理控制媒體網關，命令后者執行。另外，IETF提出了基于WEB環境的SIP(session initiation protocol)協議。SIP是立足于WEB的客戶機/服務器環境中主機間的會晤啟動協議，用服務器或代辦方式提供各種服務。SIP通過有層次的定位符(URL)識別用戶進行尋址，并用服務描述協議指明所要求的服務特性。SIP使用登記報文對SIP服務器登記，用請求命令起動呼叫，報文直接送至客戶機或服務器，后者取代了H.323網守的功能。SIP不是段管理協議，只是段的起動和拆除，不涉及段內部的通信細節。

VoIP網關可以分解為單純的媒體網關MG和媒體網關控制器MGC，以便集中控制和管理。其間的控制協議是MGCP。

網關是完成電路交換呼叫至分組話音轉換重要任務以及其逆向過程的部件，網關有時與路由器合并在一起。

路由器

路由器通常是現有數據網絡的一部分，它讀取包含在分組中的信息，并且沿著可能的最佳路徑將該分組送往其目的地。

網守

在IP電話中，網守處于高層，是用來管理IP電話網關的.

IP PBX

然而在局域網電話話音網絡中，話音呼叫通過基于IP的PBX進行接收和疏導，而這種IP PBX是與現有的數據網絡連接的。IP-PBX可以是一種獨立的解決方案，也可以分解為幾種分散的裝置。

PC-PBX系統突出特點是高集成度，即所謂"all in one box"。它在一個集中式結構中集成集線器、路由、RAS、電話系統以及語音信箱，一些產品還可以包括電子郵件服務器、FTP服務器、文件服務器等。

IP PBX電話交換機系統實現計算機網與電話交換機的功能合一，將會在二十一世紀的通信業中起著重要的作用。

IP PBX網絡系統內各電話終端采用IP方式進行數據通信，不僅能進行通話，還能實現文本、數據、圖像的傳輸，將電話網和計算機網統一成一個整體，實現局域網內的電子辦公。

而且IP PBX能直接使用便宜的普通模擬電話，不像傳統PBX需要配備昂貴的專用數字電話。IP PBX還有一個非常吸引人的優點是，它可利用其VoIP功能用市話價格撥打長途電話，極大地節省了長途通信費用。