Jaringan komputer adalah sistem yang kompleks, seringkali merutekan ratusan, ribuan, atau bahkan jutaan paket data setiap detik. Oleh karena itu, agar jaringan dapat menangani data dalam jumlah besar, penting agar data dirutekan secara efisien. Misalnya, jika ada sepuluh router dalam jaringan dan dua di antaranya melakukan 95% pekerjaan, jaringan tidak berjalan dengan sangat efisien. Jaringan akan berjalan lebih cepat jika setiap router menangani sekitar 10% lalu lintas. Demikian juga, jika sebuah situs web mendapat ribuan klik setiap detik, akan lebih efisien untuk membagi lalu lintas antara beberapa server Web daripada mengandalkan satu server untuk menangani beban penuh.
Load balancing membantu membuat jaringan lebih efisien. Ini mendistribusikan pemrosesan dan lalu lintas secara merata di seluruh jaringan, memastikan tidak ada satu perangkat pun yang kewalahan. Server web, seperti pada contoh di atas, sering menggunakan load balancing untuk membagi beban lalu lintas secara merata di antara beberapa server yang berbeda. Hal ini memungkinkan mereka untuk menggunakan bandwidth yang tersedia secara lebih efektif, dan oleh karena itu memberikan akses lebih cepat ke situs web yang mereka host.
Apakah load balancing dilakukan pada jaringan lokal atau server Web besar, memerlukan perangkat keras atau perangkat lunak yang membagi lalu lintas masuk di antara server yang tersedia. Jaringan yang menerima lalu lintas dalam jumlah tinggi bahkan mungkin memiliki satu atau lebih server yang didedikasikan untuk menyeimbangkan beban di antara server dan perangkat lain dalam jaringan. Server ini sering disebut (tidak mengherankan) load balancing.
Cluster, atau beberapa komputer yang bekerja bersama, juga menggunakan load balancing untuk menyebarkan pekerjaan pemrosesan di antara sistem yang tersedia.