Очень бы не советовал этого делать с помощью windows. По всем встречающимся отзывам винда неспособна обрабатывать такой поток пакетов и будет работать очень не стабильно. Используйте Linux, FreeBSD или на крайняк поднимите Microtik систему, которая специально для этих целей предназначена. Один раз настраиваете и забываете что у вас есть сервер.

http://www.usergate.ru/ как вариант. Данное ПО имеет шейпер и может подвязывать клиента по MAC адресу, т.е. отвечает всем вашим условиям.