http://grc.com/r&d/NoMoreDoS2.htm
Estaba leyendo el resumen anual de securityfocus y he encontrado una URL muy interesante...
En la URL antes mencionada hay una explicación a nivel TCP de cómo evitar los ataques DOS, la idea es muy buena, básicamente consiste en no guardar información del SYN que te envía el cliente para establecer la conexión y sólo guardar la clave CSN que envías tú cuando envías un paquete SYN/ACK, así después cuando el cliente envíe el ACK con tu clave CSN sabrás que es el mismo tío que te ha hecho un SYN al principio, cosa con la que verificas que no se ha spoofeado la IP y además, al no haber guardado la información del SYN podemos evitar el desbordamiento de recursos al que es sometida la máquina en un ataque DOS.
Para informarse más detalladamente de todo esto la URL que he mencionado antes lo explica muy bien.