CentOS系统
检查了一圈httpd.conf和目录权限，均没有发现问题。
最后，看了这篇文章，发现是因为系统启动了SELINUX导致的。
http://stackoverflow.com/questions/8816836/apache-403-error-13permission-denied-access-to-denied-fedora-16
关闭SELINUX
setenforce 0
或
vim /etc/selinux/config
修改
SELINUX=enforcing
改成
SELINUX=disabled