NUMA导致的Oracle性能问题解决
背景简介：
Oracle版本:11.2.0.4 OS 版本：OEL5.8
在一次Oracle的Dataguard正常switchover过程中，遇到了一个极其诡异的问题，一条主业务的SQL语句在新主库的执行时间由之前的毫秒级别完成变成了20-60秒不等，为避免高峰业务超时必须尽快进行优化，否则只能走回退方案。
优化过程：
其实这个语句在之前将备库切换为snapshot备库做测试时表现是非常良好的，但是切换之后立马出了问题。在备库实际执行后获取到的执行计划与在主库一模一样，如下：
获取执行计划的语句如下：（语句出自ITPUB大神版主lfree）
select * fromtable(dbms_xplan.display_cursor(NVL('&1',NULL), NULL, 'ALL ALLSTATS LAST PEEKED_BINDS cost partition -projection -outline &2'));这里的参数1和2全部设置为空即可，此语句可以查出当前会话中上一个执行过语句的真实执行计划。
此SQL中不涉及视图，所以这个执行计划是非常好的，在主库执行也是毫秒级别的，因此同样的执行计划在备库却非常慢就很值得思考了。
接下来我利用set autot工具得到了执行此SQL后的统计信息，发现存在大量物理读。这里就很搞笑了，真实执行计划中不存在表扫描，所以出现这么多的物理读一定是回表操作特别多，那么为什么回表？显然内存不够。
于是我将SGA加大至80GB（比主库还大20GB），重启数据库再查，问题依旧。
我依然坚信是缓存的问题，那么必须要搞清为何数据未被缓存至内存，对Oracle数据库来说大多有2个原因：
1、数据太多，内存太小。
2、不是热点数据，被LRU刷出内存。
首先排除第二条，原主库60G的SGA都可以，现在80G的SGA没理由不可以。
此外注意到一个现象，v$sgainfo中的buffer pool在接近30GB时有一个很长时间的停顿，然后才慢慢增长至接近70G（剩余部分属于sharedpool等）。
于是突然想到NUMA的问题，果然：
numactl --hardware的运行结果：
这就尴尬了，在/etc/grub.conf的kernel一行后添加了numa=off，重启服务器后果然问题被解决。
事后查看数据库日志找到了如下信息：
.
因此可以确认是操作系统未关闭NUMA特性引起的（只设置数据库禁用NUMA的隐含参数是无用的，Oracle在11GR2之后已经默认禁用NUMA，但只是数据库级别）。
关于Oracle NUMA的相关信息，参考官网文档：Oracle NUMA Usage Recommendation (文档 ID 759565.1)
名词解释：
什么是NUMA：
NUMA模式是一种分布式存储器访问方式，处理器可以同时访问不同的存储器地址，大幅度提高并行性。 NUMA模式下，处理器被划分成多个"节点"（node）， 每个节点被分配有的本地存储器空间。 所有节点中的处理器都可以访问全部的系统物理存储器，但是访问本节点内的存储器所需要的时间，比访问某些远程节点内的存储器所花的时间要少得多。