GPFS Windows节点在域中,某些情况下会导致域控的lsass.exe不正常的高CPU占用率,并且有很多GPFS root用户登陆注销的审核成功日志。这个时候需要注意GPFS Windows的系统版本是否符合要求,升级SP后需要卸载GPFS后重新安装。
GPFS Windows CIFS共享问题
GPFS的盘在Windows 2008及以上版本上用CIFS共享出去,当GPFS的盘里面文件发生变化时(如增加删除),某些Windows Vista及以上版本的客户端无法看到这些变化,即使刷新也不行,必须在客户端上面建立或删除文件才能看到,而如果这个共享是Windows自己的硬盘上的则没有这个问题。
在这里IBM说明了,从SMBv2(Vista和2008开始)开始引入了一个新的特性,客户端可以对文件和文件夹的metadata进行缓存,刷新这个缓存依赖于目录变更通知,但是GPFS的在Windows上面不支持这个功能,所以客户端并不知道目录中的文件发生了变化。解决方法也很简单暴利,直接关闭SMBv2回退到SMBv1即可。这里详述了打开关闭各个版本SMB的办法,对于Windows 2008 (R2)来说就是在注册表HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\LanmanServer\Parameters下新增一个SMB2的DWORD为0的值,需要特别注意的是Windows 2008 HPC版本不支持这个注册表项目,添加后会导致共享整个就没有了。在这里详述了各个版本的Server Client之间会使用什么样版本的SMB,和在Windows 8/2012怎么查看SMB的版本。
Intel SSD 530 240GB vs Samsung 840 PRO 256GB
Dell R620, 2*E5-2643, 32GB RAM, RHELS 6.5, Iozone 3.420,SSD分区4K对齐, ext4打开trim
./iozone -a -i 0 -i 1 -i 2 -y 4k -q 1m -s 64g -Rb ./test.xls
结果是除了大块数据的随机写840大幅落后外其它的小胜530,具体结果如下:
Intel SSD 530 240GB:
| record size | 4 | 8 | 16 | 32 | 64 | 128 | 256 | 512 | 1024 |
| Writer Report | 524440 | 523974 | 526780 | 527053 | 526968 | 526036 | 527036 | 525766 | 525890 |
| Re-writer Report | 522612 | 522613 | 522275 | 523206 | 522439 | 523246 | 522352 | 521813 | 522232 |
| Reader Report | 401357 | 400040 | 402251 | 404237 | 404396 | 403728 | 404063 | 403219 | 402921 |
| Re-reader Report | 400585 | 399216 | 400826 | 402105 | 402526 | 402288 | 403591 | 402457 | 402526 |
| Random Read Report | 24057 | 42185 | 71473 | 116760 | 181263 | 257251 | 320765 | 373026 | 400579 |
| Random Write Report | 265987 | 367024 | 436929 | 485591 | 506996 | 523238 | 522900 | 522817 | 522449 |
Samsung 840 PRO 256GB:
| record size | 4 | 8 | 16 | 32 | 64 | 128 | 256 | 512 | 1024 |
| Writer Report | 531851 | 532568 | 532486 | 534077 | 535260 | 535288 | 535185 | 535542 | 535103 |
| Re-writer Report | 529750 | 530555 | 530921 | 530615 | 530606 | 530297 | 530888 | 530316 | 531189 |
| Reader Report | 527696 | 527396 | 527468 | 527315 | 527693 | 527813 | 527855 | 527261 | 527416 |
| Re-reader Report | 527420 | 527422 | 527873 | 527182 | 527601 | 527822 | 527689 | 527391 | 527203 |
| Random Read Report | 34822 | 58758 | 94271 | 145413 | 216819 | 295532 | 338092 | 374540 | 391692 |
| Random Write Report | 269031 | 373047 | 407259 | 288842 | 286163 | 284136 | 285640 | 290691 | 295829 |
10Gb SPF+ VS 10GBASE-T
万兆以太网现在有光纤SPF+和铜揽10GBASE-T两种接口,在性能上主要是延迟方面的差距。比较IBM BNT、Dell Force10、Arista等数据中心交换机的参数可以发现,SPF+的延迟在350ns(Arista 7150S-24)~880ns,而10GBASE-T则需要3.2us~3.3us,现在在追求高性能的环境应该是用SPF+。
GPFS pagepool cache策略
经过测试发现,GPFS的page pool只能为本地读写的文件提供缓存,也就是说如果IO节点本地没有读写的话,IO节点配置大内存没有太大必要
DELL MD3800f 性能初测
DELL MD3820f 双控
测试命令:iozone -i 0 -i 1 -r 1M -s 128G
| write | rewrite | read | reread | |
| 4TByte 3.5-inch 7.2Krpm NL-SAS 6个盘做一组RAID6,1组RAID6 |
532 | 558 | 911 | 765 |
xCAT 更新root ssh key方法
流程如下:生成新的key,分发新key,替换所有节点key,替换xcat key
ssh-keygen //生成新的key命令为id_rsa1 pscp id_rsa1.pub all:/root/.ssh/authorized_keys mv id_rsa id_rsa.old mv id_rsa.pub id_rsa.pub.old mv id_rsa1 id_rsa mv id_rsa1.pub id_rsa.pub pscp id_rsa all:/root/.ssh/ pscp id_rsa.pub all:/root/.ssh/ cp /root/.ssh/id_rsa.pub /install/postscripts/_ssh/authorized_keys
限制root用户登陆IP
在/etc/ssh/sshd_config中添加
DenyUsers root@”!10.1.0.0/16,*”
表示禁止root用户从除10.1网段以外的其它IP登陆
超级网银限额
| 单笔限额 | 日累计限额 | 月累计限额 | 日累计笔数 | 月累计笔数 | |
| 工行 | 5,000 | 5,000 | 50,000 | 100 | 100 |
| 招行 | 50,000 | 100,000 | 500,000 | ||
| 中信 | 50,000 | 100,000 | 500,000 | 10000000 | 10000000 |
| 华夏 | 50,000 | 10,000,000,000,000 | 10,000,000,000,000 | 10000000 | 10000000 |
NetApp E2600 High Performance Tier 测试
浪潮 AS500H (NetApp E2600,MD3600也一样),双控制器,每控制器 4GB 带电池保护缓存,Write caching with mirroring, High Performance Tier。IO节点与存储双控通过MiniSAS冗余连接
测试命令:iozone -i 0 -i 1 -r 128K -s 128G
| Basic | High Performance Tier (MB/s) | |||||||
| write | rewrite | read | reread | write | rewrite | read | reread | |
| 900GByte 2.5-inch 10Krpm 6Gb/s SAS 2个盘做一组RAID1 |
171 | 172 | 177 | 175 | 173 | 171 | 176 | 175 |
| 900GByte 2.5-inch 10Krpm 6Gb/s SAS 每5个盘做一组RAID5,4组RAID5 |
689 | 688 | 1892 | 1971 | 1447 | 1539 | 2440 | 2531 |
| 3TByte 3.5-inch 7.2Krpm 6Gb/s NL-SAS 每6个盘做一组RAID6,2组RAID6 |
629 | 617 | 832 | 867 | 839 | 801 | 819 | 856 |