mysql⼤内存⾼性能优化⽅案
mysql优化是⼀个相对来说⽐较重要的事情了,特别像对mysql读写⽐较多的⽹站就显得⾮常重要了,下⾯我们来介绍mysql⼤内存⾼性能优化⽅案
8G内存下MySQL的优化
按照下⾯的设置试试看:
key_buffer = 3840M
max_allowed_packet = 16M
table_cache = 1024
sort_buffer_size = 32M
read_buffer_size = 32M
read_rnd_buffer_size = 32M
myisam_sort_buffer_size = 256M
thread_cache_size = 32
query_cache_size = 256M
# Try number of CPU's*2 for thread_concurrency
thread_concurrency = 8
其中key_buffer_size 上限是4G,不能再多了
但是实际的为了使MySql的性能最优化,内存的分配是需要进⾏调试的
mysql⼤内存⾼性能优化
服务器硬件对MySQL性能的影响
1、磁盘寻道能⼒(磁盘I/O),以⽬前⾼转速SCSI硬盘(7200转/秒)为例,这种硬盘理论上每秒寻道7200次,这是物理特性决定的,没有办法改变。 MySQL每秒钟都在进⾏⼤量、复杂的查询操作,对磁盘的读写量可想⽽知。所以,通常认为磁盘I/O是制约MySQL性能的最⼤因素之⼀,对于⽇均访问量在100万PV以上的Discuz!论坛,由于磁盘I/O的制约,MySQL的性能会⾮常低下!解决这⼀制约因素
可以考虑以下⼏种解决⽅案:使⽤RAID-0+1磁盘阵列,注意不要尝试使⽤RAID-5,MySQL在RAID-5磁盘阵列上的效率不会像你期待的那样快。
2、CPU 对于MySQL应⽤,推荐使⽤S.M.P.架构的多路对称CPU,例如:可以使⽤两颗Intel Xeon 3.6GHz的CPU,现在我较推荐⽤4U的服务器来专门做服务器,不仅仅是针对于mysql。
3、物理内存对于⼀台使⽤MySQL的Database Server来说,服务器内存建议不要⼩于2GB,推荐使⽤4GB以上的物理内存,不过内存对于现在的服务器⽽⾔可以说是⼀个可以忽略的问题,⼯作中遇到了⾼端服务器基本上内存都超过了32G。
MySQL⾃⾝因素
当解决了上述服务器硬件制约因素后,让我们看看MySQL⾃⾝的优化是如何操作的。对MySQL⾃⾝的优化主要是对其配置⽂件 myf中的各项参数进⾏优化调整。下⾯我们介绍⼀些对性能影响较⼤的参数。由于myf⽂件的优化设置是与服务器硬件配置息息相关的,因⽽我们指定⼀个假想的服务器硬件环境:
CPU:2颗Intel Xeon 2.4GHz
内存:4GB DDR
硬盘:SCSI 73GB(很常见的2U服务器)。
下⾯,我们根据以上硬件配置结合⼀份已经优化好的myf进⾏说明:
以下只列出myf⽂件中[mysqld]段落中的内容,其他段落内容对MySQL运⾏性能影响甚微,因⽽姑
且忽略。
[mysqld]
port = 3306
serverid = 1
socket = /tmp/mysql.sock
skip-locking
#避免MySQL的外部锁定,减少出错⼏率增强稳定性。
skip-name-resolve
#禁⽌MySQL对外部连接进⾏DNS解析,使⽤这⼀选项可以消除MySQL进⾏DNS解析的时间。但需要注意,如果开启该选项,则所有远程主机连接授权都要使⽤IP地址⽅式,否则MySQL将⽆法正常处理连接请求!
back_log = 384
#back_log 参数的值指出在MySQL暂时停⽌响应新请求之前的短时间内多少个请求可以被存在堆栈中。如果系统在⼀个短时间内有很多连接,则需要增⼤该参数的值,该参数值指定到来的TCP/IP连接的侦听队列的⼤⼩。不同的操作系统在这个队列⼤⼩上有它⾃⼰的限制。试图设定back_log⾼于你的操作系统的限制将是⽆效的。默认值为50。对于Linux系统推荐设置为⼩于512的整数。
key_buffer_size = 256M
#key_buffer_size指定⽤于索引的缓冲区⼤⼩,增加它可得到更好的索引处理性能。对于内存在4GB左右的服务器该参数可设置为256M或384M。注意:该参数值设置的过⼤反⽽会是服务器整体效率降低!
max_allowed_packet = 4M
thread_stack = 256K
table_cache = 128K
sort_buffer_size = 6M
#查询排序时所能使⽤的缓冲区⼤⼩。注意:该参数对应的分配内存是每连接独占,如果有100个连接,那么实际分配的总共排序缓冲区⼤⼩为100 × 6 = 600MB。所以,对于内存在4GB左右的服务器推荐设置为6-8M。
read_buffer_size = 4M
#读查询操作所能使⽤的缓冲区⼤⼩。和sort_buffer_size⼀样,该参数对应的分配内存也是每连接独享。
join_buffer_size = 8M
#联合查询操作所能使⽤的缓冲区⼤⼩,和sort_buffer_size⼀样,该参数对应的分配内存也是每连接独享。
myisam_sort_buffer_size = 64M
table_cache = 512
thread_cache_size = 64
query_cache_size = 64M
# 指定MySQL查询缓冲区的⼤⼩。可以通过在MySQL控制台观察,如果Qcache_lowmem_prunes的值⾮常⼤,则表明经常出现缓冲不够的情况;如果Qcache_hits的值⾮常⼤,则表明查询缓冲使⽤⾮常频繁,如果该值较⼩反⽽会影响效率,那么可以考虑不⽤查询缓冲;Qcache_free_blocks,如果该值⾮常⼤,则表明缓冲区中碎⽚很多。
tmp_table_size = 256M
max_connections = 768
#指定MySQL允许的最⼤连接进程数。如果在访问论坛时经常出现Too Many Connections的错误提⽰,则需要增⼤该参数值。
max_connect_errors = 10000000
wait_timeout = 10
#指定⼀个请求的最⼤连接时间,对于4GB左右内存的服务器可以设置为5-10。
thread_concurrency = 8
#该参数取值为服务器逻辑CPU数量*2,在本例中,服务器有2颗物理CPU,⽽每颗物理CPU⼜⽀持H.T超线程,所以实际取值为4*2=8 skip-networking
#开启该选项可以彻底关闭MySQL的TCP/IP连接⽅式,如果WEB服务器是以远程连接的⽅式访问MySQL数据库服务器则不要开启该选项!否则将⽆法正常连接!
table_cache=1024
#物理内存越⼤,设置就越⼤.默认为2402,调到512-1024最佳
innodb_additional_mem_pool_size=4M
#默认为2M
innodb_flush_log_at_trx_commit=1
#设置为0就是等到innodb_log_buffer_size列队满后再统⼀储存,默认为1
innodb_log_buffer_size=2Mamuses是什么意思
#默认为1M
innodb_thread_concurrency=8
#你的服务器CPU有⼏个就设置为⼏,建议⽤默认⼀般为8
key_buffer_size=256M
#默认为218,调到128最佳
tmp_table_size=64M
#默认为16M,调到64-256最挂
read_buffer_size=4M
#默认为64K
read_rnd_buffer_size=16M
#默认为256K
sort_buffer_size=32M
#默认为256K
thread_cache_size=120
#默认为60
query_cache_size=32M
值得注意的是:很多情况需要具体情况具体分析。
如果Key_reads太⼤,则应该把myf中Key_buffer_size变⼤,保持Key_reads/Key_read_s⾄少1/100以上,越⼩越好。
inductorium提升性能的建议
1.如果opened_tables太⼤,应该把myf中的table_cache变⼤
2.如果Key_reads太⼤,则应该把myf中key_buffer_size变⼤.可以⽤Key_reads/Key_read_requests计算出cache失败率
3.如果Handler_read_rnd太⼤,则你写的SQL语句⾥很多查询都是要扫描整个表,⽽没有发挥键的作⽤
4.如果Threads_created太⼤,就要增加myf中thread_cache_size的值.可以⽤Threads_created/Connections计算cache命中率
5.如果Created_tmp_disk_tables太⼤,就要增加myf中tmp_table_size的值,⽤基于内存的临时表代替基于磁盘的
除了机器优化我们的sql语句也可以优化
1. 为查询缓存优化你的查询
⼤多数的MySQL服务器都开启了查询缓存。这是提⾼性最有效的⽅法之⼀,⽽且这是被MySQL的数据库引擎处理的。当有很多相同的查询被执⾏了多次的时候,这些查询结果会被放到⼀个缓存中,这样,后续的相同的查询就不⽤操作表⽽直接访问缓存结果了。
这⾥最主要的问题是,对于程序员来说,这个事情是很容易被忽略的。因为,我们某些查询语句会让MySQL不使⽤缓存。请看下⾯的⽰例:
// 查询缓存不开启
$r = mysql_query("SELECT username FROM user WHERE signup_date >= CURDATE()");
// 开启查询缓存
$today = date("Y-m-d");
$r = mysql_query("SELECT username FROM user WHERE signup_date >= '$today'");
上⾯两条SQL语句的差别就是 CURDATE() ,MySQL的查询缓存对这个函数不起作⽤。所以,像 NOW() 和 RAND() 或是其它的诸如此类的SQL函数都不会开启查询缓存,因为这些函数的返回是会不定的易变的。所以,你所需要的就是⽤⼀个变量来代替MySQL的函数,从⽽开启缓存。
2. EXPLAIN 你的 SELECT 查询
使⽤ EXPLAIN 关键字可以让你知道MySQL是如何处理你的SQL语句的。这可以帮你分析你的查询语句或是表结构的性能瓶颈。EXPLAIN 的查询结果还会告诉你你的索引主键被如何利⽤的,你的数据表是如何被搜索和排序的……等等,等等。
挑⼀个你的SELECT语句(推荐挑选那个最复杂的,有多表联接的),把关键字EXPLAIN加到前⾯。你可以使⽤来做这个事。然后,你会看到⼀张表格。下⾯的这个⽰例中,我们忘记加上了group_id索引,并且有表联接:
当我们为 group_id 字段加上索引后:
我们可以看到,前⼀个结果显⽰搜索了 7883 ⾏,⽽后⼀个只是搜索了两个表的 9 和 16 ⾏。查看rows列可以让我们到潜在的性能问题。
3. 当只要⼀⾏数据时使⽤ LIMIT 1
当你查询表的有些时候,你已经知道结果只会有⼀条结果,但因为你可能需要去fetch游标,或是你也许会去检查返回的记录数。
在这种情况下,加上 LIMIT 1 可以增加性能。这样⼀样,MySQL数据库引擎会在到⼀条数据后停⽌搜索,⽽不是继续往后查少下⼀条符合记录的数据。
下⾯的⽰例,只是为了⼀下是否有“中国”的⽤户,很明显,后⾯的会⽐前⾯的更有效率。(请注意,第⼀条中是Select *,第⼆条是Select 1)
// 没有效率的:
$r = mysql_query("SELECT * FROM user WHERE country = 'China'");
if (mysql_num_rows($r) > 0) {
// ...
}
// 有效率的:
mysql无法连接到服务器$r = mysql_query("SELECT 1 FROM user WHERE country = 'China' LIMIT 1");
if (mysql_num_rows($r) > 0) {
// ...
}
4. 为搜索字段建索引
索引并不⼀定就是给主键或是唯⼀的字段。如果在你的表中,有某个字段你总要会经常⽤来做搜索,那么,请为其建⽴索引吧。
从上图你可以看到那个搜索字串 “last_name LIKE ‘a%'”,⼀个是建了索引,⼀个是没有索引,性能差了4倍左右。
另外,你应该也需要知道什么样的搜索是不能使⽤正常的索引的。例如,当你需要在⼀篇⼤的⽂章中搜索⼀个词时,如: “WHERE
post_content LIKE ‘%apple%'”,索引可能是没有意义的。你可能需要使⽤MySQL全⽂索引或是⾃⼰做⼀个索引(⽐如说:搜索关键词或是Tag什么的)
5. 在Join表的时候使⽤相当类型的例,并将其索引
如果你的应⽤程序有很多 JOIN 查询,你应该确认两个表中Join的字段是被建过索引的。这样,MySQL内部会启动为你优化Join的SQL语句的机制。
⽽且,这些被⽤来Join的字段,应该是相同的类型的。例如:如果你要把 DECIMAL 字段和⼀个 INT 字段Join在⼀起,MySQL就⽆法使⽤它们的索引。对于那些STRING类型,还需要有相同的字符集才⾏。(两个表的字符集有可能不⼀样)
// 在state中查company
$r = mysql_query("SELECT company_name FROM users
LEFT JOIN companies ON (users.state = companies.state)
WHERE users.id = $user_id");
// 两个 state 字段应该是被建过索引的,⽽且应该是相当的类型,相同的字符集。
6. 千万不要 ORDER BY RAND()
想打乱返回的数据⾏?随机挑⼀个数据?真不知道谁发明了这种⽤法,但很多新⼿很喜欢这样⽤。但你确不了解这样做有多么可怕的性能问题。
如果你真的想把返回的数据⾏打乱了,你有N种⽅法可以达到这个⽬的。这样使⽤只让你的数据库的性能呈指数级的下降。这⾥的问题是:MySQL会不得不去执⾏RAND()函数(很耗CPU时间),⽽且这是为了每⼀⾏记录去记⾏,然后再对其排序。就算是你⽤了Limit 1也⽆济于事(因为要排序)
下⾯的⽰例是随机挑⼀条记录
linux离线安装mysql数据库// 千万不要这样做:
$r = mysql_query("SELECT username FROM user ORDER BY RAND() LIMIT 1");
// 这要会更好:
$r = mysql_query("SELECT count(*) FROM user");
$d = mysql_fetch_row($r);
$rand = mt_rand(0,$d[0] - 1);
$r = mysql_query("SELECT username FROM user LIMIT $rand, 1");
7. 避免 SELECT *
从数据库⾥读出越多的数据,那么查询就会变得越慢。并且,如果你的数据库服务器和WEB服务器是两台独⽴的服务器的话,这还会增加⽹络传输的负载。
所以,你应该养成⼀个需要什么就取什么的好的习惯。
// 不推荐
$r = mysql_query("SELECT * FROM user WHERE user_id = 1");
$d = mysql_fetch_assoc($r);
echo "Welcome {$d['username']}";
// 推荐
$r = mysql_query("SELECT username FROM user WHERE user_id = 1");
$d = mysql_fetch_assoc($r);
echo "Welcome {$d['username']}";
8. 永远为每张表设置⼀个ID
我们应该为数据库⾥的每张表都设置⼀个ID做为其主键,⽽且最好的是⼀个INT型的(推荐使⽤UNSIGNED),并设置上⾃动增加的AUTO_INCREMENT标志。
objectoutputstream乱码就算是你 users 表有⼀个主键叫 “email”的字段,你也别让它成为主键。使⽤ VARCHAR 类型来当主键会使⽤得性能下降。另外,在你的程序中,你应该使⽤表的ID来构造你的数据结构。
⽽且,在MySQL数据引擎下,还有⼀些操作需要使⽤主键,在这些情况下,主键的性能和设置变得⾮常重要,⽐如,集,分区……
在这⾥,只有⼀个情况是例外,那就是“关联表”的“外键”,也就是说,这个表的主键,通过若⼲个别的表的主键构成。我们把这个情况叫
做“外键”。⽐如:有⼀个“学⽣表”有学⽣的ID,有⼀个“课程表”有课程ID,那么,“成绩表”就是“关联表”了,其关联了学⽣表和课程表,在成绩表中,学⽣ID和课程ID叫“外键”其共同组成主键。
9. 使⽤ ENUM ⽽不是 VARCHAR
图标字体代码ENUM 类型是⾮常快和紧凑的。在实际上,其保存的是 TINYINT,但其外表上显⽰为字符串。这样⼀来,⽤这个字段来做⼀些选项列表变得相当的完美。
如果你有⼀个字段,⽐如“性别”,“国家”,“民族”,“状态”或“部门”,你知道这些字段的取值是有限⽽且固定的,那么,你应该使⽤ ENUM ⽽不是 VARCHAR。
MySQL也有⼀个“建议”(见第⼗条)告诉你怎么去重新组织你的表结构。当你有⼀个 VARCHAR 字段时,这个建议会告诉你把其改成ENUM 类型。使⽤ PROCEDURE ANALYSE() 你可以得到相关的建议。
10. 从 PROCEDURE ANALYSE() 取得建议
PROCEDURE ANALYSE() 会让 MySQL 帮你去分析你的字段和其实际的数据,并会给你⼀些有⽤的建议。只有表中有实际的数据,这些建议才会变得有⽤,因为要做⼀些⼤的决定是需要有数据作为基础的。
例如,如果你创建了⼀个 INT 字段作为你的主键,然⽽并没有太多的数据,那么,PROCEDURE ANALYSE()会建议你把这个字段的类型改成 MEDIUMINT 。或是你使⽤了⼀个 VARCHAR 字段,因为数据不多,你可能会得到⼀个让你把它改成 ENUM 的建议。这些建议,都是可能因为数据不够多,所以决策做得就不够准。
在phpmyadmin⾥,你可以在查看表时,点击 “Propose table structure” 来查看这些建议
⼀定要注意,这些只是建议,只有当你的表⾥的数据越来越多时,这些建议才会变得准确。⼀定要记住,你才是最终做决定的⼈。
11. 尽可能的使⽤ NOT NULL
除⾮你有⼀个很特别的原因去使⽤ NULL 值,你应该总是让你的字段保持 NOT NULL。这看起来好像有点争议,请往下看。
⾸先,问问你⾃⼰“Empty”和“NULL”有多⼤的区别(如果是INT,那就是0和NULL)?如果你觉得它们之间没有什么区别,那么你就不要使⽤NULL。(你知道吗?在 Oracle ⾥,NULL 和 Empty 的字符串是⼀样的!)
不要以为 NULL 不需要空间,其需要额外的空间,并且,在你进⾏⽐较的时候,你的程序会更复杂。
当然,这⾥并不是说你就不能使⽤NULL了,现实情况是很复杂的,依然会有些情况下,你需要使⽤NULL值。
下⾯摘⾃MySQL⾃⼰的⽂档:
“NULL columns require additional space in the row to record whether their values are NULL. For MyISAM tables, each NULL column takes one bit extra, rounded up to the nearest byte.”
12. Prepared Statements
Prepared Statements很像存储过程,是⼀种运⾏在后台的SQL语句集合,我们可以从使⽤ prepared statements 获得很多好处,⽆论是性能问题还是安全问题。
Prepared Statements 可以检查⼀些你绑定好的变量,这样可以保护你的程序不会受到“SQL注⼊式”攻击。当然,你也可以⼿动地检查你的这些变量,然⽽,⼿动的检查容易出问题,⽽且很经常会被程序员忘了。当我们使⽤⼀些framework或是ORM的时候,这样的问题会好⼀些。在性能⽅⾯,当⼀个相同的查询被使⽤多次的时候,这会为你带来可观的性能优势。你可以给这些Prepared Statements定义⼀些参数,⽽MySQL只会解析⼀次。
虽然最新版本的MySQL在传输Prepared Statements是使⽤⼆进制形势,所以这会使得⽹络传输⾮常
有效率。
当然,也有⼀些情况下,我们需要避免使⽤Prepared Statements,因为其不⽀持查询缓存。但据说版本5.1后⽀持了。
在PHP中要使⽤prepared statements,你可以查看其使⽤⼿册:mysqli 扩展或是使⽤数据库抽象层,如: PDO.
// 创建 prepared statement
if ($stmt = $mysqli->prepare("SELECT username FROM user WHERE state=?")) {
// 绑定参数
$stmt->bind_param("s", $state);
// 执⾏
$stmt->execute();
// 绑定结果
$stmt->bind_result($username);
// 移动游标
$stmt->fetch();
printf("%s is from %sn", $username, $state);
$stmt->close();
}
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论