MySQL Order By Rand()效率分析
大家一般的写法就是:SELECT * FROM content ORDER BY RAND() LIMIT 1.
飘易注:3万条记录查询花费 0.3745 秒(下同);从mysql slow query log看出“ORDER BY RAND() ”全表扫描了2次.
后来我查了一下MYSQL的官方手册,里面针对RAND()的提示大概意思就是,在ORDER BY从句里面不能使用RAND()函数,因为这样会导致数据列被多次扫描,但是在MYSQL 3.23版本中,仍然可以通过ORDER BY RAND()来实现随机。
但是真正测试一下才发现这样效率非常低,一个15万余条的库,查询5条数据,居然要8秒以上,查看官方手册,也说rand()放在ORDER BY 子句中会被执行多次,自然效率及很低.
搜索Google,采用JOIN,查询max(id) * rand()来随机获取数据,代码如下:
- SELECT*
- FROM`content`ASt1JOIN(SELECTROUND(RAND()*(SELECTMAX(id)FROM`content`))ASid)ASt2
- WHEREt1.id>=t2.id
- ORDERBYt1.idASCLIMIT1;
查询花费 0.0008 秒,飘易认为可以推荐使用这个语句.
但是这样会产生连续的5条记录,解决办法只能是每次查询一条,查询5次,即便如此也值得,因为15万条的表,查询只需要0.01秒不到.
有一个方法,代码如下:
- SELECT*FROM`content`ASaJOIN(SELECTMAX(ID)ASIDFROM`content`)ASbON(a.ID>=FLOOR(b.ID*RAND()))LIMIT5;
上面这种方式保证了一定范围内的随机,查询花费 0.4265 秒,也不推荐,下面的语句,mysql的论坛上有人使用,代码如下:
- SELECT*
- FROM`content`
- WHEREid>=(SELECTFLOOR(MAX(id)*RAND())FROM`content`)
- ORDERBYidLIMIT1;
查询花费 1.2254 秒,飘易强烈不推荐,因为实测后,3万行的表,这个语句竟然会扫描500万行,跟上面的语句还是有很大差距,总觉有什么地方不正常,于是我把语句改写了一下,代码如下:
- SELECT*FROM`content`
- WHEREid>=(SELECTfloor(RAND()*(SELECTMAX(id)FROM`content`)))
- ORDERBYidLIMIT1;
查询花费 0.0012 秒,这下,效率又提高了,查询时间只有0.01秒.
最后,再把语句完善一下,加上MIN(id)的判断,我在最开始测试的时候,就是因为没有加上MIN(id)的判断,结果有一半的时间总是查询到表中的前面几行.
完整查询语句是,代码如下:
- SELECT*FROM`content`
- WHEREid>=(SELECTfloor(RAND()*((SELECTMAX(id)FROM`content`)-(SELECTMIN(id)FROM`content`))+(SELECTMIN(id)FROM`content`)))
- ORDERBYidLIMIT1;
查询花费 0.0012 秒.
代码如下:
- SELECT*
- FROM`content`ASt1JOIN(SELECTROUND(RAND()*((SELECTMAX(id)FROM`content`)-(SELECTMIN(id)FROM`content`))+(SELECTMIN(id)FROM`content`))ASid)ASt2
- WHEREt1.id>=t2.id
- ORDERBYt1.idLIMIT1;
查询花费 0.0008 秒.
最后在php中对这两个语句进行分别查询10次,前者花费时间 0.147433 秒,后者花费时间 0.015130 秒,看来采用JOIN的语法比直接在WHERE中使用函数效率还要高很多,(via)
第一种方案,即原始的 Order By Rand() 方法,代码如下:
- $sql="SELECT*FROMcontentORDERBYrand()LIMIT12";
- $result=mysql_query($sql,$conn);
- $n=1;//phpfensi.com
- $rnds='';
- while($row=mysql_fetch_array($result)){
- $rnds=$rnds.$n.".<ahref='show".$row['id']."-".strtolower(trim($row['title']))."'>".$row['title']."</a><br/>n";
- $n++;
- }
3万条数据查12条随机记录,需要0.125秒,随着数据量的增大,效率越来越低.
第二种方案,改进后的 JOIN 方法,代码如下:
- for($n=1;$n<=12;$n++){
- $sql="SELECT*FROM`content`ASt1
- JOIN(SELECTROUND(RAND()*(SELECTMAX(id)FROM`content`))ASid)ASt2
- WHEREt1.id>=t2.idORDERBYt1.idASCLIMIT1";
- $result=mysql_query($sql,$conn);
- $yi=mysql_fetch_array($result);
- $rnds=$rnds.$n.".<ahref='show".$yi['id']."-".strtolower(trim($yi['title']))."'>".$yi['title']."</a><br/>n";
- }
3万条数据查12条随机记录,需要0.004秒,效率大幅提升,比第一种方案提升了约30倍,缺点:多次select查询,IO开销大.
第三种方案,SQL语句先随机好ID序列,用 IN 查询,飘易推荐这个用法,IO开销小,速度最快,代码如下:
- $sql="SELECTMAX(id),MIN(id)FROMcontent";
- $result=mysql_query($sql,$conn);
- $yi=mysql_fetch_array($result);
- $idmax=$yi[0];
- $idmin=$yi[1];
- $idlist='';
- for($i=1;$i<=20;$i++){
- if($i==1){$idlist=mt_rand($idmin,$idmax);}
- else{$idlist=$idlist.','.mt_rand($idmin,$idmax);}
- }
- $idlist2="id,".$idlist;
- $sql="select*fromcontentwhereidin($idlist)orderbyfield($idlist2)LIMIT0,12";
- $result=mysql_query($sql,$conn);
- $n=1;
- $rnds='';
- while($row=mysql_fetch_array($result)){
- $rnds=$rnds.$n.".<ahref='show".$row['id']."-".strtolower(trim($row['title']))."'>".$row['title']."</a><br/>n";
- $n++;
- }
3万条数据查12条随机记录,需要0.001秒,效率比第二种方法又提升了4倍左右,比第一种方法提升120倍。注,这里使用了 order by field($idlist2) 是为了不排序,否则 IN 是自动会排序的。缺点:有可能遇到ID被删除的情况,所以需要多选几个ID。
热门评论