mysql全文搜索，多个关键词权重排序

自己在写一个web,希望对数据库做全文检索。但是google了解到，由于中文分词的缘故，mysql只支持英文的全文搜索，想支持中文的，需要各种插件or实现一些比较复杂的机制，而买的虚拟主机并不支持这些复杂的东西。仔细想了下，因为自己需求的功能也比较简单，主要是2个字段的搜索，且数据量不大，即便增加几个字段，需要多运行几个select也不会对速度有太大影响，所以通过一些work around实现了需求。Step 1:用locate进行简单的搜索Locate可以判断子串是否在子乱 有两个column,一个name,一个description.所以可以用LOCATE>0去判断是否关键字在其中出现了。 其实就是 SELECT * FROM table WHERE LOCATE(key, 'name')>0 OR LOCATE(key, 'description)这样，我们就简单实现了对某个key在两个域的搜索Step 2:搜索多个关键字 通常，搜索都是有多个关键字，所以我们需要对每个关键字，执行下Step1的查询。（当然，也可以合成一个，这里偷懒每次只查询1个关键字） 然后，我们再将每次查询出的数组都合并，这样就得到了一个最终的集合。php代码如下：

function selectlocate($tarcols,$skey){ 

    $where =""

    $connector = " "

    global $count

    foreach($tarcols as $tarcol ){

        $where .= $connector

        $where .= "LOCATE('$skey', $tarcol) != 0  "

        if($connector == " "){

            $connector = " OR "

        }

    }

    $sql = "SELECT * FROM pets_table WHERE $where"

    $result = mysql_query($sql)

    $ret = Array()

    while($item = mysql_fetch_array($result, MYSQL_ASSOC)){

        $count ++

        $ret[] = $item

    }

    return $ret

}

Step 3：匹配的权重 上面Step2的结果，其实是无序的。通常，如果我们搜索一个字段：1.如果这个字段和关键字完全相同，那么一般来讲，可能这个结果应该是相关度最高的2.如果他只是其其中出现了一次，相关度就最低。3.如果他出现的次数比在其他row中出现的次数高，那么他的相关度就比2中的结果高 所以，搜索的时候依据这个顺序考虑权重，a.如果完全相等，权重为1000 b.如果出现1次，权重为10，出现n次c.权重为n*10每次搜索出来的结果附加上权重----》然后合并相同项----》并把权重累加 最后按权重排序，即可得到一个有排序的搜索结果。 以下是两种1关键字对应1个字段（上面的代码是1关键字多个字段）查询的代码（不包含合并两个数组的代码,相关的代码在Step4中），只需遍历每个关键字和字段，就能完成搜索

$count = 0 

function selectequal($col,$skey){

    $connector = " "

    global $count

    $sql = "SELECT * FROM pets_table WHERE LOWER($col)=LOWER('$skey')"

    $result = mysql_query($sql)

    $ret = Array()

    while($item = mysql_fetch_array($result, MYSQL_ASSOC)){

        $count ++

        $item["weight"] = 1000

        $ret[] = $item

    }

    return $ret

}

function selectlocate($col,$skey){

    global $count

    $sql = "SELECT *,(LENGTH(description) - LENGTH(REPLACE(description, '$skey', '')))/LENGTH('$skey') *10 as weight FROM pets_table WHERE LOCATE(LOWER('$skey'),LOWER($col))>0"

    $result = mysql_query($sql)

    $ret = Array()

    while($item = mysql_fetch_array($result, MYSQL_ASSOC)){

        $count ++

        $ret[] = $item

    }

    return $ret

}

 Step 4: 字段的权重 在我的需求中，显然name这个字段比description更重要，所以在匹配时，对name字段的结果应该有所倾斜，所以，又可以增加一个对字段的权重系数。1.如果是在name域的匹配，设系数为10；2.如果是在description匹配，设系数为1； 将Step 3每次计算得出的权重，再乘上这个系数，就可以得到一个新的，更有效的权重值。 最后按权重排序，即可得到一个最有相关度排序的搜索结果 其他的细节： 如果一个关键字已经满足了equal条件，那么再使用locate条件的时候会依然返回一个结果，所以在使用locate条件的时候，过滤掉equal的情况

点击(此处)折叠或打开

<?php 

$count = 0

function selectequal($col,$val,$skey){

    $connector = " "

    global $count

    $sql = "SELECT * FROM pets_table WHERE LOWER($col)=LOWER('$skey')"

    $result = mysql_query($sql)

    $ret = Array()

    while($item = mysql_fetch_array($result, MYSQL_ASSOC)){

        $count ++

        $item["weight"] = 1000*$val

        $ret[] = $item

    }

    return $ret

}

function selectlocate($col,$val,$skey){

    global $count

    $sql = "SELECT *,(LENGTH(description) - LENGTH(REPLACE(description, '$skey', '')))/LENGTH('$skey') *10*$val as weight FROM pets_table WHERE LOCATE(LOWER('$skey'),LOWER($col))>0 AND LOWER($col)!=LOWER('$skey')"

    $result = mysql_query($sql)

    $ret = Array()

    while($item = mysql_fetch_array($result, MYSQL_ASSOC)){

        $count ++

        $ret[] = $item

    }

    return $ret

}

function cleanarr($arr){

    global $count

    $tmp = Array()

    $tmpall = Array()

    foreach($arr as $item){

        if(array_key_exists($item['uid'], $tmp)){

            $tmp[$item['uid']]+=$item["weight"]

        }

        else{

            $tmp[$item['uid']] = $item["weight"]

            $tmpall[$item['uid']] = $item

        }

    }

    //sort by weight in descending order 

    arsort($tmp)

    $ret = Array()

    //rebuild the return arary 

    $count = 0

    foreach($tmp as $k=>$v){

        $count++

        $tmpall[$k]['weight']=$v

        $ret[]=$tmpall[$k]

    }

    return $ret

}

require_once("consvr.php")

    $colshash = array("name"=>10,"description"=>1)

    $ret = Array()

    $keywords=explode(" ", $keywords)

    $cols = array_keys($colshash)

    foreach($keywords as $keyword){

        foreach($colshash as $col=>$val){

            $ret = array_merge($ret,selectequal($col,$val, $keyword))

            $ret = array_merge($ret,selectlocate($col,$val, $keyword))

        }

        

    }

    $ret = cleanarr($ret)

    $ret = array('msg' => "Success", 'count'=>$count,'children' => $ret, 'query'=>"COMPLEX:NOT READABLE")

    echo json_encode($ret)

    mysql_close()

?>

1、order

by

order

by

会对数据进行全局排序,和oracle和mysql等数据库中的order

by

效果一样，它只在一个reduce中进行所以数据量特别大的时候效率非常低。而且当设置

：set

hive.

mapred.

mode

=strict的时候不指定limit，执行select会报错，如下：LIMIT

must

also

be

specified.

2、sort

by

sort

by

是单独在各自的reduce中进行排序，所以并不能保证全局有序，一般和distribute

by

一起执行，而且distribute

by

要写在sort

by前面。

如果mapred.reduce.tasks=1和order

by效果一样，如果大于1会分成几个文件输出每个文件会按照指定的字段排序，而不保证全局有序。

sort

by

不受

hive.mapred.mode

是否为strict

,nostrict

的影响

3、distribute

by

用distribute

by

会对指定的字段按照hashCode值对reduce的个数取模，然后将任务分配到对应的reduce中去执行，就是在mapreduce程序中的patition分区过程，默认根据指定key.hashCode()&Integer.MAX_VALUE%numReduce

确定处理该任务的reduce。

4、cluster

By

distribute

by

和

sort

by

合用就相当于cluster

by，但是cluster

by

不能指定排序为asc或

desc

的规则，只能是desc倒序排列。

1，配置开启

Linux:

在mysql配置文件my.cnf中增加

log-slow-queries=/var/lib/mysql/slowquery.log (指定日志文件存放位置，可以为空，系统会给一个缺省的文件host_name-slow.log)long_query_time=2 (记录超过的时间，默认为10s)log-queries-not-using-indexes (log下来没有使用索引的query,可以根据情况决定是否开启)log-long-format (如果设置了，所有没有使用索引的查询也将被记录)

Windows:

在my.ini的[mysqld]添加如下语句：log-slow-queries = E:\web\mysql\log\mysqlslowquery.loglong_query_time = 2(其他参数如上)

2,查看方式

Linux:

使用mysql自带命令mysqldumpslow查看

常用命令

-s ORDER what to sort by (t, at, l, al, r, ar etc), 'at’ is default

-t NUM just show the top n queries

-g PATTERN grep: only consider stmts that include this string

s，是order的顺序，说明写的不够详细，包括看了代码，主要有 c,t,l,r和ac,at,al,ar，分别是按照query次数，时间，lock的时间和返回的记录数来排序，前面加了a的时倒序 -t，是top n的意思，即为返回前面多少条的数据 -g，后边可以写一个正则匹配模式，大小写不敏感的

mysqldumpslow -s c -t 20 host-slow.log

mysqldumpslow -s r -t 20 host-slow.log

上述命令可以看出访问次数最多的20个sql语句和返回记录集最多的20个sql。

mysqldumpslow -t 10 -s t -g “left join” host-slow.log这个是按照时间返回前10条里面含有左连接的sql语句。

---