mysql全文搜索,多个关键词权重排序

mysql全文搜索,多个关键词权重排序,第1张

自己在写一个web,希望对数据库做全文检索。但是google了解到,由于中文分词的缘故,mysql只支持英文的全文搜索,想支持中文的,需要各种插件or实现一些比较复杂的机制,而买的虚拟主机并不支持这些复杂的东西。仔细想了下,因为自己需求的功能也比较简单,主要是2个字段的搜索,且数据量不大,即便增加几个字段,需要多运行几个select也不会对速度有太大影响,所以通过一些work around实现了需求。Step 1:用locate进行简单的搜索Locate可以判断子串是否在子乱 有两个column,一个name,一个description.所以可以用LOCATE>0去判断是否关键字在其中出现了。 其实就是 SELECT * FROM table WHERE LOCATE(key, 'name')>0 OR LOCATE(key, 'description)这样,我们就简单实现了对某个key在两个域的搜索Step 2:搜索多个关键字 通常,搜索都是有多个关键字,所以我们需要对每个关键字,执行下Step1的查询。(当然,也可以合成一个,这里偷懒每次只查询1个关键字) 然后,我们再将每次查询出的数组都合并,这样就得到了一个最终的集合。php代码如下:

function selectlocate($tarcols,$skey){ 

    $where =""

    $connector = " "

    global $count

    foreach($tarcols as $tarcol ){

        $where .= $connector

        $where .= "LOCATE('$skey', $tarcol) != 0  "

        if($connector == " "){

            $connector = " OR "

        }

    }

    $sql = "SELECT * FROM pets_table WHERE $where"

    $result = mysql_query($sql)

    $ret = Array()

    while($item = mysql_fetch_array($result, MYSQL_ASSOC)){

        $count ++

        $ret[] = $item

    }

    return $ret

}

Step 3:匹配的权重 上面Step2的结果,其实是无序的。通常,如果我们搜索一个字段:1.如果这个字段和关键字完全相同,那么一般来讲,可能这个结果应该是相关度最高的2.如果他只是其其中出现了一次,相关度就最低。3.如果他出现的次数比在其他row中出现的次数高,那么他的相关度就比2中的结果高 所以,搜索的时候依据这个顺序考虑权重,a.如果完全相等,权重为1000 b.如果出现1次,权重为10,出现n次c.权重为n*10每次搜索出来的结果附加上权重----》然后合并相同项----》并把权重累加 最后按权重排序,即可得到一个有排序的搜索结果。 以下是两种1关键字对应1个字段(上面的代码是1关键字多个字段)查询的代码(不包含合并两个数组的代码,相关的代码在Step4中),只需遍历每个关键字和字段,就能完成搜索

$count = 0 

function selectequal($col,$skey){

    $connector = " "

    global $count

    $sql = "SELECT * FROM pets_table WHERE LOWER($col)=LOWER('$skey')"

    $result = mysql_query($sql)

    $ret = Array()

    while($item = mysql_fetch_array($result, MYSQL_ASSOC)){

        $count ++

        $item["weight"] = 1000

        $ret[] = $item

    }

    return $ret

}

function selectlocate($col,$skey){

    global $count

    $sql = "SELECT *,(LENGTH(description) - LENGTH(REPLACE(description, '$skey', '')))/LENGTH('$skey') *10 as weight FROM pets_table WHERE LOCATE(LOWER('$skey'),LOWER($col))>0"

    $result = mysql_query($sql)

    $ret = Array()

    while($item = mysql_fetch_array($result, MYSQL_ASSOC)){

        $count ++

        $ret[] = $item

    }

    return $ret

}

 Step 4: 字段的权重 在我的需求中,显然name这个字段比description更重要,所以在匹配时,对name字段的结果应该有所倾斜,所以,又可以增加一个对字段的权重系数。1.如果是在name域的匹配,设系数为10;2.如果是在description匹配,设系数为1; 将Step 3每次计算得出的权重,再乘上这个系数,就可以得到一个新的,更有效的权重值。 最后按权重排序,即可得到一个最有相关度排序的搜索结果 其他的细节: 如果一个关键字已经满足了equal条件,那么再使用locate条件的时候会依然返回一个结果,所以在使用locate条件的时候,过滤掉equal的情况

点击(此处)折叠或打开

<?php 

$count = 0

function selectequal($col,$val,$skey){

    $connector = " "

    global $count

    $sql = "SELECT * FROM pets_table WHERE LOWER($col)=LOWER('$skey')"

    $result = mysql_query($sql)

    $ret = Array()

    while($item = mysql_fetch_array($result, MYSQL_ASSOC)){

        $count ++

        $item["weight"] = 1000*$val

        $ret[] = $item

    }

    return $ret

}

function selectlocate($col,$val,$skey){

    global $count

    $sql = "SELECT *,(LENGTH(description) - LENGTH(REPLACE(description, '$skey', '')))/LENGTH('$skey') *10*$val as weight FROM pets_table WHERE LOCATE(LOWER('$skey'),LOWER($col))>0 AND LOWER($col)!=LOWER('$skey')"

    $result = mysql_query($sql)

    $ret = Array()

    while($item = mysql_fetch_array($result, MYSQL_ASSOC)){

        $count ++

        $ret[] = $item

    }

    return $ret

}

function cleanarr($arr){

    global $count

    $tmp = Array()

    $tmpall = Array()

    foreach($arr as $item){

        if(array_key_exists($item['uid'], $tmp)){

            $tmp[$item['uid']]+=$item["weight"]

        }

        else{

            $tmp[$item['uid']] = $item["weight"]

            $tmpall[$item['uid']] = $item

        }

    }

    //sort by weight in descending order 

    arsort($tmp)

    $ret = Array()

    //rebuild the return arary 

    $count = 0

    foreach($tmp as $k=>$v){

        $count++

        $tmpall[$k]['weight']=$v

        $ret[]=$tmpall[$k]

    }

    return $ret

}

require_once("consvr.php")

    $colshash = array("name"=>10,"description"=>1)

    $ret = Array()

    $keywords=explode(" ", $keywords)

    $cols = array_keys($colshash)

    foreach($keywords as $keyword){

        foreach($colshash as $col=>$val){

            $ret = array_merge($ret,selectequal($col,$val, $keyword))

            $ret = array_merge($ret,selectlocate($col,$val, $keyword))

        }

        

    }

    $ret = cleanarr($ret)

    $ret = array('msg' => "Success", 'count'=>$count,'children' => $ret, 'query'=>"COMPLEX:NOT READABLE")

    echo json_encode($ret)

    mysql_close()

?>

①From:对from左边的表和右边的表计算笛卡尔积,产生虚拟表c1()

②On:对c1中的数据进行on过滤,只有符合过滤条件的数据记录才会记录在虚拟表c2中

③Join:若指定了连接条件(left、right),主表中的未匹配的行就会作为外部行添加到c2中,生成虚拟表c3

④Where:对虚拟表c3中的数据进行条件过滤,符合过滤条件的记录插入到虚拟表c4中

⑤Group by:根据group by子句中的列,对c4中的记录进行分组 *** 作,生成c5

⑥Having:对虚拟表c5中的记录进行having过滤,符合筛选条件的记录插入虚拟表c6中

⑦Select:执行select *** 作,选择指定的列,插入到虚拟表c7中

⑧Distinct:对c7中的数据去重,生成虚拟表c8

⑨Order by:对虚拟表c8中的数据按照指定的排序规则进行排序,生成虚拟表c9

⑩Limit:取出指定的记录,产生虚拟表c10,将结果返回

上面是我看他们博客都这样写的!但是我觉得不适合我理解。可能是我太菜,我就以我写的sql理解下执行过程。

1、首先是找到from字段和join字段后面的所有表,形成笛卡尔积。student、English、class形成笛卡尔积。

2、然后是哪种(inner、join、right)join并且根据on字段对笛卡尔积做改变(这个改变因on改变行的条数,因为join类型去重某些行和置空某些列)。

3、是根据where字段去再次筛选上步得到的笛卡尔积。

4、然后group by去分组。

5、之后select 列结构(列结构就此不变)

6、因为distinct只能对单个列字段去重,所以肯定的在select后再去执行(行结构就此不变)。

7、order by是排序,能排序就说明整个表的行的条数不会发生改变了。

8、limit字段是最后从上面结果选一部分出去。

执行顺序只是相对的,在mysql优化器语法分析器分析优化的时候会给我们优化,在保证语义不变的情况下,进行语义等价转换。所以上面的顺序只是一般情况下可以这样分析。


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/7651876.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-04-08
下一篇 2023-04-08

发表评论

登录后才能评论

评论列表(0条)

保存