目录
1.DSL查询分类
2.全文检索查询
3.精确查询
4.地理查询
5.复合查询
2.搜索结果处理
1.排序
2.分页
3.深度分页问题
4.高亮
5.搜索结果处理整体语法
3.RestClient查询文档
1.快速入门
2.全文检索查询
3.精确查询
4.复合查询-boolean query
5.排序和分页
6.高亮
1.DSL查询文档 1.DSL查询分类
Elasticsearch提供了基于JSON的DSL(Domain Specific Language)来定义查询。常见的查询类型包括:
• 查询所有:查询出所有数据,一般测试用。例如: match_all • 全文检索( full text )查询:利用分词器对用户输入内容分词,然后去倒排索引库中匹配。例如: • match_query • multi_match_query • 精确查询:根据精确词条值查找数据,一般是查找 keyword 、数值、日期、 boolean 等类型字段。例如: • ids • range • term • 地理( geo )查询:根据经纬度查询。例如: • geo_distance • geo_bounding_box • 复合( compound )查询:复合查询可以将上述各种查询条件组合起来,合并查询条件。例如: • bool • function_score查询的基本语法如下:
GET /indexName/_search { "query": { "查询类型": { "查询条件": "条件值" } } } // 查询所有 GET /indexName/_search { "query": { "match_all": { } } }2.全文检索查询
全文检索查询,会对用户输入内容分词,常用于搜索框搜索:
match查询:全文检索查询的一种,会对用户输入内容分词,然后去倒排索引库检索,语法:
GET /indexName/_search { "query": { "match": { "FIELD": "TEXT" } } }
multi_match:与match查询类似,只不过允许同时查询多个字段,参与查询字段越多,查询性能越差
GET /indexName/_search { "query": { "multi_match": { "query": "TEXT", "fields": ["FIELD1", " FIELD12"] } } }3.精确查询
精确查询常见的有哪些?
• term 查询:根据词条精确匹配,一般搜索 keyword 类型、数值类型、布尔类型、日期类型字段 • range 查询:根据数值范围查询,可以是数值、日期的范围term查询:
// term查询 GET /indexName/_search { "query": { "term": { "FIELD": { "value": "VALUE" } } } } #term查询 GET /hotel/_search { "query": { "term": { "city": { "value": "上海" } } } }
range查询:
// range查询 GET /indexName/_search { "query": { "range": { "FIELD": { "gte": 10, "lte": 20 } } } } #range查询 GET /hotel/_search { "query": { "range": { "price": { "gte": 1000, "lte": 3000 } } } }4.地理查询
根据经纬度查询,官方文档。例如:
geo_bounding_box:查询geo_point值落在某个矩形范围的所有文档(使用较少)
// geo_bounding_box查询 GET /indexName/_search { "query": { "geo_bounding_box": { "FIELD": { "top_left": { "lat": 31.1, "lon": 121.5 }, "bottom_right": { "lat": 30.9, "lon": 121.7 } } } } }
根据经纬度查询,官方文档。例如:
geo_distance:查询到指定中心点小于某个距离值的所有文档
// geo_distance 查询 GET /indexName/_search { "query": { "geo_distance": { "distance": "15km", "FIELD": "31.21,121.5" } } }5.复合查询
复合查询可以将其它简单查询组合起来,实现更复杂的搜索逻辑,例如:
fuction score:算分函数查询,可以控制文档相关性算分,控制文档排名。例如百度竞价
1.相关性算分
当我们利用match查询时,文档结果会根据与搜索词条的关联度打分(_score),返回结果时按照分值降序排列
elasticsearch中的相关性打分算法是什么?
• TF-IDF :在 elasticsearch5.0 之前,会随着词频增加而越来越大 • BM25 :在 elasticsearch5.0 之后,会随着词频增加而增大,但增长曲线会趋于水平2.Function Score Query
使用 function score query,可以修改文档的相关性算分(query score),根据新得到的算分排序。
3.Boolean Query
布尔查询是一个或多个查询子句的组合。子查询的组合方式有:
• must :必须匹配每个子查询,类似“与” • should :选择性匹配子查询,类似“或” • must_not :必须不匹配,不参与算分,类似“非” • filter :必须匹配,不参与算分GET /hotel/_search { "query": { "bool": { "must": [ {"term": {"city": "上海" }} ], "should": [ {"term": {"brand": "皇冠假日" }}, {"term": {"brand": "华美达" }} ], "must_not": [ { "range": { "price": { "lte": 500 } }} ], "filter": [ { "range": {"score": { "gte": 45 } }} ] } } }2.搜索结果处理 1.排序
elasticsearch支持对搜索结果排序,默认是根据相关度算分(_score)来排序。可以排序字段类型有:keyword类型、数值类型、地理坐标类型、日期类型等。
GET /indexName/_search { "query": { "match_all": {} }, "sort": [ { "FIELD": "desc" // 排序字段和排序方式ASC、DESC } ] } GET /indexName/_search { "query": { "match_all": {} }, "sort": [ { "_geo_distance" : { "FIELD" : "纬度,经度", "order" : "asc", "unit" : "km" } } ] }2.分页
elasticsearch 默认情况下只返回top10的数据。而如果要查询更多数据就需要修改分页参数了。elasticsearch中通过修改from、size参数来控制要返回的分页结果:
GET /hotel/_search { "query": { "match_all": {} }, "from": 990, // 分页开始的位置,默认为0 "size": 10, // 期望获取的文档总数 "sort": [ {"price": "asc"} ] }3.深度分页问题
ES是分布式的,所以会面临深度分页问题。例如按price排序后,获取from = 990,size =10的数据:
1. 首先在每个数据分片上都排序并查询前 1000 条文档。 2. 然后将所有节点的结果聚合,在内存中重新排序选出前 1000 条文档 3. 最后从这 1000 条中,选取从 990 开始的 10 条文档如果搜索页数过深,或者结果集(from + size)越大,对内存和CPU的消耗也越高。因此ES设定结果集查询的上限是10000
深度分页解决方案
针对深度分页,ES提供了两种解决方案,官方文档:
• search after :分页时需要排序, 原理是从上一次的排序值开始,查询下一页数据。官方 推荐使用的方式。 • scroll :原理 将排序数据形成快照,保存在内存。 官方已经不推荐使用。 4.高亮高亮:就是在搜索结果中把搜索关键字突出显示。
原理是这样的:
GET /hotel/_search { "query": { "match": { "FIELD": "TEXT" } }, "highlight": { "fields": { // 指定要高亮的字段 "FIELD": { "pre_tags": "", // 用来标记高亮字段的前置标签 "post_tags": "" // 用来标记高亮字段的后置标签 } } } }
5.搜索结果处理整体语法
GET /hotel/_search { "query": { "match": { "name": "如家" } }, "from": 0, // 分页开始的位置 "size": 20, // 期望获取的文档总数 "sort": [ { "price": "asc" }, // 普通排序 { "_geo_distance" : { // 距离排序 "location" : "31.040699,121.618075", "order" : "asc", "unit" : "km" } } ], "highlight": { "fields": { // 高亮字段 "name": { "pre_tags": "", // 用来标记高亮字段的前置标签 "post_tags": "" // 用来标记高亮字段的后置标签 } } } }3.RestClient查询文档 1.快速入门
@Test void testMatchAll() throws IOException { //1.准备Request SearchRequest request = new SearchRequest("hotel"); //2.准备DSL request.source().query(QueryBuilders.matchAllQuery()); //3.发送请求 SearchResponse response = client.search(request, RequestOptions.DEFAULT); //4.解析响应 SearchHits searchHits = response.getHits(); //4,1获取总条数 long total = searchHits.getTotalHits().value; System.out.println("共索索到"+total); //4.2文档数组 SearchHit[] hits = searchHits.getHits(); //4.3遍历 for (SearchHit hit : hits) { //获取文档source String json = hit.getSourceAsString(); //返序列化 HotelDoc hotelDoc = JSON.parseObject(json, HotelDoc.class); System.out.println("hoteldoc= "+hotelDoc); } System.out.println(response); }
RestAPI中其中构建查询条件的核心部分是由一个名为QueryBuilders的工具类提供的,其中包含了各种查询方法:
查询的基本步骤是:
1. 创建 SearchRequest 对象 2. 准备 Request.source () ,也就是 DSL 。 ① QueryBuilders 来构建查询条件 ② 传入 Request.source () 的 query() 方法 3. 发送请求,得到结果 4. 解析结果(参考 JSON 结果,从外到内,逐层解析) 2.全文检索查询 3.精确查询 4.复合查询-boolean query 5.排序和分页 6.高亮
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)