前幾天要用Django-haystack來實現搜索功能,網上一搜中文資源少之又少,雖然說有官方文檔,但相信對於咱們這些英語差的同窗來講要看懂真的是一件難事。特別是關於高級部分,特意找了個英語專業的來翻譯,也沒能看出個名堂來,專業性實在是太強了,致使徹底看不懂。。。css
可是,對於一些小站點的開發來講,下面我要給你們講的徹底足夠用了,只不過有時候確實麻煩點。好了,言歸正傳。爲了節約時間,簡單設置部分從網上找了一篇博客,可是這邊文章沒有解釋配置的做用,而我會給大家詳細解釋並拓展。html
轉載部分來自:點擊打開連接python
一:使用的工具
- haystack是django的開源搜索框架,該框架支持Solr,Elasticsearch,Whoosh, *Xapian*搜索引擎,不用更改代碼,直接切換引擎,減小代碼量。
- 搜索引擎使用Whoosh,這是一個由純Python實現的全文搜索引擎,沒有二進制文件等,比較小巧,配置比較簡單,固然性能天然略低。
- 中文分詞Jieba,因爲Whoosh自帶的是英文分詞,對中文的分詞支持不是太好,故用jieba替換whoosh的分詞組件。
- 其餘:Python 2.7 or 3.4.4, Django 1.8.3或者以上,Debian 4.2.6_3
二:配置說明
如今假設咱們的項目叫作Project
,有一個myapp
的app,簡略的目錄結構以下。git
此
models.py
的內容假設以下:
- from django.db import models
- from django.contrib.auth.models import User
-
-
- class Note(models.Model):
- user = models.ForeignKey(User)
- pub_date = models.DateTimeField()
- title = models.CharField(max_length=200)
- body = models.TextField()
-
- def __str__(self):
- return self.title
1. 首先安裝各工具
pip install whoosh django-haystack jieba
github
2. 添加 Haystack 到Django的 INSTALLED_APPS
配置Django項目的settings.py裏面的INSTALLED_APPS
添加Haystack,例子:數據庫
- INSTALLED_APPS = [
- 'django.contrib.admin',
- 'django.contrib.auth',
- 'django.contrib.contenttypes',
- 'django.contrib.sessions',
- 'django.contrib.sites',
-
-
- 'haystack',
-
- 'blog',
- ]
3. 修改 你的 settings.py,以配置引擎
本教程使用的是Whoosh
,故配置以下:django
- import os
- HAYSTACK_CONNECTIONS = {
- 'default': {
- 'ENGINE': 'haystack.backends.whoosh_backend.WhooshEngine',
- 'PATH': os.path.join(os.path.dirname(__file__), 'whoosh_index'),
- },
- }
其中顧名思義,
ENGINE
爲使用的引擎必需要有,若是引擎是
Whoosh
,則
PATH
必需要填寫,其爲Whoosh 索引文件的存放文件夾。
其餘引擎的配置見
官方文檔
4.建立索引
若是你想針對某個app例如mainapp
作全文檢索,則必須在mainapp
的目錄下面創建search_indexes.py
文件,文件名不能修改。內容以下:windows
- import datetime
- from haystack import indexes
- from myapp.models import Note
-
- class NoteIndex(indexes.SearchIndex, indexes.Indexable):
- text = indexes.CharField(document=True, use_template=True)
-
- author = indexes.CharField(model_attr='user')
-
- pub_date = indexes.DateTimeField(model_attr='pub_date')
-
- def get_model(self):
- return Note
-
- def index_queryset(self, using=None):
-
- return self.get_model().objects.filter(pub_date__lte=datetime.datetime.now())
爲何要建立索引?索引就像是一本書的目錄,能夠爲讀者提供更快速的導航與查找。在這裏也是一樣的道理,當數據量很是大的時候,若要從這些數據裏找出全部的知足搜索條件的幾乎是不太可能的,將會給服務器帶來極大的負擔。因此咱們須要爲指定的數據添加一個索引(目錄),在這裏是爲Note建立一個索引,索引的實現細節是咱們不須要關心的,至於爲它的哪些字段建立索引,怎麼指定,正是我要給你們講的,也是網上所未曾提到的。api
每一個索引裏面必須有且只能有一個字段爲 document=True
,這表明haystack 和搜索引擎將使用此字段的內容做爲索引進行檢索(primary field)。其餘的字段只是附屬的屬性,方便調用,並不做爲檢索數據。直到我本身完成一個搜索器,也沒有用到這些附屬屬性,因此我索性就都刪掉了,你們學習的時候也能夠先註釋掉無論。具體做用我也不明白,反正我沒用上。服務器
注意:若是使用一個字段設置了document=True
,則通常約定此字段名爲text
,這是在SearchIndex
類裏面一向的命名,以防止後臺混亂,固然名字你也能夠隨便改,不過不建議改。
而且,haystack
提供了use_template=True
在text
字段,這樣就容許咱們使用數據模板
去創建搜索引擎索引的文件,說得通俗點就是索引裏面須要存放一些什麼東西,例如 Note 的 title 字段,這樣咱們能夠經過 title 內容來檢索 Note 數據了,舉個例子,假如你搜索 python ,那麼就能夠檢索出含有title含有 python 的Note了,怎麼樣是否是很簡單?數據模板的路徑爲templates/search/indexes/yourapp/note_text.txt(推薦在項目根目錄建立一個templates,並在settings.py裏爲其引入,使得django會從這個templates裏尋找模板,固然,只要放在任何一個你的Django能搜索到的tempaltes下面就好,關於這點我想不屬於咱們討論的範疇),
templates/search/indexes/blog/note_text.txt
文件名必須爲要索引的類名_text.txt
,其內容爲
- {{ object.title }}
- {{ object.user.get_full_name }}
- {{ object.body }}
這個數據模板的做用是對
Note.title
,
Note.user.get_full_name
,
Note.body
這三個字段創建索引,當檢索的時候會對這三個字段作全文檢索匹配。上面已經解釋清楚了。
5.在URL配置中添加SearchView,並配置模板
在urls.py
中配置以下url信息,固然url路由能夠隨意寫。
- (r'^search/', include('haystack.urls')),
其實
haystack.urls
的內容爲
- from django.conf.urls import url
- from haystack.views import SearchView
-
- urlpatterns = [
- url(r'^$', SearchView(), name='haystack_search'),
- ]
SearchView()
視圖函數默認使用的html模板路徑爲
templates/search/search.html(再說一次推薦在根目錄建立templates,並在settings.py裏設置好)
因此須要在
templates/search/
下添加
search.html
文件,內容爲
- <h2>Search</h2>
-
- <form method="get" action=".">
- <table>
- {{ form.as_table }}
- <tr>
- <td> </td>
- <td>
- <input type="submit" value="Search">
- </td>
- </tr>
- </table>
-
- {% if query %}
- <h3>Results</h3>
-
- {% for result in page.object_list %}
- <p>
- <a href="{{ result.object.get_absolute_url }}">{{ result.object.title }}</a>
- </p>
- {% empty %}
- <p>No results found.</p>
- {% endfor %}
-
- {% if page.has_previous or page.has_next %}
- <div>
- {% if page.has_previous %}<a href="?q={{ query }}&page={{ page.previous_page_number }}">{% endif %}« Previous{% if page.has_previous %}</a>{% endif %}
- |
- {% if page.has_next %}<a href="?q={{ query }}&page={{ page.next_page_number }}">{% endif %}Next »{% if page.has_next %}</a>{% endif %}
- </div>
- {% endif %}
- {% else %}
- {# Show some example queries to run, maybe query syntax, something else? #}
- {% endif %}
- </form>
很明顯,它自帶了分頁。
而後爲你們解釋一下這個文件。首先能夠看到模板裏使用了的變量有 form,query,page 。下面一個個的說一下。
form,很明顯,它和django裏的form類是差很少的,能夠渲染出一個搜索的表單,相信用過Django的Form都知道,因此也很少說了,不明白的能夠去看Django文檔,固然其實我倒最後也沒用上,最後是本身寫了個<form></form>,提供正確的參數如name="seach",method="get"以及你的action地址就OK了。。。若是須要用到更多的搜索功能如過濾的話可能就要自定義Form類了(並且經過上面的例子能夠看到,默認的form也是提供一個簡單的過濾器的,能夠供你選擇哪些model是須要檢索的,若是一個都不勾的話默認所有搜索,固然咱們也是能夠本身利用html來模擬這個form的,因此想要實現model過濾仍是很簡單的,只要模擬一下這個Form的內容就行了),只有這樣haystack纔可以構造出相應的Form對象來進行檢索,其實和django的Form是同樣的,Form有一個自我檢查數據是否合法的功能,haystack也同樣,關於這個此篇文章不作多說,由於我也不太明白(2333)。具體細節去看文檔,並且文檔上關於View&Form那一節仍是比較通俗易懂的,詞彙量要求也不是很高,反正就連我都看懂了一些。。。
query嘛,就是咱們搜索的字符串。
關於page,能夠看到page有object_list屬性,它是一個list,裏面包含了第一頁所要展現的model對象集合,那麼list裏面到底有多少個呢?咱們想要本身控制個數怎麼辦呢?不用擔憂,haystack爲咱們提供了一個接口。咱們只要在settings.py裏設置:
- HAYSTACK_SEARCH_RESULTS_PER_PAGE = 8
而後關於分頁的部分,你們看名字應該也能看懂吧。
若是想要知道更多的默認context帶的變量,能夠本身看看源碼views.py裏的SearchView類視圖,相信都能看懂。
那麼問題來了。對於一個search頁面來講,咱們確定會須要用到更多自定義的 context 內容,那麼這下該怎麼辦呢?最初我想到的辦法即是修改haystack源碼,爲其添加上更多的 context 內容,大家是否是也有過和我同樣的想法呢?可是這樣作即笨拙又愚蠢,咱們不只須要注意各類環境,依賴關係,並且當服務器主機發生變化時,難道咱們還要把 haystack 也複製過去不成?這樣太愚蠢了!忽然,我想到既然我不能修改源碼,難道我還不能複用源碼嗎?以後,我用看了一下官方文檔,正如我所想的,經過繼承SeachView來實現重載 context 的內容。官方文檔提供了2個版本的SearchView,我最開始用的是新版的,最後出錯了,也懶得去找錯誤是什麼引發的了,直接使用的了舊版本的SearchView,只要你下了haystack,2個版本都是給你安裝好了的。因而咱們在myapp目錄下再建立一個search_views.py 文件,位置名字能夠本身定,用於寫本身的搜索視圖,代碼實例以下:
- from haystack.views import SearchView
- from .models import *
-
- class MySeachView(SearchView):
- def extra_context(self):
- context = super(MySeachView,self).extra_context()
- side_list = Topic.objects.filter(kind='major').order_by('add_date')[:8]
- context['side_list'] = side_list
- return context
而後再修改urls.py將search請求映射到MySearchView:
- url(r'^search/', search_views.MySeachView(), name='haystack_search'),
講完了上下文變量,再讓咱們來說一下模板標籤,haystack爲咱們提供了 {% highlight %}和 {% more_like_this %} 2個標籤,這裏我只爲你們詳細講解下 highlight的使用。
你是否也想讓本身的檢索和百度搜索同樣,將匹配到的文字也高亮顯示呢? {% highlight %} 爲咱們提供了這個功能(固然不只是這個標籤,貌似還有一個HighLight類,這個本身看文檔去吧,我英語差,看不明白)。
Syntax:
- {% highlight <text_block> with <query> [css_class "class_name"] [html_tag "span"] [max_length 200] %}
大概意思是爲 text_block 裏的 query 部分添加css_class,html_tag,而max_length 爲最終返回長度,至關於 cut ,我看了一下此標籤實現源碼,默認的html_tag 值爲 span ,css_class 值爲 highlighted,max_length 值爲 200,而後就能夠經過CSS來添加效果。如默認時:
- span.highlighted {
- color: red;
- }
Example:
- {% highlight result.summary with query %}
-
- {% highlight result.summary with query html_tag "div" css_class "highlight_me_please" %}
-
- {% highlight result.summary with query max_length 40 %}
好了,到目前爲止,若是你掌握了上面的知識的話,你已經會製做一個比較使人滿意的搜索器了,接下來就是建立index文件了。
6.最後一步,重建索引文件
使用python manage.py rebuild_index
或者使用update_index
命令。
好,下面運行項目,進入該url搜索一下試試吧。
每次數據庫更新後都須要更新索引,因此haystack爲你們提供了一個接口,只要在settings.py裏設置:
- HAYSTACK_SIGNAL_PROCESSOR = 'haystack.signals.RealtimeSignalProcessor'
三:下面要作的,使用jieba
分詞
1 將文件
whoosh_backend.py
(該文件路徑爲
python路徑/lib/python2.7.5/site-packages/haystack/backends/whoosh_backend.py
)拷貝到app下面,並重命名爲
whoosh_cn_backend.py
,例如
blog/whoosh_cn_backend.py
。
修改成以下
- from jieba.analyse import ChineseAnalyzer
-
- schema_fields[field_class.index_fieldname] = TEXT(stored=True, analyzer=ChineseAnalyzer(),field_boost=field_class.boost, sortable=True)
2 在
settings.py
中修改引擎,以下
- import os
- HAYSTACK_CONNECTIONS = {
- 'default': {
- 'ENGINE': 'blog.whoosh_cn_backend.WhooshEngine',
- 'PATH': os.path.join(BASE_DIR, 'whoosh_index'
- },
- }
3 重建索引,在進行搜索中文試試吧。
四.highlight補充
終於寫完了!!!淚奔!!!最後給你們看看個人
怎麼樣,還行吧?眼尖的人會發現,爲何標題裏的高等沒有被替換成...,而段落裏的數學以前的內容卻被替換成了...,標題原本就很短,想象一下,如果高等數學被顯示成了數學,是否是丟失了最重要的信息呢?高等這麼重要的字眼都被省略了,很顯然是不行的,畢竟我是個高等生。那麼怎麼辦呢?我沒有選擇去看文檔,可能文檔的HighLight類就是用來幹這個的吧,可是我選擇了讀highlight 標籤的源碼,最終仍是讓我實現了。
咱們須要作的是複製粘貼源碼,而後進行修改,而不是選擇直接改源碼,建立一個本身的標籤。爲你們奉上。添加myapp/templatetags/my_filters_and_tags.py 文件和 myapp/templatetags/highlighting.py 文件,內容以下(源碼分別位於haystack/templatetags/lighlight.py 和 haystack/utils/lighlighting.py 中):
my_filter_and_tags.py:
- from __future__ import absolute_import, division, print_function, unicode_literals
-
- from django import template
- from django.conf import settings
- from django.core.exceptions import ImproperlyConfigured
- from django.utils import six
-
- from haystack.utils import importlib
-
- register = template.Library()
-
- class HighlightNode(template.Node):
- def __init__(self, text_block, query, html_tag=None, css_class=None, max_length=None, start_head=None):
- self.text_block = template.Variable(text_block)
- self.query = template.Variable(query)
- self.html_tag = html_tag
- self.css_class = css_class
- self.max_length = max_length
- self.start_head = start_head
-
- if html_tag is not None:
- self.html_tag = template.Variable(html_tag)
-
- if css_class is not None:
- self.css_class = template.Variable(css_class)
-
- if max_length is not None:
- self.max_length = template.Variable(max_length)
-
- if start_head is not None:
- self.start_head = template.Variable(start_head)
-
- def render(self, context):
- text_block = self.text_block.resolve(context)
- query = self.query.resolve(context)
- kwargs = {}
-
- if self.html_tag is not None:
- kwargs['html_tag'] = self.html_tag.resolve(context)
-
- if self.css_class is not None:
- kwargs['css_class'] = self.css_class.resolve(context)
-
- if self.max_length is not None:
- kwargs['max_length'] = self.max_length.resolve(context)
-
- if self.start_head is not None:
- kwargs['start_head'] = self.start_head.resolve(context)
-
-
- if hasattr(settings, 'HAYSTACK_CUSTOM_HIGHLIGHTER') and settings.HAYSTACK_CUSTOM_HIGHLIGHTER:
-
- try:
- path_bits = settings.HAYSTACK_CUSTOM_HIGHLIGHTER.split('.')
- highlighter_path, highlighter_classname = '.'.join(path_bits[:-1]), path_bits[-1]
- highlighter_module = importlib.import_module(highlighter_path)
- highlighter_class = getattr(highlighter_module, highlighter_classname)
- except (ImportError, AttributeError) as e:
- raise ImproperlyConfigured("The highlighter '%s' could not be imported: %s" % (settings.HAYSTACK_CUSTOM_HIGHLIGHTER, e))
- else:
- from .highlighting import Highlighter
- highlighter_class = Highlighter
-
- highlighter = highlighter_class(query, **kwargs)
- highlighted_text = highlighter.highlight(text_block)
- return highlighted_text
-
-
- @register.tag
- def myhighlight(parser, token):
-
- bits = token.split_contents()
- tag_name = bits[0]
-
- if not len(bits) % 2 == 0:
- raise template.TemplateSyntaxError(u"'%s' tag requires valid pairings arguments." % tag_name)
-
- text_block = bits[1]
-
- if len(bits) < 4:
- raise template.TemplateSyntaxError(u"'%s' tag requires an object and a query provided by 'with'." % tag_name)
-
- if bits[2] != 'with':
- raise template.TemplateSyntaxError(u"'%s' tag's second argument should be 'with'." % tag_name)
-
- query = bits[3]
-
- arg_bits = iter(bits[4:])
- kwargs = {}
-
- for bit in arg_bits:
- if bit == 'css_class':
- kwargs['css_class'] = six.next(arg_bits)
-
- if bit == 'html_tag':
- kwargs['html_tag'] = six.next(arg_bits)
-
- if bit == 'max_length':
- kwargs['max_length'] = six.next(arg_bits)
-
- if bit == 'start_head':
- kwargs['start_head'] = six.next(arg_bits)
-
- return HighlightNode(text_block, query, **kwargs)
lighlighting.py:
-
- from __future__ import absolute_import, division, print_function, unicode_literals
-
- from django.utils.html import strip_tags
-
-
- class Highlighter(object):
-
- css_class = 'highlighted'
- html_tag = 'span'
- max_length = 200
- start_head = False
- text_block = ''
-
- def __init__(self, query, **kwargs):
- self.query = query
-
- if 'max_length' in kwargs:
- self.max_length = int(kwargs['max_length'])
-
- if 'html_tag' in kwargs:
- self.html_tag = kwargs['html_tag']
-
- if 'css_class' in kwargs:
- self.css_class = kwargs['css_class']
-
- if 'start_head' in kwargs:
- self.start_head = kwargs['start_head']
-
- self.query_words = set([word.lower() for word in self.query.split() if not word.startswith('-')])
-
- def highlight(self, text_block):
- self.text_block = strip_tags(text_block)
- highlight_locations = self.find_highlightable_words()
- start_offset, end_offset = self.find_window(highlight_locations)
- return self.render_html(highlight_locations, start_offset, end_offset)
-
- def find_highlightable_words(self):
-
- word_positions = {}
-
-
- end_offset = len(self.text_block)
- lower_text_block = self.text_block.lower()
-
- for word in self.query_words:
- if not word in word_positions:
- word_positions[word] = []
-
- start_offset = 0
-
- while start_offset < end_offset:
- next_offset = lower_text_block.find(word, start_offset, end_offset)
-
-
-
- if next_offset == -1:
- break
-
- word_positions[word].append(next_offset)
- start_offset = next_offset + len(word)
-
- return word_positions
-
- def find_window(self, highlight_locations):
- best_start = 0
- best_end = self.max_length
-
-
- if not len(highlight_locations):
- return (best_start, best_end)
-
- words_found = []
-
-
- for word, offset_list in highlight_locations.items():
- if len(offset_list):
-
- words_found.extend(offset_list)
-
- if not len(words_found):
- return (best_start, best_end)
-
- if len(words_found) == 1:
- return (words_found[0], words_found[0] + self.max_length)
-
-
- words_found = sorted(words_found)
-
-
-
-
- highest_density = 0
-
- if words_found[:-1][0] > self.max_length:
- best_start = words_found[:-1][0]
- best_end = best_start + self.max_length
-
- for count, start in enumerate(words_found[:-1]):
- current_density = 1
-
- for end in words_found[count + 1:]:
- if end - start < self.max_length:
- current_density += 1
- else:
- current_density = 0
-
-
-
- if current_density > highest_density:
- best_start = start
- best_end = start + self.max_length
- highest_density = current_density
-
- return (best_start, best_end)
-
- def render_html(self, highlight_locations=None, start_offset=None, end_offset=None):
-
-
- text = self.text_block[start_offset:end_offset]
-
-
- term_list = []
-
- for term, locations in highlight_locations.items():
- term_list += [(loc - start_offset, term) for loc in locations]
-
- loc_to_term = sorted(term_list)
-
-
- if self.css_class:
- hl_start = '<%s class="%s">' % (self.html_tag, self.css_class)
- else:
- hl_start = '<%s>' % (self.html_tag)
-
- hl_end = '</%s>' % self.html_tag
-
-
-
-
- highlighted_chunk = ""
- matched_so_far = 0
- prev = 0
- prev_str = ""
-
- for cur, cur_str in loc_to_term:
-
- actual_term = text[cur:cur + len(cur_str)]
-
-
- if actual_term.lower() == cur_str:
- if cur < prev + len(prev_str):
- continue
-
-
- highlighted_chunk += text[prev + len(prev_str):cur] + hl_start + actual_term + hl_end
- prev = cur
- prev_str = cur_str
-
-
- matched_so_far = cur + len(actual_term)
-
-
-
- highlighted_chunk += text[matched_so_far:]
-
-
- if start_offset > 0 and not self.start_head:
- highlighted_chunk = '...%s' % highlighted_chunk
-
- if end_offset < len(self.text_block):
- highlighted_chunk = '%s...' % highlighted_chunk
-
-
- if self.start_head:
- highlighted_chunk = self.text_block[:start_offset] + highlighted_chunk
- return highlighted_chunk
添加上這2個文件以後,即可以使用本身的標籤 {% mylighlight %}了,使用時記得Load哦!
Syntax:
- {% myhighlight <text_block> with <query> [css_class "class_name"] [html_tag "span"] [max_length 200] [start_head True] %}
可見我只是多添加了一個選項 start_head ,默認爲False,若是設置爲True 則不會省略。