站长论坛

标题: Sphinx在windows下如何安装使用 [打印本页]

作者: tznktg 时间: 2009-12-30 11:45
标题: Sphinx在windows下如何安装使用
一、关于Sphinx

Sphinx 是一个在GPLv2 下发布的一个全文检索引擎，商业授权（例如, 嵌入到其他程序中）需要联系作者（Sphinxsearch.com）以获得商业授权。

一般而言，Sphinx是一个独立的搜索引擎，意图为其他应用提供高速、低空间占用、高结果相关度的全文搜索功能。Sphinx可以非常容易的与SQL数据库和脚本语言集成。

当前系统内置MySQL和PostgreSQL 数据库数据源的支持，也支持从标准输入读取特定格式的XML数据。通过修改源代码，用户可以自行增加新的数据源（例如：其他类型的DBMS的原生支持）。

搜索API支持PHP、Python、Perl、Rudy和Java，并且也可以用作MySQL存储引擎。搜索API非常简单，可以在若干个小时之内移植到新的语言上。

Sphinx特性：

* 高速的建立索引(在当代CPU上，峰值性能可达到10MB/秒);
* 高性能的搜索(在2–4GB的文本数据上，平均每次检索响应时间小于0.1秒);
* 可处理海量数据(目前已知可以处理超过100GB的文本数据,在单一CPU的系统上可处理100M文档);
* 提供了优秀的相关度算法，基于短语相似度和统计（BM25）的复合Ranking方法;
* 支持分布式搜索;
*
   提供文件的摘录生成;
*
   可作为MySQL的存储引擎提供搜索服务;
*
   支持布尔、短语、词语相似度等多种检索模式;
*
   文档支持多个全文检索字段(最大不超过32个);
*
   文档支持多个额外的属性信息(例如：分组信息，时间戳等);
*
   停止词查询;
*
   支持单一字节编码和UTF-8编码;
*
   原生的MySQL支持(同时支持MyISAM和InnoDB);
*
   原生的PostgreSQL支持.

中文手册可以在这里获得（酷勤网备用下载地址：sphinx_doc_zhcn_0.9.pdf）。

二、Sphinx在windows上的安装

1.直接在http://www.sphinxsearch.com/downloads.html找到最新的windows版本，我这里下的是Win32 release binaries with MySQL support，下载后解压在D:\sphinx目录下；

2.在D:\sphinx\下新建一个data目录用来存放索引文件，一个log目录方日志文件，复制D:\sphinx\sphinx.conf.in到D:\sphinx\bin\sphinx.conf（注意修改文件名）；

3.修改D:\sphinx\bin\sphinx.conf，我这里列出需要修改的几个：

type       = mysql # 数据源，我这里是mysql
sql_host = localhost # 数据库服务器
sql_user = root # 数据库用户名
sql_pass = '' # 数据库密码
sql_db    = test # 数据库
sql_port = 3306 # 数据库端口

sql_query_pre = SET NAMES utf8 # 去掉此行前面的注释，如果你的数据库是uft8编码的

index test1
{
# 放索引的目录
   path = D:/sphinx/data/
# 编码
   charset_type  = utf-8
   #  指定utf-8的编码表
   charset_table  = 0..9, A..Z->a..z, _, a..z, U+410..U+42F->U+430..U+44F, U+430..U+44F
   # 简单分词，只支持0和1，如果要搜索中文，请指定为1
   ngram_len = 1
# 需要分词的字符，如果要搜索中文，去掉前面的注释
   ngram_chars = U+3000..U+2FA1F
}

# index test1stemmed : test1
# {
   # path = @CONFDIR@/data/test1stemmed
   # morphology  = stem_en
# }

# 如果没有分布式索引，注释掉下面的内容

# index dist1
# {
   # 'distributed' index type MUST be specified
   # type = distributed

   # local index to be searched
   # there can be many local indexes configured
   # local = test1
   # local = test1stemmed

   # remote agent
   # multiple remote agents may be specified
   # syntax is 'hostname:port:index1,[index2[,...]]
   # agent = localhost:3313:remote1
   # agent = localhost:3314:remote2,remote3

   # remote agent connection timeout, milliseconds
   # optional, default is 1000 ms, ie. 1 sec
   # agent_connect_timeout = 1000

   # remote agent query timeout, milliseconds
   # optional, default is 3000 ms, ie. 3 sec
   # agent_query_timeout  = 3000
# }

# 搜索服务需要修改的部分
searchd
{
   # 日志
   log    = D:/sphinx/log/searchd.log

   # PID file, searchd process ID file name
   pid_file = D:/sphinx/log/searchd.pid

   # windows下启动searchd服务一定要注释掉这个
   # seamless_rotate  = 1
}

4.导入测试数据

C:\Program Files\MySQL\MySQL Server 5.0\bin>mysql -uroot test<d:/sphinx/example.sql

5.建立索引

D:\sphinx\bin>indexer.exe –all
Sphinx 0.9.8-release (r1533)
Copyright (c) 2001-2008, Andrew Aksyonoff

using config file ‘./sphinx.conf’…
indexing index ‘test1′…
collected 4 docs, 0.0 MB
sorted 0.0 Mhits, 100.0% done
total 4 docs, 193 bytes
total 0.101 sec, 1916.30 bytes/sec, 39.72 docs/sec

D:\sphinx\bin>

6.搜索’test’试试

D:\sphinx\bin>search.exe test
Sphinx 0.9.8-release (r1533)
Copyright (c) 2001-2008, Andrew Aksyonoff

using config file ‘./sphinx.conf’…
index ‘test1′: query ‘test ‘: returned 3 matches of 3 total in 0.000 sec

displaying matches:
1. document=1, weight=2, group_id=1, date_added=Wed Nov 26 14:58:59 2008
         id=1
         group_id=1
         group_id2=5
         date_added=2008-11-26 14:58:59
         title=test one
         content=this is my test document number one. also checking search within
   phrases.
2. document=2, weight=2, group_id=1, date_added=Wed Nov 26 14:58:59 2008
         id=2
         group_id=1
         group_id2=6
         date_added=2008-11-26 14:58:59
         title=test two
         content=this is my test document number two
3. document=4, weight=1, group_id=2, date_added=Wed Nov 26 14:58:59 2008
         id=4
         group_id=2
         group_id2=8
         date_added=2008-11-26 14:58:59
         title=doc number four
         content=this is to test groups

words:
1. ‘test’: 3 documents, 5 hits
D:\sphinx\bin>

都所出来了吧。

6.测试中文搜索

修改test数据库中documents数据表，

UPDATE `test`.`documents` SET `title` = ‘测试中文’, `content` = ‘this is my test document number two，应该搜的到吧’ WHERE `documents`.`id` = 2;

重建索引：

D:\sphinx\bin>indexer.exe –all

搜索’中文’试试：

D:\sphinx\bin>search.exe 中文
Sphinx 0.9.8-release (r1533)
Copyright (c) 2001-2008, Andrew Aksyonoff

using config file ‘./sphinx.conf’…
index ‘test1′: query ‘中文 ‘: returned 0 matches of 0 total in 0.000 sec

words:
D:\sphinx\bin>

貌似没有搜到，这是因为windows命令行中的编码是gbk，当然搜不出来。我们可以用程序试试，在D:\sphinx\api下新建一个foo.php的文件，注意utf-8编码

<?php
require ’sphinxapi.php’;
$s = new SphinxClient();
$s->SetServer(’localhost’,3312);
$result = $s->Query(’中文’);
var_dump($result);
?>

启动Sphinx searchd服务

D:\sphinx\bin>searchd.exe
Sphinx 0.9.8-release (r1533)
Copyright (c) 2001-2008, Andrew Aksyonoff

WARNING: forcing –console mode on Windows
using config file ‘./sphinx.conf’…
creating server socket on 0.0.0.0:3312
accepting connections

执行PHP查询：

php d:/sphinx/api/foo.php

作者: tznktg 时间: 2009-12-30 11:47
标题: 首次安装SphinxSE失败 Tags: sphinx , mysql
参考了多篇文章，Sphinx挺好安装的，就是SphinxSE没成功。

安装笔记，虽然没最终成功，但也解决了一些问题，下次有空再试试。

yum install -y python python-devel

wget http://www.sphinxsearch.com/downloads/sphinx-0.9.8.1.tar.gz
wget http://dev.mysql.com/get/Downloa ... //mysql.easynet.be/

tar zxf mysql-5.1.29-rc.tar.gz
tar zxf sphinx-0.9.8.1.tar.gz
cp -R sphinx-0.9.8.1/mysqlse mysql-5.1.29-rc/storage/sphinx
cd mysql-5.1.29-rc
sh BUILD/autorun.sh
./configure --with-plugins=sphinx --prefix=/usr/local/mysql-search/ --enable-assembler --with-extra-charsets=complex --enable-thread-safe-client --with-big-tables --with-readline --with-ssl --with-embedded-server --enable-local-infile

提示：checking for termcap functions library… configure: error: No curses/termcap library found
查了下要加这句：--with-named-curses-libs=/usr/lib/libncursesw.so.5
有这个文件，继续安装
或者
引用
说明 curses/termcap 库没有安装
apt-cache search curses | grep lib

安装 libncurses5-dev ，然后重新运行配置
apt-get install libncurses5-dev

make;make install

漫长的编译过程...

cd /usr/local/mysql-search/
chmod +w ./
chown -R mysql:mysql ./
my-medium.cnf不在以前的support-files目录了
cp share/mysql/my-medium.cnf my.cnf

bin/mysql_install_db --defaults-file=/usr/local/mysql-search/my.cnf --basedir=/usr/local/webserver/mysql --datadir=/usr/local/webserver/mysql/data --user=mysql --pid-file=/usr/local/webserver/mysql/mysql.pid --skip-locking --port=3306 --socket=/tmp/mysql.sock
不对，查了下这里面只支持--user和--basedir了。

bin/mysql_install_db --user=mysql
修改my.cnf，
[mysqld]
port          = 3306
socket       = /tmp/mysql.sock
为
port          = 3307
socket       = /tmp/mysql-search.sock
主要是服务器上也已经有了一个MYSQL实例在运行，所以这里修改一下端口号和socket。

/bin/mysqld_safe --defaults-file=/usr/local/mysql-search/my.cnf &

启不来。。。

安装下sphinx。

cd /root/soft/sphinx-0.9.8.1
CPPFLAGS=-I/usr/include/python2.4
LDFLAGS=-lpython2.4
./configure --prefix=/usr/local/sphinx --with-mysql=/usr/local/mysql-search
make
make install
sphinx安装完。

cd /usr/local/mysql-search/
/bin/mysqld_safe --defaults-file=/usr/local/mysql-search/my.cnf &

和之前同样错误，081116 21:35:58 mysqld_safe Logging to '/usr/local/mysql-search/data/qy.err'.
看了下错误提示：
[ERROR] Can't open the mysql.plugin table. Please run mysql_upgrade to create it.
运行mysql_upgrade会找到以前的mysql，没成功。就没法继续了：(

还是测试一下sphinx的自身功能吧，配置文件在etc目录下：
cd /usr/local/sphinx/etc
cp sphinx.conf.dist sphinx.conf
vi sphinx.conf，修改了下配置，把前几天在本机测试的配置内容加了进去。
生成的数据目录可以放在var/data下，自带有这个目录。
开始创建索引
[root@qy sphinx]# bin/indexer --config sphinx.conf hxtest
bin/indexer: error while loading shared libraries: libmysqlclient.so.16: cannot open shared object file: No such file or directory
google了下：
ln -s /usr/local/mysql-search/lib/mysql/libmysqlclient.so.16 /usr/lib/libmysqlclient.so.16
做了个软链接，在我原来的/usr/local/mysql/lib/下倒是没有这个文件。

bin/searchd启动，用api下的test.php测试能够搜索出数据，但中文没法试。
到这里，也就是SphinxSE安装成功，但SphinxSE失败了。

欢迎光临站长论坛 (http://www.tzlink.com/bbs/)