原文:http://blog.csdn.net/chwshuang/article/details/78027873?locationNum=10&fps=1php
項目上接到一個需求,按照用戶IP地址判斷用戶省份、城市,來展現不一樣的內容。在網上進行選型的時候,有幾個選擇java
GeoIP2 GeoLite2開源免費的數據庫數據庫
MaxMind做爲一傢俬營企業,總部設於美國馬薩諸塞州的沃爾瑟姆。MaxMind公司成立於2002年,是領先業界的IP智能與在線欺詐檢測工具供應商。有興趣的能夠訪問官方網站瞭解。數組
這個IP庫的特色是免費,全球支持比較好,國外的IP應該比較全,國內的IP地址獲取率不高,獲取後的準確率也不高,公司網站上使用過一段時間,我統計過,國內地址獲取率80%左右,而這80%裏與淘寶的IP進行對比的準確率只有60%~80%,因此,總體的成功率只有65%如下,因此上線一段時間就沒有用了。緩存
淘寶IP庫安全
淘寶IP庫只能經過Http方式查詢IP,沒有提供本地庫的方式,遇到實時處理系統,確定是不行,解決方案是建一個緩存和一個隊列,若是緩存中沒有的IP,就放到隊列,而後用一個線程單獨去隊列中把要查詢地址的IP經過Http的方式獲取。markdown
淘寶IP庫的特色是準確,官方宣稱的省級準確率達到99.14%。缺點就是隻提供線上的Rest API,並且線上的Rest API有請求限制,若是你寫個程序一直請求,每一個請求返回的間隔是30秒!因此不適合實時的場景用。網絡
純真IP庫多線程
純真IP庫是國人開源的一個IP庫,支持多語言的,它的格式是公開的,因此,你能夠將它用在目前主流的開發語言的項目中。純真IP庫的獲取率是99.99%,除非是本地內網IP,好比以192.168開頭的一些IP會不認,而這個是沒有影響的。而淘寶IP庫比較有意思的是會返回本地IP這個地區描述。純真庫還有一個最大的好處,就是它在按期更新,且比較頻繁,最新更新時間是幾天前2017年9月15號。使用過程當中庫更新也比較方便,直接更新項目上的庫文件,而後重啓服務便可。固然,你也可讓程序手動或者自動定時觸發更新。併發
純真IP庫須要在Window的操做系統上安裝程序,而後在安裝目錄(默認是
?\cz88.net\ip\
)找到qqwry.dat
這個文件, 這個就是壓縮後的IP本地庫
.
.
.
上面純真IP介紹裏已經說過怎麼獲取IP庫文件,下面再說如何使用
public class IPLocation { /** * 國家 */ private String country; /** * 區域 - 省份 + 城市 */ private String area; public IPLocation() { country = area = ""; } public synchronized IPLocation getCopy() { IPLocation ret = new IPLocation(); ret.country = country; ret.area = area; return ret; } public String getCountry() { return country; } public String getCity() { String city = ""; if(country != null){ String[] array = country.split("省"); if(array != null && array.length > 1){ city = array[1]; } else { city = country; } if(city.length() > 3){ city.replace("內蒙古", ""); } } return city; } public void setCountry(String country) { this.country = country; } public String getArea() { return area; } public void setArea(String area) { //若是爲局域網,純真IP地址庫的地區會顯示CZ88.NET,這裏把它去掉 if(area.trim().equals("CZ88.NET")){ this.area="本機或本網絡"; }else{ this.area = area; } } }
import org.slf4j.Logger; import org.slf4j.LoggerFactory; import java.io.UnsupportedEncodingException; import java.util.StringTokenizer; /** * 工具類,提供IP字符串轉數組的方法 */ public class Util { private static final Logger log = LoggerFactory.getLogger(CZIPUtils.class); private static StringBuilder sb = new StringBuilder(); /** * 從ip的字符串形式獲得字節數組形式 * * @param ip 字符串形式的ip * @return 字節數組形式的ip */ public static byte[] getIpByteArrayFromString(String ip) { byte[] ret = new byte[4]; StringTokenizer st = new StringTokenizer(ip, "."); try { ret[0] = (byte) (Integer.parseInt(st.nextToken()) & 0xFF); ret[1] = (byte) (Integer.parseInt(st.nextToken()) & 0xFF); ret[2] = (byte) (Integer.parseInt(st.nextToken()) & 0xFF); ret[3] = (byte) (Integer.parseInt(st.nextToken()) & 0xFF); } catch (Exception e) { log.error("從ip的字符串形式獲得字節數組形式報錯" + e.getMessage(), e); } return ret; } /** * 字節數組IP轉String * @param ip ip的字節數組形式 * @return 字符串形式的ip */ public static String getIpStringFromBytes(byte[] ip) { sb.delete(0, sb.length()); sb.append(ip[0] & 0xFF); sb.append('.'); sb.append(ip[1] & 0xFF); sb.append('.'); sb.append(ip[2] & 0xFF); sb.append('.'); sb.append(ip[3] & 0xFF); return sb.toString(); } /** * 根據某種編碼方式將字節數組轉換成字符串 * * @param b 字節數組 * @param offset 要轉換的起始位置 * @param len 要轉換的長度 * @param encoding 編碼方式 * @return 若是encoding不支持,返回一個缺省編碼的字符串 */ public static String getString(byte[] b, int offset, int len, String encoding) { try { return new String(b, offset, len, encoding); } catch (UnsupportedEncodingException e) { return new String(b, offset, len); } } }
import org.slf4j.Logger; import org.slf4j.LoggerFactory; import java.io.File; import java.io.FileNotFoundException; import java.io.IOException; import java.io.RandomAccessFile; import java.nio.MappedByteBuffer; import java.util.Map; import java.util.concurrent.ConcurrentHashMap; /** * IP地址服務 */ public class IPAddressUtils { private static Logger log = LoggerFactory.getLogger(IPAddressUtils.class); /** * 純真IP數據庫名 */ private String IP_FILE="qqwry.dat"; /** * 純真IP數據庫保存的文件夾 */ private String INSTALL_DIR="/test/"; /** * 常量,好比記錄長度等等 */ private static final int IP_RECORD_LENGTH = 7; /** * 常量,讀取模式1 */ private static final byte REDIRECT_MODE_1 = 0x01; /** * 常量,讀取模式2 */ private static final byte REDIRECT_MODE_2 = 0x02; /** * 緩存,查詢IP時首先查詢緩存,以減小沒必要要的重複查找 */ private Map<String, IPLocation> ipCache; /** * 隨機文件訪問類 */ private RandomAccessFile ipFile; /** * 內存映射文件 */ private MappedByteBuffer mbb; /** * 起始地區的開始和結束的絕對偏移 */ private long ipBegin, ipEnd; /** * 爲提升效率而採用的臨時變量 */ private IPLocation loc; /** * 爲提升效率而採用的臨時變量 */ private byte[] buf; /** * 爲提升效率而採用的臨時變量 */ private byte[] b4; /** * 爲提升效率而採用的臨時變量 */ private byte[] b3; /** * IP地址庫文件錯誤 */ private static final String BAD_IP_FILE = "IP地址庫文件錯誤"; /** * 未知國家 */ private static final String UNKNOWN_COUNTRY = "未知國家"; /** * 未知地區 */ private static final String UNKNOWN_AREA = "未知地區"; public void init() { try { // 緩存必定要用ConcurrentHashMap, 避免多線程下獲取爲空 ipCache = new ConcurrentHashMap<>(); loc = new IPLocation(); buf = new byte[100]; b4 = new byte[4]; b3 = new byte[3]; try { ipFile = new RandomAccessFile(IP_FILE, "r"); } catch (FileNotFoundException e) { // 若是找不到這個文件,再嘗試再當前目錄下搜索,此次所有改用小寫文件名 // 由於有些系統可能區分大小寫致使找不到ip地址信息文件 String filename = new File(IP_FILE).getName().toLowerCase(); File[] files = new File(INSTALL_DIR).listFiles(); for(int i = 0; i < files.length; i++) { if(files[i].isFile()) { if(files[i].getName().toLowerCase().equals(filename)) { try { ipFile = new RandomAccessFile(files[i], "r"); } catch (FileNotFoundException e1) { log.error("IP地址信息文件沒有找到,IP顯示功能將沒法使用:{}" + e1.getMessage(), e1); ipFile = null; } break; } } } } // 若是打開文件成功,讀取文件頭信息 if(ipFile != null) { try { ipBegin = readLong4(0); ipEnd = readLong4(4); if(ipBegin == -1 || ipEnd == -1) { ipFile.close(); ipFile = null; } } catch (IOException e) { log.error("IP地址信息文件格式有錯誤,IP顯示功能將沒法使用"+ e.getMessage(), e); ipFile = null; } } } catch (Exception e) { log.error("IP地址服務初始化異常:" + e.getMessage(), e); } } /** * 查詢IP地址位置 - synchronized的做用是避免多線程時獲取區域信息爲空 * @param ip * @return */ public synchronized IPLocation getIPLocation(final String ip) { IPLocation location = new IPLocation(); location.setArea(this.getArea(ip)); location.setCountry(this.getCountry(ip)); return location; } /** * 從內存映射文件的offset位置開始的3個字節讀取一個int * @param offset * @return */ private int readInt3(int offset) { mbb.position(offset); return mbb.getInt() & 0x00FFFFFF; } /** * 從內存映射文件的當前位置開始的3個字節讀取一個int * @return */ private int readInt3() { return mbb.getInt() & 0x00FFFFFF; } /** * 根據IP獲得國家名 * @param ip ip的字節數組形式 * @return 國家名字符串 */ public String getCountry(byte[] ip) { // 檢查ip地址文件是否正常 if(ipFile == null) return BAD_IP_FILE; // 保存ip,轉換ip字節數組爲字符串形式 String ipStr = Util.getIpStringFromBytes(ip); // 先檢查cache中是否已經包含有這個ip的結果,沒有再搜索文件 if(ipCache.containsKey(ipStr)) { IPLocation ipLoc = ipCache.get(ipStr); return ipLoc.getCountry(); } else { IPLocation ipLoc = getIPLocation(ip); ipCache.put(ipStr, ipLoc.getCopy()); return ipLoc.getCountry(); } } /** * 根據IP獲得國家名 * @param ip IP的字符串形式 * @return 國家名字符串 */ public String getCountry(String ip) { return getCountry(Util.getIpByteArrayFromString(ip)); } /** * 根據IP獲得地區名 * @param ip ip的字節數組形式 * @return 地區名字符串 */ public String getArea(final byte[] ip) { // 檢查ip地址文件是否正常 if(ipFile == null) return BAD_IP_FILE; // 保存ip,轉換ip字節數組爲字符串形式 String ipStr = Util.getIpStringFromBytes(ip); // 先檢查cache中是否已經包含有這個ip的結果,沒有再搜索文件 if(ipCache.containsKey(ipStr)) { IPLocation ipLoc = ipCache.get(ipStr); return ipLoc.getArea(); } else { IPLocation ipLoc = getIPLocation(ip); ipCache.put(ipStr, ipLoc.getCopy()); return ipLoc.getArea(); } } /** * 根據IP獲得地區名 * @param ip IP的字符串形式 * @return 地區名字符串 */ public String getArea(final String ip) { return getArea(Util.getIpByteArrayFromString(ip)); } /** * 根據ip搜索ip信息文件,獲得IPLocation結構,所搜索的ip參數從類成員ip中獲得 * @param ip 要查詢的IP * @return IPLocation結構 */ private IPLocation getIPLocation(final byte[] ip) { IPLocation info = null; long offset = locateIP(ip); if(offset != -1) info = getIPLocation(offset); if(info == null) { info = new IPLocation(); info.setCountry ( UNKNOWN_COUNTRY); info.setArea(UNKNOWN_AREA); } return info; } /** * 從offset位置讀取4個字節爲一個long,由於java爲big-endian格式,因此沒辦法 * 用了這麼一個函數來作轉換 * @param offset * @return 讀取的long值,返回-1表示讀取文件失敗 */ private long readLong4(long offset) { long ret = 0; try { ipFile.seek(offset); ret |= (ipFile.readByte() & 0xFF); ret |= ((ipFile.readByte() << 8) & 0xFF00); ret |= ((ipFile.readByte() << 16) & 0xFF0000); ret |= ((ipFile.readByte() << 24) & 0xFF000000); return ret; } catch (IOException e) { return -1; } } /** * 從offset位置讀取3個字節爲一個long,由於java爲big-endian格式,因此沒辦法 * 用了這麼一個函數來作轉換 * @param offset 整數的起始偏移 * @return 讀取的long值,返回-1表示讀取文件失敗 */ private long readLong3(long offset) { long ret = 0; try { ipFile.seek(offset); ipFile.readFully(b3); ret |= (b3[0] & 0xFF); ret |= ((b3[