博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
使用Oracle外部表分析访问日志
阅读量:6445 次
发布时间:2019-06-23

本文共 3184 字,大约阅读时间需要 10 分钟。

  hot3.png

经过使用Oracle的外部表对Oracle的文件、进行获取和分析之后,我发现外部表实在是非常易用,甚至到了随心所欲的境地(当然外部表尚不能修改外部文件)。

使用外部表可以很容易的实现网站的访问日志分析。

虽然使用等工具也可以实现,可是使用Oracle来分析我们更应该得心应手。
而且这一切还是有那么一点点Cool的。

好了,闲言少叙,让我们来看一下我分析的过程。

首先创建路径指向日志存放目录:

[oracle@jumper elog]$ pwd/opt/oracle/elog[oracle@jumper elog]$ lseygle_access_log.20061016[oracle@jumper elog]$ sqlplus "/ as sysdba"SQL*Plus: Release 9.2.0.4.0 - Production on Wed Oct 18 08:59:35 2006Copyright (c) 1982, 2002, Oracle Corporation. All rights reserved.Connected to:Oracle9i Enterprise Edition Release 9.2.0.4.0 - ProductionWith the Partitioning optionJServer Release 9.2.0.4.0 - ProductionSQL> create or replace directory elog 2 as '/opt/oracle/elog';Directory created.

然后我将这个路径的访问权限授予eygle用户来进行具体操作:

SQL> grant read,write on directory elog to u_test;Grant succeeded.

选择合适的分隔符创建外部表:

SQL> connect u_test/pwd_testConnected.SQL> create table u_test_access_log_20061016 2 ( ip_address_date varchar2(100),3 acc_file varchar2(400),4 acc_cdsz varchar2(20),5 acc_url varchar2(400),6 left_blank varchar2(10),7 acc_agent varchar2(400))8 organization external (9 type oracle_loader10 default directory ELOG11 access parameters (12 records delimited by newline13 nobadfile14 nodiscardfile15 nologfile16 fields terminated by '"'17 missing field values are null18 )19 location('u_test_access_log.20061016')20 ) reject limit unlimited21 /Table created.

此时我们就可以对网站的2006年10月16日的访问日志进行分析了。

我们可以先看一下各个字段的分界结果,示例如下:

SQL> select ip_address_date from u_test_access_log_200610162 where rownum <11;IP_ADDRESS_DATE-------------------------------------------------------------38.102.128.140 - - [16/Oct/2006:00:00:17 +0800]66.249.65.113 - - [16/Oct/2006:00:00:19 +0800]202.160.178.221 - - [16/Oct/2006:00:00:35 +0800]59.36.78.100 - - [16/Oct/2006:00:00:37 +0800]59.36.78.100 - - [16/Oct/2006:00:00:38 +0800]72.30.61.8 - - [16/Oct/2006:00:00:38 +0800]221.217.84.230 - - [16/Oct/2006:00:00:42 +0800]221.217.84.230 - - [16/Oct/2006:00:00:42 +0800]74.6.65.236 - - [16/Oct/2006:00:01:07 +0800]74.6.73.36 - - [16/Oct/2006:00:01:09 +0800]10 rows selected.

通过SQL析取出访问的ip地址:

SQL> select substr(ip_address_date,1,instr(ip_address_date,' ')) ip_address 2 from u_test_access_log_20061016 where rownum <11;IP_ADDRESS---------------------------------------------------------------------------38.102.128.14066.249.65.113202.160.178.22159.36.78.10059.36.78.10072.30.61.8221.217.84.230221.217.84.23074.6.65.23674.6.73.3610 rows selected.

接下来我们就可以很容易的获得当日访问我站点的独立IP数量了:

SQL> set timing onSQL> select count(distinct(substr(ip_address_date,1,instr(ip_address_date,' ')))) uip2 from u_test_access_log_20061016;UIP----------7534Elapsed: 00:00:06.86

因为外部表的处理性能上要差一些,我们记录了一下时间,以上查询大约用了7秒的时间。

 

我们可以对比一下数据库表的性能。

首先将日志加载到数据库表中:

SQL> create table ealog as2 select * from u_test_access_log_20061016;Table created.SQL> desc ealog;Name Null? Type----------------------------------------------------------------- -------- --------------------------------------------IP_ADDRESS_DATE VARCHAR2(100)ACC_FILE VARCHAR2(400)ACC_CDSZ VARCHAR2(20)ACC_URL VARCHAR2(400)LEFT_BLANK VARCHAR2(10)ACC_AGENT VARCHAR2(400)SQL> select count(*) from ealog;COUNT(*)----------165443

然后我们,消除Cache的影响,再次执行查询:

转载于:https://my.oschina.net/90888/blog/830382

你可能感兴趣的文章
2014第11周四Eclipse开发问题记
查看>>
delphi 开机自动运行代码
查看>>
idea 一次性自动导包
查看>>
【338】Pandas.DataFrame
查看>>
tcp/ip网络通讯安全加密方法
查看>>
WCF NetTcpBinding Transport安全模式(1)NetTcpSecurity定义
查看>>
MATLAB符号计算
查看>>
IMEI和IMSI的区别
查看>>
【转】linux中的常见目录及文件
查看>>
预定义异常 - PHP手册笔记
查看>>
Which are in?
查看>>
Linux下高并发socket最大连接数所受的各种限制(转)
查看>>
The system cannot find the file specified
查看>>
Html中的次方符号怎么写
查看>>
自定义Flume Sink:ElasticSearch Sink
查看>>
LA - 5031 - Graph and Queries
查看>>
[转载]如何使用eclipse 生成runnable jar包
查看>>
Xcode 各版本简介
查看>>
[Usaco2006 Nov]Corn Fields牧场的安排 壮压DP
查看>>
午评|沪指涨0.63%盘中站上2600点 业绩暴雷股继续重挫
查看>>