Perl подсчитывает записи журнала в секунду, используя хэш хэша ararys

Обновлено:

После моего первоначального поста и ответов мне удалось еще раз взломать и немного яснее изложить свои цели и результаты:

Цель:

Я пытаюсь подсчитать количество попаданий в строку поиска файла журнала, чтобы выяснить, сколько вхождений сообщения генерируется следующими способами:

  • Итого в день.
  • Итого в час.
  • Самый высокий в минуту, в час.
  • Самый высокий в секунду, в час.

Мой рабочий код:

#!/usr/bin/perl
#use strict;
use warnings;
use Data::Dumper;

my @a =  (  
    [ qw /2012-02-21_09:43:43/ ],
    [ qw /2012-02-21_09:43:43/ ],
    [ qw /2012-02-21_09:43:44/ ],
    [ qw /2012-02-21_09:43:44/ ],
    [ qw /2012-02-21_09:43:44/ ],
    [ qw /2012-02-21_09:43:45/ ],
    [ qw /2012-02-21_09:43:45/ ],
    [ qw /2012-02-21_09:43:45/ ],
    [ qw /2012-02-21_09:43:45/ ],
    [ qw /2012-02-21_09:44:47/ ],
    [ qw /2012-02-21_09:44:47/ ],
    [ qw /2012-02-22_09:44:49/ ],
    [ qw /2012-02-21_10:44:49/ ]
);

my ( %count, $count ) = ();

foreach (@a) {
    my $line = @$_[0] ;
    $line =~ /(\S+)_(\d+):(\d+):(\d+)/ ;

    my $day = $1;
    my $hour= $2;
    my $min = $3;
    my $sec = $4;

    $count {$day}->{$hour}->{$min}->{$sec}{'sec'} += 1 ;
    $count {$day}->{$hour}->{$min}{'min'} += 1 ;
    $count {$day}->{$hour}{'hour'} += 1 ;
    $count {$day}{'day'}  += 1 ;
}

#print Dumper (%count) . "\n";

foreach my $k1 ( sort keys %count ) {
    print "$k1\t$count{$k1}{'day'}\n" ;

    foreach my $k2 ( sort keys %{$count{$k1}} ) {
        if ($k2 =~ /day/) {
            next;
        }
        print " $k2:00\t\t$count{$k1}{$k2}->{'hour'}\n";

        foreach my $k3 ( sort keys %{$count{$k1}{$k2}} ) {
            if ($k3 =~ /hour/) {
                next;
            }
            print "  $k2:$k3\t\t$count{$k1}{$k2}{$k3}->{'min'}\n";

            foreach my $k4 ( sort keys %{$count{$k1}{$k2}{$k3}} ) {
                if ($k4 =~ /min/) {
                    next;
                }
                print "   $k2:$k3:$k4\t$count{$k1}{$k2}{$k3}{$k4}->{'sec'}\n";              
            }
            print "\n";
        }
        print "\n";
    }
}
exit;

Результаты

Мне пришлось отключить strict (за что мне стыдно) из-за моих плохих методов разыменования хеша.

2012-02-21  12
 09:00      11
  09:43     9
   09:43:43 2
   09:43:44 3
   09:43:45 4

  09:44     2
   09:44:47 2

 10:00      1
  10:44     1
   10:44:49 1

Попытка вывода:

2012-02-21  12
 09:00      11
  09:43     9
   09:43:45 4   

 10:00      1
  10:44     1
   10:44:49 1

Вопросы:

  1. Есть ли лучший способ написать код и включить строгость?
  2. Как я могу перечислить самое высокое вхождение хеш-значения в хеш, пытаясь перечислить только наибольшее число?

Спасибо за все предыдущие посты, без них я бы не зашел так далеко.

Ваше здоровье,

Энди


person user1039417    schedule 21.02.2012    source источник
comment
Отключать строгий режим для решения проблем — это все равно, что Гомер Симпсон заклеивать сигнальную лампу низкого уровня масла в своей машине скотчем. Это не останавливает проблему, а просто скрывает ее.   -  person TLP    schedule 23.02.2012
comment
Это не очень хорошее решение, но я не знаю, как поступить.   -  person user1039417    schedule 24.02.2012
comment
Вы должны сузить проблему, попытаться решить ее, а если не получится, задать новый вопрос.   -  person TLP    schedule 24.02.2012


Ответы (3)


Его можно несколько упростить (я также внес некоторые стилистические изменения для улучшения читабельности):

my @data =  (
    [ qw /2012-02-21_09:43:43/ ],
    [ qw /2012-02-21_09:43:43/ ]
);
my %counts;   
foreach my $words (@data) {
    my ($day, $hour) = ($words->[0] =~ /(\d{4}-\d{2}-\d{2})_(\d+):/ );
    $counts{$day}->{$hour} += 1;
}
foreach my $day (keys %counts) {
    foreach my $hour (keys %{ $counts{$day} }) { 
        print "Hour count for $day:$hour is: $counts{$day}->{$hour}\n";
    }
}

Рабочая часть цикла, которая занимает центральное место в вашем запросе, такова:

    my ($day, $hour) = ($words->[0] =~ /(\d{4}-\d{2}-\d{2})_(\d+):/ );

    # You don't need minutes/seconds, so don't match them
    # On the other hand, it's better to match YYYY/MM/DD explicitly!
    # A regexp match in a list context will return a list of captures! 
    #     e.g. ($1, $2, ...)

    $counts{$day}->{$hour} += 1;
    # You need to merely add 1 to a value. No need to push ones on a list.

    # Please note that if the data is not guaranteed to be perfectly formatted, 
    # you need to defend against non-matches:
    $counts{$day}->{$hour} += 1 if (defined $day && defined $hour);

Вот тот же код с добавленными комментариями, поясняющими, почему я внес стилистические изменения:

my @data =  (  # Don't use @a - variable name should have meanings
    [ qw /2012-02-21_09:43:43/ ], # Not sure why you are using an array ref with
    [ qw /2012-02-21_09:43:43/ ], #   just 1 element, but let's pretend that is OK
);
my %counts;   
foreach my $words (@data) { # Almost never rely on $_ - less readable
    my ($day, $hour) = ($words->[0] =~ /(\d{4}-\d{2}-\d{2})_(\d+):/ ;
    $counts{$day}->{$hour} += 1; # You can omit "->" but that's less readable
}
foreach my $day (keys %counts) { # Always localize your variable to the block they need
    foreach my $hour (keys %{ $counts{$day} }) { 
        print "Hour count for $day:$hour is: $counts{$day}->{$hour}\n";
    }
}
person DVK    schedule 21.02.2012
comment
Так вот как правильно ссылаться на хеш, я сразу подумал об этом, как только заснул! И я забыл об операторе сложения. Спасибо, восполняю пробелы в знаниях по одной строчке за раз. - person user1039417; 22.02.2012

Вам следует рассмотреть возможность использования модуля для анализа меток времени, например DateTime:: Формат::Strptime.

use DateTime::Format::Strptime;

my $strp = new DateTime::Format::Strptime( 
    pattern => "%Y-%m-%d_%H:%M:%S" 
);

my $t = $strp->parse_datetime("2012-02-21_09:43:43"); 

my $year  = $t->year;
my $month = $t->month;
my $day   = $t->day;
# ...etc

Если бы вы сделали что-то вроде:

for my $aref (@a) {
    for my $line (@$aref) {         # Note: better than $line = @$_[0]
        my $t = $strp->parse_datetime($line);
        my $key = sprintf "%s-%s", $t->year, $t->month;
        push @{$count{$key}}, $t;   # save the whole object in the array
    }
}

for my $key (sort keys %count) {
    my $count = @{$count{$key}};    # get size of array
    for my $obj (@{$count{$key}}) { # list all the DateTime objects
        my $hour  = $obj->hour;
        # etc ...
    }
}

Вы можете сохранить все данные из временных меток в объектах DateTime и использовать их позже по мере необходимости.

person TLP    schedule 21.02.2012
comment
Я не управляю системой с помощью этого экземпляра Perl, но этот модуль выглядит как лучший метод разбора меток времени. Спасибо, я попробую. - person user1039417; 22.02.2012

Существует проблема с вашим регулярным выражением для получения даты. Поскольку дата содержит символ, вы не можете получить всю дату с помощью \d+. Вместо этого вы должны использовать \S+, чтобы получить всю дату. Я пробую ваш код сейчас... буду обновлять с дополнительной информацией

Обновление 1

Я предполагаю, что вы хотите получить счет за день и за час. Немного подправил логику.

#!/usr/bin/perl
use strict;
use warnings;
use Data::Dumper;

my ( @a, $line, %count, $day, $hour, $min, $sec ) = ();

@a =  ( 
[ qw /2012-02-21_09:43:43/ ],
[ qw /2012-02-21_09:43:43/ ],
[ qw /2012-02-21_09:43:44/ ],
[ qw /2012-02-21_09:43:44/ ],
[ qw /2012-02-21_09:43:44/ ],
[ qw /2012-02-21_09:43:45/ ],
[ qw /2012-02-21_09:43:45/ ],
[ qw /2012-02-21_09:43:45/ ],
[ qw /2012-02-21_09:43:45/ ],
[ qw /2012-02-21_09:43:47/ ],
[ qw /2012-02-21_09:43:47/ ],
[ qw /2012-02-21_09:43:49/ ],
[ qw /2012-02-21_10:43:49/ ],
);

foreach (@a) {
    $line = @$_[0] ;
    $line =~ /(\S+)_(\d+):(\d+):(\d+)/ ;

    $day    = $1;
    $hour   = $2;
    $min    = $3;
    $sec    = $4;

    #$count{$day} += 1;
    $count{$day}{$hour} += 1;
}

#print "Val is:".$count{$day}{$hour}."\n";

print Dumper (%count) . "\n";
foreach $day(keys%count)
{
    #print "Day count $day is:".$count{$day}."\n";
    foreach $hour(keys %{ $count{$day} })
    {
        print "Hour count $hour is:".$count{$day}{$hour}."\n";
    }
}
person Raghuram    schedule 21.02.2012
comment
Я использовал это регулярное выражение, так как хотел получить запись только за день, но я думаю, что ваше лучше. Думаю, я пойду с модулем cpan и поиграю с ним, но спасибо за помощь. - person user1039417; 22.02.2012